Využití umělé inteligence ve zdravotnictví: Kdo ponese vinu za chybu?

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 13. října 2025 17:31
Sdílej:

Rozmach umělé inteligence ve zdravotnictví, od algoritmů pro interpretaci snímků až po systémy pro diagnostiku nebo řízení nemocnic, s sebou nese zásadní právní otazníky. Podle expertů hrozí, že v případě pochybení dojde ke komplikovaným sporům o to, kdo nese právní odpovědnost za negativní dopad na pacienta.

Profesor Derek Angus z University of Pittsburgh, který je prvním autorem zprávy ze summitu o AI pořádaného časopisem Jama (Journal of the American Medical Association), varoval: „Určitě nastanou situace, kdy vznikne dojem, že se něco pokazilo, a lidé se budou rozhlížet, koho obvinit.“ Summit sdružil kliniky, technology, právníky, etiky a zástupce regulátorů.

Jedním z hlavních problémů je obtížnost, s jakou budou pacienti prokazovat zavinění při použití nebo navržení AI produktu. Profesor Glenn Cohen z Harvard Law School uvedl, že existují překážky v získání informací o vnitřním fungování AI. Zároveň bude náročné navrhnout rozumnou alternativu pro design daného produktu nebo dokázat, že špatný výsledek způsobila právě umělá inteligence.

Cohen poukázal také na možné spory mezi subjekty. „Vzájemné působení mezi stranami může ztížit podání žaloby. Mohou na sebe navzájem ukazovat jako na viníka a mít stávající smluvní dohody, které přenášejí odpovědnost,“ řekl. Profesorka Michelle Mello ze Stanford Law School doplnila, že ačkoliv soudy jsou vybaveny k řešení právních otázek, bude to trvat dlouho a v počátcích to povede k nekonzistentnosti. Tato nejistota pak zvyšuje náklady pro všechny zúčastněné v ekosystému zavádění AI.

Zpráva vyjadřuje znepokojení i nad způsobem hodnocení a testování nástrojů umělé inteligence. Mnohé z nich se nacházejí mimo dohled regulačních orgánů, jako je například americký Úřad pro kontrolu potravin a léčiv (FDA).

Angus upozornil, že zatímco pro kliniky znamená efektivita zlepšení výsledků léčby, regulační orgány nemusí takový důkaz vyžadovat. Jakmile se nástroj dostane do praxe, může být používán nepředvídatelnými způsoby v různých prostředích, s odlišnými typy pacientů a různě kvalifikovanými uživateli. „Málokdy je zaručeno, že to, co vypadá jako dobrý nápad v balíčku před schválením, skutečně dostanete v praxi,“ dodal.

Zpráva poukázala na současné překážky v řádném hodnocení AI, včetně toho, že k plnému posouzení je často nutné reálné klinické použití. Současné přístupy jsou navíc nákladné a zdlouhavé.

Angus proto zdůraznil, že je nezbytné zajistit financování pro řádné posouzení výkonnosti AI v praxi a investovat do digitální infrastruktury. „Jedna z věcí, která na summitu zazněla, byla, že nástroje, které jsou nejlépe vyhodnocené, byly nejméně přijaty. Nástroje, které jsou nejvíce přijaty, byly nejméně vyhodnoceny,“ uzavřel Angus. 

Stalo se
Novinky
Vladimir Putin

Je očividné, že Putin nechce mír na Ukrajině, shodují se evropští ministři

Na ranním zasedání v Bruselu projevili ministři zahraničí evropských zemí NATO jen malou trpělivost s Moskvou. Panuje shoda, že ruský prezident Vladimir Putin nejeví známky ochoty ke kompromisu v souvislosti s válkou na Ukrajině.

Novinky
Steve Witkoff a Donald Trump

Za Zelenským už nepojede. Witkoff po setkání s Putinem zrušil cestu do Kyjeva

Plánované setkání mezi ukrajinským prezidentem Volodymyrem Zelenským a delegací Spojených států v Bruselu bylo zrušeno. Delegaci tvořil speciální Trumpův vyslanec Steve Witkoff a Trumpův zeť Jared Kushner, kteří byli na cestě z jednání s Vladimirem Putinem. Zrušení přišlo poté, co se ukrajinský prezident náhle vrátil do Kyjeva, uvedl The Times.

Novinky
Ilustrační foto

Experti varují před novým fenoménem: "Zombie ohně" představují obrovský problém

V květnu 2023 udeřil blesk do lesa v Donnie Creek v Britské Kolumbii a stromy začaly hořet. Byl to na lesní požár sice brzký termín, ale suchý podzim a teplé jaro proměnily les v sušinu, a plameny se proto šířily velmi rychle. Do poloviny června se z požáru stal jeden z největších v historii provincie, který spálil rozsáhlou oblast boreálního lesa. V tomto roce shořela v Kanadě rekordní plocha.

Novinky
Izraelská armáda

CNN: Izraelská armáda zahrabává těla Palestinců hledajících pomoc do neoznačených hrobů

Ammar Wadi věděl, že riskuje život, když se v červnu vydal pro pytel mouky pro svou rodinu k nákladnímu autu s pomocí u přechodu Zikim do Gazy. Na domovskou obrazovku svého mobilního telefonu si napsal vzkaz: „Odpusť mi mami, jestli se mi něco stane. Kdokoli najde můj telefon, prosím, řekněte mé rodině, že je moc miluji.“ Uprostřed pravidelné izraelské palby směrem k lidem hledajícím pomoc se Wadi už nikdy nevrátil domů a jeho zpráva byla rodině doručena týdny později nálezcem jeho telefonu. Bylo to to poslední, co o něm slyšeli.