Využití umělé inteligence ve zdravotnictví: Kdo ponese vinu za chybu?

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 13. října 2025 17:31
Sdílej:

Rozmach umělé inteligence ve zdravotnictví, od algoritmů pro interpretaci snímků až po systémy pro diagnostiku nebo řízení nemocnic, s sebou nese zásadní právní otazníky. Podle expertů hrozí, že v případě pochybení dojde ke komplikovaným sporům o to, kdo nese právní odpovědnost za negativní dopad na pacienta.

Profesor Derek Angus z University of Pittsburgh, který je prvním autorem zprávy ze summitu o AI pořádaného časopisem Jama (Journal of the American Medical Association), varoval: „Určitě nastanou situace, kdy vznikne dojem, že se něco pokazilo, a lidé se budou rozhlížet, koho obvinit.“ Summit sdružil kliniky, technology, právníky, etiky a zástupce regulátorů.

Jedním z hlavních problémů je obtížnost, s jakou budou pacienti prokazovat zavinění při použití nebo navržení AI produktu. Profesor Glenn Cohen z Harvard Law School uvedl, že existují překážky v získání informací o vnitřním fungování AI. Zároveň bude náročné navrhnout rozumnou alternativu pro design daného produktu nebo dokázat, že špatný výsledek způsobila právě umělá inteligence.

Cohen poukázal také na možné spory mezi subjekty. „Vzájemné působení mezi stranami může ztížit podání žaloby. Mohou na sebe navzájem ukazovat jako na viníka a mít stávající smluvní dohody, které přenášejí odpovědnost,“ řekl. Profesorka Michelle Mello ze Stanford Law School doplnila, že ačkoliv soudy jsou vybaveny k řešení právních otázek, bude to trvat dlouho a v počátcích to povede k nekonzistentnosti. Tato nejistota pak zvyšuje náklady pro všechny zúčastněné v ekosystému zavádění AI.

Zpráva vyjadřuje znepokojení i nad způsobem hodnocení a testování nástrojů umělé inteligence. Mnohé z nich se nacházejí mimo dohled regulačních orgánů, jako je například americký Úřad pro kontrolu potravin a léčiv (FDA).

Angus upozornil, že zatímco pro kliniky znamená efektivita zlepšení výsledků léčby, regulační orgány nemusí takový důkaz vyžadovat. Jakmile se nástroj dostane do praxe, může být používán nepředvídatelnými způsoby v různých prostředích, s odlišnými typy pacientů a různě kvalifikovanými uživateli. „Málokdy je zaručeno, že to, co vypadá jako dobrý nápad v balíčku před schválením, skutečně dostanete v praxi,“ dodal.

Zpráva poukázala na současné překážky v řádném hodnocení AI, včetně toho, že k plnému posouzení je často nutné reálné klinické použití. Současné přístupy jsou navíc nákladné a zdlouhavé.

Angus proto zdůraznil, že je nezbytné zajistit financování pro řádné posouzení výkonnosti AI v praxi a investovat do digitální infrastruktury. „Jedna z věcí, která na summitu zazněla, byla, že nástroje, které jsou nejlépe vyhodnocené, byly nejméně přijaty. Nástroje, které jsou nejvíce přijaty, byly nejméně vyhodnoceny,“ uzavřel Angus. 

Stalo se
Novinky
Pásmo Gazy

Pod izraelskými útoky zemřelo v Pásmu Gazy 73 tisíc lidí. Většinou ženy a děti

Při izraelském leteckém úderu v Pásmu Gazy zahynuli dva lidé a několik dalších utrpělo zranění. Útok zasáhl dav lidí nacházející se v blízkosti městského parku v Gaze. Zasažená oblast byla v té době hustě zalidněna rodinami, které musely kvůli vojenským operacím opustit své domovy. Zdravotníci na místě poskytli pomoc zraněným a transportovali je do nemocnic.

Novinky
Donald Trump

Trump naráží na tvrdou realitu. Státy se ho přestávají bát

Zahraniční politika prezidenta Donalda Trumpa je od počátku postavena na předpokladu, že síla a velikost Spojených států přinutí spojence i protivníky podvolit se vůli Washingtonu. Tento přístup, vzdalující se tradiční americké diplomatické doktríně, popsal pro CNN poradce Stephen Miller jako svět řízený neúprosnými zákony síly a moci. Současná krize však ukazuje, že tato teorie naráží na své limity. USA se totiž dostaly do hlubokého střetu na dvou frontách zároveň, a to s Íránem a Kanadou.

Novinky
Pedro Sánchez

Sánchez: O zapojení marocké vlády do masivního překročení hranic Ceuta neexistují žádné důkazy

Španělský premiér Pedro Sánchez prohlásil, že neexistují žádné důkazy o zapojení marocké vlády do nedávného masivního překročení hranic v severoafrické enklávě Ceuta. Podle předsedy vlády nevycházejí žádná podezření ze zpráv zpravodajských služeb, které by naznačovaly odpovědnost oficiálních míst v Rabatu. 

Novinky
Ilustrační foto

OSN: V Turkmenistánu došlo k významnému průlomu. Země se rozhodla zachránit atmosféru

Turkmenistán začal opravovat rozsáhlé úniky metanu, které dlouhodobě unikaly ze starých ropných a plynových zařízení na jeho území. Vyplývá to z nejnovějších dat Organizace spojených národů, která tento krok označila za významný průlom. Autoritářský stát k nápravě přistoupil poté, co mezinárodní odhalení poukázala na extrémní míru znečištění v zemi. Místní úřady navázaly spolupráci se zahraničními partnery a zahájily opravy poškozené infrastruktury.