Využití umělé inteligence ve zdravotnictví: Kdo ponese vinu za chybu?

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 13. října 2025 17:31
Sdílej:

Rozmach umělé inteligence ve zdravotnictví, od algoritmů pro interpretaci snímků až po systémy pro diagnostiku nebo řízení nemocnic, s sebou nese zásadní právní otazníky. Podle expertů hrozí, že v případě pochybení dojde ke komplikovaným sporům o to, kdo nese právní odpovědnost za negativní dopad na pacienta.

Profesor Derek Angus z University of Pittsburgh, který je prvním autorem zprávy ze summitu o AI pořádaného časopisem Jama (Journal of the American Medical Association), varoval: „Určitě nastanou situace, kdy vznikne dojem, že se něco pokazilo, a lidé se budou rozhlížet, koho obvinit.“ Summit sdružil kliniky, technology, právníky, etiky a zástupce regulátorů.

Jedním z hlavních problémů je obtížnost, s jakou budou pacienti prokazovat zavinění při použití nebo navržení AI produktu. Profesor Glenn Cohen z Harvard Law School uvedl, že existují překážky v získání informací o vnitřním fungování AI. Zároveň bude náročné navrhnout rozumnou alternativu pro design daného produktu nebo dokázat, že špatný výsledek způsobila právě umělá inteligence.

Cohen poukázal také na možné spory mezi subjekty. „Vzájemné působení mezi stranami může ztížit podání žaloby. Mohou na sebe navzájem ukazovat jako na viníka a mít stávající smluvní dohody, které přenášejí odpovědnost,“ řekl. Profesorka Michelle Mello ze Stanford Law School doplnila, že ačkoliv soudy jsou vybaveny k řešení právních otázek, bude to trvat dlouho a v počátcích to povede k nekonzistentnosti. Tato nejistota pak zvyšuje náklady pro všechny zúčastněné v ekosystému zavádění AI.

Zpráva vyjadřuje znepokojení i nad způsobem hodnocení a testování nástrojů umělé inteligence. Mnohé z nich se nacházejí mimo dohled regulačních orgánů, jako je například americký Úřad pro kontrolu potravin a léčiv (FDA).

Angus upozornil, že zatímco pro kliniky znamená efektivita zlepšení výsledků léčby, regulační orgány nemusí takový důkaz vyžadovat. Jakmile se nástroj dostane do praxe, může být používán nepředvídatelnými způsoby v různých prostředích, s odlišnými typy pacientů a různě kvalifikovanými uživateli. „Málokdy je zaručeno, že to, co vypadá jako dobrý nápad v balíčku před schválením, skutečně dostanete v praxi,“ dodal.

Zpráva poukázala na současné překážky v řádném hodnocení AI, včetně toho, že k plnému posouzení je často nutné reálné klinické použití. Současné přístupy jsou navíc nákladné a zdlouhavé.

Angus proto zdůraznil, že je nezbytné zajistit financování pro řádné posouzení výkonnosti AI v praxi a investovat do digitální infrastruktury. „Jedna z věcí, která na summitu zazněla, byla, že nástroje, které jsou nejlépe vyhodnocené, byly nejméně přijaty. Nástroje, které jsou nejvíce přijaty, byly nejméně vyhodnoceny,“ uzavřel Angus. 

Stalo se
Novinky
Írán

Íránská vláda zakázala vývoz potravin a zemědělských produktů

Íránská vláda s okamžitou platností zakázala vývoz veškerých potravin a zemědělských produktů. Rozhodnutí, které má platit až do odvolání, odůvodnily úřady snahou prioritně zajistit základní životní potřeby pro vlastní obyvatelstvo. V Teheránu se mezi lidmi šíří obavy z vleklého válečného konfliktu, což vede k masivnímu hromadění zásob jídla a nezbytného zboží.

Novinky
Donald Trump

„Chtějí mluvit, ale už je pozdě.“ Trump odmítl možnost vyjednávání s Íránem.

Americký prezident Donald Trump v úterý rázně odmítl možnost dalšího vyjednávání s Íránem, přestože Teherán podle jeho slov o rozhovory sám požádal. Trump na své sociální síti Truth Social uvedl, že po drtivých úderech amerických a izraelských sil už není o čem jednat. Podle šéfa Bílého domu je íránská protivzdušná obrana, letectvo i námořnictvo v troskách a politické vedení země je paralyzováno.

Novinky
Ilustrační fotografie

Eskalující konflikt na Blízkém východě zvedá ceny ropy. Jedna země z něj ale profituje

Eskalující konflikt na Blízkém východě začal citelně zasahovat globální energetický trh. Poté, co Írán odpověděl na americké a izraelské útoky sérií protiúderů, se pozornost světa upřela na Hormuzský průliv. Tato strategická námořní cesta, která je v nejužším bodě široká pouhých 32 kilometrů, je naprosto klíčovým hrdlem světového obchodu, jímž protéká přibližně 20 % veškeré světové ropy.

Novinky
Izrael a Spojené státy zaútočily na Írán

Čtvrtý den bez jediného východiska. Válka s Íránem přerostla v mohutný regionální konflikt

I když válka mezi Spojenými státy, Izraelem a Íránem trvá teprve čtyři dny, už nyní je jasné, že jde o plnohodnotný regionální konflikt. Íránské rozhodnutí zaútočit na arabské státy, které jsou spojenci USA, a zapojení Velké Británie, jež povolila využití svých základen, situaci dramaticky vyhrotilo. Eskalace pokračuje každou hodinou, což potvrzuje i tragický incident, při kterém kuvajtská protivzdušná obrana omylem sestřelila tři americké stíhačky F-15E Strike Eagle v rámci takzvané přátelské palby.