Využití umělé inteligence ve zdravotnictví: Kdo ponese vinu za chybu?

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 13. října 2025 17:31
Sdílej:

Rozmach umělé inteligence ve zdravotnictví, od algoritmů pro interpretaci snímků až po systémy pro diagnostiku nebo řízení nemocnic, s sebou nese zásadní právní otazníky. Podle expertů hrozí, že v případě pochybení dojde ke komplikovaným sporům o to, kdo nese právní odpovědnost za negativní dopad na pacienta.

Profesor Derek Angus z University of Pittsburgh, který je prvním autorem zprávy ze summitu o AI pořádaného časopisem Jama (Journal of the American Medical Association), varoval: „Určitě nastanou situace, kdy vznikne dojem, že se něco pokazilo, a lidé se budou rozhlížet, koho obvinit.“ Summit sdružil kliniky, technology, právníky, etiky a zástupce regulátorů.

Jedním z hlavních problémů je obtížnost, s jakou budou pacienti prokazovat zavinění při použití nebo navržení AI produktu. Profesor Glenn Cohen z Harvard Law School uvedl, že existují překážky v získání informací o vnitřním fungování AI. Zároveň bude náročné navrhnout rozumnou alternativu pro design daného produktu nebo dokázat, že špatný výsledek způsobila právě umělá inteligence.

Cohen poukázal také na možné spory mezi subjekty. „Vzájemné působení mezi stranami může ztížit podání žaloby. Mohou na sebe navzájem ukazovat jako na viníka a mít stávající smluvní dohody, které přenášejí odpovědnost,“ řekl. Profesorka Michelle Mello ze Stanford Law School doplnila, že ačkoliv soudy jsou vybaveny k řešení právních otázek, bude to trvat dlouho a v počátcích to povede k nekonzistentnosti. Tato nejistota pak zvyšuje náklady pro všechny zúčastněné v ekosystému zavádění AI.

Zpráva vyjadřuje znepokojení i nad způsobem hodnocení a testování nástrojů umělé inteligence. Mnohé z nich se nacházejí mimo dohled regulačních orgánů, jako je například americký Úřad pro kontrolu potravin a léčiv (FDA).

Angus upozornil, že zatímco pro kliniky znamená efektivita zlepšení výsledků léčby, regulační orgány nemusí takový důkaz vyžadovat. Jakmile se nástroj dostane do praxe, může být používán nepředvídatelnými způsoby v různých prostředích, s odlišnými typy pacientů a různě kvalifikovanými uživateli. „Málokdy je zaručeno, že to, co vypadá jako dobrý nápad v balíčku před schválením, skutečně dostanete v praxi,“ dodal.

Zpráva poukázala na současné překážky v řádném hodnocení AI, včetně toho, že k plnému posouzení je často nutné reálné klinické použití. Současné přístupy jsou navíc nákladné a zdlouhavé.

Angus proto zdůraznil, že je nezbytné zajistit financování pro řádné posouzení výkonnosti AI v praxi a investovat do digitální infrastruktury. „Jedna z věcí, která na summitu zazněla, byla, že nástroje, které jsou nejlépe vyhodnocené, byly nejméně přijaty. Nástroje, které jsou nejvíce přijaty, byly nejméně vyhodnoceny,“ uzavřel Angus. 

Stalo se
Novinky
Libanon

Hluboké a nezhojené rány Libanonu představují pro diplomatické snahy Trumpa fatální hrozbu

Hluboké a nezhojené rány Libanonu představují fatální hrozbu pro diplomatické snahy amerického prezidenta Donalda Trumpa, který se pokouší vyjednat dohodu s Íránem a ukončit válečný konflikt. Křehká americká diplomacie se ocitla pod obrovským tlakem po izraelské hrozbě úderů proti Teheránem podporovanému Hizballáhu na jižních předměstích Bejrútu a po odvetných raketových útocích milicí na Izrael. Tento náhlý vývoj vyvolal u Trumpa vlnu frustrace z konfliktu, který sám v únoru rozpoutal a který se nyní protáhl až do června, čímž zcela zhatil jeho naděje na rychlé a jednoznačné vítězství.

Počasí
Indie

Místo, kde počasí stírá rozdíl mezi dnem a nocí. Jak se žije ve městě s padesátistupňovými teplotami?

V indickém státě Uttarpradéš čelí zaprášený okres Banda extrémní vlně veder, která stírá rozdíly mezi částmi dne. Slunce zde již od šesti hodin ráno pálí s intenzitou horkého letního odpoledne a stíny se začínají zkracovat ještě před snídaní. V průběhu května se tato oblast opakovaně umisťovala na vrcholu celonárodního žebříčku jako nejteplejší místo v zemi, přičemž teploty se po dobu více než jednoho týdne nepřetržitě pohybovaly mezi 47 a 48 stupni Celsia. Pro více než dva miliony místních obyvatel, kteří jsou závislí na zemědělství, stavebnictví či dopravě, se jedná o mimořádnou zkoušku vytrvalosti, jež je nutí kompletně reorganizovat své každodenní životy.

Novinky
Výhled z hradu Beaufort

Libanon v šoku. Izraelci dobyli starobylou křižáckou pevnost Beaufort

Izraelská armáda v neděli poprvé po šestadvaceti letech dobyla starobylou křižáckou pevnost Beaufort, která se tyčí na strategickém kopci v jižním Libanonu nad řekou Lítání. Postupující vojáky kryla clona z kouře z bílého fosforu, načež nad hradem zavlála izraelská vlajka spolu s vlajkou elitní brigády Golani.

Novinky
Krym

Krym se kvůli ukrajinským útokům potýká s ropnou krizí

Řidiči na Rusy kontrolovaném Krymu museli v pondělí čelit zavedení přídělového systému na benzin poté, co útoky ukrajinských bezpilotních letounů výrazně omezily silniční dodávky paliva přes jihovýchodní Ukrajinu. Více než čtyři roky od invaze z roku 2022 musí Rusko čelit téměř každodenním ukrajinským úderům na svou ropnou infrastrukturu, přičemž západní sankce mu zároveň prodražují export surové ropy. Moskvou dosazený krymský gubernátor Sergej Aksjonov potvrdil, že úřady zavedly limity na prodej nejběžnějšího benzinu s označením Ai-95 a lidé si jej nyní mohou pořídit pouze na speciální palivové kupony.

Novinky
Donald Trump

Trump akutně potřebuje válku ukončit. Írán ale neustupuje

Spojené státy americké i Írán dávají v zákulisí najevo, že by se raději nevracely k otevřenému válečnému konfliktu, který je od vyhlášení dubnového příměří formálně pozastaven. Navzdory neustálým vzájemným vojenským úderům ani jedna ze stran nepřerušila diplomatické kanály. Rozhovory, které zprostředkovávají Pákistán, Katar a další země, tak nadále pokračují, i když Washington si v regionu stále udržuje masivní letecké a námořní síly připravené k okamžitému nasazení.

Novinky
Íránská delegace v Pákistánu

Dokud bude Izrael útočit v Libanonu a Gaze, nebudeme jednat s USA, oznámil Írán

Teherán oficiálně oznámil, že přerušuje veškeré mírové rozhovory se Spojenými státy americkými a jeho vyjednávací tým se stahuje z výměny zpráv prostřednictvím zprostředkovatelů. Podle íránské státní tiskové agentury Tasnim, která je napojená na Revoluční gardy, je obnovení dialogu podmíněno úplným ukončením izraelských vojenských operací v Pásmu Gazy i v Libanonu. Írán tak reaguje na prudkou eskalaci konfliktu na libanonském území, kde izraelská armáda v posledních hodinách výrazně zintenzivnila svou ofenzivu.