Využití umělé inteligence ve zdravotnictví: Kdo ponese vinu za chybu?

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 13. října 2025 17:31
Sdílej:

Rozmach umělé inteligence ve zdravotnictví, od algoritmů pro interpretaci snímků až po systémy pro diagnostiku nebo řízení nemocnic, s sebou nese zásadní právní otazníky. Podle expertů hrozí, že v případě pochybení dojde ke komplikovaným sporům o to, kdo nese právní odpovědnost za negativní dopad na pacienta.

Profesor Derek Angus z University of Pittsburgh, který je prvním autorem zprávy ze summitu o AI pořádaného časopisem Jama (Journal of the American Medical Association), varoval: „Určitě nastanou situace, kdy vznikne dojem, že se něco pokazilo, a lidé se budou rozhlížet, koho obvinit.“ Summit sdružil kliniky, technology, právníky, etiky a zástupce regulátorů.

Jedním z hlavních problémů je obtížnost, s jakou budou pacienti prokazovat zavinění při použití nebo navržení AI produktu. Profesor Glenn Cohen z Harvard Law School uvedl, že existují překážky v získání informací o vnitřním fungování AI. Zároveň bude náročné navrhnout rozumnou alternativu pro design daného produktu nebo dokázat, že špatný výsledek způsobila právě umělá inteligence.

Cohen poukázal také na možné spory mezi subjekty. „Vzájemné působení mezi stranami může ztížit podání žaloby. Mohou na sebe navzájem ukazovat jako na viníka a mít stávající smluvní dohody, které přenášejí odpovědnost,“ řekl. Profesorka Michelle Mello ze Stanford Law School doplnila, že ačkoliv soudy jsou vybaveny k řešení právních otázek, bude to trvat dlouho a v počátcích to povede k nekonzistentnosti. Tato nejistota pak zvyšuje náklady pro všechny zúčastněné v ekosystému zavádění AI.

Zpráva vyjadřuje znepokojení i nad způsobem hodnocení a testování nástrojů umělé inteligence. Mnohé z nich se nacházejí mimo dohled regulačních orgánů, jako je například americký Úřad pro kontrolu potravin a léčiv (FDA).

Angus upozornil, že zatímco pro kliniky znamená efektivita zlepšení výsledků léčby, regulační orgány nemusí takový důkaz vyžadovat. Jakmile se nástroj dostane do praxe, může být používán nepředvídatelnými způsoby v různých prostředích, s odlišnými typy pacientů a různě kvalifikovanými uživateli. „Málokdy je zaručeno, že to, co vypadá jako dobrý nápad v balíčku před schválením, skutečně dostanete v praxi,“ dodal.

Zpráva poukázala na současné překážky v řádném hodnocení AI, včetně toho, že k plnému posouzení je často nutné reálné klinické použití. Současné přístupy jsou navíc nákladné a zdlouhavé.

Angus proto zdůraznil, že je nezbytné zajistit financování pro řádné posouzení výkonnosti AI v praxi a investovat do digitální infrastruktury. „Jedna z věcí, která na summitu zazněla, byla, že nástroje, které jsou nejlépe vyhodnocené, byly nejméně přijaty. Nástroje, které jsou nejvíce přijaty, byly nejméně vyhodnoceny,“ uzavřel Angus. 

Stalo se
Novinky
Volební sjezd České pirátské strany

Předsednictvo Pirátů je kompletní. Místopředsedy jsou Šmída, Stojanová i Richterová

Pirátská strana dokončila na sjezdu v Prachaticích obměnu svého nejužšího vedení. K potvrzenému předsedovi Zdeňku Hřibovi se připojila čtveřice místopředsedů, které vybrali delegáti Celostátního fóra. Pozici prvního místopředsedy obhájil poslanec Martin Šmída, následovaný nově zvolenou poslankyní Kateřinou Stojanovou. Vedení doplnili také investor Jiří Hlavenka a šéfka poslaneckého klubu Olga Richterová.

Novinky
Martin Kupka

FOTO: Novým předsedou ODS se stal Martin Kupka

Novým předsedou ODS se stal Martin Kupka, který v Praze přesvědčivě porazil svého protikandidáta Radima Ivana poměrem 327 ku 138 hlasům. Dosavadní šéf Petr Fiala, pod jehož vedením se strana vrátila do vládních pozic, vyjádřil Kupkovi plnou podporu a označil ho za ideálního lídra pro nadcházející období.

Novinky
Írán

Íránský režim se připravuje k trvalému odpojení od globálního internetu

Íránský režim se podle informací digitálních aktivistů a organizací monitorujících cenzuru připravuje k bezprecedentnímu kroku. Plánuje se totiž trvale odpojit od globálního internetu a nahradit jej uzavřenou vnitrostátní sítí. Přístup ke světovému webu by se tak stal výhradně „státním privilegiem“, které by bylo dostupné pouze prověřeným osobám s vysokou bezpečnostní prověrkou, zatímco zbytek populace by zůstal uvězněn v izolovaném digitálním prostoru.

Novinky
Marco Rubio

Rubio i Tony Blair. USA oznámily složení Rady míru pro rekonstrukci Pásmo Gazy

Administrativa amerického prezidenta Donalda Trumpa oznámila složení nově vznikající „Rady míru“ (Board of Peace), která má dohlížet na budoucnost a rekonstrukci Pásma Gazy. Mezi zakládajícími členy tohoto prestižního orgánu figurují zvučná jména světové diplomacie i byznysu. Vedle amerického ministra zahraničí Marca Rubia usedne v radě také bývalý britský premiér Sir Tony Blair, jehož zapojení budí značnou pozornost vzhledem k jeho dřívější roli zmocněnce pro Blízký východ i kontroverzím spojeným s válkou v Iráku.