Využití umělé inteligence ve zdravotnictví: Kdo ponese vinu za chybu?

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková DNES 17:31
Sdílej:

Rozmach umělé inteligence ve zdravotnictví, od algoritmů pro interpretaci snímků až po systémy pro diagnostiku nebo řízení nemocnic, s sebou nese zásadní právní otazníky. Podle expertů hrozí, že v případě pochybení dojde ke komplikovaným sporům o to, kdo nese právní odpovědnost za negativní dopad na pacienta.

Profesor Derek Angus z University of Pittsburgh, který je prvním autorem zprávy ze summitu o AI pořádaného časopisem Jama (Journal of the American Medical Association), varoval: „Určitě nastanou situace, kdy vznikne dojem, že se něco pokazilo, a lidé se budou rozhlížet, koho obvinit.“ Summit sdružil kliniky, technology, právníky, etiky a zástupce regulátorů.

Jedním z hlavních problémů je obtížnost, s jakou budou pacienti prokazovat zavinění při použití nebo navržení AI produktu. Profesor Glenn Cohen z Harvard Law School uvedl, že existují překážky v získání informací o vnitřním fungování AI. Zároveň bude náročné navrhnout rozumnou alternativu pro design daného produktu nebo dokázat, že špatný výsledek způsobila právě umělá inteligence.

Cohen poukázal také na možné spory mezi subjekty. „Vzájemné působení mezi stranami může ztížit podání žaloby. Mohou na sebe navzájem ukazovat jako na viníka a mít stávající smluvní dohody, které přenášejí odpovědnost,“ řekl. Profesorka Michelle Mello ze Stanford Law School doplnila, že ačkoliv soudy jsou vybaveny k řešení právních otázek, bude to trvat dlouho a v počátcích to povede k nekonzistentnosti. Tato nejistota pak zvyšuje náklady pro všechny zúčastněné v ekosystému zavádění AI.

Zpráva vyjadřuje znepokojení i nad způsobem hodnocení a testování nástrojů umělé inteligence. Mnohé z nich se nacházejí mimo dohled regulačních orgánů, jako je například americký Úřad pro kontrolu potravin a léčiv (FDA).

Angus upozornil, že zatímco pro kliniky znamená efektivita zlepšení výsledků léčby, regulační orgány nemusí takový důkaz vyžadovat. Jakmile se nástroj dostane do praxe, může být používán nepředvídatelnými způsoby v různých prostředích, s odlišnými typy pacientů a různě kvalifikovanými uživateli. „Málokdy je zaručeno, že to, co vypadá jako dobrý nápad v balíčku před schválením, skutečně dostanete v praxi,“ dodal.

Zpráva poukázala na současné překážky v řádném hodnocení AI, včetně toho, že k plnému posouzení je často nutné reálné klinické použití. Současné přístupy jsou navíc nákladné a zdlouhavé.

Angus proto zdůraznil, že je nezbytné zajistit financování pro řádné posouzení výkonnosti AI v praxi a investovat do digitální infrastruktury. „Jedna z věcí, která na summitu zazněla, byla, že nástroje, které jsou nejlépe vyhodnocené, byly nejméně přijaty. Nástroje, které jsou nejvíce přijaty, byly nejméně vyhodnoceny,“ uzavřel Angus. 

Stalo se
Novinky
Donald Trump

Hamás propustil rukojmí, těla ale nevydal. Izrael nominoval Trumpa na Nobelovu cenu

Americký prezident Donald Trump se během své návštěvy Izraele v Knessetu setkal se zástupci Fóra rodin rukojmích a pohřešovaných. Fórum zveřejnilo fotografie ze setkání. Na jedné z nich jsou například zachyceni Ruby Chen a Ronen Neutra, jejichž synové, Itay Chen a Omer Maxim Neutra, byli zabiti 7. října 2023, ale jejich těla jsou stále držena v Gaze.

Novinky
Emmanuel Macron

Co se to děje ve Francii? Za politickou krizi nemůže Macron, sahá mnohem hlouběji

Francouzská politika se v posledních měsících zmítá v bezprecedentní krizi, která vyvrcholila rezignací premiéra po pouhých 26 dnech ve funkci. I když by se mohlo zdát lákavé vinit ze současné katastrofy výhradně prezidenta Emmanuela Macrona, experti upozorňují na hlubší, systémový problém. Jádro chaosu tkví v samotné konstrukci Páté republiky, která se ukázala být neschopná přizpůsobit se kompromisům a dělbě moci.

Novinky
Země

Vědci: Planeta Země dosáhla svého prvního katastrofálního bodu zlomu

Nejnovější vědecká zpráva varuje, že planeta Země dosáhla svého prvního katastrofálního bodu zlomu spojeného s emisemi skleníkových plynů. Konkrétně se jedná o teplovodní korálové útesy, kterým nyní hrozí dlouhodobý úpadek s rozsáhlým odumíráním. Tato situace přitom přímo ohrožuje živobytí stovek milionů lidí, kteří jsou na útesech závislí. Autoři zprávy, kterou vypracovalo 160 vědců z 87 institucí ve 23 zemích pod vedením University of Exeter, upozorňují, že jsme „na pokraji“ dosažení i dalších kritických bodů.

Novinky
Hamás

Hamás propustil všechna rukojmí

Izraelské armádě byla převezena i druhá a poslední skupina třinácti dosud žijících izraelských rukojmích od Červeného kříže. Spolu se sedmi rukojmími, kteří byli propuštěni dříve v průběhu dne, to znamená, že Hamás a jeho spojenci v Gaze poprvé po více než dvou letech nezadržují žádné živé rukojmí.