Vývoj AI musíme zpomalit, shodují se šéfové firem. Jejich plán ale narazil

Elon Musk
Elon Musk, foto: Depositphotos
Klára Marková DNES 10:21
Sdílej:

Vedení předních technologických společností vyjádřilo nečekanou shodu ohledně potřeby zpomalit vývoj umělé inteligence. Reagují tak na vlnu veřejného znepokojení a varování ze strany výzkumníků, podle nichž by nekontrolovaný pokrok mohly doprovázet katastrofální následky pro celou lidskou společnost. S výzvou k mírnění tempa přišel výkonný ředitel společnosti Anthropic Dario Amodei, jehož návrh okamžitě podpořili i šéfové konkurenčních firem OpenAI, Google DeepMind a xAI. Tento vzácný krok sjednotil klíčové aktéry v odvětví, které dosud vykazovalo známky bezohledného závodění o technologickou převahu.

Základem Amodeiho veřejného návrhu s názvem „Musíme zpomalovat na hranici možností“ je závazek zavést nezávislé externí hodnotitele, kteří získají přístup k vývojovým systémům na úrovni kmenových zaměstnanců. Šéf OpenAI Sam Altman vyjádřil tomuto záměru plnou podporu a potvrdil, že jeho společnost přijme stejný závazek v oblasti prověřování bezpečnostních postupů. K myšlence se kladně přihlásil také šéf Google DeepMind Demis Hassabis, který Amodeiho esej označil za vykročení správným směrem, zatímco majitel xAI Elon Musk vyjádřil stručný souhlas s tím, že má ředitel Anthropicu pravdu.

Dario Amodei ve svém plánu definoval tři hlavní pilíře, které mají zajistit bezpečnější rozvoj pokročilých technologií. Prvním je právě zapojení externích kontrolorů s hlubokým přístupem do systémů, druhým vytváření společných bezpečnostních standardů mezi demokratickými státy a třetím globální koordinace v bezpečnostních otázkách i s autoritářskými režimy, jako je Čína. Výzvy k mezinárodní spolupráci se sice ze strany průmyslu objevovaly již v minulosti, současná iniciativa však přichází v době zvýšených obav z nekontrolovaného osamostatňování modelů.

Plán na dobrovolné zpomalení tempa však podle The Guardian naráží na silný skepticismus ze strany řady kritiků, výzkumníků i politických představitelů. Odpůrci tvrdí, že se technologičtí giganti pouze snaží předejít přísnější státní regulaci a udržet si stávající rozložení sil na trhu. Bývalý šéf štábu prezidenta Baracka Obamy Rahm Emanuel poukázal na to, že technologická odvětví o vlastní regulaci v historii téměř nikdy sama nežádala. Podle něj je tato iniciativa přímým přiznáním, že odvětví směřuje po temné a nebezpečné cestě bez potřebného dohledu.

Zástupci organizací zaměřených na etiku a dopady technologií kritizují současný stav, kdy byl vývoj umělé inteligence v podstatě ponechán samoregulaci firem. Sarah Myers Westová z institutu AI Now zdůraznila, že přístup udělující tomuto odvětví výjimku vedl k úplnému selhání při prosazování standardů bezpečnosti výrobků. Další kritici, včetně zastánce regulace Alexe Borese, varují veřejnost a zákonodárce, aby se nenechali zmást rétorikou firem. Bores upozornil na rozpor mezi veřejnými prohlášeními a reálným lobbingem technologických společností, které se v zákulisí často snaží legislativní návrhy oslabit.

Značnou vlnu znepokojení napříč politickým spektrem vyvolala také myšlenka, že by vláda mohla firmám udělit výjimky z antimonopolních zákonů za účelem průmyslové koordinace. Bývalí vládní činitelé jako Alvaro Bedoya varují, že by takový krok mohl vést k ovládnutí regulačního prostředí velkými hráči na úkor menší konkurence. Bedoya zdůraznil, že antimonopolní právo firmám nebrání spolupracovat na bezpečnosti, ale striktně zakazuje dohody, které by bránily vstupu levnějších konkurentů na trh v situaci, kdy zavedené firmy spalují kapitál a nedosahují dostatečné ziskovosti.

Společnosti vyvíjející umělou inteligenci čelí dlouhodobé kritice za nedostatek transparentnosti i za to, že vynakládají značné prostředky na lobbování za výhodnou legislativu. Jejich přístup se v čase výrazně měnil, když střídavě varovaly před apokalyptickými riziky a současně slibovaly utopický blahobyt. Společnost OpenAI například v minulosti zrušila svůj tým zaměřený na řešení dlouhodobých rizik spojených s vývojem superschopné inteligence. Rozpustila rovněž skupinu, jejímž úkolem bylo komunikovat veřejnosti přínosy této technologie pro lidstvo.

Snahy o zpomalení vývoje a mezinárodní koordinaci narážejí také na postoj americké federální administrativy a prezidenta Donalda Trumpa, který prosazuje vedoucí úlohu Spojených států v globálním technologickém závodě. Prezident Trump jakékoliv výzvy k brzdění vývoje odmítl s odkazem na neúprosnou konkurenci ze strany Číny a prohlásil, že ten, kdo vyhraje závod v umělé inteligenci, zvítězí celkově. Podle jeho vyjádření zpochybňují vývoj negativní síly, které upozorňují na hrozby, jež ve skutečnosti nenastanou.

Podobně rezervovaně se k regulaci vyjádřil také předseda Sněmovny reprezentantů Mike Johnson, podle něhož by zákonodárný sbor neměl vést iniciativu v oblasti regulace bezpečnosti umělé inteligence. Johnson uvedl, že hlavní odpovědnost za bezpečnost vývoje leží na samotných technologických firmách. Vývojáři přitom čelí obrovskému komerčnímu tlaku na uvádění stále výkonnějších produktů na trh před plánovanými vstupními operacemi na burzu, což snahy o zpomalení dále komplikuje.

Stalo se
Novinky
Donald Trump

Trump vyzval Ukrajinu, aby přestala útočit na ruské ropné rafinérie

Americký prezident Donald Trump vyzval Ukrajinu, aby přestala útočit na ruské ropné rafinérie kvůli celosvětovému růstu cen motorové nafty. Své prohlášení učinil během dvoudenní návštěvy Irska, kde navštívil své golfové hřiště v hrabství Clare. Šéf Bílého domu odmítl tvrzení, že by za prudkým nárůstem cen paliv stála válka, kterou jeho administrativa vede proti Íránu. Podle jeho slov je hlavním důvodem nynějšího nedostatku nafty právě ukrajinská strategie zaměřená na ruskou energetiku.

Novinky
Donald Trump

Donald Trump narazil na tvrdou realitu: Protivníci se ho přestávají bát

Zahraniční politika prezidenta Donalda Trumpa je od počátku postavena na předpokladu, že síla a velikost Spojených států přinutí spojence i protivníky podvolit se vůli Washingtonu. Tento přístup, vzdalující se tradiční americké diplomatické doktríně, popsal pro CNN poradce Stephen Miller jako svět řízený neúprosnými zákony síly a moci. Současná krize však ukazuje, že tato teorie naráží na své limity. USA se totiž dostaly do hlubokého střetu na dvou frontách zároveň, a to s Íránem a Kanadou.

Novinky
Andrej Babiš (hnutí ANO) a Marine Le Penová

Populismus se stává celosvětovým fenoménem. Co ale znamená a kdo je onen lid, o kterém se mluví?

Populismus se stává celosvětovým fenoménem, který získává stále větší podporu napříč různými politickými systémy. Tímto pojmem jsou dnes označovány výrazné osobnosti pravice i levice, mezi něž patří například brazilský politik Jair Bolsonaro, indický premiér Nárendra Módí nebo americký senátor Bernie Sanders. Přestože se akademické definice populismu v mnoha ohledech rozcházejí, všechny staví na stejném základním principu. Rozdělují totiž společnost na dvě nesmiřitelné skupiny, kterými jsou čistý lid a korumpované elity.

Počasí
Ilustrační foto

Oteplení pod 1,5 stupně neudržíme, varuje OSN. Jak se změní počasí a co to znamená pro svět?

Nová zpráva Organizace spojených národů varuje, že svět již není schopen dodržet hranici globálního oteplení o 1,5 stupně Celsia. Podle zveřejněného dokumentu Programu OSN pro životní prostředí překročí lidstvo tuto kritickou hranici pravděpodobně již kolem roku 2030. Současný růst teploty představuje vážnou hrozbu zejména pro ostrovní státy v Tichém oceánu, které čelí rychlému vzestupu mořské hladiny. Zástupci těchto zranitelných regionů zdůrazňují, že pouhé výzvy k vyšším závazkům už nestačí a je nutná okamžitá politická vůle i masivní investice.