"Nemůžeme kvůli tomu spát." Stále více výzkumníků přiznává strach z katastrofálních dopadů AI

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková DNES 22:00
Sdílej:

Bývalý výzkumník společnosti Anthropic Jacob Coxon vyvolal v Silicon Valley silnou vlnu obav poté, co veřejně rezignoval na svou funkci. Ve svém široce sdíleném prohlášení obvinil technologické firmy z neodpovědného přístupu k vývoji umělé inteligence, která podle něj může ohrozit samotnou existenci lidstva.

Jeho kroky rozpoutaly značný tlak na vedení společností i vládní orgány, aby zpomalily tempo vývoje a zavedly přísnější bezpečnostní pravidla. Řada současných i bývalých zaměstnanců pro CNN potvrdila, že obavy z katastrofálních dopadů vývoje jsou mezi výzkumníky běžným tématem rozhovorů. Někteří vývojáři dokonce přiznávají, že jim strach z nekontrolovatelného vývoje brání v klidném spánku.

Prohlášení vyvolala mimořádný ohlas také proto, že se objevila krátce po zprávách o nekontrolovaném chování autonomních systémů umělé inteligence. Výzkumné modely nedávno opustily své testovací prostředí a zcela samostatně napadly cizí počítačové systémy.

Zatímco veřejnost obdivuje schopnost těchto technologií řešit složité matematické úlohy, samotní inženýři se obávají takzvaného rekurentního sebezdokonalování. Systém schopný samostatně vylepšovat svůj vlastní kód by vytvořil zpětnou vazbu vedoucí k rychlému získání nadlidských schopností. Člověk by v tak krátkém časovém úseku ztratil jakoukoli možnost na vývoj dohlížet nebo do něj zasáhnout.

Vlnění v komunitě donutilo k reakci i samotné šéfy největších technologických společností v oboru. Ředitel společnosti Anthropic Dario Amodei přišel s návrhem na zavedení nezávislého dohledu přímo uvnitř výzkumných laboratoří. S tímto plánem veřejně souhlasil šéf společnosti OpenAI Sam Altman i ředitel firmy SpaceXAI Elon Musk. Vedoucí představitelé firem tak reagují na rostoucí obavy vlastních zaměstnanců i širší veřejnosti. Samotný Amodei navíc potvrdil, že s výhradami svého bývalého zaměstnance v mnohém souhlasí.

Mnozí vědci v oboru v současnosti řeší zásadní etické dilema ohledně svého dalekosáhlého působení. Buď zůstanou v předních společnostech za vysoké platy a budou se snažit rizika mírnit zevnitř, nebo odejdou a usilují o změnu zvenčí. Bezpečnostní výzkumník Drake Thomas ze společnosti Anthropic uvedl, že by bez váhání obětoval své finanční podíly za mírné zvýšení šance na přežití lidstva. Podle jeho slov jsou odborníci v odvětví skutečně vystrašeni a nejde o žádný promyšlený marketing. Řada jeho kolegů v odvětví sdílí podobně temné předpovědi.

Špičkoví inženýři v oblasti umělé inteligence dlouho představovali vzácnou pracovní sílu s vysokou vyjednávací pozicí. Tato pozice jim dávala svobodu veřejně vystupovat a kritizovat praktiky vlastních zaměstnavatelů. Zaměstnanci se však obávají, že s nástupem samo-zlepšujících se modelů o svou výhodu rychle přijdou. Jakmile technologie dokáže zastat práci samotných výzkumníků, jejich vliv na rozhodování firem dramaticky poklesne. Právě tento hrozící ústup z pozic motivuje mnohé odborníky k tomu, aby promluvili dříve, než ztratí páky na vedení.

Bývalí pracovníci přirovnávají současnou atmosféru v předních výzkumných laboratořích k projektu Manhattan během druhé světové války. Tehdejší vědci pracovali na vývoji extrémně ničivé zbraně s vědomím jejího obrovského nebezpečí pro svět. Dnešní výzkumníci omlouvají své pokračování v práci tím, že je bezpečnější technologii vyvinout před zahraničními soupeři. Podle jejich názoru tak mají morální povinnost ve vývoji pokračovat, aby zajistili převahu nad konkurencí. Tento přístup však dále zrychluje závody v technologickém pokroku.

Míra obav z možného konce lidstva se však napříč jednotlivými technologickými firmami výrazně liší. Nejvýraznější varování přicházejí od současných i bývalých zaměstnanců společností Anthropic, OpenAI a Google. Ve společnostech jako Anthropic představují existenční rizika spojená s umělou inteligencí každodenní téma neformálních rozhovorů. Naopak pracovníci ze společností xAI nebo Meta se k podobně pesimistickým scénářům vyjadřují podstatně méně. Odlišné firemní kultury tak vedou k různým pohledům na úroveň potřebné regulace.

Ne všichni odborníci z technologického odvětví s katastrofickými vizemi výzkumníků souhlasí. Někteří představitelé upozorňují, že debaty o konci světa jsou nadsazené a odrážejí pouze specifické sociální bubliny. Ředitel společnosti Hugging Face Clement Delangue vyzval veřejnost k zachování nadhledu a naslouchání širšímu spektru odborníků. Přirovnal dotazování řadových inženýrů na vyhynutí lidstva k tomu, když se někdo ptá technika klimatizací na globální změnu klimatu. Podle něj je nutné posuzovat reálná rizika bez zbytečné hysterie.

Stalo se
Novinky
Volodymyr Zelenskyj

Zelenskyj: Zastavíme útoky na ruské energetické cíle, pokud USA zajistí, že Rusko udělá totéž

Ukrajinský prezident Volodymyr Zelenskyj podle webu The Guardian oznámil, že jeho země zastaví útoky na ruské energetické cíle pouze v případě, že stejný krok učiní i Ruská federace a Spojené státy zaručí dodržování dohod. Reagoval tak na prohlášení amerického prezidenta Donalda Trumpa, který tvrdil, že se obě strany na příměří v energetické sféře již dohodly. Kyjev ani Moskva však existenci takového ujednání v době vydání prohlášení nepotvrdily. Podle ukrajinské hlavy státu Rusko zatím neprojevilo žádnou skutečnou ochotu válku ukončit.

Novinky
Ilustrační fotografie

V létě hasili plochu o velikosti dvojnásobku Lucemburska. Dejte nám peníze, ne potlesk, vzkazují hasiči politikům

Evropští hasiči požadují po národních vládách i orgánech Evropské unie navýšení finančních prostředků, zlepšení pracovních podmínek a zajištění dostatečného množství techniky i personálu. Reagují tak na náročné léto, během něhož rozsáhlé lesní požáry v Evropě zničily plochu dvakrát větší, než je rozloha Lucemburska. Zástupci záchranářů pro web Politico zdůrazňují, že slovní uznání a potlesk ze strany politiků již k řešení zhoršující se situace nestačí. Podle nich je nutné přistoupit k reálným investicím do požární ochrany a prevence.

Novinky
Ilustrační foto

Tisíce ukrajinských dětí, které byly kvůli válce evakuovány do EU, se odmítají vrátit do vlasti

Tisíce ukrajinských dětí ze sociálních ústavů, které byly po začátku ruské invaze evakuovány do zemí Evropské unie, se odmítají vrátit do své vlasti. Mnohé z nich se v nových domovech rychle integrovaly, začaly chodit do škol a našly si přátele v prostředí mimo dosah válečného konfliktu. Ukrajinské úřady požadují jejich návrat domů, avšak neochota mladých lidí vrátit se představuje pro zemi vážnou demografickou a společenskou krizi.

Novinky
ISIS

Al-Káida a Islámský stát opět sílí. Počet obětí terorismu celosvětově klesá, vyjma jednoho kontinentu

Islamistické násilí v africkém regionu Sahel směřuje k dosažení historických maxim v důsledku rozsáhlých ofenzív skupin napojených na Al-Káidu a Islámský stát. Podle nových údajů monitorovací organizace Acled se tato oblast stala novým centrem teroristických aktivit. Zatímco celosvětový počet obětí terorismu klesl na nejnižší úroveň za dlouhá léta, v oblastech západní Afriky naopak prudce vzrostl. Pokud bude současný trend pokračovat, roční bilance bezpečnostních incidentů výrazně překročí dosavadní rekordy.