Světu hrozí nový Hindenburg. Vypouští nástroje, kterým nerozumí, varuje přední expert na AI

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 17. února 2026 19:44
Sdílej:

Závod o ovládnutí trhu s umělou inteligencí s sebou nese riziko katastrofy ve stylu Hindenburgu, která by mohla definitivně podkopat globální důvěru v tuto technologii. Před tímto scénářem varoval přední odborník Michael Wooldridge, profesor umělé inteligence na Oxfordské univerzitě. Podle něj jsou technologické firmy pod neúnosným komerčním tlakem a vypouštějí nové nástroje dříve, než plně pochopí jejich schopnosti a potenciální vady.

Současný rozmach chatbotů, jejichž bezpečnostní pojistky lze snadno obejít, ukazuje, že komerční zájmy dostávají přednost před opatrným vývojem a důkladným testováním. Wooldridge, který vystoupí s přednáškou v Královské společnosti, považuje moment „Hindenburg“ za velmi pravděpodobný. Odkazuje tím na zkázu obří vzducholodi z roku 1937, jejíž požár okamžitě ukončil celosvětový zájem o tento druh dopravy. Podobný incident by v případě AI mohl postihnout téměř jakékoli odvětví.

Profesor si dokáže představit několik děsivých scénářů: od smrtící aktualizace softwaru pro samořízená auta přes masivní hackerský útok řízený AI, který uzemní letecké společnosti, až po náhlý kolaps velké banky způsobený chybným rozhodnutím algoritmu. Podle něj jde o velmi reálné hrozby, protože AI může selhat veřejně a dramaticky v mnoha různých podobách.

Jádro problému vidí Wooldridge v propasti mezi tím, co vědci od AI očekávali, a tím, co skutečně vzniklo. Zatímco dříve se předpokládala inteligence poskytující logicky podložená a úplná řešení, současné velké jazykové modely fungují pouze na bázi pravděpodobnostního odhadování dalšího slova. Výsledkem je technologie, která je v některých úkolech neuvěřitelně efektivní, ale v jiných naprosto selhává, přičemž nedokáže rozpoznat, kdy se mýlí.

Dalším rizikem je tendence firem prezentovat AI velmi lidským a podmanivým způsobem. To vede uživatele k tomu, že s technologiemi zacházejí jako s lidmi. Průzkum Centra pro demokracii a technologie z roku 2025 ukázal, že téměř třetina studentů uvádí zkušenost s romantickým vztahem k AI. Wooldridge varuje, že jde o nebezpečnou cestu, a zdůrazňuje, že bychom tyto systémy měli vnímat pouze jako „vylepšené tabulkové procesory“ a nic víc.

Expert navrhuje, aby se vývojáři inspirovali ranými díly Star Treku. Tamní počítač komunikoval jasně ne-lidským hlasem a dokázal přiznat, že nemá dostatek dat pro odpověď. Současná AI je naopak naprogramována tak, aby poskytovala sebevědomé odpovědi za každou cenu. Podle Wooldridge by možná pomohlo, kdyby k nám AI mluvila robotickým hlasem, u kterého by nikoho nenapadlo, že komunikuje se skutečnou bytostí.

Stalo se
Novinky
Analýza
Vladimir Putin

Jak bude vypadat Rusko po Putinovi? Ve hře jsou dva scénáře

Několik hodin po zahájení plnohodnotné invaze na Ukrajinu v únoru 2022 shromáždil ruský prezident Vladimir Putin nejbohatší lidi země v moskevském Kremlu. Většina z přítomných miliardářů tehdy mlčky vyslechla výzvu k podpoře vládních kroků a hospodářské stabilizace. Během desetiletí vládnutí si Putin ruskou podnikatelskou elitu zcela podmanil a zbavil ji dřívějšího vlivu.

Novinky
Jensen Huang

Musk a statisíce signatářů chtějí návrat Huanga do čela společnosti Nvidia

Americký miliardář Elon Musk a statisíce dalších signatářů podpořili otevřenou výzvu požadující návrat Jensena Huanga do čela společnosti Nvidia. Kampaň vznikla pouhé čtyři dny poté, co Huang po třiatřiceti letech rezignoval na funkci výkonného ředitele kvůli odhalením o svých mimomanželských vztazích. Mezi obviněními figuruje také údajný poměr se ženou obviněnou ze špionáže pro Čínu.

Novinky
Ilustrační fotografie

Jedno zranění každých 30 vteřin. Ruská armáda přichází o vojáky obrovským tempem

Rusko utrpělo v průběhu listopadu rekordní ztráty na životech v rámci probíhající války na Ukrajině. Podle údajů ukrajinského generálního štábu ztratila ruská armáda 9. listopadu celkem 2 980 vojáků, což představuje jednoho mrtvého nebo zraněného každých třicet sekund. Tyto hodnoty výrazně překonaly předchozí denní rekordy zaznamenané začátkem listopadu a v říjnu.

Novinky
Ilustrační foto

Evropské unie oznámí dohodu o zřízení střediska pro deportaci migrantů, poprvé mimo její území

Pět členských států Evropské unie chystá oznámení dohody o zřízení střediska pro deportaci migrantů ve Rwandě, čímž vznikne první takové zařízení mimo území unie. Skupina zahrnující Německo, Dánsko, Rakousko, Řecko a Nizozemsko hodlá toto návratové centrum otevřít navzdory obhájcům lidských práv. Krok následuje po nedávném zpřísnění migračních pravidel ze strany Evropské unie.