Světu hrozí nový Hindenburg. Vypouští nástroje, kterým nerozumí, varuje přední expert na AI

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 17. února 2026 19:44
Sdílej:

Závod o ovládnutí trhu s umělou inteligencí s sebou nese riziko katastrofy ve stylu Hindenburgu, která by mohla definitivně podkopat globální důvěru v tuto technologii. Před tímto scénářem varoval přední odborník Michael Wooldridge, profesor umělé inteligence na Oxfordské univerzitě. Podle něj jsou technologické firmy pod neúnosným komerčním tlakem a vypouštějí nové nástroje dříve, než plně pochopí jejich schopnosti a potenciální vady.

Současný rozmach chatbotů, jejichž bezpečnostní pojistky lze snadno obejít, ukazuje, že komerční zájmy dostávají přednost před opatrným vývojem a důkladným testováním. Wooldridge, který vystoupí s přednáškou v Královské společnosti, považuje moment „Hindenburg“ za velmi pravděpodobný. Odkazuje tím na zkázu obří vzducholodi z roku 1937, jejíž požár okamžitě ukončil celosvětový zájem o tento druh dopravy. Podobný incident by v případě AI mohl postihnout téměř jakékoli odvětví.

Profesor si dokáže představit několik děsivých scénářů: od smrtící aktualizace softwaru pro samořízená auta přes masivní hackerský útok řízený AI, který uzemní letecké společnosti, až po náhlý kolaps velké banky způsobený chybným rozhodnutím algoritmu. Podle něj jde o velmi reálné hrozby, protože AI může selhat veřejně a dramaticky v mnoha různých podobách.

Jádro problému vidí Wooldridge v propasti mezi tím, co vědci od AI očekávali, a tím, co skutečně vzniklo. Zatímco dříve se předpokládala inteligence poskytující logicky podložená a úplná řešení, současné velké jazykové modely fungují pouze na bázi pravděpodobnostního odhadování dalšího slova. Výsledkem je technologie, která je v některých úkolech neuvěřitelně efektivní, ale v jiných naprosto selhává, přičemž nedokáže rozpoznat, kdy se mýlí.

Dalším rizikem je tendence firem prezentovat AI velmi lidským a podmanivým způsobem. To vede uživatele k tomu, že s technologiemi zacházejí jako s lidmi. Průzkum Centra pro demokracii a technologie z roku 2025 ukázal, že téměř třetina studentů uvádí zkušenost s romantickým vztahem k AI. Wooldridge varuje, že jde o nebezpečnou cestu, a zdůrazňuje, že bychom tyto systémy měli vnímat pouze jako „vylepšené tabulkové procesory“ a nic víc.

Expert navrhuje, aby se vývojáři inspirovali ranými díly Star Treku. Tamní počítač komunikoval jasně ne-lidským hlasem a dokázal přiznat, že nemá dostatek dat pro odpověď. Současná AI je naopak naprogramována tak, aby poskytovala sebevědomé odpovědi za každou cenu. Podle Wooldridge by možná pomohlo, kdyby k nám AI mluvila robotickým hlasem, u kterého by nikoho nenapadlo, že komunikuje se skutečnou bytostí.

Stalo se
Novinky
WHO

WHO: Ebola nedosahuje úrovně pandemie, počty nakažených a mrtvých ale porostou

Světová zdravotnická organizace ve středu potvrdila, že bilance nynější epidemie eboly ve střední Africe dosáhla šesti set podezřelých případů a sto třiceti devíti úmrtí. Šéf organizace Tedros Adhanom Ghebreyesus na tiskové konferenci v Ženevě varoval, že kvůli dlouhému časovému úseku, který uplynul do samotného odhalení viru, budou tato čísla i nadále stoupat. Laboratoře dosud potvrdily padesát jedna případů v Demokratické republice Kongo a dva v sousední Ugandě. Podle odhadů odborníků nákaza v regionu skrytě kolovala pravděpodobně již před několika měsíci, než byla poprvé oficiálně zaznamenána.

Novinky
Ursula von der Leyen

EU dospěla k dohodě o zavedení dlouho odkládané obchodní smlouvy s USA

Evropští lídři ve středu ráno neskrývali triumfální náladu poté, co Evropská unie dospěla k dohodě o zavedení dlouho odkládané obchodní smlouvy se Spojenými státy. Tento krok přichází po měsících celních hrozeb a transatlantického napětí. 

Novinky
Donald Trump

Trump: V pondělí chyběla pouhá hodina k zahájení nové vlny úderů na Írán

Podle vyjádření amerického prezidenta Donalda Trumpa chyběla v pondělí pouhá hodina k vydání rozkazu k zahájení nové vlny leteckých úderů na Írán. Šéf Bílého domu však na poslední chvíli prostřednictvím sociálních sítí oznámil, že poskytne více času diplomatickému vyjednávání. O den později Trump potvrdil, že americká flotila válečných lodí v regionu je plně připravena k okamžité akci. Skutečný rozsah bezprostředního nebezpečí obnovení bojů však zůstává nejasný, neboť představitelé některých států v Perském zálivu uvedli, že o žádné chystané vojenské operaci neměli informace.

Novinky
Vladimír Putin dorazil do Číny, setkal se se Si Ťin-pchingem

Putin: Vztahy Ruska a Číny dosáhly bezprecedentně vysoké úrovně. Ťin-pchinga označil za drahého přítele

Ruský prezident Vladimir Putin během své středeční státní návštěvy v Pekingu prohlásil, že vztahy mezi Ruskem a Čínou dosáhly bezprecedentně vysoké úrovně. Při jednání se svým protějškem Si Ťin-pchingem se zaměřil především na rozvoj širší hospodářské spolupráce a řešení aktuálních mezinárodních otázek. Ruský vůdce oslovil čínského prezidenta jako drahého přítele a poukázal na dlouhodobou kontinuitu jejich obchodních vztahů, přičemž zmínil, že vzájemný obchodní obrat se za posledních pětadvacet let zvýšil více než třicetkrát.