Světu hrozí nový Hindenburg. Vypouští nástroje, kterým nerozumí, varuje přední expert na AI

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková DNES 19:44
Sdílej:

Závod o ovládnutí trhu s umělou inteligencí s sebou nese riziko katastrofy ve stylu Hindenburgu, která by mohla definitivně podkopat globální důvěru v tuto technologii. Před tímto scénářem varoval přední odborník Michael Wooldridge, profesor umělé inteligence na Oxfordské univerzitě. Podle něj jsou technologické firmy pod neúnosným komerčním tlakem a vypouštějí nové nástroje dříve, než plně pochopí jejich schopnosti a potenciální vady.

Současný rozmach chatbotů, jejichž bezpečnostní pojistky lze snadno obejít, ukazuje, že komerční zájmy dostávají přednost před opatrným vývojem a důkladným testováním. Wooldridge, který vystoupí s přednáškou v Královské společnosti, považuje moment „Hindenburg“ za velmi pravděpodobný. Odkazuje tím na zkázu obří vzducholodi z roku 1937, jejíž požár okamžitě ukončil celosvětový zájem o tento druh dopravy. Podobný incident by v případě AI mohl postihnout téměř jakékoli odvětví.

Profesor si dokáže představit několik děsivých scénářů: od smrtící aktualizace softwaru pro samořízená auta přes masivní hackerský útok řízený AI, který uzemní letecké společnosti, až po náhlý kolaps velké banky způsobený chybným rozhodnutím algoritmu. Podle něj jde o velmi reálné hrozby, protože AI může selhat veřejně a dramaticky v mnoha různých podobách.

Jádro problému vidí Wooldridge v propasti mezi tím, co vědci od AI očekávali, a tím, co skutečně vzniklo. Zatímco dříve se předpokládala inteligence poskytující logicky podložená a úplná řešení, současné velké jazykové modely fungují pouze na bázi pravděpodobnostního odhadování dalšího slova. Výsledkem je technologie, která je v některých úkolech neuvěřitelně efektivní, ale v jiných naprosto selhává, přičemž nedokáže rozpoznat, kdy se mýlí.

Dalším rizikem je tendence firem prezentovat AI velmi lidským a podmanivým způsobem. To vede uživatele k tomu, že s technologiemi zacházejí jako s lidmi. Průzkum Centra pro demokracii a technologie z roku 2025 ukázal, že téměř třetina studentů uvádí zkušenost s romantickým vztahem k AI. Wooldridge varuje, že jde o nebezpečnou cestu, a zdůrazňuje, že bychom tyto systémy měli vnímat pouze jako „vylepšené tabulkové procesory“ a nic víc.

Expert navrhuje, aby se vývojáři inspirovali ranými díly Star Treku. Tamní počítač komunikoval jasně ne-lidským hlasem a dokázal přiznat, že nemá dostatek dat pro odpověď. Současná AI je naopak naprogramována tak, aby poskytovala sebevědomé odpovědi za každou cenu. Podle Wooldridge by možná pomohlo, kdyby k nám AI mluvila robotickým hlasem, u kterého by nikoho nenapadlo, že komunikuje se skutečnou bytostí.

Stalo se
Novinky
Ilustrační foto

NATO se pro Evropu stává pastí. Proč je čím dál dražší zůstat i odejít?

Evropská zkušenost se závislostí na bezpečnostních zárukách Spojených států v mnohém připomíná úpadek kvality digitálních aplikací. Mnichovská bezpečnostní konference se otevírá v atmosféře krize důvěry v transatlantické vztahy. Ačkoliv Evropa pravděpodobně uslyší známá ujištění o americkém závazku a nepostradatelnosti NATO, neklid mezi evropskými politiky podle expertů signalizuje hlubší problém. Pro desítky let fungoval transatlantický vztah jako ultimátní geopolitická platforma, kde USA udržovaly bezpečnostní operační systém a Evropa byla jeho hlavním, neustále přihlášeným uživatelem.

Novinky
Ilustrační foto

Francie vyhlásila nejvyšší stupeň varování před povodněmi

Francie vyhlásila nejvyšší červený stupeň varování před povodněmi ve třech departementech poté, co dozvuky bouře Nils vyvolaly chaos napříč celou zemí. Záplavová vlna již zatopila domy a izolovala řadu vesnic poté, se z břehů vylila řeka Garonne. Hydrologové varují, že další srážky dopadají na půdu, která vykazuje rekordní úroveň nasycení a není schopna absorbovat žádnou další vodu.

Novinky
Ilustrační foto

Evropští poradci vydali naléhavé varování: EU se musí připravovat na katastrofický scénář globálního oteplení

Evropský vědecký poradní sbor pro změnu klimatu (ESABCC) vydal naléhavé varování, ve kterém vyzývá členské státy, aby se začaly připravovat na katastrofický scénář globálního oteplení o 3 stupně Celsia. Podle předního člena sboru, Maartena van Aalsta, je ochrana Evropy před extrémním počasím sice náročným úkolem, ale nikoliv neproveditelným. Van Aalst zdůrazňuje, že ačkoliv už nyní kontinent za nedostatečnou přípravu platí vysokou cenu, mnohá adaptační opatření jsou otázkou selského rozumu a snadno dosažitelných cílů.

Novinky
Steve Witkoff

Witkoff a Kushner dorazili do Ženevy. Ostře sledovaná jednání s Íránem začala

V Ženevě odstartovala ostře sledovaná diplomatická jednání mezi Spojenými státy a Íránem, která mají za cíl vyřešit vleklý spor o jaderný program Teheránu. Rozhovory probíhají v době extrémního napětí, kdy se v regionu Blízkého východu masivně koncentrují americké vojenské síly. Americkou delegaci vedou zvláštní vyslanec Steve Witkoff a prezidentův zeť Jared Kushner, zatímco íránskou stranu reprezentuje ministr zahraničí Abbás Araghčí.