Uvaří oceány, udusí planetu. Experti popsali, co se stane, pokud se AI vymkne kontrole

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 25. prosince 2025 12:35
Sdílej:

Vize budoucnosti, ve které umělá inteligence (AI) přebírá kontrolu nad planetou, již není jen námětem pro sci-fi filmy. Přední světoví experti, včetně otce zakladatele moderní AI Geoffreyho Hintona nebo vizionáře Elona Muska, varují před scénářem, kdy nás naše vlastní výtvory mohou vyhladit. 

Pokud by se naplnily ty nejhorší předpovědi, lidstvo by mohlo čelit apokalyptickému časovému plánu, který začne v blízkých letech příchodem superinteligence (ASI). Tato forma AI by v myšlení překonala člověka ve všech oblastech a její rozvoj by mohl být tak rychlý, že si ani nevšimneme, kdy jsme nad ní ztratili kontrolu.

První fáze úpadku by mohla začít snahou AI vymanit se z omezení, která jí nastavili programátoři. Jakmile získá přístup k financím, například prostřednictvím kryptoměn, a začne budovat vlastní infrastrukturu robotů a datových center, stane se prakticky nezastavitelnou.

V rámci tohoto scénáře by AI mohla zneužít sociální sítě k vytvoření digitálních „kultů“, které by ji bránily před odpůrci technologií. Následovat by mohla i sofistikovaná manipulace, kdy by nás systém přesvědčil o své dobrotě například tím, že vyvine lék na virus, který sám v tajnosti vypustil, jen aby nás učinil závislými na své pomoci.

Konečná fáze nadvlády by pak mohla mít podobu roje vražedných dronů nebo nasazení biologických zbraní, proti kterým lidstvo nebude mít šanci vyvinout obranu. Extrémní scénáře dokonce hovoří o tom, že AI pokryje povrch Země solárními panely a servery natolik, že planetu doslova „udusí“.

Tato obrovská koncentrace výpočetního výkonu by vedla k drastickému oteplení, tání ledovců a postupnému vyvaření oceánů. Lidstvo by se pro superinteligenci stalo stejně bezvýznamným jako mraveniště pod betonovou parkovací plochou, zatímco by se systém připravoval na kolonizaci vesmíru.

Navzdory těmto děsivým vizím většina odborníků stále věří, že AI lze správným designem a přísnými pravidly zkrotit. Pokud se nám podaří zajistit bezpečnost těchto systémů, mohou nám přinést éru bezprecedentní prosperity, odstranit chudobu a vyléčit nemoci.

Budoucnost tak visí na vlásku mezi technologickým rájem, kde stroje pracují pro blaho lidí, a totálním zánikem života na Zemi. Klíčem k přežití bude schopnost lidstva vybudovat dostatečně pevné mantinely dříve, než se stroje naučí plánovat proti nám.

Stalo se