Max Tegmark, fyzik a přední zastánce bezpečnosti umělé inteligence, přichází s vážným varováním: technologické firmy vyvíjející superinteligentní AI musí začít přistupovat k vyhodnocování rizik stejně zodpovědně, jako to učinili vědci před prvním testem atomové bomby. Jinak podle něj hrozí, že se vývoj vymkne kontrole a lidstvo se ocitne tváří v tvář existenční hrozbě, na kterou nebude připraveno.
Inspirací pro jeho výzvu jsou výpočty fyzika Arthura Comptona z roku 1945. Ten tehdy pomáhal rozhodovat, zda provést první jaderný test Trinity. Fyzikové se tehdy obávali, že by mohlo dojít ke katastrofě v podobě zažehnutí atmosféry, což by znamenalo konec života na Zemi.
Riziko bylo sice vypočteno jako extrémně nízké — asi 1 ku třem milionům —, přesto vědci trvali na tom, že bez důkladné analýzy nelze pokus uskutečnit. Podobný přístup by měl být podle Tegmarka samozřejmostí i při vývoji umělé inteligence, zejména pokud jde o tzv. ASI, tedy Artificial Super Intelligence.
Ve své nové studii, kterou vypracoval společně se třemi studenty z MIT, Tegmark zavádí pojem Comptonovy konstanty — pravděpodobnosti, že superinteligentní AI unikne lidské kontrole. A varuje, že podle současných odhadů může být toto riziko až 90procentní. To považuje za naprosto nepřijatelné.
„Firmy, které vyvíjejí superinteligentní AI, musí tento výpočet provést. Nestačí jen říkat, že se cítí bezpečně. Potřebujeme přesná čísla,“ prohlásil Tegmark v rozhovoru pro britský Guardian. Podle něj by odborný konsenzus o míře rizika mohl vytvořit politický tlak na přijetí mezinárodních pravidel pro bezpečný vývoj AI.
Tegmark, profesor fyziky na MIT a spoluzakladatel organizace Future of Life Institute, patří k nejvýraznějším hlasům volajícím po zodpovědném přístupu k vývoji AI. Už v roce 2023 stál u zrodu výzvy k pozastavení vývoje vysoce výkonných AI systémů, která získala přes 33 tisíc podpisů, včetně jmen jako Elon Musk či spoluzakladatel Applu Steve Wozniak. Výzva varovala před „nezvladatelným závodem“ mezi firmami, které se snaží být první v nasazení stále silnějších systémů, jež nikdo plně nechápe ani nedokáže ovládat.
Tegmarkovy výroky přicházejí v době, kdy se v Singapuru konala mezinárodní konference o bezpečnosti AI, které se zúčastnili experti z akademického prostředí, průmyslu i vládních agentur. Výsledkem je tzv. Singapurský konsenzus — nově definovaný soubor priorit, jakým směrem by se měl výzkum v oblasti bezpečnosti umělé inteligence ubírat. Pod dokumentem jsou podepsáni kromě Tegmarka také přední vědec Yoshua Bengio a experti ze společností OpenAI a Google DeepMind.
Konsenzus doporučuje zaměřit výzkum do tří klíčových oblastí: měření vlivu současných i budoucích AI systémů, formulaci žádoucího chování těchto systémů a metod, jak jej zajistit, a také návrhu způsobů řízení a kontroly těchto technologií. Tegmark považuje vznik dokumentu za významný krok vpřed, zvláště po nedávné stagnaci mezinárodní spolupráce.
Právě tato stagnace byla podle něj patrná například na nedávném summitu v Paříži, kde americký viceprezident JD Vance odmítl bezpečnostní obavy jako přehnané a brzdící technologický pokrok. Tegmark však věří, že se mezinárodní dialog nyní opět obnovuje. „Zdá se, že deprese po Paříži je pryč a mezinárodní spolupráce se znovu naplno rozjela,“ uvedl.
Závěrem Tegmark apeluje na vývojáře po celém světě, aby nejen usilovali o vyšší výkon a schopnosti svých systémů, ale aby se zároveň odpovědně zabývali i jejich možnými důsledky. Stejně jako vědci v době atomových pokusů dnes i oni pracují s technologií, která může rozhodnout o budoucnosti celého lidstva.
Zahraniční politika prezidenta Donalda Trumpa je od počátku postavena na předpokladu, že síla a velikost Spojených států přinutí spojence i protivníky podvolit se vůli Washingtonu. Tento přístup, vzdalující se tradiční americké diplomatické doktríně, popsal pro CNN poradce Stephen Miller jako svět řízený neúprosnými zákony síly a moci. Současná krize však ukazuje, že tato teorie naráží na své limity. USA se totiž dostaly do hlubokého střetu na dvou frontách zároveň, a to s Íránem a Kanadou.
Španělský premiér Pedro Sánchez prohlásil, že neexistují žádné důkazy o zapojení marocké vlády do nedávného masivního překročení hranic v severoafrické enklávě Ceuta. Podle předsedy vlády nevycházejí žádná podezření ze zpráv zpravodajských služeb, které by naznačovaly odpovědnost oficiálních míst v Rabatu.
Turkmenistán začal opravovat rozsáhlé úniky metanu, které dlouhodobě unikaly ze starých ropných a plynových zařízení na jeho území. Vyplývá to z nejnovějších dat Organizace spojených národů, která tento krok označila za významný průlom. Autoritářský stát k nápravě přistoupil poté, co mezinárodní odhalení poukázala na extrémní míru znečištění v zemi. Místní úřady navázaly spolupráci se zahraničními partnery a zahájily opravy poškozené infrastruktury.
Německá politická scéna čelí výraznému tlaku před nadcházejícími zemskými volbami v Sasku-Anhaltsku, kde má šanci na historický úspěch krajně pravicová strana Alternativa pro Německo. Týdeník Der Spiegel označil lídra tamní kandidátky Ulricha Siegmunda za nejnebezpečnějšího muže v zemi. Reakce jeho příznivců na sebe nenechala dlouho čekat a výtisky časopisu ve velkém skupovali, aby jim je politik mohl osobním podpisem potvrdit. Nadcházející hlasování v této spolkové zemi přitom může mít zásadní dopad nejen na celostátní politiku, ale i na širší evropský region.
Americký prezident Donald Trump prohlásil, že Spojené státy neplánují žádná jednání s Íránem, a zároveň zdůraznil, že Hormuzský průliv zůstává otevřený a funkční. Reagoval tak na situaci v klíčové námořní cestě, kde v posledních dnech výrazně poklesl provoz a došlo k dalším vojenským incidentům. Šéf Bílého domu trvá na tom, že americká blokáda íránských přístavů zůstává v plné platnosti a účinnosti. Všechny námořní miny byly podle jeho slov z mezinárodních vod úspěšně odstraněny, díky čemuž je námořní doprava volná.
Vztahy mezi Ukrajinou a Izraelem vstupují do období opatrného sbližování. Izraelský premiér Benjamin Netanjahu oslovil přímo ukrajinského prezidenta Volodymyra Zelenského v dopise u příležitosti ukrajinského Dne nezávislosti. V textu ocenil odhodlání Ukrajinců a označil Írán za společnou hrozbu pro obě země. Kyjev tento krok přivítal a vyjádřil naději v produktivní bezpečnostní spolupráci.
Americké síly podnikly útok na íránská odpalovací zařízení v Hormuzském průlivu, což vyvolalo okamžitou odvetu Teheránu proti vojenským základnám v Jordánsku a Spojených arabských emirátech. Jedná se o první otevřené vojenské střety mezi oběma stranami po více než měsíci relativního klidu. Americká strana uvedla, že operace na ostrově Lárak měla zabránit nakládání a zaminování klíčové námořní trasy. Situace v regionu se tím opět prudce vyostřila a hrozí dalším rozšířením bojových operací.
Skupina izraelských osadníků vnikla do palestinské vesnice Kusra na okupovaném Západním břehu a obsadila obytný dům i s jeho majitelem uvnitř. Přestože armáda na místě zaznamenala desítky výtržníků, úřady do nedělního večera neoznámily žádná zatčení. Útok v Kusře představuje další ze série výpadů, které v této oblasti v posledním období eskalují. K incidentu došlo v odpoledních hodinách, kdy dav osadníků začal obkličovat soukromé pozemky.
Severoatlantická aliance plánuje posílit bezpečnost své východní hranice vybudováním rozsáhlé sítě bezpilotních letounů, senzorů a systémů umělé inteligence. Tato technologie má sloužit k včasnému odhalení a případnému odrazení potenciálního ruského útoku.
Ukrajinská společnost Fire Point dokončuje vývoj své první balistické střely, která by měla být připravena k nasazení během letošního podzimu, uvedla podle webu Politico generální a technická ředitelka firmy Iryna Terechová. Vývoj vlastní balistické zbraně představuje pro Kyjev klíčový krok v reakci na sílící intenzitu ruských raketových útoků a hrozící nedostatek zahraničních obranných systémů.
Íránská armáda vypsala odměnu za zabití nebo zajetí amerických vojáků ve výši v přepočtu přibližně 30 tisíc dolarů. Podle oficiálních zpráv íránských státních médií oznámil toto opatření velitel íránských ozbrojených sil Amír Hátamí. Byla zároveň stanovená výjimka, podle níž se vypsaná částka zdvojnásobí na dvojnásobek v případě, že danou akci provede žena.
Francouzská Ústavní rada zrušila zákaz sociálních sítí pro děti a mladistvé do patnácti let. Podle jejího verdiktu navrhovaná legislativa nepřípustně zasahovala do svobody projevu a komunikace. Nejvyšší soudní orgán tak smetl ze stolu klíčový zákon, který měl chránit duševní zdraví dětí a zamezit škodlivým dopadům digitálních platforem na nejmladší generaci.