Max Tegmark, fyzik a přední zastánce bezpečnosti umělé inteligence, přichází s vážným varováním: technologické firmy vyvíjející superinteligentní AI musí začít přistupovat k vyhodnocování rizik stejně zodpovědně, jako to učinili vědci před prvním testem atomové bomby. Jinak podle něj hrozí, že se vývoj vymkne kontrole a lidstvo se ocitne tváří v tvář existenční hrozbě, na kterou nebude připraveno.
Inspirací pro jeho výzvu jsou výpočty fyzika Arthura Comptona z roku 1945. Ten tehdy pomáhal rozhodovat, zda provést první jaderný test Trinity. Fyzikové se tehdy obávali, že by mohlo dojít ke katastrofě v podobě zažehnutí atmosféry, což by znamenalo konec života na Zemi.
Riziko bylo sice vypočteno jako extrémně nízké — asi 1 ku třem milionům —, přesto vědci trvali na tom, že bez důkladné analýzy nelze pokus uskutečnit. Podobný přístup by měl být podle Tegmarka samozřejmostí i při vývoji umělé inteligence, zejména pokud jde o tzv. ASI, tedy Artificial Super Intelligence.
Ve své nové studii, kterou vypracoval společně se třemi studenty z MIT, Tegmark zavádí pojem Comptonovy konstanty — pravděpodobnosti, že superinteligentní AI unikne lidské kontrole. A varuje, že podle současných odhadů může být toto riziko až 90procentní. To považuje za naprosto nepřijatelné.
„Firmy, které vyvíjejí superinteligentní AI, musí tento výpočet provést. Nestačí jen říkat, že se cítí bezpečně. Potřebujeme přesná čísla,“ prohlásil Tegmark v rozhovoru pro britský Guardian. Podle něj by odborný konsenzus o míře rizika mohl vytvořit politický tlak na přijetí mezinárodních pravidel pro bezpečný vývoj AI.
Tegmark, profesor fyziky na MIT a spoluzakladatel organizace Future of Life Institute, patří k nejvýraznějším hlasům volajícím po zodpovědném přístupu k vývoji AI. Už v roce 2023 stál u zrodu výzvy k pozastavení vývoje vysoce výkonných AI systémů, která získala přes 33 tisíc podpisů, včetně jmen jako Elon Musk či spoluzakladatel Applu Steve Wozniak. Výzva varovala před „nezvladatelným závodem“ mezi firmami, které se snaží být první v nasazení stále silnějších systémů, jež nikdo plně nechápe ani nedokáže ovládat.
Tegmarkovy výroky přicházejí v době, kdy se v Singapuru konala mezinárodní konference o bezpečnosti AI, které se zúčastnili experti z akademického prostředí, průmyslu i vládních agentur. Výsledkem je tzv. Singapurský konsenzus — nově definovaný soubor priorit, jakým směrem by se měl výzkum v oblasti bezpečnosti umělé inteligence ubírat. Pod dokumentem jsou podepsáni kromě Tegmarka také přední vědec Yoshua Bengio a experti ze společností OpenAI a Google DeepMind.
Konsenzus doporučuje zaměřit výzkum do tří klíčových oblastí: měření vlivu současných i budoucích AI systémů, formulaci žádoucího chování těchto systémů a metod, jak jej zajistit, a také návrhu způsobů řízení a kontroly těchto technologií. Tegmark považuje vznik dokumentu za významný krok vpřed, zvláště po nedávné stagnaci mezinárodní spolupráce.
Právě tato stagnace byla podle něj patrná například na nedávném summitu v Paříži, kde americký viceprezident JD Vance odmítl bezpečnostní obavy jako přehnané a brzdící technologický pokrok. Tegmark však věří, že se mezinárodní dialog nyní opět obnovuje. „Zdá se, že deprese po Paříži je pryč a mezinárodní spolupráce se znovu naplno rozjela,“ uvedl.
Závěrem Tegmark apeluje na vývojáře po celém světě, aby nejen usilovali o vyšší výkon a schopnosti svých systémů, ale aby se zároveň odpovědně zabývali i jejich možnými důsledky. Stejně jako vědci v době atomových pokusů dnes i oni pracují s technologií, která může rozhodnout o budoucnosti celého lidstva.
Oligarchové z éry bývalého maďarského premiéra Viktora Orbána se ocitli pod obrovským tlakem, neboť země směřuje k zavedení zcela nové majetkové daně. Nový předseda vlády Péter Magyar označil tento krok za jasný projev sociální spravedlnosti a solidarity ve fungujícím státě. Podle něj jde o zásadní obrat po dlouhých letech, kdy byla politická loajalita vůči předchozímu režimu systematicky odměňována mimořádnými ekonomickými příležitostmi.
Americký prezident Donald Trump svými politickými kroky dokázal to, co se Paříži a Bruselu nedařilo dlouhé roky. Přesvědčil totiž i ty největší zastánce volného trhu v Evropě, že stoprocentní závislost na amerických technologiích představuje pro kontinent obrovskou zranitelnost. Trumpovy hrozby vůči Grónsku, sankce proti mezinárodním představitelům a ochota využívat závislost Evropy na amerických firmách jako zbraň definitivně zlomily poslední odpor vůči snahám o technologickou nezávislost.
V jižním Libanonu i přes schválení amerického plánu na zavedení částečného příměří ze strany Izraele a Hizballáhu nadále pokračují vzájemné střety. Americký prezident Donald Trump oznámil, že hovořil s oběma stranami konfliktu, které vyjádřily souhlas se zastavením veškeré střelby. Tento vývoj následoval poté, co Írán varoval, že izraelské vojenské operace v Libanonu představují přímou hrozbu pro stávající příměří mezi Spojenými státy a Íránem.
Izraelská armáda v neděli poprvé po šestadvaceti letech dobyla starobylou křižáckou pevnost Beaufort, která se tyčí na strategickém kopci v jižním Libanonu nad řekou Lítání. Postupující vojáky kryla clona z kouře z bílého fosforu, načež nad hradem zavlála izraelská vlajka spolu s vlajkou elitní brigády Golani.
Řidiči na Rusy kontrolovaném Krymu museli v pondělí čelit zavedení přídělového systému na benzin poté, co útoky ukrajinských bezpilotních letounů výrazně omezily silniční dodávky paliva přes jihovýchodní Ukrajinu. Více než čtyři roky od invaze z roku 2022 musí Rusko čelit téměř každodenním ukrajinským úderům na svou ropnou infrastrukturu, přičemž západní sankce mu zároveň prodražují export surové ropy. Moskvou dosazený krymský gubernátor Sergej Aksjonov potvrdil, že úřady zavedly limity na prodej nejběžnějšího benzinu s označením Ai-95 a lidé si jej nyní mohou pořídit pouze na speciální palivové kupony.
Spojené státy americké i Írán dávají v zákulisí najevo, že by se raději nevracely k otevřenému válečnému konfliktu, který je od vyhlášení dubnového příměří formálně pozastaven. Navzdory neustálým vzájemným vojenským úderům ani jedna ze stran nepřerušila diplomatické kanály. Rozhovory, které zprostředkovávají Pákistán, Katar a další země, tak nadále pokračují, i když Washington si v regionu stále udržuje masivní letecké a námořní síly připravené k okamžitému nasazení.
Teherán oficiálně oznámil, že přerušuje veškeré mírové rozhovory se Spojenými státy americkými a jeho vyjednávací tým se stahuje z výměny zpráv prostřednictvím zprostředkovatelů. Podle íránské státní tiskové agentury Tasnim, která je napojená na Revoluční gardy, je obnovení dialogu podmíněno úplným ukončením izraelských vojenských operací v Pásmu Gazy i v Libanonu. Írán tak reaguje na prudkou eskalaci konfliktu na libanonském území, kde izraelská armáda v posledních hodinách výrazně zintenzivnila svou ofenzivu.
Nový maďarský premiér Péter Magyar zahájil bezprostředně po svém sobotním nástupu do funkce otevřené tažení proti lidem spojeným s érou Viktora Orbána. Ve svém prvním projevu v budapešťském parlamentu dal jasně najevo, že patnáctiletá nadvláda minulé garnitury definitivně skončila. Hned v prvních minutách úřadování vyzval k rezignaci prezidenta Tamáse Sulyoka i další Orbánovy věrné, kteří obsadili klíčové soudní a kontrolní orgány v zemi, a stanovil jim ultimátum do 31. května. Podle politických analytiků by se představitelé bývalého režimu měli začít vážně obávat ztráty svého vlivu.
Severoatlantická aliance se snaží urychleně posílit obranu větrného baltského ostrova Gotland, který vojenští plánovači považují za jednu z nejvíce zranitelných a zároveň strategicky nejvýznamnějších frontových linií vůči Rusku. Tento ostrov se nachází ve středu Baltského moře, pouhých 300 kilometrů od silně militarizované ruské enklávy Kaliningrad. Vzhledem k rostoucím obavám z ruské agrese, hybridních útoků a kolísajícího spojenectví ze strany Spojených států závodí Švédsko a jeho partneři s časem, aby z Gotlandu opět vybudovali vojenskou pevnost.
Švédský úřad pro veřejné zdraví vyzval rodiče, aby omezili používání mobilních telefonů v přítomnosti svých dětí a určili části domácnosti, které zůstanou zcela bez digitálních zařízení. Nová doporučení navazují na předchozí výzvy k obecnému zamyšlení nad časem stráveným u obrazovek, nyní však přinášejí konkrétní pravidla pro každodenní život. Úřad dospěl k těmto krokům na základě výzkumu, který si loni na podzim zadala švédská vláda s cílem prozkoumat vliv digitálních návyků dospělých na zdraví dětí.
Americký prezident Donald Trump čelí vážným problémům, které si z velké části způsobil sám. Jeho snaha o prosazení neomezené osobní moci, která v prvním roce po návratu do Bílého domu úspěšně zlomila jakýkoliv odpor, nyní vyvolává silný odpor a prohlubuje politickou zranitelnost celé administrativy. Tento trend se naplno projevuje v aktuálním týdnu, kdy hrozí, že se jeho druhé funkční období zastaví hned na několika frontách současně.
Podvody využívající klonování hlasu pomocí umělé inteligence jsou na vzestupu a podle údajů FBI Američané v loňském roce ztratili kvůli podvodům spojeným s AI celkem 893 milionů dolarů. Tato částka zahrnuje kromě hlasových útoků také podvodné e-maily, románkové podvody a další dezinformační triky.