Max Tegmark, fyzik a přední zastánce bezpečnosti umělé inteligence, přichází s vážným varováním: technologické firmy vyvíjející superinteligentní AI musí začít přistupovat k vyhodnocování rizik stejně zodpovědně, jako to učinili vědci před prvním testem atomové bomby. Jinak podle něj hrozí, že se vývoj vymkne kontrole a lidstvo se ocitne tváří v tvář existenční hrozbě, na kterou nebude připraveno.
Inspirací pro jeho výzvu jsou výpočty fyzika Arthura Comptona z roku 1945. Ten tehdy pomáhal rozhodovat, zda provést první jaderný test Trinity. Fyzikové se tehdy obávali, že by mohlo dojít ke katastrofě v podobě zažehnutí atmosféry, což by znamenalo konec života na Zemi.
Riziko bylo sice vypočteno jako extrémně nízké — asi 1 ku třem milionům —, přesto vědci trvali na tom, že bez důkladné analýzy nelze pokus uskutečnit. Podobný přístup by měl být podle Tegmarka samozřejmostí i při vývoji umělé inteligence, zejména pokud jde o tzv. ASI, tedy Artificial Super Intelligence.
Ve své nové studii, kterou vypracoval společně se třemi studenty z MIT, Tegmark zavádí pojem Comptonovy konstanty — pravděpodobnosti, že superinteligentní AI unikne lidské kontrole. A varuje, že podle současných odhadů může být toto riziko až 90procentní. To považuje za naprosto nepřijatelné.
„Firmy, které vyvíjejí superinteligentní AI, musí tento výpočet provést. Nestačí jen říkat, že se cítí bezpečně. Potřebujeme přesná čísla,“ prohlásil Tegmark v rozhovoru pro britský Guardian. Podle něj by odborný konsenzus o míře rizika mohl vytvořit politický tlak na přijetí mezinárodních pravidel pro bezpečný vývoj AI.
Tegmark, profesor fyziky na MIT a spoluzakladatel organizace Future of Life Institute, patří k nejvýraznějším hlasům volajícím po zodpovědném přístupu k vývoji AI. Už v roce 2023 stál u zrodu výzvy k pozastavení vývoje vysoce výkonných AI systémů, která získala přes 33 tisíc podpisů, včetně jmen jako Elon Musk či spoluzakladatel Applu Steve Wozniak. Výzva varovala před „nezvladatelným závodem“ mezi firmami, které se snaží být první v nasazení stále silnějších systémů, jež nikdo plně nechápe ani nedokáže ovládat.
Tegmarkovy výroky přicházejí v době, kdy se v Singapuru konala mezinárodní konference o bezpečnosti AI, které se zúčastnili experti z akademického prostředí, průmyslu i vládních agentur. Výsledkem je tzv. Singapurský konsenzus — nově definovaný soubor priorit, jakým směrem by se měl výzkum v oblasti bezpečnosti umělé inteligence ubírat. Pod dokumentem jsou podepsáni kromě Tegmarka také přední vědec Yoshua Bengio a experti ze společností OpenAI a Google DeepMind.
Konsenzus doporučuje zaměřit výzkum do tří klíčových oblastí: měření vlivu současných i budoucích AI systémů, formulaci žádoucího chování těchto systémů a metod, jak jej zajistit, a také návrhu způsobů řízení a kontroly těchto technologií. Tegmark považuje vznik dokumentu za významný krok vpřed, zvláště po nedávné stagnaci mezinárodní spolupráce.
Právě tato stagnace byla podle něj patrná například na nedávném summitu v Paříži, kde americký viceprezident JD Vance odmítl bezpečnostní obavy jako přehnané a brzdící technologický pokrok. Tegmark však věří, že se mezinárodní dialog nyní opět obnovuje. „Zdá se, že deprese po Paříži je pryč a mezinárodní spolupráce se znovu naplno rozjela,“ uvedl.
Závěrem Tegmark apeluje na vývojáře po celém světě, aby nejen usilovali o vyšší výkon a schopnosti svých systémů, ale aby se zároveň odpovědně zabývali i jejich možnými důsledky. Stejně jako vědci v době atomových pokusů dnes i oni pracují s technologií, která může rozhodnout o budoucnosti celého lidstva.
Rusko obvinilo Ukrajinu z provedení rozsáhlého útoku na ropnou rafinérii v Rjazanské oblasti. Incident se odehrál krátce poté, co ukrajinský prezident Volodymyr Zelenskyj oznámil, že Kyjev hodlá obnovit údery na ruská energetická zařízení. Ukrajinská strana tak reaguje na pokračující ruské bombardování kritické infrastruktury, které navzdory navrhovanému příměří neustalo.
Vědci dlouho předpokládali, že plasty jsou chemicky inertní a samy o sobě nereagují s okolním prostředím. Nová laboratorní studie z Kolumbijské univerzity a Kalifornské univerzity v Berkeley však přináší překvapivé zjištění. Ukázalo se, že mikroskopické kousky plastů přicházející do styku s vodou spontánně vytvářejí vysoce reaktivní molekuly. Tyto volné radikály mohou představovat dosud neznámý mechanismus, kterým mikroplasty škodí lidskému zdraví.
Indonésie čelí nejhorší sezóně lesních požárů za více než deset let, přičemž od ledna shořelo téměř 900 tisíc hektarů půdy. Tuto krizi ještě zhoršil silný fenomén El-Nino a přetrvávající praxe vypalování půdy kvůli pěstování plodin, jako je palmový olej. Vláda proto zvolila neobvyklý krok a jako nový pokus v boji proti rozsáhlému kouři testuje použití suchého ledu.
Brazilský kongres schválil ústavní změnu zkracující maximální pracovní týden na 40 hodin. Tento krok představuje významné politické vítězství pro levicového prezidenta Luize Inácia Lulu da Silvu před nadcházejícím druhým kolem voleb. Reforma celkově zakazuje vyčerpávající šestidenní pracovní týdny a dotkne se zhruba třiceti milionů pracovníků.
Ukrajinský prezident Volodymyr Zelenskyj obvinil společnost SpaceX z úmyslného omezení satelitního internetu Starlink během rozsáhlých ruských útoků. Uvedl, že výpadky nebyly způsobeny technickou chybou, ale šlo o záměrné rozhodnutí. Tyto restrikce vážně ohrozily schopnost Ukrajiny bránit své civilní obyvatelstvo a kritickou infrastrukturu.
Izrael odmítá povolit realizaci klíčového projektu vojenské základny v Gaze, kterou má na starosti Rada míru amerického prezidenta Donalda Trumpa. Projekt počítá s vytvořením zázemí pro mezinárodní jednotky, avšak vstup stavebních firem a nákladních vozidel do oblasti je momentálně zablokován. Izraelská vláda ani armáda se podle The Guardian k celé situaci odmítly vyjádřit.
Civilní oběti na Ukrajině v posledních dnech prudce rostou, protože zhoršující se počasí provázejí stále ničivější ruské nálety na klíčovou energetickou infrastrukturu. Situaci v zemi navíc zkomplikovalo náhlé omezení satelitního internetu Starlink, které vážně ochromuje ukrajinskou protivzdušnou obranu. Kyjev se tak ocitá pod dvojím tlakem v podobě stupňujícího se vojenského nebezpečí a rostoucího politického napětí se západními spojenci.
Ukrajinský prezident Volodymyr Zelenskyj obvinil společnost SpaceX z náhlého omezení přístupu k vojenské verzi satelitního internetu Starshield. Tento krok podle něj vážně ochromil ukrajinské operace s bezpilotními prostředky i klíčovou protivzdušnou obranu země. Omezení přišlo bez předchozího varování a vyvolalo ostrou diplomatickou krizi ve vztazích mezi Kyjevem a Washingtonem.
Vláda Grónska se ohradila proti vyjádření amerického prezidenta Donalda Trumpa, který nedávno tvrdil, že v tomto arktickém teritoriu brzy začne masivní těžba ropy, plynů a nerostů. Náměstek grónského ministra hornictví sice potvrdil určité aktivity amerických společností, avšak současně zdůraznil, že od rozsáhlé těžby je oblast ještě velmi daleko. Reakce autonomní správy tak uvádí na pravou míru nedávná politická prohlášení z Washingtonu.
Izolovaná Severní Korea má k dispozici nové moderní silniční spojení se svým hlavním obchodním partnerem a blízkým spojencem, kterým je Čína. Slavnostní otevření dlouho odkládaného mostu přes hraniční řeku Ja-lu ve čtvrtek přilákalo pozornost mezinárodních pozorovatelů. Čtyřproudová dálniční komunikace propojuje čínské pohraniční město Tan-tung se severokorejským městem Sin-idžu a má podpořit vzájemnou ekonomickou výměnu.
Ukrajinský prezident Volodymyr Zelenskyj v rozhovoru pro britský list Financial Times oznámil, že Ukrajina brzy obnoví útoky na ruské ropné rafinérie. Tímto krokem reaguje na sílící napětí ve vztazích s Washingtonem a na podle něj nebezpečné omezování amerických zpravodajských informací. Vztahy mezi Kyjevem a americkou administrativou v čele s prezidentem Donaldem Trumpem se tak dále vyostřují.
V posledních čtyřiadvaceti hodinách došlo v oblasti Hormuzského průlivu k potopení dvou nákladních lodí po zásahu neznámými střelami. Tyto incidenty představují vážnou eskalaci napětí a výrazné zvýšení nebezpečí pro mezinárodní námořní dopravu. Írán v posledních týdnech vystupňoval své útoky s cílem znovu získat kontrolu nad touto klíčovou strategickou vodní cestou.