Max Tegmark, fyzik a přední zastánce bezpečnosti umělé inteligence, přichází s vážným varováním: technologické firmy vyvíjející superinteligentní AI musí začít přistupovat k vyhodnocování rizik stejně zodpovědně, jako to učinili vědci před prvním testem atomové bomby. Jinak podle něj hrozí, že se vývoj vymkne kontrole a lidstvo se ocitne tváří v tvář existenční hrozbě, na kterou nebude připraveno.
Inspirací pro jeho výzvu jsou výpočty fyzika Arthura Comptona z roku 1945. Ten tehdy pomáhal rozhodovat, zda provést první jaderný test Trinity. Fyzikové se tehdy obávali, že by mohlo dojít ke katastrofě v podobě zažehnutí atmosféry, což by znamenalo konec života na Zemi.
Riziko bylo sice vypočteno jako extrémně nízké — asi 1 ku třem milionům —, přesto vědci trvali na tom, že bez důkladné analýzy nelze pokus uskutečnit. Podobný přístup by měl být podle Tegmarka samozřejmostí i při vývoji umělé inteligence, zejména pokud jde o tzv. ASI, tedy Artificial Super Intelligence.
Ve své nové studii, kterou vypracoval společně se třemi studenty z MIT, Tegmark zavádí pojem Comptonovy konstanty — pravděpodobnosti, že superinteligentní AI unikne lidské kontrole. A varuje, že podle současných odhadů může být toto riziko až 90procentní. To považuje za naprosto nepřijatelné.
„Firmy, které vyvíjejí superinteligentní AI, musí tento výpočet provést. Nestačí jen říkat, že se cítí bezpečně. Potřebujeme přesná čísla,“ prohlásil Tegmark v rozhovoru pro britský Guardian. Podle něj by odborný konsenzus o míře rizika mohl vytvořit politický tlak na přijetí mezinárodních pravidel pro bezpečný vývoj AI.
Tegmark, profesor fyziky na MIT a spoluzakladatel organizace Future of Life Institute, patří k nejvýraznějším hlasům volajícím po zodpovědném přístupu k vývoji AI. Už v roce 2023 stál u zrodu výzvy k pozastavení vývoje vysoce výkonných AI systémů, která získala přes 33 tisíc podpisů, včetně jmen jako Elon Musk či spoluzakladatel Applu Steve Wozniak. Výzva varovala před „nezvladatelným závodem“ mezi firmami, které se snaží být první v nasazení stále silnějších systémů, jež nikdo plně nechápe ani nedokáže ovládat.
Tegmarkovy výroky přicházejí v době, kdy se v Singapuru konala mezinárodní konference o bezpečnosti AI, které se zúčastnili experti z akademického prostředí, průmyslu i vládních agentur. Výsledkem je tzv. Singapurský konsenzus — nově definovaný soubor priorit, jakým směrem by se měl výzkum v oblasti bezpečnosti umělé inteligence ubírat. Pod dokumentem jsou podepsáni kromě Tegmarka také přední vědec Yoshua Bengio a experti ze společností OpenAI a Google DeepMind.
Konsenzus doporučuje zaměřit výzkum do tří klíčových oblastí: měření vlivu současných i budoucích AI systémů, formulaci žádoucího chování těchto systémů a metod, jak jej zajistit, a také návrhu způsobů řízení a kontroly těchto technologií. Tegmark považuje vznik dokumentu za významný krok vpřed, zvláště po nedávné stagnaci mezinárodní spolupráce.
Právě tato stagnace byla podle něj patrná například na nedávném summitu v Paříži, kde americký viceprezident JD Vance odmítl bezpečnostní obavy jako přehnané a brzdící technologický pokrok. Tegmark však věří, že se mezinárodní dialog nyní opět obnovuje. „Zdá se, že deprese po Paříži je pryč a mezinárodní spolupráce se znovu naplno rozjela,“ uvedl.
Závěrem Tegmark apeluje na vývojáře po celém světě, aby nejen usilovali o vyšší výkon a schopnosti svých systémů, ale aby se zároveň odpovědně zabývali i jejich možnými důsledky. Stejně jako vědci v době atomových pokusů dnes i oni pracují s technologií, která může rozhodnout o budoucnosti celého lidstva.
V mrazivých podmínkách, které aktuálně sužují Pásmo Gazy, zemřelo v sobotu teprve 27denní nemluvně na následky těžkého podchlazení. Malá Aisha Ayesh al-Agha se stala již osmým dítětem, které v této oblasti během letošní zimy podlehlo extrémně nízkým teplotám. Přestože byla okamžitě převezena do nemocnice Nasser v Chán Júnisu, lékaři jí již nedokázali pomoci.
Íránský nejvyšší duchovní vůdce, ajatolláh Alí Chameneí, poprvé veřejně přiznal, že si vlna protestů z posledních dvou týdnů vyžádala tisíce lidských životů. Ve svém čtvrtečním projevu potvrdil masové ztráty na životech a dodal, že někteří lidé zemřeli „nehumánním a barbarským způsobem“. Z odpovědnosti za krveprolití však obvinil Spojené státy a amerického prezidenta Donalda Trumpa označil za zločince kvůli jeho otevřené podpoře demonstrantů.
Donald Trump ohlásil zavedení nových cel zaměřených na evropské spojence, kterými chce Dánsko donutit k prodeji tohoto autonomního území. Podle prezidenta jde o logický krok, protože USA údajně Evropu dlouhodobě finančně dotovaly a nyní je čas, aby Dánsko tento „dluh“ vyrovnalo právě postoupením Arktidy.
Pražský sjezd ODS zažil moment, o kterém se v kuloárech šeptalo už od samého začátku. Původně ohlášený souboj o post prvního místopředsedy mezi senátorem Martinem Červíčkem a starostou Tomášem Portlíkem se nakonec nekonal. Červíček totiž přímo na pódiu ukončil svou kandidaturu a vyzval přítomné, aby svůj hlas dali právě Portlíkovi, kterého vidí jako budoucího primátora Prahy.
Sergej Karaganov, vlivný ruský politolog a šéf Rady pro zahraniční a obrannou politiku, v nedávném rozhovoru s americkým komentátorem Tuckerem Carlsonem otevřeně pohrozil zničením Velké Británie a kontinentální Evropy. Podle Karaganova je použití jaderných zbraní reálnou možností, pokud by Rusko mělo v konfliktu na Ukrajině čelit porážce.
Piráti si na svém Celostátním fóru v Prachaticích zvolili staronového lídra. Zdeněk Hřib v sobotním hlasování suverénně obhájil svůj mandát a stranu povede i v následujícím dvouletém období. Úspěch oslavil hned v úvodním kole, kdy získal 469 hlasů od celkem 611 přítomných straníků. Jeho soupeř David Witosz po oznámení výsledků Hřibovi poblahopřál a vyzdvihl, že strana zůstává otevřeným a demokratickým prostředím.
Pirátská strana dokončila na sjezdu v Prachaticích obměnu svého nejužšího vedení. K potvrzenému předsedovi Zdeňku Hřibovi se připojila čtveřice místopředsedů, které vybrali delegáti Celostátního fóra. Pozici prvního místopředsedy obhájil poslanec Martin Šmída, následovaný nově zvolenou poslankyní Kateřinou Stojanovou. Vedení doplnili také investor Jiří Hlavenka a šéfka poslaneckého klubu Olga Richterová.
Novým předsedou ODS se stal Martin Kupka, který v Praze přesvědčivě porazil svého protikandidáta Radima Ivana poměrem 327 ku 138 hlasům. Dosavadní šéf Petr Fiala, pod jehož vedením se strana vrátila do vládních pozic, vyjádřil Kupkovi plnou podporu a označil ho za ideálního lídra pro nadcházející období.
Íránský režim se podle informací digitálních aktivistů a organizací monitorujících cenzuru připravuje k bezprecedentnímu kroku. Plánuje se totiž trvale odpojit od globálního internetu a nahradit jej uzavřenou vnitrostátní sítí. Přístup ke světovému webu by se tak stal výhradně „státním privilegiem“, které by bylo dostupné pouze prověřeným osobám s vysokou bezpečnostní prověrkou, zatímco zbytek populace by zůstal uvězněn v izolovaném digitálním prostoru.
Administrativa amerického prezidenta Donalda Trumpa oznámila složení nově vznikající „Rady míru“ (Board of Peace), která má dohlížet na budoucnost a rekonstrukci Pásma Gazy. Mezi zakládajícími členy tohoto prestižního orgánu figurují zvučná jména světové diplomacie i byznysu. Vedle amerického ministra zahraničí Marca Rubia usedne v radě také bývalý britský premiér Sir Tony Blair, jehož zapojení budí značnou pozornost vzhledem k jeho dřívější roli zmocněnce pro Blízký východ i kontroverzím spojeným s válkou v Iráku.
Generální tajemník OSN António Guterres dnes v Londýně přednese zásadní projev u příležitosti 80. výročí založení Organizace spojených národů. V historických prostorách Methodist Central Hall, kde se v roce 1946 konalo vůbec první Valné shromáždění, varuje před „mocnými silami“, které se snaží podkopat mezinárodní spolupráci. Jeho apel na dodržování mezinárodního práva přichází v době hluboké nejistoty, kterou umocňují drastické rozpočtové škrty ze strany Spojených států pod vedením prezidenta Donalda Trumpa.
Americký prezident Donald Trump vyvolal další vlnu mezinárodního napětí svým prohlášením, že zvažuje uvalení nových cel na země, které se postaví proti jeho plánu na ovládnutí Grónska. Během pátečního vystoupení v Bílém domě označil kontrolu nad tímto největším ostrovem světa za nezbytnou pro národní bezpečnost Spojených států.