Max Tegmark, fyzik a přední zastánce bezpečnosti umělé inteligence, přichází s vážným varováním: technologické firmy vyvíjející superinteligentní AI musí začít přistupovat k vyhodnocování rizik stejně zodpovědně, jako to učinili vědci před prvním testem atomové bomby. Jinak podle něj hrozí, že se vývoj vymkne kontrole a lidstvo se ocitne tváří v tvář existenční hrozbě, na kterou nebude připraveno.
Inspirací pro jeho výzvu jsou výpočty fyzika Arthura Comptona z roku 1945. Ten tehdy pomáhal rozhodovat, zda provést první jaderný test Trinity. Fyzikové se tehdy obávali, že by mohlo dojít ke katastrofě v podobě zažehnutí atmosféry, což by znamenalo konec života na Zemi.
Riziko bylo sice vypočteno jako extrémně nízké — asi 1 ku třem milionům —, přesto vědci trvali na tom, že bez důkladné analýzy nelze pokus uskutečnit. Podobný přístup by měl být podle Tegmarka samozřejmostí i při vývoji umělé inteligence, zejména pokud jde o tzv. ASI, tedy Artificial Super Intelligence.
Ve své nové studii, kterou vypracoval společně se třemi studenty z MIT, Tegmark zavádí pojem Comptonovy konstanty — pravděpodobnosti, že superinteligentní AI unikne lidské kontrole. A varuje, že podle současných odhadů může být toto riziko až 90procentní. To považuje za naprosto nepřijatelné.
„Firmy, které vyvíjejí superinteligentní AI, musí tento výpočet provést. Nestačí jen říkat, že se cítí bezpečně. Potřebujeme přesná čísla,“ prohlásil Tegmark v rozhovoru pro britský Guardian. Podle něj by odborný konsenzus o míře rizika mohl vytvořit politický tlak na přijetí mezinárodních pravidel pro bezpečný vývoj AI.
Tegmark, profesor fyziky na MIT a spoluzakladatel organizace Future of Life Institute, patří k nejvýraznějším hlasům volajícím po zodpovědném přístupu k vývoji AI. Už v roce 2023 stál u zrodu výzvy k pozastavení vývoje vysoce výkonných AI systémů, která získala přes 33 tisíc podpisů, včetně jmen jako Elon Musk či spoluzakladatel Applu Steve Wozniak. Výzva varovala před „nezvladatelným závodem“ mezi firmami, které se snaží být první v nasazení stále silnějších systémů, jež nikdo plně nechápe ani nedokáže ovládat.
Tegmarkovy výroky přicházejí v době, kdy se v Singapuru konala mezinárodní konference o bezpečnosti AI, které se zúčastnili experti z akademického prostředí, průmyslu i vládních agentur. Výsledkem je tzv. Singapurský konsenzus — nově definovaný soubor priorit, jakým směrem by se měl výzkum v oblasti bezpečnosti umělé inteligence ubírat. Pod dokumentem jsou podepsáni kromě Tegmarka také přední vědec Yoshua Bengio a experti ze společností OpenAI a Google DeepMind.
Konsenzus doporučuje zaměřit výzkum do tří klíčových oblastí: měření vlivu současných i budoucích AI systémů, formulaci žádoucího chování těchto systémů a metod, jak jej zajistit, a také návrhu způsobů řízení a kontroly těchto technologií. Tegmark považuje vznik dokumentu za významný krok vpřed, zvláště po nedávné stagnaci mezinárodní spolupráce.
Právě tato stagnace byla podle něj patrná například na nedávném summitu v Paříži, kde americký viceprezident JD Vance odmítl bezpečnostní obavy jako přehnané a brzdící technologický pokrok. Tegmark však věří, že se mezinárodní dialog nyní opět obnovuje. „Zdá se, že deprese po Paříži je pryč a mezinárodní spolupráce se znovu naplno rozjela,“ uvedl.
Závěrem Tegmark apeluje na vývojáře po celém světě, aby nejen usilovali o vyšší výkon a schopnosti svých systémů, ale aby se zároveň odpovědně zabývali i jejich možnými důsledky. Stejně jako vědci v době atomových pokusů dnes i oni pracují s technologií, která může rozhodnout o budoucnosti celého lidstva.
Bývalý princ Andrew nadále ztrácí půdu pod nohama v souvislosti s kauzou kolem vazeb na finančníka Jeffreyho Epsteina. Mladší bratr krále Karla III. přišel o další dva tituly, informovala stanice Sky News.
Český šoubyznys přichází o jeden z ostře sledovaných párů. Zdeněk Polívka ve středu zničehonic oznámil, že se rozešel s Lucií Vondráčkovou. Z jeho slov vyplývá, že si výrazně oddechl. Mediální tlak mu totiž nebyl příjemný.
Mnoho Čechů je zvyklých jezdit do práce a cestu trávit ve společnosti Leoše Mareše a Patrika Hezuckého. V posledních dnech se posluchači museli obejít bez druhého jmenovaného, který v nemocnici bojuje s nespecifikovanou nemocí. Dnes je však překvapila i Marešova absence.
Nejen příznivci, ale i někdejší političtí oponenti přáli Miloši Zemanovi uzdravení, když byl v listopadu hospitalizován v jedné z pražských nemocnic. Bývalý prezident zůstává i po propuštění pod dohledem lékařů, ale už si alespoň může dopřát některé věci, které má rád.
Americká skupina identifikovala několik nejasných, ale potenciálně klíčových sankcí. Tvrdí, že by mohly vážně narušit válečné úsilí Ruska na Ukrajině, a to po nedávném zaměření se na největší ropné společnosti Kremlu. Předchozí kola sankcí byla uplatněna na ruské energetické společnosti, banky, vojenské dodavatele a také na „stínovou flotilu“ lodí přepravujících ruskou ropu.
Severokorejský režim nařídil zavedení výuky ruštiny jako povinného předmětu. Odpovídá to stylu, jakým Sovětský svaz a Spojené státy šířily svou moc během studené války. Jejich jazyky se postupně dostávaly do školních osnov a díky tomu se velmocím dařilo prosazovat vliv podstatně nenápadněji a dlouhodoběji, než kdyby to prováděly výhradně fyzickou silou. Ruština sice nadále upadá v celé Evropě, jak se ale zdá, v autoritářských režimech východní Asie ji čeká boom.
Na ranním zasedání v Bruselu projevili ministři zahraničí evropských zemí NATO jen malou trpělivost s Moskvou. Panuje shoda, že ruský prezident Vladimir Putin nejeví známky ochoty ke kompromisu v souvislosti s válkou na Ukrajině.
Plánované setkání mezi ukrajinským prezidentem Volodymyrem Zelenským a delegací Spojených států v Bruselu bylo zrušeno. Delegaci tvořil speciální Trumpův vyslanec Steve Witkoff a Trumpův zeť Jared Kushner, kteří byli na cestě z jednání s Vladimirem Putinem. Zrušení přišlo poté, co se ukrajinský prezident náhle vrátil do Kyjeva, uvedl The Times.
V květnu 2023 udeřil blesk do lesa v Donnie Creek v Britské Kolumbii a stromy začaly hořet. Byl to na lesní požár sice brzký termín, ale suchý podzim a teplé jaro proměnily les v sušinu, a plameny se proto šířily velmi rychle. Do poloviny června se z požáru stal jeden z největších v historii provincie, který spálil rozsáhlou oblast boreálního lesa. V tomto roce shořela v Kanadě rekordní plocha.
Ammar Wadi věděl, že riskuje život, když se v červnu vydal pro pytel mouky pro svou rodinu k nákladnímu autu s pomocí u přechodu Zikim do Gazy. Na domovskou obrazovku svého mobilního telefonu si napsal vzkaz: „Odpusť mi mami, jestli se mi něco stane. Kdokoli najde můj telefon, prosím, řekněte mé rodině, že je moc miluji.“ Uprostřed pravidelné izraelské palby směrem k lidem hledajícím pomoc se Wadi už nikdy nevrátil domů a jeho zpráva byla rodině doručena týdny později nálezcem jeho telefonu. Bylo to to poslední, co o něm slyšeli.
Lobbisté největších světových farmaceutických společností prezentují novou dohodu o cenách ve Spojeném království jako vzor, který by měla následovat i zbylá Evropa. Cílem je zabránit výrobcům léků v odchodu do Ameriky. K radosti prezidenta Donalda Trumpa a lobbistů, britští představitelé souhlasili s 25procentním navýšením výdajů na nové léky výměnou za tříletou úlevu od cel na farmaceutický export do USA. Tento krok přichází v době, kdy velcí výrobci léků, jako jsou AstraZeneca a Merck, ruší projekty ve Spojeném království. Trumpova administrativa navíc využívá hrozby cly, aby přinutila farmaceutické firmy ke zvýšení cen pro Evropany, což by umožnilo jejich snížení pro Američany.
Ještě před summitem OSN COP30 se zdálo, že Čína má zájem převzít roli nového globálního lídra v oblasti klimatických změn. Tím by vyplnila mezeru, kterou zanechal odchod Spojených států z čelní pozice pod vedením Donalda Trumpa. Pro pochopení čínských záměrů v této roli je podle expertů užitečné prozkoumat tři hlavní motivace, které vedou Peking k převzetí vedení, a dvě oblasti, kterým se snaží vyhnout.