Jeden z průkopníků umělé inteligence, profesor Yoshua Bengio, se obává, že současný vývoj AI směřuje k nebezpečným důsledkům. Proto spustil nový projekt, který má přinést zásadní změnu: vytvořit „čestnou“ a bezpečnější alternativu ke stávajícím systémům. Učinil tak ve chvíli, kdy FBI oznámila, že pachatelé nedávného bombového útoku na kliniku v Kalifornii použili k získání návodu na výrobu výbušniny právě AI.
Incident znovu poukázal na „divoký západ“, ve kterém se vývoj AI nyní nachází. Firmy soutěží v rychlosti, zábavnosti i výkonu svých systémů a bezpečnost často ustupuje do pozadí. Podle Bengia je čas na zásadní změnu.
Profesor Bengio, držitel Turingovy ceny (spolu s Geoffreym Hintonem a Yannem LeCunem), nyní prostřednictvím neziskové organizace LawZero pracuje na vývoji modelu „Scientist AI“. Jeho cílem je vytvořit systém, který nebude klamat, bude navržen s důrazem na bezpečnost a dokáže čelit rizikům, která mohou plynout z jiných, méně spolehlivých AI.
Na rozdíl od současných jazykových modelů má „Scientist AI“ dvě klíčové schopnosti, a sice vyjadřování míry důvěry ve své odpovědi – tedy umět říci „nejsem si jistý“, a vysvětlování svého uvažování – čímž se zlepší dohled a ověřitelnost závěrů, které AI produkuje.
Tyto schopnosti byly běžné u starších modelů, ale s rozmachem moderních systémů šla vysvětlitelnost stranou ve prospěch rychlosti a výpočetního výkonu.
Bengio plánuje využít Scientist AI také jako „hlídače“ jiných, potenciálně nebezpečných AI systémů. Lidský dohled nestačí – AI modely, jako je ChatGPT, obsluhují denně více než miliardu požadavků. Monitorovat je zvládne jedině jiná AI.
Dalším zásadním vylepšením má být tzv. world model – základní chápání reality. Podobně jako lidé činí rozhodnutí na základě zkušeností a znalostí, AI potřebuje chápat reálný svět, aby fungovala správně.
Bez něj dnešní modely selhávají i v jednoduchých úlohách: například při kreslení rukou, kde zvládnou vzhled, ale ne realistický pohyb, nebo při hraní šachů, kde jazykové modely občas porušují pravidla, zatímco starší šachové AI poráží i mistry světa.
Bengio a jeho tým se nachází na správné cestě, ale jejich rozpočet – 30 milionů dolarů – je jen zlomkem toho, co mají k dispozici velké korporace. Například americký prezident Donald Trump letos oznámil masivní vládní investici 500 miliard dolarů do AI.
Navíc většina potřebných dat, bez nichž se žádná výkonná AI neobejde, zůstává pod kontrolou technologických gigantů.
Zůstává také zásadní otázka: i pokud Scientist AI bude fungovat přesně podle Bengiova plánu – jakým způsobem bude schopna zastavit či omezit nebezpečné systémy, které již jsou v provozu?
Navzdory překážkám může tento projekt změnit přístup vývojářů i tvůrců legislativy k bezpečnosti AI. Mohl by nastavit nové standardy, které vývojáře přimějí k odpovědnějšímu přístupu.
Jak uvádí server The Conversation, kdyby podobná opatření vznikla v počátcích éry sociálních sítí, mohli jsme dnes mít bezpečnější online prostředí. A možná, kdyby už Scientist AI fungoval, mohl zabránit i zneužití AI při útoku na kliniku v Kalifornii.
Výbor OSN pro odstranění rasové diskriminace dospěl k závěru, že jednotlivé státy mají právní povinnost zabývat se reparacemi za transatlantický obchod s otroky. Podle nově zveřejněného doporučení musejí vlády přijmout rozsáhlá opatření k řešení přetrvávajících následků rasové diskriminace. Tento krok představuje podle výboru zásadní posun v dosavadním nahlížení na historickou odpovědnost jednotlivých zemí. Stávající dopady historického zotročování totiž nelze v dnešní společnosti nadále přehlížet.
Při izraelském leteckém úderu v Pásmu Gazy zahynuli dva lidé a několik dalších utrpělo zranění. Útok zasáhl dav lidí nacházející se v blízkosti městského parku v Gaze. Zasažená oblast byla v té době hustě zalidněna rodinami, které musely kvůli vojenským operacím opustit své domovy. Zdravotníci na místě poskytli pomoc zraněným a transportovali je do nemocnic.
Zahraniční politika prezidenta Donalda Trumpa je od počátku postavena na předpokladu, že síla a velikost Spojených států přinutí spojence i protivníky podvolit se vůli Washingtonu. Tento přístup, vzdalující se tradiční americké diplomatické doktríně, popsal pro CNN poradce Stephen Miller jako svět řízený neúprosnými zákony síly a moci. Současná krize však ukazuje, že tato teorie naráží na své limity. USA se totiž dostaly do hlubokého střetu na dvou frontách zároveň, a to s Íránem a Kanadou.
Španělský premiér Pedro Sánchez prohlásil, že neexistují žádné důkazy o zapojení marocké vlády do nedávného masivního překročení hranic v severoafrické enklávě Ceuta. Podle předsedy vlády nevycházejí žádná podezření ze zpráv zpravodajských služeb, které by naznačovaly odpovědnost oficiálních míst v Rabatu.
Turkmenistán začal opravovat rozsáhlé úniky metanu, které dlouhodobě unikaly ze starých ropných a plynových zařízení na jeho území. Vyplývá to z nejnovějších dat Organizace spojených národů, která tento krok označila za významný průlom. Autoritářský stát k nápravě přistoupil poté, co mezinárodní odhalení poukázala na extrémní míru znečištění v zemi. Místní úřady navázaly spolupráci se zahraničními partnery a zahájily opravy poškozené infrastruktury.
Německá politická scéna čelí výraznému tlaku před nadcházejícími zemskými volbami v Sasku-Anhaltsku, kde má šanci na historický úspěch krajně pravicová strana Alternativa pro Německo. Týdeník Der Spiegel označil lídra tamní kandidátky Ulricha Siegmunda za nejnebezpečnějšího muže v zemi. Reakce jeho příznivců na sebe nenechala dlouho čekat a výtisky časopisu ve velkém skupovali, aby jim je politik mohl osobním podpisem potvrdit. Nadcházející hlasování v této spolkové zemi přitom může mít zásadní dopad nejen na celostátní politiku, ale i na širší evropský region.
Americký prezident Donald Trump prohlásil, že Spojené státy neplánují žádná jednání s Íránem, a zároveň zdůraznil, že Hormuzský průliv zůstává otevřený a funkční. Reagoval tak na situaci v klíčové námořní cestě, kde v posledních dnech výrazně poklesl provoz a došlo k dalším vojenským incidentům. Šéf Bílého domu trvá na tom, že americká blokáda íránských přístavů zůstává v plné platnosti a účinnosti. Všechny námořní miny byly podle jeho slov z mezinárodních vod úspěšně odstraněny, díky čemuž je námořní doprava volná.
Vztahy mezi Ukrajinou a Izraelem vstupují do období opatrného sbližování. Izraelský premiér Benjamin Netanjahu oslovil přímo ukrajinského prezidenta Volodymyra Zelenského v dopise u příležitosti ukrajinského Dne nezávislosti. V textu ocenil odhodlání Ukrajinců a označil Írán za společnou hrozbu pro obě země. Kyjev tento krok přivítal a vyjádřil naději v produktivní bezpečnostní spolupráci.
Americké síly podnikly útok na íránská odpalovací zařízení v Hormuzském průlivu, což vyvolalo okamžitou odvetu Teheránu proti vojenským základnám v Jordánsku a Spojených arabských emirátech. Jedná se o první otevřené vojenské střety mezi oběma stranami po více než měsíci relativního klidu. Americká strana uvedla, že operace na ostrově Lárak měla zabránit nakládání a zaminování klíčové námořní trasy. Situace v regionu se tím opět prudce vyostřila a hrozí dalším rozšířením bojových operací.
Skupina izraelských osadníků vnikla do palestinské vesnice Kusra na okupovaném Západním břehu a obsadila obytný dům i s jeho majitelem uvnitř. Přestože armáda na místě zaznamenala desítky výtržníků, úřady do nedělního večera neoznámily žádná zatčení. Útok v Kusře představuje další ze série výpadů, které v této oblasti v posledním období eskalují. K incidentu došlo v odpoledních hodinách, kdy dav osadníků začal obkličovat soukromé pozemky.
Severoatlantická aliance plánuje posílit bezpečnost své východní hranice vybudováním rozsáhlé sítě bezpilotních letounů, senzorů a systémů umělé inteligence. Tato technologie má sloužit k včasnému odhalení a případnému odrazení potenciálního ruského útoku.
Ukrajinská společnost Fire Point dokončuje vývoj své první balistické střely, která by měla být připravena k nasazení během letošního podzimu, uvedla podle webu Politico generální a technická ředitelka firmy Iryna Terechová. Vývoj vlastní balistické zbraně představuje pro Kyjev klíčový krok v reakci na sílící intenzitu ruských raketových útoků a hrozící nedostatek zahraničních obranných systémů.