Jeden z průkopníků umělé inteligence, profesor Yoshua Bengio, se obává, že současný vývoj AI směřuje k nebezpečným důsledkům. Proto spustil nový projekt, který má přinést zásadní změnu: vytvořit „čestnou“ a bezpečnější alternativu ke stávajícím systémům. Učinil tak ve chvíli, kdy FBI oznámila, že pachatelé nedávného bombového útoku na kliniku v Kalifornii použili k získání návodu na výrobu výbušniny právě AI.
Incident znovu poukázal na „divoký západ“, ve kterém se vývoj AI nyní nachází. Firmy soutěží v rychlosti, zábavnosti i výkonu svých systémů a bezpečnost často ustupuje do pozadí. Podle Bengia je čas na zásadní změnu.
Profesor Bengio, držitel Turingovy ceny (spolu s Geoffreym Hintonem a Yannem LeCunem), nyní prostřednictvím neziskové organizace LawZero pracuje na vývoji modelu „Scientist AI“. Jeho cílem je vytvořit systém, který nebude klamat, bude navržen s důrazem na bezpečnost a dokáže čelit rizikům, která mohou plynout z jiných, méně spolehlivých AI.
Na rozdíl od současných jazykových modelů má „Scientist AI“ dvě klíčové schopnosti, a sice vyjadřování míry důvěry ve své odpovědi – tedy umět říci „nejsem si jistý“, a vysvětlování svého uvažování – čímž se zlepší dohled a ověřitelnost závěrů, které AI produkuje.
Tyto schopnosti byly běžné u starších modelů, ale s rozmachem moderních systémů šla vysvětlitelnost stranou ve prospěch rychlosti a výpočetního výkonu.
Bengio plánuje využít Scientist AI také jako „hlídače“ jiných, potenciálně nebezpečných AI systémů. Lidský dohled nestačí – AI modely, jako je ChatGPT, obsluhují denně více než miliardu požadavků. Monitorovat je zvládne jedině jiná AI.
Dalším zásadním vylepšením má být tzv. world model – základní chápání reality. Podobně jako lidé činí rozhodnutí na základě zkušeností a znalostí, AI potřebuje chápat reálný svět, aby fungovala správně.
Bez něj dnešní modely selhávají i v jednoduchých úlohách: například při kreslení rukou, kde zvládnou vzhled, ale ne realistický pohyb, nebo při hraní šachů, kde jazykové modely občas porušují pravidla, zatímco starší šachové AI poráží i mistry světa.
Bengio a jeho tým se nachází na správné cestě, ale jejich rozpočet – 30 milionů dolarů – je jen zlomkem toho, co mají k dispozici velké korporace. Například americký prezident Donald Trump letos oznámil masivní vládní investici 500 miliard dolarů do AI.
Navíc většina potřebných dat, bez nichž se žádná výkonná AI neobejde, zůstává pod kontrolou technologických gigantů.
Zůstává také zásadní otázka: i pokud Scientist AI bude fungovat přesně podle Bengiova plánu – jakým způsobem bude schopna zastavit či omezit nebezpečné systémy, které již jsou v provozu?
Navzdory překážkám může tento projekt změnit přístup vývojářů i tvůrců legislativy k bezpečnosti AI. Mohl by nastavit nové standardy, které vývojáře přimějí k odpovědnějšímu přístupu.
Jak uvádí server The Conversation, kdyby podobná opatření vznikla v počátcích éry sociálních sítí, mohli jsme dnes mít bezpečnější online prostředí. A možná, kdyby už Scientist AI fungoval, mohl zabránit i zneužití AI při útoku na kliniku v Kalifornii.
Oligarchové z éry bývalého maďarského premiéra Viktora Orbána se ocitli pod obrovským tlakem, neboť země směřuje k zavedení zcela nové majetkové daně. Nový předseda vlády Péter Magyar označil tento krok za jasný projev sociální spravedlnosti a solidarity ve fungujícím státě. Podle něj jde o zásadní obrat po dlouhých letech, kdy byla politická loajalita vůči předchozímu režimu systematicky odměňována mimořádnými ekonomickými příležitostmi.
Americký prezident Donald Trump svými politickými kroky dokázal to, co se Paříži a Bruselu nedařilo dlouhé roky. Přesvědčil totiž i ty největší zastánce volného trhu v Evropě, že stoprocentní závislost na amerických technologiích představuje pro kontinent obrovskou zranitelnost. Trumpovy hrozby vůči Grónsku, sankce proti mezinárodním představitelům a ochota využívat závislost Evropy na amerických firmách jako zbraň definitivně zlomily poslední odpor vůči snahám o technologickou nezávislost.
V jižním Libanonu i přes schválení amerického plánu na zavedení částečného příměří ze strany Izraele a Hizballáhu nadále pokračují vzájemné střety. Americký prezident Donald Trump oznámil, že hovořil s oběma stranami konfliktu, které vyjádřily souhlas se zastavením veškeré střelby. Tento vývoj následoval poté, co Írán varoval, že izraelské vojenské operace v Libanonu představují přímou hrozbu pro stávající příměří mezi Spojenými státy a Íránem.
Izraelská armáda v neděli poprvé po šestadvaceti letech dobyla starobylou křižáckou pevnost Beaufort, která se tyčí na strategickém kopci v jižním Libanonu nad řekou Lítání. Postupující vojáky kryla clona z kouře z bílého fosforu, načež nad hradem zavlála izraelská vlajka spolu s vlajkou elitní brigády Golani.
Řidiči na Rusy kontrolovaném Krymu museli v pondělí čelit zavedení přídělového systému na benzin poté, co útoky ukrajinských bezpilotních letounů výrazně omezily silniční dodávky paliva přes jihovýchodní Ukrajinu. Více než čtyři roky od invaze z roku 2022 musí Rusko čelit téměř každodenním ukrajinským úderům na svou ropnou infrastrukturu, přičemž západní sankce mu zároveň prodražují export surové ropy. Moskvou dosazený krymský gubernátor Sergej Aksjonov potvrdil, že úřady zavedly limity na prodej nejběžnějšího benzinu s označením Ai-95 a lidé si jej nyní mohou pořídit pouze na speciální palivové kupony.
Spojené státy americké i Írán dávají v zákulisí najevo, že by se raději nevracely k otevřenému válečnému konfliktu, který je od vyhlášení dubnového příměří formálně pozastaven. Navzdory neustálým vzájemným vojenským úderům ani jedna ze stran nepřerušila diplomatické kanály. Rozhovory, které zprostředkovávají Pákistán, Katar a další země, tak nadále pokračují, i když Washington si v regionu stále udržuje masivní letecké a námořní síly připravené k okamžitému nasazení.
Teherán oficiálně oznámil, že přerušuje veškeré mírové rozhovory se Spojenými státy americkými a jeho vyjednávací tým se stahuje z výměny zpráv prostřednictvím zprostředkovatelů. Podle íránské státní tiskové agentury Tasnim, která je napojená na Revoluční gardy, je obnovení dialogu podmíněno úplným ukončením izraelských vojenských operací v Pásmu Gazy i v Libanonu. Írán tak reaguje na prudkou eskalaci konfliktu na libanonském území, kde izraelská armáda v posledních hodinách výrazně zintenzivnila svou ofenzivu.
Nový maďarský premiér Péter Magyar zahájil bezprostředně po svém sobotním nástupu do funkce otevřené tažení proti lidem spojeným s érou Viktora Orbána. Ve svém prvním projevu v budapešťském parlamentu dal jasně najevo, že patnáctiletá nadvláda minulé garnitury definitivně skončila. Hned v prvních minutách úřadování vyzval k rezignaci prezidenta Tamáse Sulyoka i další Orbánovy věrné, kteří obsadili klíčové soudní a kontrolní orgány v zemi, a stanovil jim ultimátum do 31. května. Podle politických analytiků by se představitelé bývalého režimu měli začít vážně obávat ztráty svého vlivu.
Severoatlantická aliance se snaží urychleně posílit obranu větrného baltského ostrova Gotland, který vojenští plánovači považují za jednu z nejvíce zranitelných a zároveň strategicky nejvýznamnějších frontových linií vůči Rusku. Tento ostrov se nachází ve středu Baltského moře, pouhých 300 kilometrů od silně militarizované ruské enklávy Kaliningrad. Vzhledem k rostoucím obavám z ruské agrese, hybridních útoků a kolísajícího spojenectví ze strany Spojených států závodí Švédsko a jeho partneři s časem, aby z Gotlandu opět vybudovali vojenskou pevnost.
Švédský úřad pro veřejné zdraví vyzval rodiče, aby omezili používání mobilních telefonů v přítomnosti svých dětí a určili části domácnosti, které zůstanou zcela bez digitálních zařízení. Nová doporučení navazují na předchozí výzvy k obecnému zamyšlení nad časem stráveným u obrazovek, nyní však přinášejí konkrétní pravidla pro každodenní život. Úřad dospěl k těmto krokům na základě výzkumu, který si loni na podzim zadala švédská vláda s cílem prozkoumat vliv digitálních návyků dospělých na zdraví dětí.
Americký prezident Donald Trump čelí vážným problémům, které si z velké části způsobil sám. Jeho snaha o prosazení neomezené osobní moci, která v prvním roce po návratu do Bílého domu úspěšně zlomila jakýkoliv odpor, nyní vyvolává silný odpor a prohlubuje politickou zranitelnost celé administrativy. Tento trend se naplno projevuje v aktuálním týdnu, kdy hrozí, že se jeho druhé funkční období zastaví hned na několika frontách současně.
Podvody využívající klonování hlasu pomocí umělé inteligence jsou na vzestupu a podle údajů FBI Američané v loňském roce ztratili kvůli podvodům spojeným s AI celkem 893 milionů dolarů. Tato částka zahrnuje kromě hlasových útoků také podvodné e-maily, románkové podvody a další dezinformační triky.