Jeden z průkopníků umělé inteligence, profesor Yoshua Bengio, se obává, že současný vývoj AI směřuje k nebezpečným důsledkům. Proto spustil nový projekt, který má přinést zásadní změnu: vytvořit „čestnou“ a bezpečnější alternativu ke stávajícím systémům. Učinil tak ve chvíli, kdy FBI oznámila, že pachatelé nedávného bombového útoku na kliniku v Kalifornii použili k získání návodu na výrobu výbušniny právě AI.
Incident znovu poukázal na „divoký západ“, ve kterém se vývoj AI nyní nachází. Firmy soutěží v rychlosti, zábavnosti i výkonu svých systémů a bezpečnost často ustupuje do pozadí. Podle Bengia je čas na zásadní změnu.
Profesor Bengio, držitel Turingovy ceny (spolu s Geoffreym Hintonem a Yannem LeCunem), nyní prostřednictvím neziskové organizace LawZero pracuje na vývoji modelu „Scientist AI“. Jeho cílem je vytvořit systém, který nebude klamat, bude navržen s důrazem na bezpečnost a dokáže čelit rizikům, která mohou plynout z jiných, méně spolehlivých AI.
Na rozdíl od současných jazykových modelů má „Scientist AI“ dvě klíčové schopnosti, a sice vyjadřování míry důvěry ve své odpovědi – tedy umět říci „nejsem si jistý“, a vysvětlování svého uvažování – čímž se zlepší dohled a ověřitelnost závěrů, které AI produkuje.
Tyto schopnosti byly běžné u starších modelů, ale s rozmachem moderních systémů šla vysvětlitelnost stranou ve prospěch rychlosti a výpočetního výkonu.
Bengio plánuje využít Scientist AI také jako „hlídače“ jiných, potenciálně nebezpečných AI systémů. Lidský dohled nestačí – AI modely, jako je ChatGPT, obsluhují denně více než miliardu požadavků. Monitorovat je zvládne jedině jiná AI.
Dalším zásadním vylepšením má být tzv. world model – základní chápání reality. Podobně jako lidé činí rozhodnutí na základě zkušeností a znalostí, AI potřebuje chápat reálný svět, aby fungovala správně.
Bez něj dnešní modely selhávají i v jednoduchých úlohách: například při kreslení rukou, kde zvládnou vzhled, ale ne realistický pohyb, nebo při hraní šachů, kde jazykové modely občas porušují pravidla, zatímco starší šachové AI poráží i mistry světa.
Bengio a jeho tým se nachází na správné cestě, ale jejich rozpočet – 30 milionů dolarů – je jen zlomkem toho, co mají k dispozici velké korporace. Například americký prezident Donald Trump letos oznámil masivní vládní investici 500 miliard dolarů do AI.
Navíc většina potřebných dat, bez nichž se žádná výkonná AI neobejde, zůstává pod kontrolou technologických gigantů.
Zůstává také zásadní otázka: i pokud Scientist AI bude fungovat přesně podle Bengiova plánu – jakým způsobem bude schopna zastavit či omezit nebezpečné systémy, které již jsou v provozu?
Navzdory překážkám může tento projekt změnit přístup vývojářů i tvůrců legislativy k bezpečnosti AI. Mohl by nastavit nové standardy, které vývojáře přimějí k odpovědnějšímu přístupu.
Jak uvádí server The Conversation, kdyby podobná opatření vznikla v počátcích éry sociálních sítí, mohli jsme dnes mít bezpečnější online prostředí. A možná, kdyby už Scientist AI fungoval, mohl zabránit i zneužití AI při útoku na kliniku v Kalifornii.
Rusko obvinilo Ukrajinu z provedení rozsáhlého útoku na ropnou rafinérii v Rjazanské oblasti. Incident se odehrál krátce poté, co ukrajinský prezident Volodymyr Zelenskyj oznámil, že Kyjev hodlá obnovit údery na ruská energetická zařízení. Ukrajinská strana tak reaguje na pokračující ruské bombardování kritické infrastruktury, které navzdory navrhovanému příměří neustalo.
Vědci dlouho předpokládali, že plasty jsou chemicky inertní a samy o sobě nereagují s okolním prostředím. Nová laboratorní studie z Kolumbijské univerzity a Kalifornské univerzity v Berkeley však přináší překvapivé zjištění. Ukázalo se, že mikroskopické kousky plastů přicházející do styku s vodou spontánně vytvářejí vysoce reaktivní molekuly. Tyto volné radikály mohou představovat dosud neznámý mechanismus, kterým mikroplasty škodí lidskému zdraví.
Indonésie čelí nejhorší sezóně lesních požárů za více než deset let, přičemž od ledna shořelo téměř 900 tisíc hektarů půdy. Tuto krizi ještě zhoršil silný fenomén El-Nino a přetrvávající praxe vypalování půdy kvůli pěstování plodin, jako je palmový olej. Vláda proto zvolila neobvyklý krok a jako nový pokus v boji proti rozsáhlému kouři testuje použití suchého ledu.
Brazilský kongres schválil ústavní změnu zkracující maximální pracovní týden na 40 hodin. Tento krok představuje významné politické vítězství pro levicového prezidenta Luize Inácia Lulu da Silvu před nadcházejícím druhým kolem voleb. Reforma celkově zakazuje vyčerpávající šestidenní pracovní týdny a dotkne se zhruba třiceti milionů pracovníků.
Ukrajinský prezident Volodymyr Zelenskyj obvinil společnost SpaceX z úmyslného omezení satelitního internetu Starlink během rozsáhlých ruských útoků. Uvedl, že výpadky nebyly způsobeny technickou chybou, ale šlo o záměrné rozhodnutí. Tyto restrikce vážně ohrozily schopnost Ukrajiny bránit své civilní obyvatelstvo a kritickou infrastrukturu.
Izrael odmítá povolit realizaci klíčového projektu vojenské základny v Gaze, kterou má na starosti Rada míru amerického prezidenta Donalda Trumpa. Projekt počítá s vytvořením zázemí pro mezinárodní jednotky, avšak vstup stavebních firem a nákladních vozidel do oblasti je momentálně zablokován. Izraelská vláda ani armáda se podle The Guardian k celé situaci odmítly vyjádřit.
Civilní oběti na Ukrajině v posledních dnech prudce rostou, protože zhoršující se počasí provázejí stále ničivější ruské nálety na klíčovou energetickou infrastrukturu. Situaci v zemi navíc zkomplikovalo náhlé omezení satelitního internetu Starlink, které vážně ochromuje ukrajinskou protivzdušnou obranu. Kyjev se tak ocitá pod dvojím tlakem v podobě stupňujícího se vojenského nebezpečí a rostoucího politického napětí se západními spojenci.
Ukrajinský prezident Volodymyr Zelenskyj obvinil společnost SpaceX z náhlého omezení přístupu k vojenské verzi satelitního internetu Starshield. Tento krok podle něj vážně ochromil ukrajinské operace s bezpilotními prostředky i klíčovou protivzdušnou obranu země. Omezení přišlo bez předchozího varování a vyvolalo ostrou diplomatickou krizi ve vztazích mezi Kyjevem a Washingtonem.
Vláda Grónska se ohradila proti vyjádření amerického prezidenta Donalda Trumpa, který nedávno tvrdil, že v tomto arktickém teritoriu brzy začne masivní těžba ropy, plynů a nerostů. Náměstek grónského ministra hornictví sice potvrdil určité aktivity amerických společností, avšak současně zdůraznil, že od rozsáhlé těžby je oblast ještě velmi daleko. Reakce autonomní správy tak uvádí na pravou míru nedávná politická prohlášení z Washingtonu.
Izolovaná Severní Korea má k dispozici nové moderní silniční spojení se svým hlavním obchodním partnerem a blízkým spojencem, kterým je Čína. Slavnostní otevření dlouho odkládaného mostu přes hraniční řeku Ja-lu ve čtvrtek přilákalo pozornost mezinárodních pozorovatelů. Čtyřproudová dálniční komunikace propojuje čínské pohraniční město Tan-tung se severokorejským městem Sin-idžu a má podpořit vzájemnou ekonomickou výměnu.
Ukrajinský prezident Volodymyr Zelenskyj v rozhovoru pro britský list Financial Times oznámil, že Ukrajina brzy obnoví útoky na ruské ropné rafinérie. Tímto krokem reaguje na sílící napětí ve vztazích s Washingtonem a na podle něj nebezpečné omezování amerických zpravodajských informací. Vztahy mezi Kyjevem a americkou administrativou v čele s prezidentem Donaldem Trumpem se tak dále vyostřují.
V posledních čtyřiadvaceti hodinách došlo v oblasti Hormuzského průlivu k potopení dvou nákladních lodí po zásahu neznámými střelami. Tyto incidenty představují vážnou eskalaci napětí a výrazné zvýšení nebezpečí pro mezinárodní námořní dopravu. Írán v posledních týdnech vystupňoval své útoky s cílem znovu získat kontrolu nad touto klíčovou strategickou vodní cestou.