Jeden z průkopníků umělé inteligence, profesor Yoshua Bengio, se obává, že současný vývoj AI směřuje k nebezpečným důsledkům. Proto spustil nový projekt, který má přinést zásadní změnu: vytvořit „čestnou“ a bezpečnější alternativu ke stávajícím systémům. Učinil tak ve chvíli, kdy FBI oznámila, že pachatelé nedávného bombového útoku na kliniku v Kalifornii použili k získání návodu na výrobu výbušniny právě AI.
Incident znovu poukázal na „divoký západ“, ve kterém se vývoj AI nyní nachází. Firmy soutěží v rychlosti, zábavnosti i výkonu svých systémů a bezpečnost často ustupuje do pozadí. Podle Bengia je čas na zásadní změnu.
Profesor Bengio, držitel Turingovy ceny (spolu s Geoffreym Hintonem a Yannem LeCunem), nyní prostřednictvím neziskové organizace LawZero pracuje na vývoji modelu „Scientist AI“. Jeho cílem je vytvořit systém, který nebude klamat, bude navržen s důrazem na bezpečnost a dokáže čelit rizikům, která mohou plynout z jiných, méně spolehlivých AI.
Na rozdíl od současných jazykových modelů má „Scientist AI“ dvě klíčové schopnosti, a sice vyjadřování míry důvěry ve své odpovědi – tedy umět říci „nejsem si jistý“, a vysvětlování svého uvažování – čímž se zlepší dohled a ověřitelnost závěrů, které AI produkuje.
Tyto schopnosti byly běžné u starších modelů, ale s rozmachem moderních systémů šla vysvětlitelnost stranou ve prospěch rychlosti a výpočetního výkonu.
Bengio plánuje využít Scientist AI také jako „hlídače“ jiných, potenciálně nebezpečných AI systémů. Lidský dohled nestačí – AI modely, jako je ChatGPT, obsluhují denně více než miliardu požadavků. Monitorovat je zvládne jedině jiná AI.
Dalším zásadním vylepšením má být tzv. world model – základní chápání reality. Podobně jako lidé činí rozhodnutí na základě zkušeností a znalostí, AI potřebuje chápat reálný svět, aby fungovala správně.
Bez něj dnešní modely selhávají i v jednoduchých úlohách: například při kreslení rukou, kde zvládnou vzhled, ale ne realistický pohyb, nebo při hraní šachů, kde jazykové modely občas porušují pravidla, zatímco starší šachové AI poráží i mistry světa.
Bengio a jeho tým se nachází na správné cestě, ale jejich rozpočet – 30 milionů dolarů – je jen zlomkem toho, co mají k dispozici velké korporace. Například americký prezident Donald Trump letos oznámil masivní vládní investici 500 miliard dolarů do AI.
Navíc většina potřebných dat, bez nichž se žádná výkonná AI neobejde, zůstává pod kontrolou technologických gigantů.
Zůstává také zásadní otázka: i pokud Scientist AI bude fungovat přesně podle Bengiova plánu – jakým způsobem bude schopna zastavit či omezit nebezpečné systémy, které již jsou v provozu?
Navzdory překážkám může tento projekt změnit přístup vývojářů i tvůrců legislativy k bezpečnosti AI. Mohl by nastavit nové standardy, které vývojáře přimějí k odpovědnějšímu přístupu.
Jak uvádí server The Conversation, kdyby podobná opatření vznikla v počátcích éry sociálních sítí, mohli jsme dnes mít bezpečnější online prostředí. A možná, kdyby už Scientist AI fungoval, mohl zabránit i zneužití AI při útoku na kliniku v Kalifornii.
V mrazivých podmínkách, které aktuálně sužují Pásmo Gazy, zemřelo v sobotu teprve 27denní nemluvně na následky těžkého podchlazení. Malá Aisha Ayesh al-Agha se stala již osmým dítětem, které v této oblasti během letošní zimy podlehlo extrémně nízkým teplotám. Přestože byla okamžitě převezena do nemocnice Nasser v Chán Júnisu, lékaři jí již nedokázali pomoci.
Íránský nejvyšší duchovní vůdce, ajatolláh Alí Chameneí, poprvé veřejně přiznal, že si vlna protestů z posledních dvou týdnů vyžádala tisíce lidských životů. Ve svém čtvrtečním projevu potvrdil masové ztráty na životech a dodal, že někteří lidé zemřeli „nehumánním a barbarským způsobem“. Z odpovědnosti za krveprolití však obvinil Spojené státy a amerického prezidenta Donalda Trumpa označil za zločince kvůli jeho otevřené podpoře demonstrantů.
Donald Trump ohlásil zavedení nových cel zaměřených na evropské spojence, kterými chce Dánsko donutit k prodeji tohoto autonomního území. Podle prezidenta jde o logický krok, protože USA údajně Evropu dlouhodobě finančně dotovaly a nyní je čas, aby Dánsko tento „dluh“ vyrovnalo právě postoupením Arktidy.
Pražský sjezd ODS zažil moment, o kterém se v kuloárech šeptalo už od samého začátku. Původně ohlášený souboj o post prvního místopředsedy mezi senátorem Martinem Červíčkem a starostou Tomášem Portlíkem se nakonec nekonal. Červíček totiž přímo na pódiu ukončil svou kandidaturu a vyzval přítomné, aby svůj hlas dali právě Portlíkovi, kterého vidí jako budoucího primátora Prahy.
Sergej Karaganov, vlivný ruský politolog a šéf Rady pro zahraniční a obrannou politiku, v nedávném rozhovoru s americkým komentátorem Tuckerem Carlsonem otevřeně pohrozil zničením Velké Británie a kontinentální Evropy. Podle Karaganova je použití jaderných zbraní reálnou možností, pokud by Rusko mělo v konfliktu na Ukrajině čelit porážce.
Piráti si na svém Celostátním fóru v Prachaticích zvolili staronového lídra. Zdeněk Hřib v sobotním hlasování suverénně obhájil svůj mandát a stranu povede i v následujícím dvouletém období. Úspěch oslavil hned v úvodním kole, kdy získal 469 hlasů od celkem 611 přítomných straníků. Jeho soupeř David Witosz po oznámení výsledků Hřibovi poblahopřál a vyzdvihl, že strana zůstává otevřeným a demokratickým prostředím.
Pirátská strana dokončila na sjezdu v Prachaticích obměnu svého nejužšího vedení. K potvrzenému předsedovi Zdeňku Hřibovi se připojila čtveřice místopředsedů, které vybrali delegáti Celostátního fóra. Pozici prvního místopředsedy obhájil poslanec Martin Šmída, následovaný nově zvolenou poslankyní Kateřinou Stojanovou. Vedení doplnili také investor Jiří Hlavenka a šéfka poslaneckého klubu Olga Richterová.
Novým předsedou ODS se stal Martin Kupka, který v Praze přesvědčivě porazil svého protikandidáta Radima Ivana poměrem 327 ku 138 hlasům. Dosavadní šéf Petr Fiala, pod jehož vedením se strana vrátila do vládních pozic, vyjádřil Kupkovi plnou podporu a označil ho za ideálního lídra pro nadcházející období.
Íránský režim se podle informací digitálních aktivistů a organizací monitorujících cenzuru připravuje k bezprecedentnímu kroku. Plánuje se totiž trvale odpojit od globálního internetu a nahradit jej uzavřenou vnitrostátní sítí. Přístup ke světovému webu by se tak stal výhradně „státním privilegiem“, které by bylo dostupné pouze prověřeným osobám s vysokou bezpečnostní prověrkou, zatímco zbytek populace by zůstal uvězněn v izolovaném digitálním prostoru.
Administrativa amerického prezidenta Donalda Trumpa oznámila složení nově vznikající „Rady míru“ (Board of Peace), která má dohlížet na budoucnost a rekonstrukci Pásma Gazy. Mezi zakládajícími členy tohoto prestižního orgánu figurují zvučná jména světové diplomacie i byznysu. Vedle amerického ministra zahraničí Marca Rubia usedne v radě také bývalý britský premiér Sir Tony Blair, jehož zapojení budí značnou pozornost vzhledem k jeho dřívější roli zmocněnce pro Blízký východ i kontroverzím spojeným s válkou v Iráku.
Generální tajemník OSN António Guterres dnes v Londýně přednese zásadní projev u příležitosti 80. výročí založení Organizace spojených národů. V historických prostorách Methodist Central Hall, kde se v roce 1946 konalo vůbec první Valné shromáždění, varuje před „mocnými silami“, které se snaží podkopat mezinárodní spolupráci. Jeho apel na dodržování mezinárodního práva přichází v době hluboké nejistoty, kterou umocňují drastické rozpočtové škrty ze strany Spojených států pod vedením prezidenta Donalda Trumpa.
Americký prezident Donald Trump vyvolal další vlnu mezinárodního napětí svým prohlášením, že zvažuje uvalení nových cel na země, které se postaví proti jeho plánu na ovládnutí Grónska. Během pátečního vystoupení v Bílém domě označil kontrolu nad tímto největším ostrovem světa za nezbytnou pro národní bezpečnost Spojených států.