Jeden z průkopníků umělé inteligence, profesor Yoshua Bengio, se obává, že současný vývoj AI směřuje k nebezpečným důsledkům. Proto spustil nový projekt, který má přinést zásadní změnu: vytvořit „čestnou“ a bezpečnější alternativu ke stávajícím systémům. Učinil tak ve chvíli, kdy FBI oznámila, že pachatelé nedávného bombového útoku na kliniku v Kalifornii použili k získání návodu na výrobu výbušniny právě AI.
Incident znovu poukázal na „divoký západ“, ve kterém se vývoj AI nyní nachází. Firmy soutěží v rychlosti, zábavnosti i výkonu svých systémů a bezpečnost často ustupuje do pozadí. Podle Bengia je čas na zásadní změnu.
Profesor Bengio, držitel Turingovy ceny (spolu s Geoffreym Hintonem a Yannem LeCunem), nyní prostřednictvím neziskové organizace LawZero pracuje na vývoji modelu „Scientist AI“. Jeho cílem je vytvořit systém, který nebude klamat, bude navržen s důrazem na bezpečnost a dokáže čelit rizikům, která mohou plynout z jiných, méně spolehlivých AI.
Na rozdíl od současných jazykových modelů má „Scientist AI“ dvě klíčové schopnosti, a sice vyjadřování míry důvěry ve své odpovědi – tedy umět říci „nejsem si jistý“, a vysvětlování svého uvažování – čímž se zlepší dohled a ověřitelnost závěrů, které AI produkuje.
Tyto schopnosti byly běžné u starších modelů, ale s rozmachem moderních systémů šla vysvětlitelnost stranou ve prospěch rychlosti a výpočetního výkonu.
Bengio plánuje využít Scientist AI také jako „hlídače“ jiných, potenciálně nebezpečných AI systémů. Lidský dohled nestačí – AI modely, jako je ChatGPT, obsluhují denně více než miliardu požadavků. Monitorovat je zvládne jedině jiná AI.
Dalším zásadním vylepšením má být tzv. world model – základní chápání reality. Podobně jako lidé činí rozhodnutí na základě zkušeností a znalostí, AI potřebuje chápat reálný svět, aby fungovala správně.
Bez něj dnešní modely selhávají i v jednoduchých úlohách: například při kreslení rukou, kde zvládnou vzhled, ale ne realistický pohyb, nebo při hraní šachů, kde jazykové modely občas porušují pravidla, zatímco starší šachové AI poráží i mistry světa.
Bengio a jeho tým se nachází na správné cestě, ale jejich rozpočet – 30 milionů dolarů – je jen zlomkem toho, co mají k dispozici velké korporace. Například americký prezident Donald Trump letos oznámil masivní vládní investici 500 miliard dolarů do AI.
Navíc většina potřebných dat, bez nichž se žádná výkonná AI neobejde, zůstává pod kontrolou technologických gigantů.
Zůstává také zásadní otázka: i pokud Scientist AI bude fungovat přesně podle Bengiova plánu – jakým způsobem bude schopna zastavit či omezit nebezpečné systémy, které již jsou v provozu?
Navzdory překážkám může tento projekt změnit přístup vývojářů i tvůrců legislativy k bezpečnosti AI. Mohl by nastavit nové standardy, které vývojáře přimějí k odpovědnějšímu přístupu.
Jak uvádí server The Conversation, kdyby podobná opatření vznikla v počátcích éry sociálních sítí, mohli jsme dnes mít bezpečnější online prostředí. A možná, kdyby už Scientist AI fungoval, mohl zabránit i zneužití AI při útoku na kliniku v Kalifornii.
V době, kdy si většina lidí oddechla, že éra covidu-19 je u konce, se objevuje nová varianta viru, která znovu přitahuje pozornost lékařů. Podle britské zdravotní agentury UKHSA se napříč světem objevuje nová subvarianta viru s označením NB.1.8.1, známá také pod přezdívkou Nimbus. Přestože zatím nejde o důvod k panice, lékaři upozorňují, že by lidé měli být opatrní – varianta se totiž rychle šíří a má odlišné příznaky oproti předchozím.
Změny klimatu mají čím dál citelnější dopady na pěstitele kávy po celém světě. Nejen že ztěžují sklizeň a snižují kvalitu úrody, ale zároveň vytvářejí hlubší závislost drobných farmářů na humanitární pomoci. V rozhovoru pro nizozemský deník Het Financieele Dagblad se o těchto problémech podělili Harm Goossens, člen vedení Nizozemského Červeného kříže, a Meine van der Graaf, manažer dopadu u udržitelné nizozemské značky kávy Wakuli.
Evropští ministři obrany členských států NATO se ve dnech 4.–5. června sešli v Bruselu na posledním jednání před nadcházejícím aliančním summitem v Haagu (21.–22. června). Hlavním bodem programu bylo schválení nových cílů vojenských schopností, které by měly posílit obranu a odstrašení zejména vůči Rusku. Jednání se uskutečnilo v atmosféře nejistoty — jak kvůli pokračující válce na Ukrajině, tak kvůli změnám v přístupu administrativy prezidenta Trumpa k evropským spojencům.
Německo v posledních dnech zintenzivnilo varování před možnou ruskou agresí vůči zemím NATO. Podle šéfky spolkového úřadu pro vojenské zásobování Annette Lehnigk-Emden má německá armáda pouhé tři roky na to, aby se připravila na případný útok, který by mohl přijít nejpozději v roce 2029.
Dva roky po výbuchu Kachovské přehrady čelí Ukrajina ekologické hrozbě, která dalece přesahuje hranice jejího území. Toxické sedimenty v bývalém dně nádrže ohrožují nejen ukrajinskou přírodu, ale kontaminují i Černé moře, odkud proudí k pobřeží Rumunska, Bulharska či Turecka. Rusko odpálilo ekologickou bombu, která zasahuje i jeho vlastní území. Příroda sice bojuje o návrat, toxické sloučeniny ale jen tak neodplaví.
Jedenáctiměsíční Jack je jedním z pouhých 16 dětí na světě, které trpí extrémně vzácným genetickým onemocněním, natolik neobvyklým, že doposud ani nemá jméno. Kvůli mutaci genu PPFIBP1 je nevidomý, trpí častými záchvaty a lékaři předpokládají, že nikdy nebude chodit ani mluvit. Podle odborníků je jeho stav život limitující.
Bývalý kalifornský guvernér a hollywoodská hvězda Arnold Schwarzenegger vyzval ekologické aktivisty a odborníky na životní prostředí, aby se nenechali paralyzovat zklamáním ze současné environmentální politiky prezidenta Donalda Trumpa. Místo stížností by podle něj měli začít jednat a hledat řešení na lokální úrovni.
Planeta K2-18b, vzdálená 124 světelných let, se v posledních týdnech dostala do centra pozornosti světových vědců. V dubnu vyvolal rozruch objev dvou molekul – dimethylsulfidu (DMS) a dimethyldisulfidu (DMDS) – v její atmosféře. Na Zemi tyto sloučeniny produkují převážně živé organismy, což vedlo k domněnkám, že se může jednat o první skutečně věrohodný náznak života mimo naši planetu. Jenže několik nových studií teď tyto závěry zpochybňuje.
Jeden z průkopníků umělé inteligence, profesor Yoshua Bengio, se obává, že současný vývoj AI směřuje k nebezpečným důsledkům. Proto spustil nový projekt, který má přinést zásadní změnu: vytvořit „čestnou“ a bezpečnější alternativu ke stávajícím systémům. Učinil tak ve chvíli, kdy FBI oznámila, že pachatelé nedávného bombového útoku na kliniku v Kalifornii použili k získání návodu na výrobu výbušniny právě AI.
Rozchod mezi Elonem Muskem a Donaldem Trumpem rozhodně neprobíhá v klidu. Oba muži jsou silné osobnosti zvyklé na to, že vše jde podle jejich vůle – dva „alfa samci“, chcete-li. Jejich spolupráce – nyní už minulost – se rozpadá přímo před očima veřejnosti.
Velká Británie čelí historicky zásadní geopolitické výzvě – je pod rostoucím tlakem ze strany Ruska a zároveň se nemůže nadále bezvýhradně spoléhat na Spojené státy, varuje vládní obranná poradkyně Fiona Hill. Britská expertka na Rusko a bývalá poradkyně Donalda Trumpa v Bílém domě poskytla exkluzivní rozhovor deníku The Guardian, v němž popsala současnou situaci jako „vážné nebezpečí“.
Jiřina Bohdalová v uplynulých dnech vyděsila fanoušky, protože ji po čase zase potrápilo zdraví. Dokonce vynechala dvě akce, na nichž by za běžných okolností nechyběla. Jak mluví o jejím aktuálním stavu lidé z okolí slavné herečky?