Jeden z průkopníků umělé inteligence, profesor Yoshua Bengio, se obává, že současný vývoj AI směřuje k nebezpečným důsledkům. Proto spustil nový projekt, který má přinést zásadní změnu: vytvořit „čestnou“ a bezpečnější alternativu ke stávajícím systémům. Učinil tak ve chvíli, kdy FBI oznámila, že pachatelé nedávného bombového útoku na kliniku v Kalifornii použili k získání návodu na výrobu výbušniny právě AI.
Incident znovu poukázal na „divoký západ“, ve kterém se vývoj AI nyní nachází. Firmy soutěží v rychlosti, zábavnosti i výkonu svých systémů a bezpečnost často ustupuje do pozadí. Podle Bengia je čas na zásadní změnu.
Profesor Bengio, držitel Turingovy ceny (spolu s Geoffreym Hintonem a Yannem LeCunem), nyní prostřednictvím neziskové organizace LawZero pracuje na vývoji modelu „Scientist AI“. Jeho cílem je vytvořit systém, který nebude klamat, bude navržen s důrazem na bezpečnost a dokáže čelit rizikům, která mohou plynout z jiných, méně spolehlivých AI.
Na rozdíl od současných jazykových modelů má „Scientist AI“ dvě klíčové schopnosti, a sice vyjadřování míry důvěry ve své odpovědi – tedy umět říci „nejsem si jistý“, a vysvětlování svého uvažování – čímž se zlepší dohled a ověřitelnost závěrů, které AI produkuje.
Tyto schopnosti byly běžné u starších modelů, ale s rozmachem moderních systémů šla vysvětlitelnost stranou ve prospěch rychlosti a výpočetního výkonu.
Bengio plánuje využít Scientist AI také jako „hlídače“ jiných, potenciálně nebezpečných AI systémů. Lidský dohled nestačí – AI modely, jako je ChatGPT, obsluhují denně více než miliardu požadavků. Monitorovat je zvládne jedině jiná AI.
Dalším zásadním vylepšením má být tzv. world model – základní chápání reality. Podobně jako lidé činí rozhodnutí na základě zkušeností a znalostí, AI potřebuje chápat reálný svět, aby fungovala správně.
Bez něj dnešní modely selhávají i v jednoduchých úlohách: například při kreslení rukou, kde zvládnou vzhled, ale ne realistický pohyb, nebo při hraní šachů, kde jazykové modely občas porušují pravidla, zatímco starší šachové AI poráží i mistry světa.
Bengio a jeho tým se nachází na správné cestě, ale jejich rozpočet – 30 milionů dolarů – je jen zlomkem toho, co mají k dispozici velké korporace. Například americký prezident Donald Trump letos oznámil masivní vládní investici 500 miliard dolarů do AI.
Navíc většina potřebných dat, bez nichž se žádná výkonná AI neobejde, zůstává pod kontrolou technologických gigantů.
Zůstává také zásadní otázka: i pokud Scientist AI bude fungovat přesně podle Bengiova plánu – jakým způsobem bude schopna zastavit či omezit nebezpečné systémy, které již jsou v provozu?
Navzdory překážkám může tento projekt změnit přístup vývojářů i tvůrců legislativy k bezpečnosti AI. Mohl by nastavit nové standardy, které vývojáře přimějí k odpovědnějšímu přístupu.
Jak uvádí server The Conversation, kdyby podobná opatření vznikla v počátcích éry sociálních sítí, mohli jsme dnes mít bezpečnější online prostředí. A možná, kdyby už Scientist AI fungoval, mohl zabránit i zneužití AI při útoku na kliniku v Kalifornii.
Běžní obyvatelé Ruska začínají poprvé po čtyřech letech války pociťovat přímé dopady konfliktu prostřednictvím citelného nedostatku pohonných hmot, rostoucí inflace a celkového zpomalování ekonomiky. Zatímco v Moskvě se tvoří dlouhé fronty u čerpacích stanic a řidiči mohou natankovat maximálně dvacet litrů na auto, v odlehlejších regionech, jako je Krasnodar, Dagestán nebo Tuva, dochází k úplnému kolapsu zásobování a desítky kilometrů dlouhým zácpám. Kreml se v této situaci snaží balancovat mezi obrovskými finančními nároky na udržení armády a snahou zachovat sociální stabilitu, která byla dlouho jeho politickou vizitkou.
Ukrajinské síly bezpilotních prostředků pod vedením velitele Roberta Brovdiho, známého pod přezdívkou „Maďar“, provedly v noci na pátek rozsáhlý úder v Černém moři. Cílem této operace se stalo dvanáct plavidel patřících do ruské takzvané stínové flotily. Hlavním účelem útoku bylo ochromit zásobovací trasy, kterými Rusko dopravuje palivo na okupovaná území na východě Ukrajiny a na anektovaný poloostrov Krym. Kyjev se tímto způsobem snaží zamezit obcházení mezinárodních sankcí a paralyzovat ruskou logistiku.
Ruský protiválečný opoziční politik Boris Naděždin varuje před kurzem, kterým prezident Vladimir Putin vede zemi. Podle něj současné směřování Kremlu uvrhne Rusko do chaosu a potenciálně i do naprosté katastrofy. Třiašedesátiletý politik tato slova pronesl v době, kdy na něj úřady stupňují tlak před zářijovými parlamentními volbami, ve kterých plánuje kandidovat.
Evropská komise se chystá zveřejnit očekávanou zprávu zaměřenou na odstranění byrokratické zátěže v bankovním sektoru, jejímž cílem je posílit konkurenceschopnost evropských peněžních ústavů vůči jejich americkým rivalům.
Spojené státy plánují uvalit pětadvacetiprocentní cla na vybraný brazilský dovoz poté, co roční vyšetřování dospělo k závěru, že země uplatňuje nekalé obchodní praktiky. Americký obchodní zástupce Jamieson Greer oznámil tato opatření ve středu pozdě večer s tím, že brazilská politika v oblastech digitálního obchodu, nespravedlivých preferenčních cel či přístupu na trh s etanolem poškozuje zájmy Američanů.
Americký prezident Donald Trump, který kdysi usiloval o Nobelovu cenu za mír za ukončování konfliktů, začal vnímat vojenskou sílu jako běžný nástroj k donucení Íránu k diplomacii. Nasazení největší armády světa je přitom nejzávažnějším úkolem hlavy státu, i když Pentagon omezil informace o vlastních ztrátách a škodách. Od únorového obnovení úderů zahynuly desítky Íránců a tisíce dalších od počátku konfliktu. Normalizace násilí a jeho hrozby by však podle CNN neměly být redukovány na běžné poznámky novinářům.
V Česku se v pátek očekávají další silné bouřky, platí z toho důvodu příslušná výstraha. Podle meteorologů mohou první bouře udeřit už nad ránem. Naprosto vyloučen není ani výskyt supercel.
Epidemie smrtelně nebezpečné eboly v africké Demokratické republice Kongo řádí dál. Podle oficiálních údajů už se potvrdilo více než dva tisíce případů nemoci, ale experti se domnívají, že rozsah epidemie je reálně násobně větší.
Pohonné hmoty v Česku po nedělním ukončení vládní regulace zdraží, přičemž výraznější růst lze čekat u motorové nafty a na dálničních čerpacích stanicích. V celorepublikovém průměru by během prvního týdne mohla cena benzínu Natural 95 vzrůst přibližně o 0,50 až 1,20 koruny za litr, nejpravděpodobněji zhruba o 80 haléřů. Nafta může zdražit o 2,80 až 3,60 koruny, přičemž nejpravděpodobnější je růst kolem 3,20 koruny za litr.
Série varování ze strany tuzemských meteorologů pokračuje i ve čtvrtek. Meteorologové opět upozornili na nebezpečí bouřek, zároveň plošně upřesnili výstrahu na vysoké teploty. Beze změny zůstává varování před požáry, vyplývá z informací Českého hydrometeorologického ústavu (ČHMÚ).
Příměří, které před třemi týdny podepsaly Spojené státy a Írán, definitivně zkolabovalo 8. července poté, co Írán začal útočit na plavidla proplouvající Hormuzským průlivem bez jeho svolení. V reakci na to prezident Donald Trump prohlásil dohodu za ukončenou a Spojené státy zahájily masivní vzdušné údery na vojenské pozice v zemi.
Vztahy mezi Spojenými státy a Íránem opět provází vyostřené nepřátelství poté, co Donald Trump označil červnové příměří za skončené. V reakci na to nařídil americké armádě provést intenzivní letecké údery a znovu zavedl ekonomickou blokádu Íránu.