Jeden z průkopníků umělé inteligence, profesor Yoshua Bengio, se obává, že současný vývoj AI směřuje k nebezpečným důsledkům. Proto spustil nový projekt, který má přinést zásadní změnu: vytvořit „čestnou“ a bezpečnější alternativu ke stávajícím systémům. Učinil tak ve chvíli, kdy FBI oznámila, že pachatelé nedávného bombového útoku na kliniku v Kalifornii použili k získání návodu na výrobu výbušniny právě AI.
Incident znovu poukázal na „divoký západ“, ve kterém se vývoj AI nyní nachází. Firmy soutěží v rychlosti, zábavnosti i výkonu svých systémů a bezpečnost často ustupuje do pozadí. Podle Bengia je čas na zásadní změnu.
Profesor Bengio, držitel Turingovy ceny (spolu s Geoffreym Hintonem a Yannem LeCunem), nyní prostřednictvím neziskové organizace LawZero pracuje na vývoji modelu „Scientist AI“. Jeho cílem je vytvořit systém, který nebude klamat, bude navržen s důrazem na bezpečnost a dokáže čelit rizikům, která mohou plynout z jiných, méně spolehlivých AI.
Na rozdíl od současných jazykových modelů má „Scientist AI“ dvě klíčové schopnosti, a sice vyjadřování míry důvěry ve své odpovědi – tedy umět říci „nejsem si jistý“, a vysvětlování svého uvažování – čímž se zlepší dohled a ověřitelnost závěrů, které AI produkuje.
Tyto schopnosti byly běžné u starších modelů, ale s rozmachem moderních systémů šla vysvětlitelnost stranou ve prospěch rychlosti a výpočetního výkonu.
Bengio plánuje využít Scientist AI také jako „hlídače“ jiných, potenciálně nebezpečných AI systémů. Lidský dohled nestačí – AI modely, jako je ChatGPT, obsluhují denně více než miliardu požadavků. Monitorovat je zvládne jedině jiná AI.
Dalším zásadním vylepšením má být tzv. world model – základní chápání reality. Podobně jako lidé činí rozhodnutí na základě zkušeností a znalostí, AI potřebuje chápat reálný svět, aby fungovala správně.
Bez něj dnešní modely selhávají i v jednoduchých úlohách: například při kreslení rukou, kde zvládnou vzhled, ale ne realistický pohyb, nebo při hraní šachů, kde jazykové modely občas porušují pravidla, zatímco starší šachové AI poráží i mistry světa.
Bengio a jeho tým se nachází na správné cestě, ale jejich rozpočet – 30 milionů dolarů – je jen zlomkem toho, co mají k dispozici velké korporace. Například americký prezident Donald Trump letos oznámil masivní vládní investici 500 miliard dolarů do AI.
Navíc většina potřebných dat, bez nichž se žádná výkonná AI neobejde, zůstává pod kontrolou technologických gigantů.
Zůstává také zásadní otázka: i pokud Scientist AI bude fungovat přesně podle Bengiova plánu – jakým způsobem bude schopna zastavit či omezit nebezpečné systémy, které již jsou v provozu?
Navzdory překážkám může tento projekt změnit přístup vývojářů i tvůrců legislativy k bezpečnosti AI. Mohl by nastavit nové standardy, které vývojáře přimějí k odpovědnějšímu přístupu.
Jak uvádí server The Conversation, kdyby podobná opatření vznikla v počátcích éry sociálních sítí, mohli jsme dnes mít bezpečnější online prostředí. A možná, kdyby už Scientist AI fungoval, mohl zabránit i zneužití AI při útoku na kliniku v Kalifornii.
Bývalý princ Andrew nadále ztrácí půdu pod nohama v souvislosti s kauzou kolem vazeb na finančníka Jeffreyho Epsteina. Mladší bratr krále Karla III. přišel o další dva tituly, informovala stanice Sky News.
Český šoubyznys přichází o jeden z ostře sledovaných párů. Zdeněk Polívka ve středu zničehonic oznámil, že se rozešel s Lucií Vondráčkovou. Z jeho slov vyplývá, že si výrazně oddechl. Mediální tlak mu totiž nebyl příjemný.
Mnoho Čechů je zvyklých jezdit do práce a cestu trávit ve společnosti Leoše Mareše a Patrika Hezuckého. V posledních dnech se posluchači museli obejít bez druhého jmenovaného, který v nemocnici bojuje s nespecifikovanou nemocí. Dnes je však překvapila i Marešova absence.
Nejen příznivci, ale i někdejší političtí oponenti přáli Miloši Zemanovi uzdravení, když byl v listopadu hospitalizován v jedné z pražských nemocnic. Bývalý prezident zůstává i po propuštění pod dohledem lékařů, ale už si alespoň může dopřát některé věci, které má rád.
Americká skupina identifikovala několik nejasných, ale potenciálně klíčových sankcí. Tvrdí, že by mohly vážně narušit válečné úsilí Ruska na Ukrajině, a to po nedávném zaměření se na největší ropné společnosti Kremlu. Předchozí kola sankcí byla uplatněna na ruské energetické společnosti, banky, vojenské dodavatele a také na „stínovou flotilu“ lodí přepravujících ruskou ropu.
Severokorejský režim nařídil zavedení výuky ruštiny jako povinného předmětu. Odpovídá to stylu, jakým Sovětský svaz a Spojené státy šířily svou moc během studené války. Jejich jazyky se postupně dostávaly do školních osnov a díky tomu se velmocím dařilo prosazovat vliv podstatně nenápadněji a dlouhodoběji, než kdyby to prováděly výhradně fyzickou silou. Ruština sice nadále upadá v celé Evropě, jak se ale zdá, v autoritářských režimech východní Asie ji čeká boom.
Na ranním zasedání v Bruselu projevili ministři zahraničí evropských zemí NATO jen malou trpělivost s Moskvou. Panuje shoda, že ruský prezident Vladimir Putin nejeví známky ochoty ke kompromisu v souvislosti s válkou na Ukrajině.
Plánované setkání mezi ukrajinským prezidentem Volodymyrem Zelenským a delegací Spojených států v Bruselu bylo zrušeno. Delegaci tvořil speciální Trumpův vyslanec Steve Witkoff a Trumpův zeť Jared Kushner, kteří byli na cestě z jednání s Vladimirem Putinem. Zrušení přišlo poté, co se ukrajinský prezident náhle vrátil do Kyjeva, uvedl The Times.
V květnu 2023 udeřil blesk do lesa v Donnie Creek v Britské Kolumbii a stromy začaly hořet. Byl to na lesní požár sice brzký termín, ale suchý podzim a teplé jaro proměnily les v sušinu, a plameny se proto šířily velmi rychle. Do poloviny června se z požáru stal jeden z největších v historii provincie, který spálil rozsáhlou oblast boreálního lesa. V tomto roce shořela v Kanadě rekordní plocha.
Ammar Wadi věděl, že riskuje život, když se v červnu vydal pro pytel mouky pro svou rodinu k nákladnímu autu s pomocí u přechodu Zikim do Gazy. Na domovskou obrazovku svého mobilního telefonu si napsal vzkaz: „Odpusť mi mami, jestli se mi něco stane. Kdokoli najde můj telefon, prosím, řekněte mé rodině, že je moc miluji.“ Uprostřed pravidelné izraelské palby směrem k lidem hledajícím pomoc se Wadi už nikdy nevrátil domů a jeho zpráva byla rodině doručena týdny později nálezcem jeho telefonu. Bylo to to poslední, co o něm slyšeli.
Lobbisté největších světových farmaceutických společností prezentují novou dohodu o cenách ve Spojeném království jako vzor, který by měla následovat i zbylá Evropa. Cílem je zabránit výrobcům léků v odchodu do Ameriky. K radosti prezidenta Donalda Trumpa a lobbistů, britští představitelé souhlasili s 25procentním navýšením výdajů na nové léky výměnou za tříletou úlevu od cel na farmaceutický export do USA. Tento krok přichází v době, kdy velcí výrobci léků, jako jsou AstraZeneca a Merck, ruší projekty ve Spojeném království. Trumpova administrativa navíc využívá hrozby cly, aby přinutila farmaceutické firmy ke zvýšení cen pro Evropany, což by umožnilo jejich snížení pro Američany.
Ještě před summitem OSN COP30 se zdálo, že Čína má zájem převzít roli nového globálního lídra v oblasti klimatických změn. Tím by vyplnila mezeru, kterou zanechal odchod Spojených států z čelní pozice pod vedením Donalda Trumpa. Pro pochopení čínských záměrů v této roli je podle expertů užitečné prozkoumat tři hlavní motivace, které vedou Peking k převzetí vedení, a dvě oblasti, kterým se snaží vyhnout.