Jeden z průkopníků umělé inteligence, profesor Yoshua Bengio, se obává, že současný vývoj AI směřuje k nebezpečným důsledkům. Proto spustil nový projekt, který má přinést zásadní změnu: vytvořit „čestnou“ a bezpečnější alternativu ke stávajícím systémům. Učinil tak ve chvíli, kdy FBI oznámila, že pachatelé nedávného bombového útoku na kliniku v Kalifornii použili k získání návodu na výrobu výbušniny právě AI.
Incident znovu poukázal na „divoký západ“, ve kterém se vývoj AI nyní nachází. Firmy soutěží v rychlosti, zábavnosti i výkonu svých systémů a bezpečnost často ustupuje do pozadí. Podle Bengia je čas na zásadní změnu.
Profesor Bengio, držitel Turingovy ceny (spolu s Geoffreym Hintonem a Yannem LeCunem), nyní prostřednictvím neziskové organizace LawZero pracuje na vývoji modelu „Scientist AI“. Jeho cílem je vytvořit systém, který nebude klamat, bude navržen s důrazem na bezpečnost a dokáže čelit rizikům, která mohou plynout z jiných, méně spolehlivých AI.
Na rozdíl od současných jazykových modelů má „Scientist AI“ dvě klíčové schopnosti, a sice vyjadřování míry důvěry ve své odpovědi – tedy umět říci „nejsem si jistý“, a vysvětlování svého uvažování – čímž se zlepší dohled a ověřitelnost závěrů, které AI produkuje.
Tyto schopnosti byly běžné u starších modelů, ale s rozmachem moderních systémů šla vysvětlitelnost stranou ve prospěch rychlosti a výpočetního výkonu.
Bengio plánuje využít Scientist AI také jako „hlídače“ jiných, potenciálně nebezpečných AI systémů. Lidský dohled nestačí – AI modely, jako je ChatGPT, obsluhují denně více než miliardu požadavků. Monitorovat je zvládne jedině jiná AI.
Dalším zásadním vylepšením má být tzv. world model – základní chápání reality. Podobně jako lidé činí rozhodnutí na základě zkušeností a znalostí, AI potřebuje chápat reálný svět, aby fungovala správně.
Bez něj dnešní modely selhávají i v jednoduchých úlohách: například při kreslení rukou, kde zvládnou vzhled, ale ne realistický pohyb, nebo při hraní šachů, kde jazykové modely občas porušují pravidla, zatímco starší šachové AI poráží i mistry světa.
Bengio a jeho tým se nachází na správné cestě, ale jejich rozpočet – 30 milionů dolarů – je jen zlomkem toho, co mají k dispozici velké korporace. Například americký prezident Donald Trump letos oznámil masivní vládní investici 500 miliard dolarů do AI.
Navíc většina potřebných dat, bez nichž se žádná výkonná AI neobejde, zůstává pod kontrolou technologických gigantů.
Zůstává také zásadní otázka: i pokud Scientist AI bude fungovat přesně podle Bengiova plánu – jakým způsobem bude schopna zastavit či omezit nebezpečné systémy, které již jsou v provozu?
Navzdory překážkám může tento projekt změnit přístup vývojářů i tvůrců legislativy k bezpečnosti AI. Mohl by nastavit nové standardy, které vývojáře přimějí k odpovědnějšímu přístupu.
Jak uvádí server The Conversation, kdyby podobná opatření vznikla v počátcích éry sociálních sítí, mohli jsme dnes mít bezpečnější online prostředí. A možná, kdyby už Scientist AI fungoval, mohl zabránit i zneužití AI při útoku na kliniku v Kalifornii.
V průběhu dne došlo k prudkému zhoršení vztahů mezi Washingtonem a Madridem, když Donald Trump označil Španělsko za velmi špatného partnera. Rozbuškou se stal zákaz využívání strategických základen Morón a Rota pro americké vojenské lety v rámci probíhající války v Íránu. Prezident USA při jednání s německým kancléřem Friedrichem Merzem oznámil, že hodlá se Španělskem kompletně zastavit veškerou obchodní výměnu.
Americký prezident Donald Trump v úterý v Oválné pracovně poprvé od začátku konfliktu veřejně odpovídal na dotazy novinářů týkající se války s Íránem. Během setkání s německým kancléřem Friedrichem Merzem prohlásil, že většina íránských vojenských zařízení již byla zničena. Podle prezidentových slov nemá Írán po americké vojenské operaci žádné námořnictvo, letectvo, radarové systémy ani schopnost detekce vzdušných cílů.
Americký prezident Donald Trump vyjádřil v úterý nespokojenost s postojem britského premiéra Keira Starmera v souvislosti s konfliktem v Íránu. Přestože Starmer povolil americkým silám využívat britské základny, Spojené království se k přímému americko-izraelskému útoku nepřipojilo. Trump své rozhořčení neskrýval během setkání s německým kancléřem Friedrichem Merzem v Bílém domě.
Izraelská armáda oznámila omezený přesun svých jednotek do jižního Libanonu, jehož cílem je rozšířit kontrolu nad rámec pěti pozic udržovaných od příměří na konci roku 2024.
Izraelské ozbrojené složky v úterý potvrdily, že jejich oddíly postoupily hlouběji na území jižního Libanonu. Tento manévr rozšiřuje dosavadní kontrolu pěti strategických pozic a armáda jej popisuje jako upevnění obranného postavení. K posílení pozemních operací došlo kvůli narůstající agresivitě hnutí Hizballáh, které od začátku týdne cílí na severní části Izraele pomocí bezpilotních letounů a raketové palby.
Izraelská armáda v úterý odpoledne oznámila zahájení rozsáhlé vlny leteckých úderů na íránské hlavní město. Podle prohlášení Izraelských obranných sil (IDF) se útoky v Teheránu zaměřují na klíčovou infrastrukturu režimu. Armáda uvedla, že podrobnosti o konkrétních cílech a rozsahu operace budou následovat, zatímco nad íránskou metropolí pokračují operace letectva.
Íránská vláda s okamžitou platností zakázala vývoz veškerých potravin a zemědělských produktů. Rozhodnutí, které má platit až do odvolání, odůvodnily úřady snahou prioritně zajistit základní životní potřeby pro vlastní obyvatelstvo. V Teheránu se mezi lidmi šíří obavy z vleklého válečného konfliktu, což vede k masivnímu hromadění zásob jídla a nezbytného zboží.
Americký prezident Donald Trump v úterý rázně odmítl možnost dalšího vyjednávání s Íránem, přestože Teherán podle jeho slov o rozhovory sám požádal. Trump na své sociální síti Truth Social uvedl, že po drtivých úderech amerických a izraelských sil už není o čem jednat. Podle šéfa Bílého domu je íránská protivzdušná obrana, letectvo i námořnictvo v troskách a politické vedení země je paralyzováno.
Eskalující konflikt na Blízkém východě začal citelně zasahovat globální energetický trh. Poté, co Írán odpověděl na americké a izraelské útoky sérií protiúderů, se pozornost světa upřela na Hormuzský průliv. Tato strategická námořní cesta, která je v nejužším bodě široká pouhých 32 kilometrů, je naprosto klíčovým hrdlem světového obchodu, jímž protéká přibližně 20 % veškeré světové ropy.
I když válka mezi Spojenými státy, Izraelem a Íránem trvá teprve čtyři dny, už nyní je jasné, že jde o plnohodnotný regionální konflikt. Íránské rozhodnutí zaútočit na arabské státy, které jsou spojenci USA, a zapojení Velké Británie, jež povolila využití svých základen, situaci dramaticky vyhrotilo. Eskalace pokračuje každou hodinou, což potvrzuje i tragický incident, při kterém kuvajtská protivzdušná obrana omylem sestřelila tři americké stíhačky F-15E Strike Eagle v rámci takzvané přátelské palby.
Izraelský ministr obrany Israel Katz oznámil, že letectvo zasáhlo cíle režimu v Teheránu „významnou silou“. Podle jeho vyjádření Izrael pokračuje v systematické degradaci íránských schopností odpalovat rakety. Katz zdůraznil, že celá operace bude se vší rozhodností pokračovat tak dlouho, dokud to bude nutné k dosažení stanovených cílů.
Írán v rámci svých odvetných úderů v Perském zálivu překvapil mezinárodní společenství tím, že se přestal soustředit výhradně na vojenské objekty. Útoky se nyní zaměřují i na civilní infrastrukturu, což podle Mezinárodního výboru Červeného kříže zahrnuje vše, co není vojenským cílem. Pokud jsou taková místa napadena v době, kdy neslouží k armádním účelům, jde o porušení mezinárodního humanitárního práva.