Evropská unie se konce světa způsobného AI nebojí. Věří, že je připravena

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková DNES 14:55
Sdílej:

Příspěvek bývalého výzkumníka společností Anthropic a OpenAI Jacoba Coxona na sociálních sítích vyvolal značný poplach varováním, že vývojáři umělé inteligence riskují se lidskými životy. Výzkumník při svém odchodu z firmy uvedl, že tvůrci pokročilých modelů věří v možnost hrozby konce lidstva do konce tohoto desetiletí. V Bruselu však tato dramatická varování vyvolala spíše klidnou reakci spojenou s přesvědčením, že Evropská unie již na podobná rizika včas zareagovala. Zástupci unijních institucí považují současnou paniku v Silicon Valley za potvrzení správnosti evropské regulace.

Evropští zákonodárci i představitelé Evropské komise podle webu Politico zdůrazňují, že Evropská unie disponuje právním rámcem určeným přesně pro tyto scénáře. Tímto nástrojem je dříve přijatý akt o umělé inteligenci, který stanovuje povinnosti pro vývojáře nejrozsáhlejších modelů. Irský europoslanec Michael McNamara, který spolupředsedá skupině Evropského parlamentu pro monitorování umělé inteligence, potvrdil, že Unie již na tyto hrozby legislativně pamatovala. Podle zástupců Komise tak má kontinent k dispozici jasný systém pro řízení a zmírňování rizik spojených s pokročilou technologií.

Italský europoslanec Brando Benifei upozornil, že právě z těchto důvodů legislativa zavedla přísná pravidla pro modely představující takzvané systémové riziko. Mezi tato rizika patří například ztráta kontroly nad modelem nebo situace, kdy se chování umělé inteligence odchýlí od lidských cílů a hodnot. Vývojáři jako OpenAI nebo Anthropic tak mají zákonnou povinnost tato rizika aktivně vyhodnocovat a předcházet jim. Benifei proto vyzval Evropskou komisi, aby vymáhání schválených pravidel uplatňovala v plném rozsahu.

Na dodržování nastavených pravidel dohlíží Evropský úřad pro umělou inteligenci, který spolupracuje s nezávislými výzkumnými organizacemi. Unijní orgány v tomto směru využívají například neziskovou organizaci METR se sídlem v Kalifornii. Právě výzkumníci z této organizace byli v červenci přizváni k vyšetřování incidentu u společnosti Hugging Face, kde se autonomní agenti pohánění technologií OpenAI vymkli kontrole. Tento případ ukázal praktickou potřebu nezávislého dohledu nad fungováním pokročilých algoritmů.

Šéf italské technologické společnosti Domyn Uljan Sharka označil veřejnou paniku kolem příspěvku za přehnanou, ale zároveň v ní vidí příležitost pro evropské lídry. Podle jeho slov by předsedkyně Evropské komise Ursula von der Leyenová měla situaci využít k vysvětlení smyslu evropské regulace během svého nadcházejícího projevu o stavu Unie. Sharka zdůraznil, že cílem Evropy není zpomalení inovací, ale naopak jejich bezpečnější a v konečném důsledku rychlejší rozvoj. Evropská unie podle něj dělá věci správným způsobem, ale málo je veřejnosti vysvětluje.

Evropský parlament již potvrdil, že varování před rizikem vyhynutí lidstva způsobeným umělou inteligencí zařadí na pořad jednání koncem měsíce. Diskuse proběhne v rámci pravidelné kontroly vymáhání práva s představiteli Evropské komise. Mluvčí Komise Thomas Regnier v oficiálním prohlášení zopakoval, že Unie již potřebný právní rámec k regulaci pokročilých modelů má. Zákonodárci hodlají na Unii apelovat, aby zvýšila tlak na technologické firmy a zajistila plné dodržování platných předpisů.

Stalo se
Novinky
Emmanuel Macron

Macron chtěl dokázat, že Evropa americkou NASA nepotřebuje. Povedl se mu pravý opak

Mezinárodní vesmírný summit pořádaný francouzským prezidentem Emmanuelem Macronem v Paříži měl demonstrovat odhodlání Evropy investovat do vlastního kosmického sektoru. Dvoudenní setkání pod skleněnou kopulí paláce Grand Palais však podle webu Politico ukázalo, že evropské země stále nevynakládají dostatek prostředků na snížení závislosti na Spojených státech. Zástupci průmyslu sice na okraj konference oznámili nové soukromé investice v hodnotě miliard eur, akce však nepřinesla očekávané závazky ohledně veřejného financování. Evropě tak i nadále chybí prostředky potřebné k samostatnému přístupu do vesmíru bez americké pomoci.

Novinky
Vladimir Putin

Putin přicestoval do Indie, zúčastní se summitu BRICS

Ruský prezident Vladimir Putin přicestoval do indického Dillí, kde se účastní dvoudenního summitu rozšiřujícího se uskupení BRICS. Na vojenské základně Palam jej po příletu přivítal indický náměstek ministra zahraničí Kirti Vardhan Singh. Hlavními tématy vrcholného setkání představitelů jedenácti členských zemí jsou probíhající válečné konflikty na Blízkém východě a na Ukrajině a také aktuální hospodářské výzvy. V indické metropoli panují v souvislosti s akcí přísná bezpečnostní opatření a rozsáhlá dopravní omezení.

Novinky
J.D. Vance

Pochybnosti mizí. Poslední projev Vance působil jako vystřižený z prezidentské kampaně

Republikánská strana zakončila v texaském Dallasu svůj neobvyklý dvoudenní kongres zaměřený na nadcházející kongresové volby. Klíčový večerní projev přednesl viceprezident JD Vance, který využil vystoupení k prezentaci rodinných hodnot, víry a ostré kritice Demokratické strany. Jeho vystoupení však v samém závěru zastínil neplánovaný příchod prezidenta Donalda Trumpa, který se ujal slova na více než pětadvacet minut.

Počasí
Moře

Počasí, jaké planeta nezažila. Světové oceány dosáhly nejvyšší teploty v historii měření

Světové oceány dosáhly nejvyšší průměrné teploty v historii měření. Podle nejnovějších vědeckých dat činila průměrná teplota mořské hladiny mimo polární oblasti 21,1 stupně Celsia. Tento rekordní nárůst představuje jasný ukazatel pokračující klimatické krize, neboť oceány pohlcují více než 90 procent tepla zachyceného skleníkovými plyny.