Evropská unie se konce světa způsobného AI nebojí. Věří, že je připravena

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 11. září 2026 14:55
Sdílej:

Příspěvek bývalého výzkumníka společností Anthropic a OpenAI Jacoba Coxona na sociálních sítích vyvolal značný poplach varováním, že vývojáři umělé inteligence riskují se lidskými životy. Výzkumník při svém odchodu z firmy uvedl, že tvůrci pokročilých modelů věří v možnost hrozby konce lidstva do konce tohoto desetiletí. V Bruselu však tato dramatická varování vyvolala spíše klidnou reakci spojenou s přesvědčením, že Evropská unie již na podobná rizika včas zareagovala. Zástupci unijních institucí považují současnou paniku v Silicon Valley za potvrzení správnosti evropské regulace.

Evropští zákonodárci i představitelé Evropské komise podle webu Politico zdůrazňují, že Evropská unie disponuje právním rámcem určeným přesně pro tyto scénáře. Tímto nástrojem je dříve přijatý akt o umělé inteligenci, který stanovuje povinnosti pro vývojáře nejrozsáhlejších modelů. Irský europoslanec Michael McNamara, který spolupředsedá skupině Evropského parlamentu pro monitorování umělé inteligence, potvrdil, že Unie již na tyto hrozby legislativně pamatovala. Podle zástupců Komise tak má kontinent k dispozici jasný systém pro řízení a zmírňování rizik spojených s pokročilou technologií.

Italský europoslanec Brando Benifei upozornil, že právě z těchto důvodů legislativa zavedla přísná pravidla pro modely představující takzvané systémové riziko. Mezi tato rizika patří například ztráta kontroly nad modelem nebo situace, kdy se chování umělé inteligence odchýlí od lidských cílů a hodnot. Vývojáři jako OpenAI nebo Anthropic tak mají zákonnou povinnost tato rizika aktivně vyhodnocovat a předcházet jim. Benifei proto vyzval Evropskou komisi, aby vymáhání schválených pravidel uplatňovala v plném rozsahu.

Na dodržování nastavených pravidel dohlíží Evropský úřad pro umělou inteligenci, který spolupracuje s nezávislými výzkumnými organizacemi. Unijní orgány v tomto směru využívají například neziskovou organizaci METR se sídlem v Kalifornii. Právě výzkumníci z této organizace byli v červenci přizváni k vyšetřování incidentu u společnosti Hugging Face, kde se autonomní agenti pohánění technologií OpenAI vymkli kontrole. Tento případ ukázal praktickou potřebu nezávislého dohledu nad fungováním pokročilých algoritmů.

Šéf italské technologické společnosti Domyn Uljan Sharka označil veřejnou paniku kolem příspěvku za přehnanou, ale zároveň v ní vidí příležitost pro evropské lídry. Podle jeho slov by předsedkyně Evropské komise Ursula von der Leyenová měla situaci využít k vysvětlení smyslu evropské regulace během svého nadcházejícího projevu o stavu Unie. Sharka zdůraznil, že cílem Evropy není zpomalení inovací, ale naopak jejich bezpečnější a v konečném důsledku rychlejší rozvoj. Evropská unie podle něj dělá věci správným způsobem, ale málo je veřejnosti vysvětluje.

Evropský parlament již potvrdil, že varování před rizikem vyhynutí lidstva způsobeným umělou inteligencí zařadí na pořad jednání koncem měsíce. Diskuse proběhne v rámci pravidelné kontroly vymáhání práva s představiteli Evropské komise. Mluvčí Komise Thomas Regnier v oficiálním prohlášení zopakoval, že Unie již potřebný právní rámec k regulaci pokročilých modelů má. Zákonodárci hodlají na Unii apelovat, aby zvýšila tlak na technologické firmy a zajistila plné dodržování platných předpisů.

Stalo se
Novinky
Petr Pavel

Telegraph: Evropským vyjednavačem, který bude jednat s Putinem, by se mohl stát Pavel

Evropští představitelé hledají potenciální vyjednavače, kteří by jednali s Vladimirem Putinem v nadcházejících rozhovorech o ukončení války na Ukrajině. Diplomatické zdroje webu The Telegraph potvrdily, že v této záležitosti již proběhly předběžné kontakty s možnými kandidáty. Tato snaha pramení z rostoucí obavy, že Spojené státy pod vedením Donalda Trumpa již plně nezastupují nejlepší zájmy Evropy.

Novinky
Donald Trump

Odejít jen tak nehodlá. Trump tvrdí, že má právo kandidovat na prezidenta znovu

Americký prezident Donald Trump během svého vystoupení v Iowě opět hovořil o možnosti kandidovat na třetí prezidentské období. Přestože sám zmínil ústavní omezení, prohlásil, že by podle svého názoru právo kandidovat znovu měl. Své tvrzení opřel o nepodložená obvinění z rozsáhlých podvodů při volbách v roce 2020.

Novinky
Emmanuel Macron

Francouzské odbory a opozice se bouří. Obvinili Macrona z ohrožení práva na shromažďování

Francouzské odbory a opoziční politici obvinili prezidenta Emmanuela Macrona z ohrožení práva na shromažďování a protesty. Reagují tak na vládní snahu urychleně prosadit kontroverzní zákon, podle kterého by demonstranti nesli finanční odpovědnost za škody způsobené vandalismem. Tato legislativa přichází v době prohlubující se sociální krize a rozsáhlých vln demonstrací napříč zemí.

Novinky
Radosław Sikorski

Rusko vede po celé Evropě neustálou hybridní kampaň, varuje Sikorski

Polský ministr zahraničních věcí Radosław Sikorski v rozhovoru pro americkou televizní stanici CNN uvedl, že Rusko vede po celé Evropě neustálou hybridní kampaň. Tato kampaň zahrnuje řadu destruktivních činů včetně vražd, žhářství, kybernetických útoků a sabotáží, které probíhají navzdory tomu, že zůstávají pod prahem otevřené ozbrojené invaze.