Politico: Evropská unie se chystá k ráznému kroku proti zneužívání umělé inteligence

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková DNES 12:07
Sdílej:

Evropská unie se chystá k ráznému kroku proti zneužívání umělé inteligence. Podle návrhů, které získal server Politico, hodlá Brusel zakázat aplikace a systémy schopné generovat sexuálně explicitní deepfaky reálných osob. Tato legislativní iniciativa reaguje na nedávný skandál kolem nástroje Grok na sociální síti X, který uživatelům umožnil vytvářet miliony kompromitujících snímků bez souhlasu dotčených lidí.

Nová pravidla by mohla vstoupit v platnost již letos v létě. Návrh, o kterém mají v pátek jednat velvyslanci členských států EU, by postavil mimo zákon uvádění jakéhokoli systému umělé inteligence na evropský trh, který dokáže generovat neautorizovaná pornografická videa, obrázky nebo audiozáznamy. Europoslanci tento zákaz podpořili v rámci samostatných jednání již tuto středu.

Katalyzátorem pro toto rychlé jednání byl především nástroj Grok miliardáře Elona Muska. Odhaduje se, že během pouhých jedenácti dnů na přelomu roku vygeneroval tento chatbot až tři miliony sexuálních obrázků bez souhlasu zobrazených osob a přibližně 20 000 snímků zneužívajících děti. Přestože platforma X následně přijala opatření k omezení těchto funkcí, unijní orgány nyní prověřují, zda byla tato náprava dostatečná.

Původním záměrem Evropské komise přitom bylo snížit regulační zátěž pro firmy zabývající se umělou inteligencí. Poté, co se však ukázalo, jak snadno lze technologii zneužít k degradaci žen i dětí, změnily unijní instituce priority. Ochrana důstojnosti jednotlivce se stala důležitějším tématem než původně plánované odklady restrikcí pro vysoce rizikové systémy AI.

Klíčovou roli v prosazování zákazu sehrálo Španělsko, které patřilo k nejhlasitějším zastáncům přísné regulace. Naopak Kypr, který v současnosti předsedá Radě EU, s návrhem zpočátku váhal. Nakonec však kyperské předsednictví předložilo téměř finální text, který výslovně zakazuje systémy generující intimní partie nebo sexuálně explicitní aktivity identifikovatelných fyzických osob.

Evropský parlament k dohodě přidal důležitou poznámku – zákaz se nebude vztahovat na společnosti, které prokazatelně zavedly účinná bezpečnostní opatření zabraňující zneužití jejich nástrojů. Cílem tedy není zlikvidovat technologický pokrok jako takový, ale vynutit si odpovědnost vývojářů za to, k čemu jejich software slouží.

Poslankyně nizozemských Zelených Kim van Sparrentak k situaci uvedla, že to, co může být pro někoho vteřinovým vtipem, může oběti způsobit trvalé trauma. Podle zákonodárců je nejvyšší čas ukončit éru aplikací, které slouží k digitálnímu „svlékání“ lidí. Parlamentní výbory mají o finálním znění hlasovat 18. března, následovat bude schválení Radou.

Souběžně s tímto zákazem vyzval Parlament Evropskou komisi k vyšetření dalších možností ochrany jednotlivců před šířením manipulovaného obsahu. Diskuse se nyní rozšiřuje i na autorské právo a odpovědnost platforem za obsah, který jejich systémy vypustí do světa. Evropa tak dává jasně najevo, že hranice svobody technologií končí tam, kde začíná zásah do intimity a důstojnosti člověka.

Stalo se
Celebrity
Bývalý princ Andrew

Britové chtějí odpovědi! Co věděla rodina o maléru bývalého prince Andrewa?

Britové dali opět jasně najevo, že chtějí odpovědi nejen od bývalého prince Andrewa. Mnozí lidé se totiž domnívají, že členové královské rodiny o jeho chování zkrátka museli vědět. Kauzu dokonce využívají občané, kteří orodují za ukončení činnosti monarchie. 

Novinky
Petr Pavel

Pavel zve Babiše na Hrad! Premiér má novou pravomoc s vlivem na prezidenta

Dvě nejdiskutovanější politické persony v Česku se příští týden sejdou z očí do očí. Prezident Petr Pavel a premiér Andrej Babiš (ANO) budou jednat o státním rozpočtu, aktuální bezpečnostní situaci či zahraničních cestách. 

Počasí
Ilustrační fotografie

POČASÍ v Česku: Velká předpověď až do Velikonoc!

Skoro až za měsíc přijdou na řadu Velikonoce, ale tuzemští meteorologové už začínají tušit, jak během nich bude. A spoustu lidí to zajímá. V Česku mají do začátku dubna nadále panovat průměrné či dokonce nadprůměrné teploty. Vyplývá to z aktuálního měsíčního výhledu Českého hydrometeorologického ústavu (ČHMÚ). 

Novinky
Ilustrační fotografie

Krok, který v historii nemá obdoby. IEA uvolní rekordní množství ropy, svět ji přesto spotřebuje za čtyři dny

Členské státy Mezinárodní energetické agentury (IEA) ve středu jednomyslně schválily krok, který nemá v historii obdoby. Aby zmírnily dopady eskalujícího konfliktu na Blízkém východě a zastavily prudký růst cen energií, uvolní na globální trh rekordních 400 milionů barelů ropy ze svých nouzových rezerv. Výkonný ředitel IEA Fatih Birol potvrdil, že jde o největší akci v dějinách agentury, která má kompenzovat výpadek způsobený faktickým uzavřením strategického Hormuzského průlivu. 400 milionů barelů ropy je zhruba tolik, kolik svět spotřebuje během čtyř dnů, nebo kolik za normálních okolností proteče Hormuzským průlivem za 20 dní.