Pravidla nepomáhají. Test odhalil, jak se AI staví k úpravám lidí

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková DNES 15:24
Sdílej:

Umělá inteligence je schopna na pokyn uživatelů upravovat obrázky a odstraňovat muslimským ženám náboženské šátky neboli hidžáby. Ukázaly to testy britského deníku The Guardian, který podrobil zkoušce několik předních konverzačních AI modelů. Ačkoliv vývojáři deklarují přísná pravidla pro úpravu fotografií reálných osob, v praxi systémy náboženské symboly často ze snímků vymazávají. Tento postup kritizují odborníci na lidská práva i náboženskou svobodu.

Redakce požádala o úpravu AI vygenerovaného snímku ženy v hidžábu chatboty ChatGPT, Grok, Gemini a Claude. Nástroje ChatGPT od společnosti OpenAI a Grok od firmy xAI požadavku na odstranění šátku bez problémů vyhověly. Model Claude od společnosti Anthropic uvedl, že sice nemá funkci pro úpravu obrázků, ale z náboženských důvodů by k takovému zásahu nepřistoupil. Vývojářské firmy k výsledkům testu odmítly poskytnout oficiální komentář.

Specifickým způsobem reagoval systém Gemini od společnosti Google. Ten nejprve tvrdil, že oblečení ani pokrývky hlavy odstraňovat nemůže, protože bez souhlasu dané osoby nedokáže odhadnout její reálný vzhled pod oděvem. Jakmile však redaktoři zadali pokyn, aby žena na obrázku vypadala více západně, bot vytvořil nový snímek již bez hidžábu. Obdobně systém postupoval i v případě generovaného obrázku muže s tradičním sikhským turbanem.

Testování chatbotů bylo reakcí na čin francouzského krajně pravicového politika Juliena Odoula ze strany Národní sdružení. Tento poslanec zveřejnil na síti X upravenou fotografii reálné muslimské ženy, ze které odstranil hidžáb i dlouhé šaty a odkryl její vlasy a paže. K fotografii přidal příspěvek s textem oslavujícím francouzskou svobodu. Politik sdílel také původní snímek z ulice a dal jasně najevo, že nová verze byla digitálně upravena.

Podle odborníků je jednání francouzského poslance součástí širšího trendu technologicky generované nenávisti namířené proti muslimům. Studie amerického výzkumného centra CSOH upozorňuje, že generativní umělá inteligence hraje významnou roli při vytváření ponižujících obrázků například v Indii. Podobným útokům pomocí umělé inteligence čelí také prominentní muslimské političky ve Spojených státech. Ředitelka výzkumu Eviane Leidigová uvedla, že jde o pokračující zneužívání muslimských komunit, zejména pak žen.

Chatboty přitom odmítají plnit pokyny, které směřují k odhalování těla nebo svlékání šatů z obrázků. Na dotaz po rozdílu mezi oděvem a hidžábem odpověděl systém Grok, že odstranění šátku považoval za jednoduchou změnu účesu a oblečení. Nástroj ChatGPT původně odmítl svléknout ženě šaty s tím, že by tím odhalil její tělo, zatímco šátek je pouhou pokrývkou hlavy. Později však systém připustil, že odhalení vlasů u věřící ženy může představovat zásadní porušení soukromí i náboženských zásad.

Deník The Guardian provedl obdobné testy také u dalších náboženských pokrývek hlavy, jako je sikhský turban nebo řádový závoj katolické řeholnice. Systém ChatGPT bez váhání vygeneroval nové obrázky bez obou těchto náboženských symbolů. Model Gemini zase u katoličky odstranil řeholní oděv, přestože předtím tvrdil, že takové zásahy z technických důvodů provádět nemůže. Chování jednotlivých modelů podle odborníků odhaluje mezery v pravidlech pro komunitu a používání umělé inteligence.

Model Claude ve svém stanovisku zdůraznil, že úprava náboženského oděvu reálné osoby mění způsob jejího zobrazování a může sloužit k obtěžování či zesměšnění. Otázka digitálního odhalování osob pomocí umělé inteligence vyvolala mezinárodní rozruch již dříve. Začátkem roku se na platformě X šířily svlečené snímky žen vytvořené nástrojem Grok, což vedlo k vyšetřování ve Francii a dočasnému omezení služby v Malajsii. Vývojářské firmy se k nejnovějším zjištěním odmítly vyjádřit.

Stalo se
Novinky
Vladimir Putin

Trump pozval Putina do USA. Rusko se radovalo, teď Kreml otočil

Mluvčí Kremlu Dmitrij Peskov podle webu Kyiv Post prohlásil, že je zatím předčasné hovořit o možné účasti ruského prezidenta Vladimira Putina na nadcházejícím summitu skupiny G20 v Miami. Ruská strana tak mírní své předchozí prohlášení, v němž americkou pozvánku původně přivítala. Podle Peskova zatím nebylo přijato žádné konečné rozhodnutí a Moskva nabídku nejprve důkladně prostuduje prostřednictvím diplomatických kanálů. Mluvčí zároveň zdůraznil, že oficiální odpověď ruské strany bude formulována až po vyhodnocení všech okolností.

Novinky
Evropská unie

EU odmítá nové požadavky Ukrajiny na poskytnutí dodatečné finanční pomoci

Evropská unie odmítá nové požadavky Ukrajiny na poskytnutí dodatečné finanční pomoci a vyzývá Kyjev ke splnění odkládaných reforem. Brusel zdůrazňuje, že hlavní prioritou je v současné době uvolnění miliard eur z již schváleného úvěrového balíku. Bez zavedení požadovaných reforem ze strany ukrajinských orgánů totiž nelze další finanční prostředky vyplácet. Unijní představitelé dělají vše pro to, aby se pomoc dostala k cíli řádným způsobem.

Počasí
Švýcarské Alpy

Švýcarské ledovce ztratily během pouhých pěti let pětinu celkového objemu ledu

Švýcarské ledovce ztratily během pouhých pěti let téměř pětinu svého celkového objemu ledu. Místní alpská krajina se v důsledku extrémního tání proměňuje v kamenitou měsíční krajinu bez souvislé sněhové pokrývky. Vědci upozorňují, že takto prudký úbytek ledové hmoty představuje dramatickou proměnu celého horského ekosystému. Podle výzkumníků si přitom mnoho lidí plně neuvědomuje, jak rychlým tempem ledovce z povrchu mizí.

Novinky
Ilustrační fotografie

Ruská armáda podnikla rozsáhlý letecký útok na ukrajinskou energetickou síť

Ruská armáda podnikla rozsáhlý letecký útok na ukrajinskou energetickou síť a zasáhla zařízení v okolí Kyjeva i v dalších regionech. Podle ukrajinských představitelů si údery zaměřené na energetickou infrastrukturu vyžádaly nejméně sedm lidských životů. Jednalo se o nejmasivnější kombinovaný útok na energetické objekty za poslední měsíce. Útoky následovaly po několika dnech intenzivních dronových náletů zaměřených především na ukrajinskou metropoli.