Pravidla nepomáhají. Test odhalil, jak se AI staví k úpravám lidí

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 1. října 2026 15:24
Sdílej:

Umělá inteligence je schopna na pokyn uživatelů upravovat obrázky a odstraňovat muslimským ženám náboženské šátky neboli hidžáby. Ukázaly to testy britského deníku The Guardian, který podrobil zkoušce několik předních konverzačních AI modelů. Ačkoliv vývojáři deklarují přísná pravidla pro úpravu fotografií reálných osob, v praxi systémy náboženské symboly často ze snímků vymazávají. Tento postup kritizují odborníci na lidská práva i náboženskou svobodu.

Redakce požádala o úpravu AI vygenerovaného snímku ženy v hidžábu chatboty ChatGPT, Grok, Gemini a Claude. Nástroje ChatGPT od společnosti OpenAI a Grok od firmy xAI požadavku na odstranění šátku bez problémů vyhověly. Model Claude od společnosti Anthropic uvedl, že sice nemá funkci pro úpravu obrázků, ale z náboženských důvodů by k takovému zásahu nepřistoupil. Vývojářské firmy k výsledkům testu odmítly poskytnout oficiální komentář.

Specifickým způsobem reagoval systém Gemini od společnosti Google. Ten nejprve tvrdil, že oblečení ani pokrývky hlavy odstraňovat nemůže, protože bez souhlasu dané osoby nedokáže odhadnout její reálný vzhled pod oděvem. Jakmile však redaktoři zadali pokyn, aby žena na obrázku vypadala více západně, bot vytvořil nový snímek již bez hidžábu. Obdobně systém postupoval i v případě generovaného obrázku muže s tradičním sikhským turbanem.

Testování chatbotů bylo reakcí na čin francouzského krajně pravicového politika Juliena Odoula ze strany Národní sdružení. Tento poslanec zveřejnil na síti X upravenou fotografii reálné muslimské ženy, ze které odstranil hidžáb i dlouhé šaty a odkryl její vlasy a paže. K fotografii přidal příspěvek s textem oslavujícím francouzskou svobodu. Politik sdílel také původní snímek z ulice a dal jasně najevo, že nová verze byla digitálně upravena.

Podle odborníků je jednání francouzského poslance součástí širšího trendu technologicky generované nenávisti namířené proti muslimům. Studie amerického výzkumného centra CSOH upozorňuje, že generativní umělá inteligence hraje významnou roli při vytváření ponižujících obrázků například v Indii. Podobným útokům pomocí umělé inteligence čelí také prominentní muslimské političky ve Spojených státech. Ředitelka výzkumu Eviane Leidigová uvedla, že jde o pokračující zneužívání muslimských komunit, zejména pak žen.

Chatboty přitom odmítají plnit pokyny, které směřují k odhalování těla nebo svlékání šatů z obrázků. Na dotaz po rozdílu mezi oděvem a hidžábem odpověděl systém Grok, že odstranění šátku považoval za jednoduchou změnu účesu a oblečení. Nástroj ChatGPT původně odmítl svléknout ženě šaty s tím, že by tím odhalil její tělo, zatímco šátek je pouhou pokrývkou hlavy. Později však systém připustil, že odhalení vlasů u věřící ženy může představovat zásadní porušení soukromí i náboženských zásad.

Deník The Guardian provedl obdobné testy také u dalších náboženských pokrývek hlavy, jako je sikhský turban nebo řádový závoj katolické řeholnice. Systém ChatGPT bez váhání vygeneroval nové obrázky bez obou těchto náboženských symbolů. Model Gemini zase u katoličky odstranil řeholní oděv, přestože předtím tvrdil, že takové zásahy z technických důvodů provádět nemůže. Chování jednotlivých modelů podle odborníků odhaluje mezery v pravidlech pro komunitu a používání umělé inteligence.

Model Claude ve svém stanovisku zdůraznil, že úprava náboženského oděvu reálné osoby mění způsob jejího zobrazování a může sloužit k obtěžování či zesměšnění. Otázka digitálního odhalování osob pomocí umělé inteligence vyvolala mezinárodní rozruch již dříve. Začátkem roku se na platformě X šířily svlečené snímky žen vytvořené nástrojem Grok, což vedlo k vyšetřování ve Francii a dočasnému omezení služby v Malajsii. Vývojářské firmy se k nejnovějším zjištěním odmítly vyjádřit.

Stalo se
Novinky
Komentář
Ilustrační fotografie.

Neúprosná realita! Náklady se zvyšují i těm, kteří se chtěli vyhnout drahému plynu

Zdražování energií v Česku se stále výrazněji přelévá také na trh s palivovým dřevem, peletami a briketami. Jejich ceny letos vzrostly zhruba o pětinu, v některých případech i více. Nejvýraznější cenové tlaky se týkají suchého tvrdého dřeva, jehož nabídka je omezenější. Domácnosti, které v minulosti investovaly do vytápění dřevem jako levnější alternativy plynu či elektřiny, tak nyní zjišťují, že ani tento způsob vytápění není vůči energetickým otřesům imunní.

Novinky
Donald Trump

Trump, Putin a Si budou v příštím týdnu psát dějiny! Bílý dům prozradil detaily

Americký prezident Donald Trump, šéf Kremlu Vladimir Putin a čínský komunistický vůdce Si Ťin-pching se příští týden plánují setkat na okraj summitu v Číně. Uvedl to Bílý dům, informovala britská stanice BBC. 

Novinky
Ilustrační fotografie.

Čistíme si zuby lépe než dřív? Expert má jasno!

Zubní lékař Roman Šmucler se poprvé vyjádřil ke svému konci v čele České stomatologické komory. Podle svých slov dokončil misi, kterou neskromně považuje za úspěšnou. Šmucler rezignoval po diskuzi ohledně dalšího fungování komory. 

Novinky
Kreml

Rusové se zase osmělují! Nové požadavky Kremlu se týkají hned několika zemí

Rusko si začíná diktovat podmínky, které bude leckdo považovat za nesplnitelné. Delegace vyslaná Kremlem měla na jednáních v Abú Zabí přednést návrhy ohrožující suverenitu dalších pěti evropských zemí. S odvoláním na své zdroje to tvrdí německý deník Bild.