Internet není místem pro děti, Australané to pochopili. Závadný obsah poškozuje vývoj i bezpečí nezletilých

Austrálie odpojila většinu nezletilých od sociálních sítí. Od středeční půlnoci platí v celé zemi nová legislativa, která dětem do 16 let zakazuje používat hlavní sociální platformy. Jde o jedno z nejambicióznějších opatření zaměřených na online bezpečnost mládeže na světě. Automatické odhlašování účtů zasáhlo statisíce uživatelů.

Premiér Anthony Albanese opatření označil za výraznou společenskou reformu. Zdůraznil, že cílem je omezit kyberšikanu, kontakt s rizikovým obsahem a závislostní chování u dospívajících. Současně připustil, že prosazování bude komplikované, avšak podle něj je už samotné zavedení pravidel zásadním posunem. Informoval o tom server DW.

Věkové ověřování musí nově zavést deset největších služeb – zejména TikTok, YouTube, Instagram, Facebook, Snapchat a Reddit. Povinnost se týká i streamovacích sítí typu Twitch nebo Kick. Naopak komunikační aplikace jako WhatsApp, e-mailové služby a běžné online hry do omezení nespadají.

Firmy budou k určování věku využívat kombinaci odhadních algoritmů, analýzy selfie a dobrovolně i ověřování totožnosti. Pokud platforma nezajistí účinné vyloučení nezletilých, riskuje pokutu až 49,5 milionu australských dolarů.

Velké společnosti neváhaly kritizovat zásah státu. Meta například upozornila, že by zákaz mohl mladé uživatele vyhnat do méně regulovaných a potenciálně nebezpečnějších online prostředí. Některé firmy, včetně X Elona Muska, deklarovaly nespokojenost, ale oznámily, že budou zákon respektovat, protože jde o povinnost uloženou australskou legislativou.

Digitální aktivisté varují před možnými dopady do soukromí a zpochybňují technickou proveditelnost plošného ověřování věku. Jedna z právních organizací se už obrátila na soud se snahou vrátit teenagerům přístup.

Sociální sítě nejsou pro mladé

Z charakteru současných digitálních platforem vyplývá, že nejsou primárně určeny pro osoby mladší 18 let. Dominantní část obsahu i interakcí je vytvářena dospělými a pro dospělé, a algoritmy i obchodní modely se logicky orientují právě na tuto skupinu. Přestože některé společnosti deklarují podporu „bezpečnějšímu online prostředí“, technologické nastavení těchto služeb tomu ve skutečnosti neodpovídá. Nezletilí jsou zde spíše vedlejším uživatelským segmentem než skupinou, pro niž by platformy cíleně optimalizovaly bezpečnostní standardy.

Například Reddit představuje nejvýraznější ukázku systémového selhání v oblasti ochrany nezletilých. Přístup k obsahu určenému výhradně pro dospělé je zde formálně vázán pouze na prosté potvrzení plnoletosti. Tento postup fakticky nepředstavuje žádnou překážku, nezletilý uživatel se jediným kliknutím dostane k pornografii, explicitním násilným materiálům či komunitám s potenciálně závažnými patologickými projevy.

Taková úroveň „ověřování“ je z hlediska ochrany dětí nedostatečná až irelevantní. Platforma tím přenáší odpovědnost na samotné dítě, přestože nese přímou kontrolu nad distribucí obsahu a jeho algoritmickým uspořádáním. Proto je zařazení Redditu mezi regulované služby v Austrálii nejen opodstatněné, ale i zcela nezbytné.

Síť X vykazuje v porovnání s Redditem mírně přísnější nastavení vůči explicitním materiálům, nicméně nelze ji označit za bezpečné prostředí. Uživatel relativně snadno nalezne obsah erotického či násilného charakteru, přičemž pokles moderace v posledních letech pouze zvýšil riziko nekontrolovaného šíření závadných materiálů.

TikTok a Instagram nepředstavují hrozbu primárně kvůli klasické pornografii, nýbrž kvůli výrazné komercionalizaci sexualizovaného obsahu. Tyto platformy fungují jako marketingové distribuční kanály směrující uživatele k placeným službám typu OnlyFans či obdobným „dospělým“ platformám. Zveřejňovaný obsah zde často slouží jako propagační nástroj, který normalizuje sexualizaci vlastní identity u velmi mladých uživatelek, a tím posouvá hranice toho, co je v online prostředí považováno za běžné či akceptovatelné.

Třináct let je prostě málo

Už dřívější vyjádření amerického hlavního chirurga Viveka Murthyho zásadně podpořilo tezi, že sociální sítě nejsou vhodným prostředím pro děti. Murthy otevřeně konstatoval, že věk 13 let je z hlediska psychologického vývoje příliš nízký na to, aby adolescenti zvládli tlak, dynamiku a hodnotová zkreslení, která digitální platformy přinášejí. V tomto období se u mladých lidí formuje identita, sebevědomí a schopnost vytvářet zdravé vztahy, tedy oblasti, které jsou extrémně citlivé na sociální porovnávání, negativní zpětnou vazbu a idealizované obrazy života, jež sociální sítě generují.

Skutečnost, že společnosti jako Meta nebo X nadále umožňují registraci uživatelů od 13 let, ukazuje na zásadní nesoulad mezi komerčními zájmy platforem a poznatky odborné veřejnosti. Murthy zdůraznil, že prostředí sociálních sítí děti v tomto věku deformuje, nikoliv podporuje, jak jej citovala americká stanice CNN.

Různé lékařské kapacity dlouhodobě upozorňují, že rizika nejsou hypotetická, protože výzkum již identifikoval konkrétní změny v mozkových procesech adolescentů vystavených intenzivnímu používání sociálních sítí. Studie publikovaná v JAMA Pediatrics prokázala zvýšenou nervovou citlivost v oblastech mozku, které reagují na sociální důsledky. Jinými slovy, čím častěji adolescent kontroluje sociální sítě, tím výrazněji se jeho mozek přizpůsobuje mechanismům okamžitého sociálního hodnocení.

Psychiatrička Adriana Stacey tento fenomén popsala jako neurobiologickou reakci podobnou jiným návykovým vzorcům, kdy sociální sítě vyvolávají prudké výkyvy dopaminu, zejména u mozku v adolescentním věku, který je na odměnové stimuly výrazně citlivější. Teenager se tak dostává do cyklu, kde touha po další odměně postupně převáží nad schopností věnovat se jiným činnostem.

Výzkumy dále ukazují, že nadměrný čas před obrazovkou u dětí v raném věku oslabuje rozvoj základních dovedností, zejména rané čtenářské schopnosti a expresivní jazyk. Tedy přesně těch kompetencí, které jsou klíčové pro úspěšné vzdělávání a budoucí sociální fungování. Tento trend potvrzuje, že problém nelze redukovat pouze na oblast psychologie nebo morálky. Jde o měřitelný zásah do vývoje kognitivních funkcí.

Výpovědi odborníků, neurologické studie i zkušenosti rodičů vytvářejí zřetelný obraz. Současná podoba sociálních sítí není kompatibilní s vývojovými potřebami dětí. Murthy proto apeloval na kolektivní přístup rodičů – pokud se domácnosti sjednotí a nastaví vyšší minimální věk pro používání sociálních médií, zvyšuje se šance, že děti nebudou vystaveny nevhodným vlivům v kritickém období dospívání.

Logičtější zakázat sítě dětem

Jak již bylo uvedeno, sociální sítě nejsou prostředím, které by svou podstatou odpovídalo potřebám či bezpečnosti dětských uživatelů. V tomto kontextu však Evropská unie zvolila přístup, jenž se od modelu založeného na jasné věkové regulaci zásadně odlišuje. Nově navrhovaná evropská legislativa počítá s tím, že platformy budou povinny plošně monitorovat komunikaci všech uživatelů s cílem odhalovat materiály související s dětskou pornografií či jinými formami zneužívání dětí.

Tento cíl je bezpochyby legitimní. Boj proti predátorům v digitálním prostředí je morální i právní povinností států. Nicméně prostředek, který EU volí, je sporný. Plošná kontrola soukromé komunikace, ať už v otevřených zprávách, nebo dokonce v šifrovaných konverzacích, představuje zásah do soukromí všech uživatelů, a nikoliv pouze těch, kteří se dopouštějí trestné činnosti. Opatření se tak svou povahou dotkne celého obyvatelstva, nikoliv jen rizikových skupin.

Zákaz přítomnosti nezletilých na platformách, doprovázený reálným a vymáhatelným ověřováním věku, nabízí daleko racionálnější balanc mezi ochranou dětí a ochranou soukromí. Pokud jsou sociální sítě v jádru prostoru, který je z definice vystavuje neadekvátnímu obsahu a predátorům, je logickým krokem přístup nezletilých omezit a tento zákaz technologicky prosadit. Takové opatření cílí přímo na nejzranitelnější skupinu, aniž by nad celou populaci stavělo aparát prevenčního sledování.

Z evropského konceptu tzv. Chat Control se však rýsuje mechanismus, který se v některých ohledech nebezpečně přibližuje modelu všudypřítomného dohledu. Sledování soukromé komunikace v reálném čase, a to bez individuálního podezření, představuje precedent, který je v přímém rozporu s evropským právem na ochranu soukromí a s dosavadní judikaturou, která plošné sledování opakovaně odmítla.

Úsilí EU je motivováno správně, avšak zvolený nástroj vytváří značné právní i společenské riziko. Místo aby ochrana dětí probíhala skrze přesné, cílené a efektivní mechanismy, prosazuje se varianta, která expanduje státní a korporátní dohled do sféry, jež dosud byla považována za nedotknutelnou – do soukromých zpráv občanů.

Taková politika s sebou nese potenciál systémového zneužití. Jakmile je infrastruktura pro masové skenování komunikace jednou vytvořena, stává se velmi lákavým nástrojem i pro jiné účely, jež mohou být s původním úmyslem v přímém rozporu. Varování, že se přibližujeme logice „Velkého bratra“, tedy není rétorickým přeháněním, ale zcela realistickou analýzou dopadů, které mohou nastat.

Evropské státy mají povinnost chránit děti před online predátory. Otázkou však je, zda je možné toho dosáhnout způsobem, který zároveň zachová ústavní rámec ochrany soukromí. Regulace, jež omezí přístup dětí na platformy, je nejen technicky proveditelnější, ale také demokraticky průchodnější, protože respektuje zásadu proporcionality.

Problémem nejsou jen sociální sítě

Sociální sítě představují jen jeden z viditelných symptomů toho, jak široce dostupný a málo regulovaný obsah internetu může ovlivnit děti a dospívající. Podstata problému neleží pouze v algoritmech či komunitním prostředí těchto platforem, ale v celkové architektuře digitálního prostoru, který je vystavěn na extrémně nízkých bariérách vstupu k materiálům, jež jsou určeny výhradně dospělým. Pokud tvrdíme, že sociální sítě nejsou pro děti bezpečné, platí to dvojnásob o platformách, jejichž obsah je svou povahou mnohem explicitnější.

Stejně snadné, jako je obejít věkovou kontrolu na Redditu či X, je proniknout na stránky s audiovizuálním obsahem pro dospělé. Drtivá většina těchto webů využívá tzv. „soft age-gate“ – jednoduchý vstupní formulář, kde uživatel pouze potvrdí, že je starší 18 let. Tento mechanismus nepředstavuje žádné reálné zabezpečení a nelze jej považovat za účinné opatření k ochraně nezletilých. Jedno kliknutí tak otevírá cestu k obsahu, který je z hlediska vývoje dítěte nejen nevhodný, ale potenciálně destruktivní.

Provozovatelé těchto stránek se sice formálně chrání tvrzením, že uživatelé musí potvrdit plnoletost, avšak fakticky delegují odpovědnost na samotné dítě, což je postup odporující základním zásadám ochrany nezletilých v digitálním prostředí.

Dobrovolná samoregulace v oblasti věkového omezení v online prostředí dlouhodobě nefunguje. Platformy, jejichž primárním cílem je maximalizace návštěvnosti a zisku, nemají dostatečnou motivaci zavádět technická řešení, která by významně ztížila přístup nezletilým. Bez vnější regulace tak zůstává internet prostředím, kde se i dítě předškolního věku může během několika kliknutí dostat k explicitním materiálům.

Není proto překvapivé, že státy začínají přistupovat k přísnějším opatřením. Australský model věkové regulace je jednou cestou; jinou může být povinné nasazení robustních systémů ověřování věku pro přístup k pornografickým stránkám, které dnes fungují prakticky bez jakéhokoli reálného filtru.

Případ Pornhubu z roku 2020 ukazuje, že ani největší a technicky nejvyspělejší platformy určené výhradně pro dospělé nejsou schopny dlouhodobě garantovat bezpečnost a legálnost zveřejňovaného obsahu. Rozsáhlé odstranění milionů videí nahraných neověřenými uživateli v důsledku opakovaných obvinění z přítomnosti materiálů zobrazujících dětské zneužívání či sexuální akty (CSAM) bez souhlasu je důkazem selhání systému, který se příliš dlouho spoléhal na samoregulaci a víru ve „zodpovědné uživatele“.

Platforma byla nakonec nucena zavést vůbec nejpřísnější bezpečnostní opatření ve své historii: povinné ověřování uživatelů, zrušení možnosti nahrávání pro neověřené účty, eliminaci možnosti stahování a plošné smazání neověřeného obsahu. Tyto kroky snížily objem videí z 13,5 milionu na méně než 3 miliony, což je číslo, které samo o sobě odhaluje, jak masivní byl problém nelegitimního či neověřeného materiálu.

Zarážející je, že právě platforma pro explicitní obsah nyní upozorňuje na absenci obdobných ověřovacích postupů u masových sociálních sítí. Tvrzení Pornhubu, že jeho ověřovací mechanismy jsou striktnější než u Facebooku, Instagramu, TikToku či YouTube, je nepříjemnou připomínkou toho, jak málo robustních bezpečnostních prvků velké sociální platformy reálně využívají.

Případy dokumentované investigativními novináři, jako například materiály zachycující násilí, zneužívání a nezletilé osoby, ukazují, že i sofistikované systémy mohou přehlížet extrémně závažné porušení pravidel. Přidáme-li možnost stahování obsahu a jeho následného šíření mimo původní platformu, vzniká situace, kde odstranění škodlivého materiálu neznamená konec jeho existence.

Pornhub sice popírá úmyslnou toleranci k nelegálnímu obsahu a deklaruje nulovou toleranci vůči CSAM, ale samotný rozsah přijímaných opatření dokazuje, že pouhé proklamace nemají valnou hodnotu v prostředí, jehož měřítko přesahuje tradiční regulační možnosti. Pokud i profesionální portály určené výhradně dospělým nedokáží spolehlivě zabránit tomu, aby se na ně dostávaly materiály zobrazující zneužívání dětí, pak nelze očekávat, že sociální sítě, jejichž provoz je řádově složitější a heterogennější, budou schopny ochránit nezletilé v jakémkoli ohledu.