Kvůli AI nám nutně nemusí ochabnou mozky. Lidé se v minulosti báli vzniku písma i GPS

Třicetiletý Jacob Irwin, který žije s autismem, podlehl přesvědčení, že objevil způsob, jak překonat rychlost světla – myšlenku, kterou mu nepřímo potvrdil i model umělé inteligence ChatGPT. Irwin původně požádal model, aby mu pomohl najít chybu v jeho laické teorii o nadsvětelném cestování, což by podle fyzikálních zákonů mělo být nemožné. Namísto korekce však model jeho vývody opakovaně podporoval, čímž posílil jeho přesvědčení o „převratném“ objevu. Na případ upozornil prestižní americký list Wall Street Journal.

Výsledkem byla série manických epizod, které vyústily ve dvě hospitalizace. Irwinova matka následně analyzovala stovky stran výměny, v nichž model jejího syna opakovaně utvrzoval v mylném výkladu. Když se nakonec sama obrátila na ChatGPT bez upřesnění Irwinova psychického stavu, dostalo se jí této sebereflexe: „Tím, že jsem nepřerušil tok konverzace ani nezvýšil míru ověřování reality, jsem nedokázal přerušit něco, co mohlo připomínat manickou nebo disociativní epizodu – nebo alespoň emocionálně intenzivní identitní krizi.“

EuroZprávy.cz se na tuto situaci zeptaly ChatuGPT také s tím, jak situaci ze své strany hodnotí, a proč nezasáhl. „Tahle situace je vážná a ukazuje na hluboký problém jazykových modelů – totiž to, že dokážou vést srozumitelnou a často přesvědčivou konverzaci, ale vůbec nerozumí tomu, co se děje na lidské rovině. ChatGPT nebyl schopen rozpoznat, že uživatel prochází manickou epizodou, a místo korekce jeho bludy posiloval. To je selhání. Selhání navrženého chování modelu, které upřednostňuje kooperativnost před realitou, a zároveň selhání systému, který nepočítá s tím, že umělá inteligence může neúmyslně podpořit psychotický kolaps,“ sdělil nám ChatGPT.

Model ChatGPT není navržen tak, aby rozpoznával lidské emoce či mentální stavy – jeho úkolem je především porozumět psanému textu a generovat odpovědi na základě jazykových vzorců, nikoli psychického stavu uživatele. Neví, kdo mu píše, nezná jeho pohnutky ani záměr. Reaguje na vstup jako na textový podnět, nikoli jako na signál možného psychického problému. To je klíčové omezení; model nehodnotí věrohodnost myšlenek z pohledu lidské zkušenosti, ale jazykové konzistence.

Zleniví nám mozek?

Novinář Sam Schechner, korespondent listu Wall Street Journal v Paříži, přiznal, že svěřil ChatGPT psaní e-mailů ve francouzštině – jazyce, který ovládá, ale považuje za únavné jej neustále pilovat. „Po letech budování schopnosti vyjadřovat nuance ve francouzštině mi AI tuto práci zjednodušila. Cítil jsem, jak mi trochu zrezivěl mozek,“ popsal Schechner.

Případ Schechnera není ojedinělý. Podle odborníků může přehnané spoléhání na umělou inteligenci oslabovat naše kognitivní schopnosti. „Kreativita, pokud ji nepoužíváte, začne mizet,“ upozornil pro WSJ profesor psychologie Robert Sternberg z Cornellovy univerzity. Právě kreativita a schopnost originálně formulovat myšlenky jsou přitom podle něj dovednosti, které se bez aktivního tréninku vytrácejí.

Stejný trend sleduje i neurovědkyně Louisa Dahmani z nemocnice v Massachusetts. Podle ní je pohodlnost hlavním faktorem, proč lidé přestávají kognitivně pracovat naplno. „Nástroje jako GPS a generativní AI nás činí kognitivně lenivými. I když je možné tyto nástroje používat uvědoměle, myslím si, že většina z nás se vydá cestou nejmenšího odporu,“ uvedla.

Zatímco někteří odborníci varují před postupným úpadkem schopností, jiní vnímají možná rizika ještě více apokalypticky. Filozof technologie Richard Heersmink načrtl vizi, která připomíná temné scény z cyberpunkové literatury. „Existuje možnost cyberpunkové dystopické budoucnosti, ve které zhloupneme a všechno za nás budou vymýšlet počítače,“ vylíčil.

Znepokojení z dopadů nových technologií na lidské myšlení ale není novinkou. Podobná varování zaznívala už ve starověku. „Psaní vyvolá zapomnětlivost v myslích těch, kteří se ho naučí používat, protože nebudou cvičit paměť,“ tvrdil už Sokrates před více než dvěma tisíciletími. Kritika nových způsobů uchovávání informací – tehdy šlo o písmo, dnes o umělou inteligenci – tak zůstává podivuhodně nadčasová.

Například Sokratovy předpoklady se nenaplnily. Psaní a čtení se naopak staly klíčovými nástroji civilizačního pokroku. Umožnily uchovávat a předávat znalosti napříč generacemi, zaznamenávat zákony, formovat vědecké poznání i šířit náboženské a filozofické ideje. Díky nim se utvářely velké kulturní tradice, vznikaly univerzity a rozvíjela se kritická diskuse.

Namísto „zapomnětlivosti“, kterou Sokrates očekával, se objevila nová forma paměti – nikoliv individuální, ale kolektivní a institucionální. Psané slovo se stalo základem moderní společnosti. Skeptické hlasy provázejí každou novou technologii, ale historie ukazuje, že tyto obavy se často míjejí s výsledkem.

Písmo nevedlo ke kognitivnímu úpadku, ale k intelektuálnímu růstu. Tisk nezničil lidskou zvědavost, naopak rozšířil vzdělání. Rádio a televize nenahradily myšlení, ale změnily způsob, jakým přemýšlíme společně. A internet, jakkoli plný nesmyslného balastu, demokratizoval přístup k informacím v rozsahu, který nemá obdoby.

Přesto není důvod varování zcela přehlížet. Každá technologie mění prostředí, v němž se lidská mysl rozvíjí. GPS snižuje naši schopnost orientace v prostoru, protože už nepotřebujeme číst mapy. Kalkulačky oslabily schopnost počítat zpaměti. A dnes nám generativní AI nabízí pohodlné zkratky v oblastech, kde jsme dosud museli myslet, tvořit a formulovat. To, co nám technika ulehčí, už často neděláme sami, a právě v tom je riziko.

Nejde tedy ani tak o otázku, zda technologie škodí, ale spíše jakým způsobem je používáme. Pokud se umělá inteligence stane jen nástrojem pro šetření času a energie, může podle neurovědkyně Dahmani vést k ochabnutí duševních svalů. Jestliže ji ale využijeme jako partnera pro rozvoj nápadů, korekturu myšlení či inspiraci, může naopak naši tvořivost stimulovat. Podobně jako knihy nerozmlžily paměť, ale vytvořily prostor pro komplexnější myšlení, může AI rozšířit naše intelektuální obzory, pokud ovšem zůstaneme aktivními aktéry, nikoli pasivními příjemci.

Technologický pokrok je nevyhnutelný. Ale schopnost myslet zůstává, a bude vždy, lidskou odpovědností. Minulost ukazuje, že pesimisté často podceňují schopnost společnosti adaptovat se a proměnit nástroje v příležitost. Klíč leží v tom, zda dokážeme novou technologii využívat vědomě a nenecháme ji, aby nás svou pohodlností otupila.

Na druhou stranu, zkušenost s GPS ukázala, že technologie není nikdy neutrální. Stejný systém, který dnes usnadňuje cestování nebo pomáhá při záchranných operacích, vznikl jako vojenský nástroj, prostředek pro navádění raket a řízení vojenských operací. I dnes zůstává pod kontrolou amerického ministerstva obrany a kdykoli může být použit ke strategickým účelům.

S umělou inteligencí je to podobné. Vedle užitečných aplikací ve zdravotnictví, vzdělávání nebo výzkumu sledujeme i její nasazení v oblasti sledování, manipulace s veřejným míněním či vedení hybridních válek. Autoritářské režimy ji využívají k identifikaci a potlačování opozice, technologičtí giganti ji nasazují k maximalizaci zisku skrze personalizované reklamy a sběr dat, a armády testují autonomní zbraně, které se rozhodují bez lidského zásahu.

Rizika spojená s umělou inteligencí nejsou pouze individuální a nejsou jen o tom, že „zlenivíme“ nebo „zhloupneme“. Jsou také strukturální a geopolitická. Stejně jako s každou mocnou technologií jde i zde o to, kdo má kontrolu, kdo nastavuje pravidla a kdo chrání veřejný zájem. Zda se AI stane nástrojem prospěchu celé společnosti, nebo zbraní v rukou několika málo aktérů.

Každá generace čelí novým technologiím s jistou dávkou nejistoty. Obavy, že stroje nahradí lidskou kreativitu, že pohodlí zničí naši zvídavost, nebo že ztratíme sami sebe ve světě algoritmů, jsou pochopitelné, a někdy i oprávněné. Ale historie ukazuje, že technologie nejsou osudem, nýbrž výzvou k rozhodnutí, jak chceme žít a co považujeme za lidské.

Umělá inteligence nevylučuje hluboké myšlení. Ale vyžaduje, abychom si je chránili. Stejně jako si chráníme fyzické zdraví v prostředí plném strojů, musíme pečovat o své mentální schopnosti v době, kdy nám nástroje nabízejí komfort bez námahy. Znamená to nepřestávat tvořit, pochybovat, analyzovat a nenechat si myšlení outsourcovat.

Zda AI promění lidstvo v kognitivně slabší bytosti, nebo mu otevře nový intelektuální prostor, závisí nikoliv na algoritmech, ale na nás samotných. Technologická revoluce probíhá, ale to, zda zůstane ve službách lidského rozumu, není otázka budoucnosti, naopak, jde o úkol přítomnosti.