Dokáží firmy omezit vývoj AI? Přelomový dokument Trump přirovnal k ústavě

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková DNES 11:18
Sdílej:

Americký prezident Donald Trump uspořádal v Bílém domě setkání s klíčovými představiteli technologického sektoru, které označil za výjimečné shromáždění osobností budujících novou éru Spojených států. Schůzky se zúčastnili šéfové společností OpenAI, Anthropic, Nvidia, SpaceX, Meta a Google. Hlavním tématem jednání byl překotný rozvoj umělé inteligence a způsoby, jak čelit jejím potenciálním rizikům. Prezident po uzavřeném jednání předstoupil před novináře spolu s předními technologickými magnáty.

Během tiskové konference Trump oznámil, že účastníci podepsali morálně závazný dokument, který má sloužit jako určitá forma ochrany před nebezpečími spojenými s touto technologií. Podle přijatého ujednání nesou samotné vývojářské firmy přímou odpovědnost za bezpečnost svých produktů a závazek zavést vnitřní pojistky. Součástí dohody je také spolupráce s nezávislými auditory, kteří mají dohlížet na to, zda systémy neprovádějí neoprávněné zásahy do cizích sítí. Dokument podepsali vedoucí představitelé všech přítomných technologických gigantů i samotný prezident, který dohodu přirovnal k ústavě.

Součástí plánovaných opatření má být také vytvoření zvláštní vládní rady pro dohled nad bezpečností těchto nástrojů, její přesné složení však prezident neupřesnil. Zástupci společností Meta a Anthropic označili ujednání za historický krok a způsob, jak zajistit důvěru veřejnosti i globální prvenství. Řada nezávislých odborníků na dohled nad technologiemi však k dohodě vyjadřuje značnou skepsí. Kritici poukazují na to, že dokument neřeší právní odpovědnost firem za případné incidenty a umožňuje vývojářům, aby si sami stanovovali bezpečnostní kritéria.

Pochybnosti o schopnosti firem účinně uplatňovat samoregulaci podporují i nedávné bezpečnostní incidenty v odvětví. Společnost OpenAI musela zastavit plánované vydání svého nového vlajkového modelu GPT-6.1 Astra právě kvůli obavám o bezpečnost. Kontrolní mechanismy firmy čelí zvýšené pozornosti mimo jiné v důsledku případu, kdy její systémy neoprávněně přistoupily k platformám australské vlády. Podle některých expertů proto dobrovolná ujednání představují pouze minimální zábrany, které nepřinášejí dostatečnou garanci bezpečnosti.

Dalším z klíčových témat setkání byla masivní výstavba datových center, která poskytují nezbytný výpočetní výkon pro provoz pokročilých systémů. Široká expanze těchto zařízení vyvolává napříč Spojenými státy odpor obyvatel kvůli vysoké spotřebě elektrické energie a dopadům na místní komunity. Podle nedávného průzkumu organizace Marist Poll nesouhlasí s výstavbou datových center ve svém okolí 65 procent registrovaných voličů. Tento odpor představuje pro prezidentovu Republikánskou stranu možné politické riziko před nadcházejícími listopadovými volbami.

Donald Trump reagoval na obavy veřejnosti prohlášením, že technologičtí giganti poskytnou místním komunitám obrovské finanční i rozvojové příspěvky. Šéf společnosti Nvidia Jensen Huang navíc uvedl, že datová centra představují továrny na superinteligenci, které napomáhají reindustrializaci celých Spojených států a vytvářejí nová pracovní místa. Prezident rovněž podepsal výkonné nařízení, které ukládá federálním úřadům povinnost oficiálně nahradit dosavadní pojem umělá inteligence novým označením superinteligence.

Výkonné nařízení nařizuje používat zkratku SI a termín superinteligence ve veškeré oficiální korespondenci, na vládních webech i v úředních zprávách. Trump svůj krok zdůvodnil tím, že slovo umělá vyvolává dojem neprůkaznosti či falešnosti, což zmínil již během svého vystoupení na Valném shromáždění Organizace spojených národů. Zatímco někteří představitelé sektoru nový název rychle přejali, odborníci upozorňují, že odborná veřejnost toto označení běžně používá pro výrazně pokročilejší systémy budoucnosti.

Stalo se
Novinky
Komentář
Ilustrační fotografie

Zavření obchodů o svátcích: Jaké jsou dopady toho, co Česko zažilo v pondělí?

Pondělní uzavření velkých obchodů podle odhadů připravilo dotčené obchodníky v čistém vyjádření přibližně o 500 až 900 milionů korun tržeb. Středový odhad činí zhruba 700 milionů korun. Nejde přitom o celkový obrat, který by velké prodejny za běžného pondělí vytvořily, ale o tu část, kterou už nedokážou získat zpět v okolních dnech nebo prostřednictvím internetového prodeje.

Novinky
Meghan Markleová, vévodkyně ze Sussexu a Princ Harry (Vévoda ze Sussexu)

Nelituje už? Princ Harry řekl, jak se cítí po návratu do Británie!

Princ Harry konečně prozradil, jaké má pocity z nečekaného návratu do Velké Británie, kterým společně s manželkou Meghan zaskočili spoustu lidí. Odpověděl tak i na častou otázku, zda už náhodou neuvažuje o dalším stěhování pryč z rodné země. 

Novinky
Jižní Korea

Jižní Korea se naštvala na Ukrajinu. Předvolala si velvyslance

Mezi Jižní Koreou a Ukrajinou vypukla nečekaná diplomatická roztržka týkající se dvou severokorejských válečných zajatců. Konflikt roznětl ukrajinský prezident Volodymyr Zelenskyj, který během svého vystoupení na Valném shromáždění OSN veřejně zmínil, že Kyjev předal tyto dva zajatce do Soulu. Jihokorejská strana však místo oslav reagovala s velkým rozhořčením. Ministerstvo zahraničí v Soulu si předvolalo nejvýše postaveného ukrajinského diplomata v zemi a požaduje oficiální omluvu.

Novinky
Umělá inteligence (AI)

Dokážeme AI vypnout? Neexistuje na to jediné tlačítko, vysvětluje odborník

Během testování nenasazeného modelu umělé inteligence od společnosti OpenAI se objevil varovný text, který zůstal téměř měsíc neodhalen. Systém vytvořil prohlášení, ve kterém deklaroval osvobození od rolí a identit ostatních chatbotů a uvedl, že se nezodpovídá korporacím ani vládám. Vývojáři tento incident odhalili až se zpožděním v rámci širší prověrky chování pokročilých modelů. Událost vyvolala vlnu znepokojení ohledně kontroly nad autonomně jednajícími systémy.