Autonomní zbraně děsí OSN. Po událostech na ukrajinské frontě začala jednat

Ukázka moderní ukrajinské vojenské techniky
Ukázka moderní ukrajinské vojenské techniky, foto: X/Volodymyr Zelenskyj
Klára Marková DNES 21:28
Sdílej:

V Ženevě probíhají jednání vládních expertů, jejichž cílem je dojednat mandát pro celosvětovou regulaci autonomních zbraňových systémů. Tato vojenská zařízení dokáží vyhledávat a zasahovat cíle bez jakéhokoli zásahu lidské obsluhy. Mezinárodní setkání navazuje na naléhavou výzvu Organizace spojených národů a Mezinárodního výboru Červeného kříže, které požadují zavedení právně závazných pravidel pro tyto prostředky. Rychlý technologický vývoj totiž zásadně zlevňuje i usnadňuje konstrukci plně autonomních zbraní.

Obavy ze zavádění umělé inteligence do bojových operací posílily události na ukrajinské frontě. Během červencového úderu v Záporoží zaútočil ruský dron na čerpací stanici, přičemž o přesném cíli úderu rozhodoval samotný algoritmus. Stroj byl sice naveden k objektu čerpací stanice, avšak konkrétní místo zásahu, kterým byly propanové nádrže, vybral samostatně na základě rozpoznání obrazu. Tento incident ilustruje posun k bojovým prostředkům, které fungují zcela bez smysluplné lidské kontroly.

Generální tajemník OSN António Guterres a předsedkyně Mezinárodního výboru Červeného kříže Mirjana Spoljaricová vydali společný apel, v němž požadují přijetí mezinárodní smlouvy. Podle jejich vyjádření je nezbytné regulovat vývoj i nasazení autonomních systémů dříve, než se technologie zcela vymkne kontrole. Diplomatická jednání na toto téma probíhají pod záštitou Úmluvy o některých konvenčních zbraních již téměř desetiletí. Expertní skupina se schází zpravidla dvakrát ročně, aby připravila rámcový text pro budoucí závazná vyjednávání.

I přes přetrvávající politické rozpory mezi jednotlivými státy panuje mezi odborníky shoda na nutnosti zachovat nad zbraněmi lidský dohled, píše The Conversation. Využití lidského úsudku je považováno za klíčový prvek mezinárodního humanitárního práva i etických principů vedení války. Rozhodování o útocích vyžaduje posouzení konkrétního kontextu, vyhodnocení rizik pro civilní obyvatelstvo a přijetí preventivních opatření. Podle odborníků nelze tyto komplexní úkoly přenášet na strojové algoritmy.

Fungování systémů umělé inteligence je zásadně závislé na kvalitě dat, na kterých byly algoritmy vycvičeny. Získat dostatek spolehlivých dat z dynamického a proměnlivého prostředí válečných konfliktů je však extrémně obtížné. To zvyšuje riziko, že plně autonomní zbraně budou v reálných bojových podmínkách technicky nedokonalé a selžou. Dovednost vyhodnotit proporcionalitu úderu, tedy poměr mezi vojenskou výhodou a škodami na civilních životech, vyžaduje kvalitativní úsudek, který stroj nedokáže nahradit.

Představitelé humanitárních organizací zdůrazňují, že rozhodování o ukončení lidského života musí z právního i morálního hlediska zůstat v rukou lidí. Pouhé technické zpřesnění algoritmu totiž nezaručuje zákonnost ani etickou přijatelnost vojenského úderu. Závazná pravidla mají zabránit vznikajícímu právnímu vakuu a ztrátě etických zábran v ozbrojených konfliktech. Respektování lidské důstojnosti a základních práv vyžaduje zachování lidské odpovědnosti za každé použití síly.

Rychlá výměna informací a zapojení umělé inteligence přináší také vysoké riziko nekontrolované eskalace bojů. Chybné vyhodnocení situace senzorem nebo počítačová chyba mohou snadno vyvolat nečekanou reakci a proměnit lokální krizi v otevřenou válku. Nepředvídatelnost autonomních systémů navíc může velitelům poskytnout falešný dojem o vlastních schopnostech a vést k ukvapeným preventivním úderům. S rostoucí dostupností součástek hrozí také další zrychlení závodů ve zbrojení.

Snahy o mezinárodní regulaci v posledních měsících získávají výraznější politickou podporu napříč státy. Všeobecné shromáždění OSN již dříve schválilo rezoluci upozorňující na vážné hrozby spojené s autonomními zbraněmi, pro kterou hlasovala většina členských zemí. Navrhovaná pravidla počítají se zákazem systémů, které cílí přímo na lidi nebo fungují nepředvídatelně. Ostatní kategorie autonomních zbraní by podle návrhů měly podléhat přísné mezinárodní kontrole.

Stalo se
Novinky
Čína

O katastrofě v Nepálu se v Číně nemluví. Režim nepustí ven ani fotku

Zatímco záběry dravého proudu vody strhávajícího budovy v pohraničním přechodu Gyirong na hranici mezi Nepálem a Tibetem obletěly celý svět, obyvatelé Číny viděli z této katastrofy jen velmi málo. Tamní státní televize odvysílala z dramatických okamžiků pouze jediný statický snímek a videa popisující rozsah neštěstí z čínského internetu podléhajícího přísné cenzuře rychle mizí. Informování o záplavách, které si vyžádaly stovky obětí a pohřešovaných, podléhá prísnému dohledu státních orgánů.

Novinky
Posádka lodi Artemis II poslala na Zemi první snímky z vesmíru

ESA už nechce být závislá na NASA. Chce posílat do vesmíru vlastní astronauty

Generální ředitel Evropské vesmírné agentury Josef Aschbacher požaduje, aby evropské státy do konce roku rozhodly o vybudování vlastních kapacit pro vysílání astronautů do vesmíru. Evropa sice dodává klíčový hardware pro mise vedené Spojenými státy, v samotné dopravě posádek na oběžnou dráhu je však plně závislá na americkém Národním úřadu pro letectví a vesmír. Aschbacher to prohlásil v rozhovoru před mezinárodním vesmírným summitem v Paříži.

Novinky
Kyjev

Ruská armáda výrazně změnila taktiku. Soustředí se na terorizování Kyjeva

Ruská armáda výrazně změnila taktiku vzdušných úderů na ukrajinskou metropoli a namísto nárazových nočních útoků se snaží město paralyzovat téměř nepřetržitým ostřelováním. Místo fyzického obsazení se Moskva zaměřuje na vyčerpání protivzdušné obrany, narušení ekonomiky a vyvolání trvalého psychologického tlaku na obyvatele. K tomuto účelu stále častěji využívá rychlejší drony s proudovým pohonem, které jsou pro obránce výrazně hůře zachytitelné. Ruská strategie spočívá v rozprostření úderů do celého dne, čímž dochází k opotřebovávání infrastruktury i lidských sil.

Novinky
COP30

Na klimatickém summitu COP31 se nebude řešit jeden z největších problémů současnosti

Rychlá expanze umělé inteligence a výstavba datových center způsobuje prudký nárůst globální spotřeby elektrické energie, tento problém však nebude oficiálně projednáván na nadcházejícím klimatickém summitu Organizace spojených národů COP31. Ačkoli emise spojené s technologickým sektorem výrazně rostou, žádná ze zúčastněných zemí nepředložila návrh na zařazení umělé inteligence na hlavní program jednání. Bývalý americký diplomat Erwin Rose v této souvislosti upozornil, že mezinárodní vyjednávání postupuje ve srovnání s dynamickým tempem rozvoje technologií příliš pomalu.