Červený kříž: Brzy bude příliš pozdě na zastavení vývoje autonomních zbraní

Ukrajina vyvinula laserovou zbraň podobnou britskému laseru DragonFire
Ukrajina vyvinula laserovou zbraň podobnou britskému laseru DragonFire, foto: UK Ministry of Defence
Klára Marková DNES 15:17
Sdílej:

Mezinárodní výbor Červeného kříže a organizace na ochranu lidských práv varovaly, že brzy bude příliš pozdě na to, aby se podařilo vrátit džina zpět do láhve, protože vývoj autonomních zbraní podle nich předbíhá snahy o jejich regulaci. Výrazné varování zaznělo v neděli na závěr týdenní konference v Ženevě, které se zúčastnilo více než sto dvacet členských států Úmluvy OSN o některých konvenčních zbraních.

Dohoda o tom, že se státy budou nástrojem pro regulaci autonomních zbraní zabývat v příštích dvou letech, nesplnila očekávání na naléhavý krok, který podle ochránců lidských práv hrozba vyžaduje. Autonomní zbraně představují vojenské systémy působící bez lidského dohledu, často s využitím umělé inteligence nebo jiných robotických technologií.

Ředitelka pro mezinárodní právo, hnutí a partnerství Mezinárodního výboru Červeného kříže Cordula Droegeová uvedla, že se umělá inteligence začíná nasazovat na bojišti a možná už i přímo ve zbraňových systémech. Podle ní bude mnohem obtížnější vrátit vývoj pod kontrolu, pokud zůstane bez regulace.

V souvislosti s rychlým růstem umělé inteligence vyvíjejí armády i výrobci stále pokročilejší zbraňové systémy pro útočné i obranné účely. Patří sem využití umělé inteligence při sestavování seznamů cílů, jak to podle textu učinila izraelská armáda v Gaze, i poloautonomní drony ve válce mezi Ruskem a Ukrajinou, u nichž umělá inteligence přebírá řízení v závěrečné fázi přiblížení k cíli.

Předsedkyně Mezinárodního výboru Červeného kříže Mirjana Spoljaricová Eggerová a generální tajemník OSN António Guterres vyzvali k přijetí právně závazného dokumentu s jasnými zákazy a omezeními používání těchto zbraní. Červený kříž požaduje zejména zákaz nasazování autonomních zbraní proti osobám, zajištění jejich předvídatelného chování a vymezení jejich použití pouze na vojenské cíle.

Droegeová zdůraznila, že nejde o plošný zákaz všech autonomních zbraňových systémů, nýbrž o stanovení hranic v mezinárodní smlouvě, které by nikdy neměly být překročeny. Upozornila, že se tyto červené linie rychle přibližují a že vedení útoků proti lidem prostřednictvím strojů by mělo být morální červenou linií.

Další organizace na ochranu lidských práv upozornily, že jakékoli odkládání regulace nese riziko, že pravidla používání autonomních zbraní budou určovat soukromý průmysl a armády. Autonomní a umělou inteligencí řízené systémy už podle dostupných údajů způsobily újmu civilistům.

V podkladech se uvádí, že v červenci v Záporoží na jihovýchodě Ukrajiny zabil dron naváděný systémem umělé inteligence tři civilisty, když se pokusil zasáhnout čerpací stanici, ale narazil do zdi a střepiny usmrtily tři lidi. V Gaze Izrael od začátku války využíval metody cílení s podporou umělé inteligence k mnohem rychlejší tvorbě seznamů cílů, což podle lidskoprávních skupin vedlo k chybnému usmrcování civilistů i osob jen volně spojených s ozbrojenými skupinami.

Článek zmiňuje také Írán, kde americký úder zasáhl základní školu a zabil sto padesát šest civilistů včetně sta dvaceti školáků, což mělo být podle zpráv důsledkem chybných zpravodajských údajů shromážděných systémy umělé inteligence. Anna Hehirová z Institutu budoucnosti života varovala, že další odklady silné smlouvy mohou přinést další případy masového poškozování civilistů a že výrobci i armády usilují o vývoj rojových schopností stovek či tisíců autonomních dronů působících současně.

Podle Hehirové stačí, aby jediný systém čelil algoritmické chybě a celý roj se po ní vydal, zejména pokud by drony byly naprogramovány k cílení na lidi. Podklady rovněž upozorňují na riziko šíření těchto technologií mezi nestátní aktéry, jako když hnutí Hútíové v Jemenu využilo nástroj Claude k programování balistických raket nebo když ozbrojené islamistické skupiny v oblasti Sahelu v Africe údajně použily nástroje umělé inteligence ke zlepšení balistiky dronů a operačnímu plánování.

Vysoce postavený diplomat obeznámený s jednáními OSN v Ženevě uvedl, že po třinácti letech jednání šlo tento týden především o to, zda se konečně projeví politická vůle brát regulaci autonomních zbraňových systémů vážně. Členské státy konferenci uzavřely bez dohody na nástroji regulace v následujících dvou letech, zatímco lidskoprávní organizace i zástupci Červeného kříže nadále upozorňují na rychlé šíření technologií na bojištích.

Témata:
Stalo se
Novinky
Volodymyr Zelenskyj na tiskové konferenci

Nejvýhodnější bezpečnostní zárukou pro Ukrajinu je členství v NATO, prohlásil Zelenskyj

Ukrajinský prezident Volodymyr Zelenskyj v sobotu během brífinku s novináři prohlásil, že plné členství v Severoatlantické alianci zůstává nejjasnější a nákladově nejvýhodnější bezpečnostní zárukou pro Ukrajinu, přičemž upozornil, že Kyjev zatím nedostal žádné formální písemné nabídky záruk kolektivní obrany po vzoru článku pět Severoatlantické smlouvy. Zároveň uvedl, že ruský prezident Vladimir Putin na summitu v čínském Šen-čenu neuspěl se snahou o jakousi druhou Jaltu a překreslování hranic, a jmenoval možné kandidáty na příštího ukrajinského velvyslance ve Washingtonu.

Novinky
Donald Tusk a Ozbrojené síly Polské republiky

Polsko vyrábí švédskou minometnou munici na obranu proti Rusku

Polsko začíná na základě licenční dohody se švédskou zbrojovkou Saab vyrábět minometnou munici, čímž posiluje domácí zbrojní výrobu tváří v tvář ruské agresi. Dohoda navazuje na snahu Varšavy rozvíjet vlastní obranný průmysl a snižovat závislost na zahraničních dodávkách.

Novinky
Ukázka moderní ukrajinské vojenské techniky

Na 130 států se dohodlo na jednáních o regulaci „zabijáckých robotů“

Více než sto dvacet států se v sobotu v Ženevě dohodlo, že po vyčerpávajících jednáních v rámci Organizace spojených národů budou v příštích dvou letech pracovat na mezinárodním ujednání o autonomních zbraňových systémech. Krok přichází v době, kdy pokroky v umělé inteligenci proměňují způsob vedení válek, zatímco občanské iniciativy kritizují výsledek jako oslabený.

Novinky
Klimatická konference COP31

Klimatická konference COP31 se prodlužuje. Hrozí, že skončí fiaskem

Klimatická konference Organizace spojených národů COP31 v turecké Antalyi přetáhla svůj plánovaný páteční závěr a jednání pokračují v přesčasech bez dosažené konečné dohody. Nevládní a občanské organizace varují, že summit může skončit žalostně pod úrovní potřebných kroků a hrozí, že se zařadí mezi nejhorší klimatické konference v historii.