Minority report se stává skutečností. Británie vytváří software, který bude předvídat vraždy. Kritiky jímá hrůza

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 10. dubna 2025 15:25
Sdílej:

Britská vláda rozjíždí projekt, který by mohl zásadně proměnit způsob, jakým státní instituce předcházejí závažným trestným činům. Podle informací, které odhalila organizace Statewatch, se ministerstvo spravedlnosti (MoJ) snaží pomocí algoritmů identifikovat osoby s nejvyšším rizikem, že v budoucnu spáchají vraždu. Projekt byl původně nazýván „homicide prediction project“, tedy „projekt predikce vražd“, ale později byl přejmenován na „sdílení dat ke zlepšení hodnocení rizik“.

Systém využívá osobní údaje tisíců lidí, včetně obětí trestných činů, a pokouší se analyzovat, kdo z nich by mohl představovat největší hrozbu. Kritici však upozorňují na etické, právní i společenské dopady. Podle nich jde o děsivý krok směrem k dystopické budoucnosti, kde se s lidmi zachází jako s potenciálními zločinci na základě dat a predikcí.

Statewatch tvrdí, že v systému jsou zpracovávány i údaje osob, které se nikdy nedopustily trestného činu. Jde prý mimo jiné o data týkající se sebepoškozování, domácího násilí, závislostí nebo psychického zdraví. Ministerstvo spravedlnosti to však odmítá a trvá na tom, že jsou zpracovávány výhradně údaje osob s alespoň jedním záznamem v trestním rejstříku.

Zástupci vlády trvají na tom, že jde v současné fázi pouze o výzkumný projekt, jehož cílem je zlepšit nástroje pro hodnocení rizik. Zda však bude technologie časem nasazena v praxi, zůstává otázkou. Kritici se obávají, že systém bude vykazovat strukturální předsudky, zejména vůči etnickým menšinám a lidem s nízkými příjmy.

Projekt vznikl na popud kanceláře tehdejšího premiéra Rishiho Sunaka a čerpá data z různých oficiálních zdrojů, mimo jiné z policejních databází a od Probační služby. Mezi zpracovávanými údaji jsou jména, data narození, pohlaví, etnický původ i identifikační čísla z policejního národního registru.

Statewatch upozornil i na to, že podle jednoho z dokumentů mezi sdílenými daty figurují také informace o tom, kdy osoba poprvé figurovala jako oběť násilí, a dokonce i citlivé údaje spadající pod „speciální kategorie“ – tedy např. duševní zdraví, závislosti, postižení nebo pokusy o sebevraždu.

Výzkumnice Sofia Lyall ze Statewatch označila celý projekt za „nejnovější děsivý a dystopický příklad vládního úsilí o vytvoření systémů pro údajnou predikci zločinu“. Podle ní je nebezpečné, že systém vychází z dat institucí, které jsou samy strukturálně diskriminační, a tím automaticky přenáší předsudky do výstupů algoritmů.

Ministerstvo se brání, že systém má pouze zkoumat možnosti zlepšení stávajících hodnotících nástrojů, které již Probace a vězeňská služba používají. Cílem má být zvýšení bezpečnosti veřejnosti díky lepší analýze rizik. Výsledky budou dle mluvčího ministerstva zveřejněny v plánované zprávě.

Odborníci nicméně připomínají, že podobné algoritmické systémy v minulosti opakovaně selhávaly a jejich nasazení může vést k neopodstatněnému stigmatu vůči zranitelným skupinám obyvatel. Znepokojení vyvolává i fakt, že se v systému kombinují informace z oblastí jako duševní zdraví či závislosti – tedy oblasti, které by měly být chráněny s nejvyšší mírou citlivosti.

Celý projekt vyvolává řadu zásadních otázek: Nakolik je etické profilovat lidi jako potenciální vrahy na základě statistických modelů? Jak se zajistí, aby nedocházelo k porušení práv nevinných lidí? A jaké budou praktické důsledky, pokud se systém nasadí do reálné praxe? Tyto otázky budou v příštích měsících předmětem rozsáhlé veřejné debaty. 

Stalo se
Novinky
WHO

WHO: Ebola nedosahuje úrovně pandemie, počty nakažených a mrtvých ale porostou

Světová zdravotnická organizace ve středu potvrdila, že bilance nynější epidemie eboly ve střední Africe dosáhla šesti set podezřelých případů a sto třiceti devíti úmrtí. Šéf organizace Tedros Adhanom Ghebreyesus na tiskové konferenci v Ženevě varoval, že kvůli dlouhému časovému úseku, který uplynul do samotného odhalení viru, budou tato čísla i nadále stoupat. Laboratoře dosud potvrdily padesát jedna případů v Demokratické republice Kongo a dva v sousední Ugandě. Podle odhadů odborníků nákaza v regionu skrytě kolovala pravděpodobně již před několika měsíci, než byla poprvé oficiálně zaznamenána.

Novinky
Ursula von der Leyen

EU dospěla k dohodě o zavedení dlouho odkládané obchodní smlouvy s USA

Evropští lídři ve středu ráno neskrývali triumfální náladu poté, co Evropská unie dospěla k dohodě o zavedení dlouho odkládané obchodní smlouvy se Spojenými státy. Tento krok přichází po měsících celních hrozeb a transatlantického napětí. 

Novinky
Donald Trump

Trump: V pondělí chyběla pouhá hodina k zahájení nové vlny úderů na Írán

Podle vyjádření amerického prezidenta Donalda Trumpa chyběla v pondělí pouhá hodina k vydání rozkazu k zahájení nové vlny leteckých úderů na Írán. Šéf Bílého domu však na poslední chvíli prostřednictvím sociálních sítí oznámil, že poskytne více času diplomatickému vyjednávání. O den později Trump potvrdil, že americká flotila válečných lodí v regionu je plně připravena k okamžité akci. Skutečný rozsah bezprostředního nebezpečí obnovení bojů však zůstává nejasný, neboť představitelé některých států v Perském zálivu uvedli, že o žádné chystané vojenské operaci neměli informace.

Novinky
Vladimír Putin dorazil do Číny, setkal se se Si Ťin-pchingem

Putin: Vztahy Ruska a Číny dosáhly bezprecedentně vysoké úrovně. Ťin-pchinga označil za drahého přítele

Ruský prezident Vladimir Putin během své středeční státní návštěvy v Pekingu prohlásil, že vztahy mezi Ruskem a Čínou dosáhly bezprecedentně vysoké úrovně. Při jednání se svým protějškem Si Ťin-pchingem se zaměřil především na rozvoj širší hospodářské spolupráce a řešení aktuálních mezinárodních otázek. Ruský vůdce oslovil čínského prezidenta jako drahého přítele a poukázal na dlouhodobou kontinuitu jejich obchodních vztahů, přičemž zmínil, že vzájemný obchodní obrat se za posledních pětadvacet let zvýšil více než třicetkrát.