Marea Britanie dezvoltă un sistem informatic care ar putea anticipa posibilele crime.
Publicația The Guardian a dezvăluit acest proiect, bazându-se pe documente obținute printr-o solicitare de transparență.
Inițial numit „Proiectul de predicție a omuciderilor”, proiectul a fost redenumit „Partajarea datelor pentru îmbunătățirea evaluării riscurilor”, pentru a atenua conotațiile negative.
Ministerul Justiției dorește să dezvolte un algoritm care să identifice persoanele cu un risc crescut de violență extremă, inclusiv omucidere.
Date despre sute de mii de oameni, inclusiv martori și persoane vulnerabile
Analiza documentelor arată că proiectul implică analiza datelor a 100.000 – 500.000 de persoane, provenind din diverse surse, inclusiv Poliția Metropolitană din Londra și Poliția din Greater Manchester.
Baza de date cuprinde nu doar persoane condamnate, ci și suspecți, victime, martori, persoane dispărute și indivizi vulnerabili.
Informațiile analizate includ date despre sănătatea mintală, dependențele, încercările de suicid, autovătămarea și dizabilitățile, considerate indicatori ai riscului de criminalitate.
Cu toate acestea, reprezentanții guvernului au negat folosirea datelor despre victimele potențiale și au afirmat că doar persoanele cu condamnări penale au fost incluse în analiză.
Riscuri de discriminare și erori potențiale ale algoritmilor
Experții atrag atenția asupra posibilității ca algoritmul să amplifice prejudecățile existente, afectând în mod disproporționat comunitățile defavorizate.
Instrumente predictive similare au fost folosite anterior în sistemul judiciar britanic, cum ar fi Sistemul de Evaluare a Infractorilor, pentru a estima riscul de recidivă.
Auditul guvernamental al acestui sistem a evidențiat că în anumite cazuri, estimările nu sunt corecte, în special la infracțiunile fără violență.
De asemenea, eficiența algoritmului a fost mai redusă la persoanele de culoare, comparativ cu cele albe, evidențiind posibile prejudecăți.
Problema nu este specifică Marii Britanii. Algoritmi similari utilizați de poliție în alte țări au fost criticați pentru erorile sistematice rezultate din supravegherea excesivă a anumitor comunități, în special cele defavorizate.