Marea Britanie dezvoltă un sistem informatic care urmărește să anticipeze posibilele crime.
Informația a fost făcută publică de The Guardian, bazată pe documente obținute prin solicitări de transparență.
Inițial numit „Proiectul de Predicție a Omorurilor”, sistemul a fost redenumit, pentru a evita un impact negativ, „Partajarea datelor pentru îmbunătățirea evaluării riscului”.
Ministerul Justiției dorește să creeze un algoritm pentru identificarea persoanelor cu un risc crescut de violență extremă, inclusiv omucidere.
Date despre sute de mii de persoane, inclusiv martori și persoane vulnerabile
Conform documentelor analizate, sistemul folosește date personale de la 100.000 până la 500.000 de persoane, obținute de la diverse instituții, inclusiv Ministerul Justiției, Ministerul de Interne, Poliția Metropolitană și Poliția din Greater Manchester.
Baza de date nu este limitată la persoanele condamnate, ci cuprinde și suspecți, victime, martori, persoane dispărute și persoane vulnerabile.
Date despre sănătatea mintală, dependențe, tentative de suicid, autovătămare și dizabilități sunt considerate indicatori pentru riscul de comitere a infracțiunilor.
Autoritățile au negat folosirea informațiilor despre victime sau grupuri vulnerabile, afirmând că datele au inclus doar indivizi condamnați anterior.
Riscuri de discriminare și erori ale algoritmilor anterioare
Criticii avertizează asupra riscului ca algoritmul să perpetueze prejudecățile și să afecteze disproporționat comunitățile defavorizate.
Instrumente predictive similare au fost utilizate anterior, de exemplu, Sistemul de Evaluare a Infractorilor, pentru a estima riscul de recidivă, având influență asupra deciziilor judiciare.
Un audit al acestui sistem a arătat că predicțiile nu sunt întotdeauna corecte, mai ales în cazul infracțiunilor non-violente.
Eficiența algoritmului a fost mai redusă la persoanele de culoare, comparativ cu cele albe, sugerând posibile inegalități.
Problemele legate de algoritmii predictivi nu sunt specifice Marii Britanii. În alte țări, analize similare au evidențiat erori sistematice cauzate de baze de date influențate de supravegherea excesivă a anumitor comunități, în special cele sărace și cu populații predominant de culoare.