Un polițist din comitatul Derbyshire din Marea Britanie este cercetat pentru utilizarea inteligenței artificiale generative în crearea de materiale probatorii. Ancheta, condusă de poliție și Crown Prosecution Service, evidențiază că materialele ar fi fost fabricate pentru cazul unor dosare, fiind primul astfel de incident în Regatul Unit.
Primul caz de acest fel în Marea Britanie
Autoritățile britanice au anunțat deschiderea anchetei după suspiciuni legate de utilizarea AI pentru generarea de probe în mai multe dosare. Se investighează dacă un agent al statului a folosit intenționat tehnologia pentru a produce dovezi care ar fi influențat anchetele sau procedurile judiciare. Până acum, poliția nu a comunicat dacă suspectul a fost arestat sau nu, dar a fost suspendat din funcție în timpul cercetărilor.
Cazul atrage atenția asupra riscurilor legate de manipularea probelor în sistemul juridic. Pentru prima dată în Regatul Unit, o astfel de situație ridică întrebări despre limitele și riscurile utilizării inteligenței artificiale în procesul penal.
De ce AI-ul devine o problemă pentru probele din dosare
Inteligența artificială generativă poate crea texte, imagini și audio care par autentice. În cazul poliției, astfel de materiale pot fi incluise în dosare, influențând deciziile judecătorilor, procurorilor sau juraților.
Autoritățile britanice au lansat deja avertismente privind riscurile acestor tehnologii. Noul centru național PoliceAI a recomandat să nu se folosească AI generativ pentru pregătirea declarațiilor destinate instanțelor, din cauza tendinței acestor sisteme de a inventa informații false, cunoscute și sub denumirea de „halucinație” AI.
Exemplele de profil bizare din alte țări, precum afirmația absurdă dintr-un raport de poliție din Statele Unite, demonstrează cum AI poate genera conținut fals, aparent plauzibil. Aceste situații subliniază riscul ca probele inventate să fie considerate autentice, mai ales în dosare cu miza mare.
Cumul de probleme legate de probele generate de AI
Diferența între o eroare tehnologică și fabricarea intenționată a probelor este crucială în justiție. Un material fabricat cu AI poate părea real, ceea ce face dificilă identificarea falsului în procesele rapide și aglomerate.
Fenomenul de „halucinație” AI, recunoscut de autorități, reprezintă generarea de informații false, dar convingătoare. În domeniul justiției, această problemă devine o vulnerabilitate majoră, pentru că o probă fictivă poate avea consecințe grave asupra deciziilor și verdicturilor.
Impactul asupra reglementărilor și regulilor viitoare
Cazul din Derbyshire ar putea determina autoritățile britanice să stabilească reguli mai stricte pentru utilizarea AI în sistemul de justiție. Va fi necesară implementarea unor proceduri de audit și verificare care să asigure trasabilitatea și autenticitatea probelor digitale.
Este esențial ca procesele judiciare să poată demonstra cine a creat sau modificat materialele, precum și instrumentele folosite în acest scop. Fără astfel de standarde, riscul de manipulare a probelor crește semnificativ.
Pe fondul tentativelor de adoptare rapidă a tehnologiilor AI, sistemele judiciare trebuie să echilibreze eficiența cu siguranța și corectitudinea. Utilizarea necontrolată a acestor instrumente poate compromite integritatea dosarelor și încrederea publicului în justiție.
În cazul din Derbyshire, investigările continuă pentru stabilirea adevărului și pentru a preveni astfel de situații inadvertente sau intenționate în viitor.