O femeie britanică a suferit un grav incident tehnologic, fiind identificată eronat ca hoț de un sistem de recunoaștere facială bazat pe inteligență artificială. Fără să fi comis vreo infracțiune, a fost interzisă de la cumpărături în toate magazinele unei rețele importante din Regatul Unit. Acest caz evidențiază riscurile utilizării excesive a automatizării și lipsa controlului uman în deciziile de securitate.
Acuzații nefondate de la un algoritm
În mai 2025, o locuitoare din Manchester a vizitat un magazin Home Bargains. A fost anunțată să părăsească magazinul fără explicații. I s-a recomandat ulterior să contacteze furnizorul sistemului de recunoaștere facială utilizat de companie.
După un alt incident similar într-o altă locație, femeia a insistat să afle motivul expulzării. Răspunsul a fost șocant: sistemul de recunoaștere facială o identificase drept vinovată de furt de hârtie igienică într-un alt magazin Home Bargains.
Fără posibilitatea de a se apăra, algoritmul a decis vinovăția, marcând-o drept persoană nedorită în toate locațiile lanțului.
Remedierea și reacțiile
După plângeri și dovezi ale achitării produselor, femeia a fost final exonerată. Home Bargains a decis să se despartă de furnizorul de tehnologie AI în urma incidentului.
Această experiență nu reprezintă un caz izolat. Un alt incident similar a avut loc în 2024. Cu toate acestea, sistemul este încă utilizat pe scară largă în diverse locuri, inclusiv în unele instituții guvernamentale.
Situația pune în evidență dezavantajele recunoașterii faciale și ale algoritmilor care, lipsită de supraveghere umană, pot generea greșeli cu consecințe semnificative pentru oameni. Deși promovată ca o tehnologie avansată, recunoașterea facială se dovedește a fi vulnerabilă la erori, mai ales atunci când baza de date este incompletă, sau algoritmii nu sunt antrenați corespunzător.
Implementare globală și dilemele etice
Recunoașterea facială este implementată pe scară largă în Asia, unde este utilizată în transportul public. În Uniunea Europeană, folosirea acesteia este reglementată mai strict, fiind permisă doar în situații excepționale de securitate.
În Franța, experimentele cu camere „inteligente” sunt limitate, în momentul actual, la analiza comportamentelor din mulțimi, fără recunoaștere facială. Cu toate acestea, mulți experți avertizează asupra posibilității unei utilizări mai largi și mai puțin controlate.
Experiența din Manchester este un avertisment clar. Inteligența artificială este un instrument valabil, dar în momentul în care devine judecător și juriu, fără un control uman adecvat, riscă să transforme erorile în abuzuri.