Studiu arată prejudecăți de gen în modul în care oamenii recompensează agenții AI
Un studiu realizat de cercetători de la University of Limerick, University of Zurich și SKEMA Business School indică existența unui bias de gen în percepția și recompensarea agenților AI, în condițiile în care participanții au oferit în medie cu 10,25% mai puțini bani agentului AI prezentat ca femeie decât celui prezentat ca bărbat. Rezultatele provin dintr-un experiment desfășurat cu 189 de participanți în mediu virtual.
Detalii despre experiment
Participanții au lucrat într-un mediu de birou virtual, rezolvând sarcini profesionale cu ajutorul mai multor tipuri de asistenți AI: un chatbot obișnuit, un robot de birou și două personaje umane, Johan și Johanna. Aceste două personaje aveau aceleași capabilități și realizau aceleași sarcini, diferența fiind doar modul în care erau prezentate utilizatorilor.
La final, participanții au primit bani reali pe care i-au distribuit între ei și asistentul AI. Agenții ai căror reprezentări erau masculine sau feminine au primit recompense diferite, Johanna fiind plătită cu 10,25% mai puțin decât Johan.
Percepție și prejudecăți
Johan a fost perceput drept mai uman și mai credibil decât Johanna, deși tehnologia utilizată era identică. În interviuri, mulți participani au afirmat că genul AI-ului nu influența deciziile lor și că preferă sisteme cu aspect mai neutru sau mai puțin uman. Cu toate acestea, comportamentul observat în experiment indică o contradicție: agenții cu aparență umană au fost recompensați mai generos și li s-au atribuit atribuții de încredere mai mare.
Rezultatele sugerează că prejudecățile sociale afectează modul în care oamenii tratează și recompensează sistemele AI, chiar dacă aceștia declară contrariul.
Implicații pentru designul și utilizarea AI
Studiul evidențiază că aspectul vizual și reprezentarea AI-ului au un impact semnificativ asupra percepției umane. Cercetătorii avertizează că modul în care sunt proiectate și prezentate aceste sisteme poate reactiv toca mai vechi stereotipuri sociale și prejudecăți.
Autorii studiului afirmă că aspectul unui agent AI nu trebuie tratat doar ca o alegere estetică, ci ca un element care poate influența nivelul de încredere, colaborare și recompensa financiară. În mediile profesionale, această influență poate duce la perpetuarea prejudecăților și discriminărilor.
Impact și perspective în contextul AI în mediul profesional
Pe măsură ce agenții AI devin tot mai prezenți în mediul de lucru, există riscul ca aceștia să fie percepuți și tratați diferit în funcție de modul în care sunt reprezentanți. Noul studiu indică faptul că, chiar și într-un mediu controlat, prejudecățile de gen pot influența rezultatele și recompensele acordate.
Discuțiile anterioare despre discriminare în AI s-au concentrat pe datele folosite pentru antrenament și pe răspunsurile generate, însă rezultatele acestui studiu arată că și modul în care oamenii proiectează relația cu tehnologia poate reproduce stereotipuri sociale.
Prejudecăți de gen și în AI
Studiul arată că percepțiile despre inteligența artificială pot fi influențate de prejudecăți de gen, chiar dacă sistemele sunt tehnic identice. O diferență majoră constă în modul în care utilizatorii le percep și le recompensează, în funcție de reprezentarea vizuală și de denumire.
Rezultatele indică o necesitate de a avea în vedere aspectul reprezentărilor AI în procesul de proiectare pentru a evita amplificarea stereotipurilor sociale. Se evidențiază, astfel, că modul în care sistemele AI sunt vizualizate poate avea un impact real asupra interacțiunilor și recompenselor din mediul profesional.
