Un studiu internațional evidențiază dificultățile în recunoașterea imaginilor generate de inteligența artificială, dar și modalitățile de îmbunătățire a acurateței în identificare. Cercetarea arată că antrenamentul poate dubla sau chiar tripla rata de succes în detectarea falsurilor vizuale.
Procesul de studiu și experimentele realizate
Profesoara Amy Dawel, directorul Emotions and Faces Lab din cadrul Australian National University, coordonează studiul împreună cu specialiști din Australia, Canada și Regatul Unit. În cadrul cercetării, s-a creat o bază de date cu mii de fețe artificiale generate cu ajutorul modelului StyleGAN3, un instrument performant de realizare a portretelor.
Participanții au fost testați înainte și după o sesiune de pregătire, în care au fost expuși atât la fotografii reale, cât și la imagini fabricate de inteligența artificială. În timpul experimentelor, nu li s-a cerut să caute anomalii concrete, ci să observe impresia generală transmisă de fiecare chip.
De ce sunt greu de recunoscut aceste imagini
Modelele moderne de generare a portretelor au evoluat și au reușit să corecteze numeroase greșeli evidente ale imaginilor false din trecut, cum ar fi mâini cu șase degete sau fundaluri imposibile. Acestea evită, de regulă, utilizarea imaginilor cu anomalii clare pentru a evita detectarea.
Datorită acestor îmbunătățiri, cercetătorii au adaptat metoda de testare, invitând participanții să examineze impresia generală a feței, nu să caute greșeli specifice. Astfel, oamenii pot dezvolta o intuiție pentru identificarea portretelor sintetice, chiar dacă nu pot explica precis motivul descoperirii.
Șase semne care pot indica un chip fals
Participanții au fost instruiți să urmărească șase caracteristici: simetria, proporționalitatea, atractivitatea, caracterul distinctiv, expresivitatea și memorabilitatea.
Unele dintre aceste indicii sunt mai relevante decât altele. Primul este simetria: fețele autentice nu sunt perfect echilibrate, iar ochii, gurile sau sprâncenele pot avea mici diferențe. Modelele AI generează adesea fețe mai echilibrate pentru a se apropia de idealul estetic.
Proporționalitatea reprezintă un alt semn de observat. Chipurile create artificial au frecvent trăsături normale, fără exagerări sau forme neobișnuite, deoarece modelele tind să genereze persoane apropiate de mediile învățate din datele de antrenament.
Fețele artificiale apar, în general, mai atrăgătoare. Acestea sunt plăcute din punct de vedere vizual, dar au tendința să fie mai puțin distinctive. Pierderea elementelor unice, precum cicatrici sau asimetrii, face ca portretele sintetice să se deosebească mai greu într-o mulțime.
Expressivitatea și memorabilitatea sunt alte aspecte importante. Fețele generate de AI au, adesea, o expresie vagă sau lipsită de naturalețe, transmitând mai puține emoții. În timp, privitorii pot avea dificultăți în a-și aminti trăsăturile exacte ale unui astfel de chip.
Cercetarea indică că AI-ul are dificultăți mai mari în a reproduce în mod realist persoane în vârstă, copii sau indivizi care nu sunt de etnie albă, din cauza limitărilor datelor de antrenament.
Impactul antrenamentului asupra recunoașterii
Participanții înainte de pregătire identificau corect imaginile în aproximativ 40% din cazuri. După analizarea unor exemple și învățarea diferențelor, rata de succes a crescut la circa 80%. Unele persoane au obținut scoruri aproape de perfect.
Procedura de pregătire a fost comparată cu procesul de antrenament al modelelor AI: expunere repetată la exemple, corectarea greșelilor și ajustarea percepției. Aceasta a permis creșterea semnificativă a capacității de identificare a imaginilor false.
Cercetătorii au observat și că participanții care aveau încredere excesivă în abilitatea lor de a recunoaște deepfake-urile, aveau, de multe ori, cele mai mari erori. După antrenament, această încredere s-a corelat mai bine cu succesul real.
Importanța acurateței în detectarea imaginilor falsificate
Recunoașterea chipurilor generate de AI devine tot mai relevantă în contextul riscului de fraudare online, furturi de identitate sau campanii de dezinformare. Pierderile generate de astfel de fraude, estimate de Deloitte, ar putea ajunge la aproximativ 40 de miliarde de lire sterline în Statele Unite, față de circa 12 miliarde în 2023.
Datele arată că pregătirea și experiența pot crește considerabil șansele de identificare corectă, dar nu asigura 100% certitudine în recunoaștere.
