Un clip viral ilustrează cât de ușor poate fi păcălită încrederea într-un apel video, deoarece o persoană apare cu o față modificată în timp real de inteligența artificială, în timp ce o fereastră mică arată imaginea reală, nefiltrată. Fenomenul evidențiază riscurile tehnologiei de deepfake în comunicarea live, iar expertiza arată că astfel de situații devin tot mai frecvente și mai greu de detectat.
De la filtre amuzante la deepfake-uri live în timp real
Tehnologia face-swap în timp real analizează fața utilizatorului și o înlocuiește cu o imagine generată de AI, simultan, în timpul convorbirii. Mișcările capului și expresiile faciale pot fi reproduce cu acuratețe crescută, ceea ce face ca apelurile video să nu mai fie o dovadă fiabilă a prezenței reale a unei persoane.
Potrivit informațiilor, aceste tehnologii nu mai sunt limitate la divertisment. S-au dezvoltat algoritmi care pot modifica înfățișarea în timp real, făcând diferența între persoana reală și fals devine aproape insesizabilă. „Deepfake-urile” live permit manipularea în timp real, fiind folosite pentru fraude, impostură profesională sau reclame false.
Rețelele care gestionează astfel de fraude, în regiuni din Asia de Sud-Est, utilizează modele AI pentru a modifica identitatea într-un apel video, prezentând victimei o față diferită de cea reală. Această metodă exploatează aparența autentică pentru a convinge și a induce în eroare.
Utilizarea frauduloasă a tehnologiei în diferite domenii
Deepfake-urile live sunt folosite și în domeniul publicitar, unde vedete ca Taylor Swift și Rihanna apar în reclame false pe TikTok. Utilizatorii sunt direcționați către servicii suspecte sau cereri de date personale sub pretexte false.
În zona fraudelor romantice, tehnologia complică procesul de detectare a escrocheriilor. Atacatorii pot crea o relație de lungă durată, apoi, la cererea victimei, apărând într-un apel video o persoană cu fața modificată digital, lucru care duce la o confirmare falsă.
Semnele tradiționale ale unui deepfake, precum clipitul neregulat sau buzele nesincronizate, devin tot mai greu de sesizat pe măsură ce tehnologia avansează. Răspândirea acestora în timp real face verificarea în cadrul apelurilor mult mai dificilă.
Apelul video nu mai garantează autenticitatea
Un caz notoriu, relatat de The Guardian, arată că procesul de manipulare a existat într-o situație în care o angajată din Hong Kong a transferat circa 20 de milioane de lire sterline, în urma unei videoconferințe. La întâlnire, mai mulți participanți păreau fi reali, dar în realitate era vorba de o manipulare cu ajutorul tehnologiei deepfake.
Astfel de incidente subliniază că utilizarea apelurilor video nu mai poate fi considerată o garanție a identității. În condițiile în care falsificarea în timp real devine mai accesibilă, granița dintre realitate și manipulare se estompează.
Nu doar cazurile de fraudă financiară sunt legate de acest fenomen. Publicațiile atenționează că, odată cu evoluția tehnologiilor, verificarea identității devine mai complexă, iar încrederea în comunicarea vizuală trebuie reevaluată.
Ce trebuie făcut pentru a te proteja
Specialiști recomandă evitarea deciziilor importante pe baza unui simplu apel video, mai ales dacă implică sume de bani, date personale sau acces la conturi.
În cazul solicitărilor de tip financiar sau de autentificare, trebuie folosit un canal independent pentru verificare. De exemplu, se recomandă să teleifezi pe numărul cunoscut al persoanei sau să ceri confirmarea printr-un alt mijloc sigur.
Companiile și instituțiile trebuie să trateze apelurile video ca pe un instrument de comunicare și nu ca pe o metodă de autentificare. Pentru schimbări de date sensibile sau transmiterea fondurilor, trebuie implementate proceduri stricte de verificare.
În plus, utilizatorii trebuie să fie conștienți că imaginea nu mai reprezintă o dovadă infailibilă a realității. În era deepfake-urilor directe, întrebarea nu mai este doar ce văd, ci și cum pot verifica dacă ceea ce percep este autentic.