YouTube a lansat un nou instrument de detectare a imaginilor generate cu AI, destinat în special persoanelor din sfera publică, precum oficiali, jurnaliști și candidați. Platforma precizează că sistemul nu garantează eliminarea automată a conținutului, ci servește drept mecanism de semnalare, urmând ca decizia finală să fie luată de utilizatori.
Funcționarea sistemului și utilizatorii eligibili
Potrivit YouTube, tehnologia, denumită „likeness detection”, funcționează similar cu Content ID, dar pentru identificarea chipurilor în conținut generat cu AI. Sistemul caută apariții potențiale ale chipurilor persoanelor în videoclipuri, iar utilizatorii pot raporta conținutul pentru a solicita eliminarea, dacă consideră că încălca drepturile lor.
Participanții la programul pilot trebuie să-și verifice identitatea, iar datele furnizate în această etapă sunt folosite exclusiv pentru verificare și funcționarea instrumentului de siguranță. YouTube afirmă că aceste date nu sunt utilizate pentru antrenarea modelelor de AI ale companiei.
Programul a fost extins inițial pentru oficiali, jurnaliști și candidați, pentru a testa răspunsul platformei la utilizarea instrumentului în contexte cu potențial conflict între libertatea de exprimare și protecția identitară. Extinderea către aceste categorii a fost realizată în cadrul unui proces de testare tehnică și de evaluare politică, menită să adapteze tehnologia la zone cu tensiuni ale drepturilor și libertăților.
De la începutul anului 2025, YouTube a anunțat extinderea beta pentru creatorii din programul YouTube Partner, inclusiv către o utilizare mai largă. La momentul actual, tehnologia a fost lansată oficial pentru aceste categorii, ca parte a unui efort de combatere a videoclipurilor false generate cu AI, în special deepfake-urilor.
Limitările detectării și problemele legale
YouTube subliniază că detectarea chipurilor nu garantează eliminarea materialelor, ci doar semnalează posibilele cazuri. Platforma își păstrează angajamentul de a proteja libertatea de exprimare și conținutul de interes public, inclusiv satire, parodii sau critici loiale ale liderilor mondiali și figurilor influente.
Decizia dacă un videoclip cu un chip fals trebuie eliminat va depinde și de contextul în care a fost publicat, nu doar de existența unei potriviri algoritmice. În practică, această abordare reprezintă o limitare în aplicarea sistemului pentru a evita cenzura excesivă sau erori de identificare.
Responsabilitatea pentru semnalarea și solicitarea eliminării aparține în mare măsură persoanei vizate. Pentru a acționa, utilizatorii trebuie să se înscrie, să verifice identitatea, să analizeze materiale și să depună cereri. Acest proces poate deveni dificil pentru utilizatorii individuali sau pentru cele implicate în campanii electorale sau activitate jurnalistică, din cauza volumului și rapidității cu care apar falsele.
Creșterea importanței acestei tehnologii în contextele civice și politice relevă intenția YouTube de a combate răspândirea de conținut fals, ce poate avea impact rapid asupra opiniei publice sau integrității discursului public.
Perspective de dezvoltare și posibilități de monetizare
YouTube nu aduce în discuție doar aspectul de protecție, ci deschide și posibilitatea ca creatorii și artiștii să gestioneze, să autorizeze și să beneficieze financiar de utilizarea AI pentru propria imagine. Într-un anunț video, Rene Ritchie, responsabil cu legăturile cu creatorii, afirmă că prioritatea curentă este siguranța, dar se explorează și scenarii în care generarea de conținut cu AI a propriului chip ar putea deveni o resursă licențiabilă, cu remunerație.
Propunerile sugerează o trecere de la controlul negativ al deepfake-urilor la un model de licențiere, în care titularii de drepturi pot decide asupra utilizării digitalizării imaginii lor în proiecte autorizate și cu plată.
Reglementările legale, precum NO FAKES Act, sunt considerate esențiale pentru a permite o monetizare controlată a asemănării digitale, astfel încât drepturile creatorilor să fie protejate în mod explicit, iar piața AI de imagini să devină una reglementată.
Informațiile oficiale indică un echilibru între protejarea utilizatorilor și dezvoltarea unei economii a identităților sintetice, în care controlul și administrarea chipurilor digitale devin parte din drepturile de proprietate intelectuală.
YouTube face pași pentru a seta reguli clare în domeniu, dar procesul de adoptare rapidă a acestor practici va fi dictat de modul în care legislația și industrie vor reglementa utilizarea responsabilă a tehnologiei AI în generarea conținutului vizual.