OpenAI a anunțat recent că a inclus în contract interdicții legate de supraveghere în masă și utilizarea forței autonome în contextul tehnologiei AI. Mesajul public a fost prezentat ca o victorie a principiilor de responsabilitate, dar criticii remarcă faptul că formulările utilizate nu reprezintă o interdicție explicită, ci mai degrabă o acceptare a cadrului juridic existent.
Interdicțiile și formulările ambigue
Contractul menționează că anumite practici sunt interzise, însă referirea la „orice utilizare legală” sugerează că nu s-au introdus restricții noi. În loc, se acceptă cadrul legal existent, care include programe de supraveghere în masă justificate prin interpretări juridice. Acest lucru înseamnă că interdicția, în esență, devine o declarație de intenție, nu o restrictionare fermă.
Specialiștii în domeniu argumentează că asemenea formulări permit leadership-ului să interpreteze limitele în funcție de context, fără a avea o barieră clară împotriva utilizărilor considerate nepotrivite. Astfel, câteva calificative precum „generalizat” sau „open-ended” nu limitează acțiunile, ci oferă spațiu de manevră pentru interpretare.
Supravegherea în masă și limitele legii
Tehnologia modernă permite colectarea și analiza masivă a datelor dispersate. Prin agregare și analiză automatizată, se pot crea profile detaliate despre persoane, bazate pe geolocație, istoric de deplasare, activități online, imagini din camere și date cumpărate de la brokeri.
Legislația, adaptată pentru un sistem în care analiza era limitată uman, devine insuficientă pentru noile capabilități tehnologice. Dacă acordul se bazează pe acte normative și directive vechi, acestea pot fi interpretate în mod extensiv, în contexte de criză sau oportunitate strategică.
Discuțiile despre colectare și analiză sunt relevante, întrucât deși se poate nega „colectarea în masă”, analiza pe datele existente permite crearea de profiluri la scară largă. AI-ul devine astfel un multiplicator de putere, iar o interdicție reală ar fi trebuit formulată explicit, nu doar sub forma unor prevederi ambigue.
Restricțiile tehnice și limitele verificărilor
Unii susțin că acordul include mecanisme tehnice pentru prevenirea încălcării liniilor roșii, precum clasificatoare automate ce pot monitoriza și bloca anumite acțiuni. Există, de asemenea, afirmații privind verificarea independentă a implementării, prin arhitectură și acces controlat.
Însă aceste mecanisme au limitări. Clasificatoarele nu pot întotdeauna să distingă intențiile operaționale din spatele unui prompt sau a unei ieșiri, iar contextul complet necesar pentru interpretare nu este întotdeauna disponibil. În plus, dacă acordul se bazează pe „orice utilizare legală”, aceste clasificatoare nu pot bloca activități considerate legale de către autoritate, devenind mai degrabă instrumente de conformitate.
Responsabilitatea umană, deși menționată, nu poate fi confirmată ușor. Sistemele automate pot only loga sau solicita confirmări formale, dar nu garantează revizuirea efectivă de către oameni, mai ales în lanțurile decizionale distribuite.
Utilizarea forței și situația armelor autonome
În ceea ce privește armele autonome, limita este definită condiționat. Dacă se afirmă că tehnologia nu va fi folosită pentru „direcționare independentă” în cazurile în care legea sau regulamentele prevăd control uman, atunci interdicția este dependentă de reguli existente, care se pot modifica în funcție de contexte geopolitice și politici administrative.
Există și o zonă de ambiguitate în lanțul decizional: chiar dacă un sistem nu execută direct lovitura, poate contribui la identificare, evaluare riscuri și recomandări, accelerând procesul decizional uman în mod automatizat. În acest sens, diferența dintre „nu trage” și „face aproape tot ce duce la tragerea” devine nesemnificativă dacă AI-ul scurtează și automatizează pașii.
Criticii argumentează că asemenea formulări permit AI-ului un impact considerabil, chiar dacă tehnic nu execută comanda. Responsabilitatea umană devine formală, iar linia roșie devine un concept aflat în continuă reconfigurare în funcție de politica momentului.
Strategia de comunicare și ambiguitatea juridică
Sam Altman a folosit un limbaj ambiguu, astfel încât să lase posibilitatea de interpretare atât pentru public, cât și pentru autorități. În comunicarea publică, accentul se pune pe principii ferme, dar în contract, se preferă formulări flexibile, care lasă loc pentru adaptare și interpretare instituțională.
Această strategie permite companiei să susțină că a respectat „linia roșie”, în timp ce acceptă formularea „orice utilizare legală”. În practică, acest compromis oferă spațiu pentru utilizări controversate sau extinse, în funcție de interpretarea legală sau regulamentele în vigoare.
Pentru o evaluare proprie, se pot formula două întrebări esențiale: interdicția este explicită și directă sau una de conformitate cu cadrul legal existent? Cine are ultimul cuvânt – compania prin veto tehnic sau statul prin interpretarea legii? Dacă prevalează a doua, „red line”-ul devine mai degrabă o narațiune și mai puțin o barieră efectivă.