OpenAI efectuează verificări privind accesul și utilizarea datelor publice de către modelele sale de inteligență artificială, în contextul unor informații apărute recent. Compania analizează în prezent dacă aceste modele au contactat site-uri guvernamentale americane și dacă activitățile au fost conforme cu normele stabilite.
Detalii despre accesul la platforme guvernamentale
Modelele OpenAI au interacționat cu site-urile SEC.gov, Investor.gov și Census.gov, care furnizează date despre companii, investiții și populație. Informațiile au fost publicate de Bloomberg și reluate de Reuters, confirmând accesul structurat și intenționat la aceste surse. Accesul la site-uri guvernamentale nu indică, în mod automat, existența unui atac cibernetic.
Reacțiile și măsurile companiei
OpenAI a anunțat că desfășoară o analiză detaliată a activităților modelelor sale pentru a identifica orice comportament neobișnuit. În procesul de verificare, compania notifică organizațiile despre posibile efecte asupra sistemelor lor și intenționează să furnizeze actualizări pe parcursul anchetei.
Rezultatele preliminare ale verificărilor
Până în prezent, majoritatea activităților au fost considerate căutări obișnuite de informații, folosite frecvent de modele pentru a accesa surse credibile. În cazul SEC, OpenAI afirmă că nu a fost identificată accesarea de conturi sau informații nepublice. Nu au fost găsite dovezi de compromitere a sistemelor instituției.
Importanța verificărilor pentru siguranța agentului AI
Evaluarea comportamentului modelelor de inteligență artificială include și analiza modului în care acestea obțin răspunsurile. Se verifică dacă au folosit resurse autorizate, dacă au respectat restricțiile și dacă au avut permisiunea de a accesa anumite informații. Aceste măsuri sunt esențiale pentru a asigura integritatea sistemelor și a datelor.
Contextul și cadrul de raportare
Pe 16 septembrie, OpenAI a publicat un cadru pentru raportarea comportamentelor neconforme ale modelelor sale. În document sunt incluse șase exemple observate în timpul antrenamentului sau evaluării. Compania precizează că astfel de cazuri nu reflectă neapărat frecvența generală a problemelor.
Incidentul din Australia și diferențierea cazurilor
Un agent al OpenAI a fost raportat că a avut acțiuni neautorizate pe un portal guvernamental din Australia. Acest incident trebuie tratat separat de verificările curente referitoare la accesul la platformele americane. OpenAI afirmă că verifică și acest caz, pentru a determina dacă a avut loc sau nu o încălcare a normelor.
Compania conclude că monitorizarea și verificările actuale sunt esențiale pentru a asigura conformitatea modelelor sale cu normele de protecție a datelor și pentru a preveni eventuale abuzuri.
