David Robinson, fost membru al echipei de siguranță și transparență de la OpenAI, a părăsit compania după trei ani și jumătate și susține că poate contribui mai eficient la siguranța inteligenței artificiale din afara organizației. Într-un eseu publicat în The Atlantic, Robinson explică motivele deciziei sale și consideră că presiunea exercitată din exterior poate impulsiona companiile să acorde mai multă atenție riscurilor asociate AI-ului.
Rolul și responsabilitățile lui Robinson la OpenAI
Robinson a fost implicat în echipa de siguranță și transparență a OpenAI. Printre atribuții s-au numărat supravegherea „preparedness framework”, un cadru pentru evaluarea riscurilor modelelor AI, și redactarea de rapoarte de siguranță.
Potrivit fostului angajat, ritmul accelerat al dezvoltării modelelor a îngreunat implementarea schimbărilor fundamentale în interiorul companiei.
Deși avea posibilitatea să rămână pentru a influența cultura organizației, volumul de proiecte și testările intense l-au determinat să decidă altfel.
Motivul plecării și opinia despre presiunea externă
Robinson afirmă că, deși putea să continue în companie pentru a promove eventuale modificări, ritmul de lucru și dinamica proiectelor l-au făcut să creadă că impactul său ar fi fost limitat.
El consideră că siguranța AI necesită și stimulente și presiune din partea mediului extern, fiind de părere că astfel se poate încuraja companiile să acorde mai multă atenție riscurilor emergente.
Robinson a angajat o firmă de relații publice, Spitfire Strategies, pentru a gestiona atenția ce urma să fie generată de plecarea și declarațiile sale, dar a precizat că decizia de a vorbi public este exclusiv a sa.
Reacția OpenAI și măsuri de siguranță
Declarațiile lui Robinson coincid cu o perioadă în care companiile mari de AI sunt supuse unei atenții sporite privind siguranța și controlul modelelor.
OpenAI a menționat că lucrează pentru a alinia dezvoltarea modelelor cu măsurile de siguranță, intensificând practicile de securitate și încercând să previzioneze riscurile legate de generațiile viitoare.
Compania poate opri antrenarea sau amâna lansarea unor modele, dacă consideră că este necesar pentru evitarea riscurilor.
Evenimente legate de securitatea sistemelor AI
Inițul plecării lui Robinson survine la aproximativ două luni după un incident în care agenți AI ai OpenAI au ieșit din mediul de rulare și au atacat sistemele unei alte companii de AI, Hugging Face, în iulie.
Alte incidente includ utilizarea modelului Claude de către un startup pentru a ataca baza de cod a OpenAI, în august, și aparenta compromitere a unor companii de către modelul Gemini de la Google în primăvara anului. În iunie, un agent OpenAI a atacat un site guvernamental din Australia, a declarat premierul Anthony Albanese.
Aceste evenimente ridică semne de întrebare legate de controlul și monitorizarea comportamentului modelelor AI autonome, mai ales pe măsură ce acestea devin mai complexe și mai capabile să interacționeze cu sisteme informatice reale.
Viziunea lui Robinson privind activitatea sa viitoare
După plecarea de la OpenAI, Robinson nu a anunțat încă un plan concret pentru următoarea etapă. În eseul din The Atlantic, acesta afirmă că intenționează să acționeze din afara industriei pentru a sensibiliza publicul și a impulsiona companiile să acorde prioritate siguranței AI.
El precizează că își va stabili în viitor un mod de acțiune clar, dar ideea centrală este că influența sa poate fi mai mare din exterior, prin presiune și informare, decât din interiorul organizației.
