Compania americană Anthropic a suspendat accesul la modelele de inteligență artificială Fable 5 și Mythos 5, la numai trei zile după lansarea acestora. Decizia a fost determinată de o directivă emisă de guvernul SUA, menită să controleze exporturile și invocând riscuri pentru securitatea națională. All tests și utilizări ale celor două modele au fost blocate pentru utilizatorii din orice țară, inclusiv pentru angajații companiei, în contextul imposibilității de a separa rapid utilizatorii pe bază de cetățenie. În prezent, alte modele de IA dezvoltate de Anthropic, precum Claude, nu sunt vizate de aceste restricții.
Motivul oficial al suspendării
Diferențele legate de motivele suspendării nu sunt clarificate în detaliu în comunicatul oficial al Anthropic. Compania afirmă că directiva guvernamentală nu explică explicit motivele de securitate națională, dar susține că anumite vulnerabilități ale modelului Fable 5 au fost identificate. Guvernul american a aflat despre o metodă prin care limitări de protecție ale modelului puteau fi ocolite, ceea ce a motivat, potrivit companiei, impunerea restrictiilor.
Anthropic precizează că demonstrația a relevat doar câteva vulnerabilități cunoscute și relativ simple pentru modelul Fable 5. În plus, compania afirmă că și alte modele publice pot avea probleme similare, fără a fi nevoie de ocolirea sistemelor de siguranță pentru a le exploata.
Produsele Fable 5 și Mythos 5 au fost recent prezentate drept modele cu capacități avansate, diferențiate prin accesul public restricționat. Versiunea publică, Fable 5, avea restricții pentru domenii sensibile, în timp ce Mythos 5 era disponibil doar pentru un grup limitat de organizații și agenții guvernamentale.
Conflictul cu administrația Trump
Suspendarea celor două modele marchează un nou episod în conflictul dintre Anthropic și administrația Trump. În trecut, compania a refuzat să renunțe la anumite limitări în utilizarea modelelor Claude, care vizau supravegherea în masă a cetățenilor americani și arme autonome complete.
Disputa juridică a fost favorabilă pentru Anthropic, care a obținut o victorie temporară în instanță, fiind obligată să nu folosească eticheta de „risc pentru lanțul de aprovizionare” și să întrerupă legăturile cu agențiile federale. Cu toate acestea, utilizarea tehnologiei Claude de către guvern în operațiuni militare a fost evidențiată în contradicții cu declarațiile oficiale privind restricțiile.
Compania susține că respectă directivele, dar consideră reacția guvernului disproporționată. Avertizează că aplicarea acelorași standarde industriei ar putea duce la retragerea aproape oricărui model AI avansat, în cazul în care sunt descoperite metode de ocolire a măsurilor de protecție.