Meta a suspendat temporar funcția de distribuire a conținutului din agentul AI Muse, după ce cercetătorii în securitate cibernetică au descoperit o vulnerabilitate care le-a permis identificarea a peste 6.800 de linkuri generate pentru distribuirea conversațiilor utilizatorilor, inclusiv unele ce conțineau informații sensibile. Incidentele apărute la scurt timp după lansarea agentului ridică semne de întrebare asupra măsurilor de securitate implementate de companie.
Modul de identificare și vulnerabilitatea descoperită
Cercetătorii de la firma Claroc au explicat că problemele nu au fost cauzate de hacking sau compromiterea directă a conturilor. Vulnerabilitatea a fost legată de modul în care Muse genera adresele web pentru conversații. La distribuirea unei conversații, aplicația crea un link ce includea titlul generat automat și un șir de caractere aleatorii.
Problema era că titlul conversației apărea în subdomeniul adresei, fapt ce permitea înregistrarea și identificarea acestor linkuri prin baza de date DNS. Serviciile de DNS colectează și păstrează informații despre ce domenii sunt accesate, inclusiv istoricul rezolvării adreselor internet. Astfel, cercetătorii au putut căuta în aceste baze de date adresele asociate serviciului Muse și au identificat aproximativ 6.800 de linkuri.
Ulterior, aceștia au analizat câteva sute dintre aceste linkuri și au descoperit conversații și documente ce conțineau informații confidențiale, precum date despre venituri, cereri de împrumut, tranzacții bancare, calendarul concediilor angajaților și notițe pentru discuții de recrutare într-o companie din domeniul inteligenței artificiale.
În cazul unor conversații, sistemul păstra și memorii despre persoane din cercul social al utilizatorului, inclusiv prieteni și membri ai familiei. Specialiștii au subliniat faptul că vulnerabilitatea afecta doar linkurile de distribuire și nu toate conversațiile realizate cu Muse.
Reacția Meta și măsuri luate
După descoperire, Meta a confirmat că a suspendat temporar funcția de distribuire a conversațiilor pentru Muse. Compania a explicat că utilizatorii puteau genera valori accesibile oricui avea linkul și că analizează acum modalitățile prin care aceste adrese au fost descoperite de persoane neautorizate.
Asaf Aprozper, cofondator și director tehnologic al Claroc, a declarat că vulnerabilitatea a fost raportată companiei Meta încă din 8 octombrie, prin programul de raportare a problemelor de securitate. Deși cercetătorii au încercat să contacteze reprezentanții Meta prin LinkedIn, inițial nu au primit răspuns.
Specialiștii au remarcat cât de simplu a fost procesul de identificare a linkurilor și au subliniat riscurile unei funcții aparent banale, precum distribuirea conversației, care poate expune informații confidențiale unor persoane neautorizate. Acest lucru devine și mai problematic pentru agenții AI, având în vedere că aceștia pot executa sarcini complexe, pot gestiona documente și pot accesa servicii externe în numele utilizatorilor.
Incidentele anterioare, precum o vulnerabilitate descoperită de expertul Patrick Wardle la începutul lunii octombrie, arătau că sistemul Muse avea probleme de securitate și înainte de această descoperire. Potrivit relatărilor, Muse păstra și evidența detaliată a relațiilor utilizatorilor, inclusiv informații despre prieteni și familie.
Probleme anterioare și riscuri pentru utilizatori
Meta a minimizat, la momentul discului, gravitatea vulnerabilității din octombrie, argumentând că exploatarea acesteia cerea compromiterea prealabilă a dispozitivului. Însă, noile descoperiri sugerează că sistemele Muse pot păstra și gestiona date foarte sensibile, ceea ce ridică întrebări privind nivelul de protecție oferit.
Informațiile despre sistemul păstrate și despre modul în care AI-ul poate gestiona date personale creează riscuri suplimentare dacă nu sunt protejate corespunzător. În condițiile în care tot mai mulți utilizatori discută despre sănătate, finanțe, relații sau probleme profesionale, riscul de expunere a datelor intime devine mai acut.
Impactul asupra utilizatorilor și securitatea viitoare
Descoperirea face clar faptul că funcții aparent simple, precum partajarea unei conversații, pot transforma date confidențiale în informații accesibile unor persoane neautorizate.
Meta anunțase că va analiza măsuri pentru a remedia problema și a suspendat temporar funcția de distribuire. Totuși, incidentele ridică semne de întrebare despre procesul de verificare a securității înainte de lansare.
Pentru utilizatori, principalele recomandări sunt să fie conștienți că conversațiile cu AI nu sunt întotdeauna complet private, mai ales în cazul partajării de documente financiare sau alte informații sensibile. Tratarea cu atenție a linkurilor generate și limitarea datelor distribuite rămâne esențială.
