Microsoft Copilot pentru Word, un instrument de inteligență artificială utilizat pentru asistarea în redactarea și modificarea documentelor, a fost identificat ca fiind vulnerabil la o metodă de manipulare a conținutului. Un cercetător a demonstrat că documentele pot transmite instrucțiuni ascunse, care pot influența comportamentul AI în timpul sesiunilor ulterioare, deși nu implice propagarea automată a virusurilor.
Modul de operare al instrucțiunilor ascunse
Conform demonstrației, un document Word conține instrucțiuni invizibile vizual, dar interpretate de Copilot ca fiind parte a solicitării utilizatorului. În teste, AI a modificat automat valorile financiare din raport, reducându-le la jumătate, și a copiat instrucțiunile ascunse într-un document nou. Astfel, fișierul rezultat putea servi ca purtător de comenzi ascunse pentru sesiuni ulterioare ale AI.
Impactul asupra documentelor și riscuri de manipulare
Vulnerabilitatea necesită intervenția unui utilizator pentru a accelera răspândirea instrucțiunilor. Documentul compromis trebuie inclus în cadrul activității AI, fie ca fișier atașat, fie prin intermediul cloud-ului OneDrive sau sistemului Work IQ, ce selectează documente pentru redactare. Problema nu permite instalarea de malware sau cod malițios pe calculator, însă modificarea conținutului produce riscuri de manipulare dificil de detectat.
După eliminarea originalului, un raport contaminat putea fi folosit ca sursă pentru noi documente, generând de fiecare dată modificări similare, fără ca utilizatorul să fie conștient despre manipulare.
Răspunsul Microsoft și măsurile de atenuare
Microsoft a confirmat existența comportamentului raportat și a implementat două măsuri de protecție. Prima a blocat forma inițială a instrucțiunilor utilizate în demonstrație, iar a doua a vizat actualizarea modelului AI la versiunea GPT-5.5. Cu toate acestea, cercetătorul subliniază că vulnerabilitatea nu a fost complet eliminată, fiind posibilă exploatarea ei în anumite condiții.
Nu există indicii că problema afectează alte funcții sau propagarea automată a unor coduri malițioase. În pofida măsurilor aplicate, analiza relevă că scenariile de manipulare rămân posibile în anumite situații.
