Meta își intensifică eforturile de combatere a conținutului ilegal și a activităților periculoase prin implementarea unor noi tehnologii de monitorizare a reclamelor și a destinațiilor acestora. Compania utilizează acum metodologii avansate pentru a identifica reclamele care, aparent inofensive, pot direcționa utilizatorii către site-uri cu conținut ilegal, și pentru a prinde materialele de exploatare sexuală a minorilor, care au fost trecute anterior neobservate.
Monitorizarea reclamelor și destinațiilor
Meta anunță că analizează atât conținutul reclamelor, cât și destinațiile către care acestea trimit utilizatorii. În cazul în care site-urile sau alte platforme respective încalcă regulile companiei, Accessul către acestea poate fi blocat, iar conturile care promovează astfel de reclame pot fi sancționate. Această metodă vizează identificarea de exemple de „signposting”, adică reclamele aparent normale, dar cu scopul de a ghida utilizatorii către conținut ilegal.
Pentru a detecta aceste practici, Meta folosește acum un model lingvistic de mari dimensiuni (LLM), capabil să analizeze și să detecteze indicii subtile în reclame și să stabilească conexiuni între conținut și destinațiile externe. Sistemul urmărește astfel să reducă riscul ca utilizatorii să fie direcționați către site-uri neautorizate din cauza reclamelor aparent inofensive.
Lupta contra conținutului ilegal cu ajutorul AI
Meta a introdus în paralel scanări automate suplimentare, bazate pe inteligență artificială, pentru a identifica materialele asociate exploatării sexuale a minorilor, activitate care reprezintă o prioritate pentru companie. Conform datelor publicate, în primele șase luni ale anului 2026, Meta a acționat pentru eliminarea a peste 33,2 milioane de materiale de acest tip pe Facebook și Instagram. În peste 97% dintre cazuri, aceste materiale au fost detectate înainte ca utilizatorii să le raporteze.
În India, compania a intervenit asupra a 5,3 milioane de astfel de materiale în aceeași perioadă, cu o rată de detectare automată de 98%. Meta afirmă că nu se bazează doar pe identificarea conținutului deja existent, ci și pe detectarea metodelor folosite de rețelele de distribuție pentru a ajunge la noi victime sau utilizatori.
Testarea mecanismelor de siguranță cu AI
O componentă nouă introdusă este un agent AI desemnat „red-teaming”, creat pentru a testa în mod continuu sistemele de protecție ale companiei. Acest agent caută vulnerabilități și exploatări potențiale ale măsurilor anti-abiliste, astfel încât compania să își poată identifica și întări punctele slabe înainte ca acestea să fie exploatate de persoane rău intenționate.
Procedura permite detectarea unor metode noi de abuz înainte ca acestea să devină răspândite, contribuind la capacitatea Meta de a preveni activitățile ilegale sau periculoase pe platformele sale. De asemenea, compania își actualizează continuu sistemele pentru identificarea utilizatorilor care revin pe platforme cu conturi noi după eliminarea celor anterioare.
Context și provocări legale
Noul sistem de monitorizare intervine într-un moment de presiune crescută asupra Meta, concernată de riscurile pentru siguranța minorilor pe platformele sale. În august, Meta a încheiat un acord pentru plata unei sume de până la 18 miliarde de dolari în contul unui proces deschis de 29 de state americane, referitor la responsabilitatea pentru conținutul și impactul asupra copiilor.
Compania se află sub presiune atât din partea autorităților, cât și a publicului, pentru măsuri eficiente de protecție și pentru transparență în gestionarea conținutului sensibil, inclusiv cel legat de exploatarea sexuală a minorilor.
