Inteligența artificială avansată, precum modelul Claude Fable 5 de la Anthropic, a fost lansată cu scopul de a sprijini domeniul securității cibernetice, însă utilizarea acesteia prezintă și riscuri semnificative. Deși modelul este furnizat publicului, compania recunoaște potențialul pentru utilizări periculoase și a implementat măsuri de siguranță pentru limitarea utilizării în contexte riscante.
Siguranța și controalele implementate de Anthropic
Claude Fable 5 nu este disponibil în mod liber pe internet în întregime. În situații în care interacțiunea cu sistemul implică întrebări sensibile, modelul poate restricționa răspunsurile sau le poate redirecționa către versiuni mai puțin riscante. Anthropic afirmă că acest sistem de control are ca scop prevenirea utilizării modelului în scopuri dăunătoare, în special în securitatea cibernetică.
Utilitatea pentru securitate, riscurile pentru infracțiuni
Pentru echipele de securitate, modelele precum Mythos pot accelera descoperirea vulnerabilităților, prioritizarea riscurilor și remedierea problemelor. Într-un mediu digital caracterizat de apariția frecventă a noi breșe, viteza de reacție joacă un rol esențial între un incident minor și un atac major.
Pericolul răspândirii către hackerii
Există temeri că astfel de tehnologii pot ajunge în mâinile infractorilor. Specialiști precum Derek Manky, de la Fortinet, avertizează că răspândirea AI-ului în rândul hackerilor ar putea duce la dublarea numărului de atacuri cibernetice. Modelele precum Mythos pot fi utilizate de hackeri pentru a identifica vulnerabilități mai rapid și pentru a lansa atacuri mai sofisticate.
Progrese în tehnologia infracțională
Un exemplu concret al implicațiilor negative este existența primului ransomware bazat pe inteligență artificială. Faptul că infractorii testează și folosesc astfel de tehnologii demonstrează că riscurile asociate se materializează deja în practică.
Impact asupra utilizatorilor obișnuiți
Utilizatorii cotidiani pot fi afectați indirect, în aplicații, servicii online, date bancare și infrastructură critică. Inovațiile din domeniul AI, deși oferă beneficii pentru apărare, permit și dezvoltarea atacurilor automate și din ce în ce mai avansate.
Folosirea tehnologiilor AI în securitatea cibernetică necesită o supraveghere strictă, pentru a evita ca inovațiile destinate prevenirii atacurilor să fie utilizate pentru extinderea și eficientizarea atacurilor infracționale.