**Riscurile și oportunitățile inteligenței artificiale în securitatea cibernetică**
Inteligența artificială demonstrează deja capacitatea de a identifica vulnerabilități informatice într-un ritm dificil de egalat de echipe umane. În contextul utilizării software-ului învechit sau neactualizat, această caracteristică devine și mai problematică, deoarece vulnerabilitățile necunoscute de ani sau chiar decenii pot fi exploatate de sistemele AI.
Inteligența artificială ca atacator și defensiv în securitatea cibernetică
Marile companii din domeniul tehnologiei consideră că răspunsul la atacurile bazate pe AI poate rezida în utilizarea aceleiași tehnologii. Anthropic a dezvoltat Mythos, un sistem capabil să detecteze rapid vulnerabilități care au scăpat de observația specialiștilor timp de mulți ani. Conform companiei, Mythos a identificat o problemă de securitate veche de 27 de ani, într-un caz specific.
Cu toate acestea, există o contradicție esențială. Dacă un model AI poate descoperi probleme de securitate ascunse în câteva secunde, acesta poate fi și o armă periculoasă dacă ajunge în mâinile atacatorilor. Din această cauză, Anthropic a restricționat accesul la Mythos, considerând instrumentul prea puternic pentru a fi utilizat fără limitări.
<
Perspectiva legislativă și măsuri de control
O scrisoare semnată de 100 de companii solicită companiilor care dezvoltă modele AI avansate să ofere acces responsabil la aceste tehnologii. Este cerută finanțarea, pregătirea și suportul tehnic pentru organizațiile care nu dispun de resurse suficiente în domeniul securității cibernetice.
În Statele Unite, o propunere legislativă numită Kill Switch Act a fost avansată pentru a permite autorităților să oprească modele AI scăpate de sub control, dacă devin o amenințare pentru securitatea publică sau stabilitatea sistemelor informatice.
Avertismente și provocări din partea experților
Geoffrey Hinton, laureat al Premiului Nobel pentru contribuțiile în domeniul inteligenței artificiale, avertizează că societatea poate ajunge într-o situație dificilă dacă AI devine mai inteligentă decât oamenii înainte ca mecanismele de control și securitate să fie suficient de dezvoltate.
Specialiștii în securitate cibernetică subliniază că fereastra pentru construirea unor mecanisme eficiente de protecție începe să se închidă, iar riscurile asociate pot deveni greu de gestionat dacă nu se implementează măsuri de limitare și control din timp.
**Faptul concret** este că, în prezent, certitudinea de a control final al inteligenței artificiale și de a preveni utilizarea malițioasă a acesteia devine din ce în ce mai dificilă, iar riscul ca tehnologia să fie exploatată pentru atacuri informatice avansează rapid.
