Secretarul general al ONU, António Guterres, a făcut un apel public pentru interzicerea armelor autonome bazate pe inteligență artificială, în contextul unui accentuat interes global pentru dezvoltarea tehnologiilor militare autonome. În cadrul primului Global Dialogue on AI Governance, desfășurat la Geneva, Guterres a avertizat asupra pericolului moral și practic al acestor sisteme și a cerut ca decizia de a lua o viață să rămână în mâinile umane.
Necesarul interzicerii armelor autonome
Guterres a subliniat că anumite decizii, precum cele legate de folosirea forței și luarea de vieți, trebuie să fie rezervate exclusiv factorului uman. El a evidențiat riscurile legate de sisteme militare capabile să selecteze și să atace ținte fără intervenție directă a unui operator uman, calificând această tehnologie ca fiind „respingătoare din punct de vedere moral”.
Discursul său vine într-un climat în care inteligența artificială este privită atât ca oportunitate economică, cât și ca armă geopolitică și potențial risc existențial. În discuțiile publice recente, tematica armelor autonome a devenit centrul unei dezbateri mai grave, privind consecințele unei tehnologii capabile să identifice, urmărească și elimina ținte fără intervenție umană.
Riscuri și îngrijorări legate de sistemele autonome de luptă
Experții și organizațiile civice avertizează de ani de zile asupra pericolului reprezentat de roboții ucigași cu inteligență artificială. Principala preocupare este legată de viteza cu care aceste sisteme poate opera, depășind posibilitatea de supraveghere și control a oamenilor.
O altă problemă majoră este opacitatea modelelor de AI utilizate în domenii militare, acestea nefiind întotdeauna transparente sau explicabile. În situații de conflict, o eroare de identificare sau o interpretare greșită a datelor ar putea duce la victime civile sau alte consecințe devastatoare. Lipsa responsabilizării clare în cazul unor decizii automate face ca riscurile să fie și mai mari.
Contextul geopolitic și implicațiile tehnologice
Relația dintre companiile tehnologice de mare amploare și sectorul militar este unul complicat. În 2018, mai mulți angajați Google au protestat împotriva implicării companiei în Project Maven, un program al Pentagonului pentru analizarea imaginilor video. Companii precum Microsoft au fost implicate și ele în acorduri pentru furnizarea de tehnologii către armata americană, precum căști HoloLens.
Modelele avansate de AI pot analiza date uriașe și pot identifica automat tipare pentru luarea deciziilor cu autonomie crescută. În acest context, multe companii susțin că tehnologia lor poate fi folosită în scopuri de securitate națională, refuzând utilizarea pentru supraveghere internă sau arme autonome.
Declarațiile din mediul tech indică și argumentul strategic: dacă democrațiile nu dezvoltă astfel de sisteme, rivali precum China, Rusia sau Iran pot face același lucru. Susținătorii acestei idei afirmă că armele autonome, eficientizate și mai precise, ar putea chiar reduce victimele civile în conflicte, dacă identifică corect amenințările.
Criticii însă contrazic această poziție, subliniind că această logică accelerează cursa înarmării autonome, în fața lipsei unor reguli internaționale clare. Fiecare stat justifică de multe ori graba de a dezvolta astfel de tehnologii prin teama de a fi depășit de adversari, riscând să se ajungă la situații în care armele cu decizie autonomă să fie utilizate înainte să existe norme globale de control.
Provocări etice și de transparență
Un alt motiv de îngrijorare majoră este lipsa de transparență a algoritmilor AI care conduc astfel de sisteme. Modelele avansate de inteligență artificială nu oferă întotdeauna explicații clare pentru deciziile lor, fapt ce complică responsabilizarea în caz de erori.
În domeniul civil, această opacitate a conduce adesea la discriminare și decizii administrative greșite. În mediul militar, consecințele pot fi și mai grave: indiscriminări, escaladare necontrolată a conflictului și imposibilitatea de a stabili responsabilitatea pentru eventuale trageri greșite sau incidente.
În final, apelul făcut de Guterres către comunitatea internațională urmărește să genereze un acord global pentru stoparea dezvoltării armelor autonome fără control uman. Decizia de a lua viața trebuie să rămână o responsabilitate umană, nu un algoritm.
