Armata americană a planificat intervenția asupra unei nave chineze, dar a renunțat după ce a descoperit că raportul utilizat fusese generat de o inteligență artificială și conținea informații eronate. Incidentul a avut loc în contextul tensiunilor între cele două țări și a evidențiat riscurile utilizării AI în operațiuni militare.
Planificarea acțiunii și intervenția militară
Potrivit surselor, armata americană se afla în faza de pregătire pentru interceptarea navei. În acest scop, militari înarmați erau pregătiți să urce la bordul vasului, iar avioane militare se aflau deja în aer. La momentul respectiv, oficialii ajustau planurile pe baza unui raport elaborat de un analist specializat în operațiuni speciale.
Descoperirea erorii din raportul de pregătire
Reportul a fost realizat cu sprijinul unui chatbot bazat pe inteligență artificială. Cu puțin timp înainte de operațiune, oficialii au verificat conținutul și au constatat că raportul a fost generat în întregime de AI și conținea date false. În mod specific, materialul transportat de navă a fost identificat eronat, iar analiza a fost considerată “complet falsă”.
Efectele și riscurile utilizării AI în operațiuni militare
Raportul eronat aproape că a declanșat o reacție de tip război, iar orice acțiune împotriva navei chineze risca să escaladeze conflictul între cele două țări. În cadrul armatei și în comunitatea de informații din SUA, se încearcă integrarea AI în mai multe domenii, de la analiza datelor brute până la gestionarea logisticii.
Riscurile utilizării AI și posibilele consecințe
Experții atrag atenția asupra pericolelor asociate cu utilizarea AI în selecția țintelor în timpul conflictelor. Este riscant ca decizii critice să se bazeze pe date de slabă calitate sau compromise, ceea ce poate duce la erori grave. În acest caz, aleșii militari au fost induși în eroare de informații false generate de AI.
Detalii despre instrumentul AI utilizat
Analistul a consultat un chatbot în legătură cu documentele referitoare la încărcătura navei, provenite de la Comandamentul pentru Operațiuni Speciale al SUA din Pacific, cu sediul în Hawaii. Nu este clar dacă AI-ul era o soluție comercială sau un produs guvernamental.
Componentele sistemului de analiză
Chatbotul a combinat informații deschise cu date secrete obținute prin interceptări și bazate pe baze de date guvernamentale. Acest proces a condus la concluzii greșite despre conținutul navei, concluzii utilizate ulterior pentru generarea unui raport standard de informații. Analistul a folosit din nou AI pentru a transforma constatările în documente oficiale distribuite oficialilor militari.
Observații ale experților despre tehnologie
Un fost oficial american de rang înalt a declarat că instrumentele militare folosesc, în mare parte, copii ale soluțiilor comerciale, cosmetizate pentru uz militar. Astfel, instrumentele interne nu sunt considerabil diferite de cele de piață, deși pot avea anumite adaptări.
Raportul și modul în care a fost utilizată AI în acest caz exemplifică riscurile implicate în folosirea tehnologiilor avansate în scenarii de conflict, în special când deciziile se bazează pe date generate automat și nesupuse verificărilor umane independente.
