Convingerea că inteligența artificială poate reprezenta o amenințare existențială pentru umanitate revin în dezbaterea publică, după declarațiile radicale ale lui Roman Yampolskiy, expert în securitatea sistemelor inteligente și profesor la Universitatea din Louisville.
Într-un podcast recent, cercetătorul a afirmat că există o probabilitate de „aproape 100%” ca AI să provoace extincția speciei umane în următorii 100 de ani.
Yampolskiy este recunoscut pentru pozițiile sale critice privind siguranța sistemelor autonome, opiniile sale fiind parte a unui grup restrâns, dar influent, de specialiști care atrag atenția asupra riscurilor tehnologiei emergente.
Argumentele lui Roman Yampolskiy și temerile legate de dezvoltarea inteligenței artificiale
În discuția de peste două ore, cercetătorul a evidențiat că evoluția rapidă a sistemelor AI nu este însoțită de un progres corespunzător în metodele de control.
Potrivit opiniei sale, „niciun sistem creat până acum nu funcționează fără erori”, iar generațiile viitoare, mult mai avansate, ar putea scăpa de sub controlul uman. El consideră că impredictibilitatea comportamentului AI și dificultatea de a explica mecanismele interne ale modelelor actuale reprezintă un risc structural.
Volumul său, AI: Inexplicabil. Imprevizibil. Incontrolabil, explorează aceste teme și descrie o serie de scenarii în care un sistem avansat de inteligență artificială ar putea lua decizii cu consecințe devastatoare. Autorul analizează și aspecte filosofice legate de conștiința artificială, precum și diferențele dintre inteligența biologică și cea artificială generală (AGI).
Yampolskiy susține că problema majoră nu este dacă vor fi create astfel de sisteme, ci dacă umanitatea va putea să le configureze astfel încât să rămână mereu sub control, un obiectiv pe care îl consideră improbabil.
Controverse în comunitatea științifică: risc major sau alarmism excesiv?
Declarațiile sale sunt în contrast puternic cu alte evaluări academice. Un studiu realizat de Universitățile Oxford și Bonn, bazat pe opiniile a peste 2.700 de specialiști, estimează un risc de doar 5% ca AI să cauzeze dispariția umanității.
Diferentele remarcabile între estimări indică, conform autorilor, lipsa unui consens privind nivelul real de pericol.
Katja Grace, coautoare a studiului, afirmă că posibilitatea unui scenariu extrem nu este considerată nesemnificativă de către experți, însă există diferențe mari în privința amploarei riscului. În timp ce unii consideră că acesta ar putea varia între 1% și 20%, alții resping complet predicțiile apocaliptice.
Personalități importante din domeniu, precum Andrew Y. Ng (Google Brain) și Yann LeCun (Meta), critică constant ideea că inteligența artificială ar putea obține intenții ostile sau capacități de distrugere autonomă. Ei susțin că scenariile de extincție sunt nefondate și că tehnologia poate fi reglementată eficient.
Pe de altă parte, există îngrijorări legate de impactul economic al automatizării în masă. Unele analize avertizează că, înainte de a apărea riscurile existențiale, AI ar putea provoca dezechilibre serioase în economie, înlocuind un număr mare de locuri de muncă și concentrând puterea economică în mâinile câtorva companii.
Declarațiile controversate ale lui Sam Altman, CEO al OpenAI, sunt adesea citate în acest context. În 2015, acesta afirma că „AI ar putea contribui la sfârșitul lumii, dar până atunci vor exista companii remarcabile”, o afirmație interpretată ca o recunoaștere indirectă a riscurilor, dar și a intereselor economice majore legate de tehnologie.
Dezbaterea privind siguranța AI și implicațiile potențiale rămâne deschisă. În timp ce unii experți solicită măsuri urgente de reglementare, alții consideră aceste predicții exagerate și nesustenabile.
Cert este că ritmul accelerat al dezvoltării tehnologice determină o creștere a presiunii pentru control, transparență și responsabilitate în domeniul inteligenței artificiale.