Un startup din San Francisco, Recursive Superintelligence, a primit o finanțare de 650 de milioane de dolari pentru dezvoltarea unui sistem de inteligență artificială capabil să se îmbunătățească singur. Compania susține că obiectivul său este realizarea unui AI care să identifice și să corecteze propriile deficiențe, fără intervenție umană.
Obiectivul principal: auto-îmbunătățirea recursivă a AI
Majoritatea sistemelor AI existente pot fi utilizate pentru a optimiza anumite sarcini, dar nu se autofinanțează ca un proces complet automat. Richard Socher, conducătorul companiei, afirmă că aceasta este diferența între o îmbunătățire asistată și o auto-îmbunătățire recursivă adevărată. Proiectul vizează crearea unui sistem care să poată testa, ajusta și implementa îmbunătățiri asupra propriei arhitecturi.
Un aspect cheie al inițiativei este conceptul de „open-endedness”, ceea ce înseamnă evoluție constantă, fără o țintă finală fixă. Ulterior, modelul ar genera probleme compatibile cu capacitățile sale și ar crea soluții noi pentru acestea, similar evoluției biologice.
Testarea și dezvoltarea AI-urilor în competiții interne
Un exemplu luat în discuție este conceptul de „rainbow teaming”, o extensie a red teaming, utilizată în securitate pentru testarea vulnerabilităților unui sistem. În cazul AI-urilor, înseamnă ca un model să fie testat de alt model pentru identificarea eventualelor greșeli sau încălcări ale regulilor de siguranță.
Ideea principală este ca un AI să atace și să apere alt AI în procese repetitive de milioane de ori, pentru ca cele două sisteme să evolueze și să devină mai robuste. În acest mod, se urmărește crearea unor modele mai sigure și mai eficiente, aplicabile în domenii precum cercetarea științifică, medicină sau industrie.
Perspective și riscuri ale cercetării avansate în AI
Recursive Superintelligence intenționează să dezvolte produse concrete, nu doar cercetare teoretică, și să le lanseze pe piață în câteva trimestre. Compania vizează aplicabilități și soluții pentru provocări globale precum cancerul, pandemiile sau probleme de energie și materiale.
Fondatorii enunță intenția de a avansa rapid, după lansare, pentru a introduce în fluxul comercial tehnologii bazate pe auto-îmbunătățire recursivă. În același timp, existența unor astfel de sisteme ridică întrebări despre control și siguranță, având în vedere potențialul de autoreglare și evoluție nelimitată a AI-urilor.