Un mesaj atribuit directorului executiv al OpenAI, Sam Altman, avertizează asupra riscurilor asociate atribuirii de autoritate religioasă modelelor de inteligență artificială. Declarația a fost publicată pe platforma X pe 3 octombrie, într-un context în care industria tehnologică discuta tot mai mult despre conștiința și percepția acestor sisteme.
Riscuri legate de atribuirea autorității AI
Sam Altman spune că tendința de a considera modelele AI ca având o putere sau autoritate religioasă reprezintă un risc pentru siguranță. El avertizează că renunțarea la propria judecată în fața acestor sisteme poate avea consecințe negative.
Nu au fost oferite detalii despre specificul situației care l-a determinat să facă această declarație. Deocamdată, discursul rămâne în contextul discuțiilor generale privind percepția și rolul inteligenței artificiale.
Contextul și discuțiile din industrie
Dezbaterea despre conștiința modelelor AI și despre modul în care utilizatorii le percep a devenit tot mai acută. Convorbirile despre acestea pun sub semnul întrebării limitele între instrumente și autorități moral-educative, în condițiile în care unele chatboți religioși și aplicații aspiră la ghidare spirituală.
Discuțiile privind atribuirea unor atribute morale și spirituale sistemelor AI sunt alimentate de exemple precum răspunsurile calde sau convingătoare ale unor chatboți, dar acestea nu justifică, conform experților, automat, atribuirea unor calități de natură divină.
Intențiile companiei Anthropic
Recent, compania Anthropic a fost subiectul unor investigații, după ce a avut întâlniri cu lideri religioși, teologi și filosofi. Scopul acestor întâlniri a fost analizarea comportamentului moral al modelelor AI proprii, precum și a posibilității ca acestea să aibă conștiință.
Christopher Olah, cofondator al Anthropic, a recunoscut că nu știe dacă sistemele respective înregistrează o formă de conștiență. Oficial, firma subliniază că nu crede că modelele precum Claude posedă o conștiință, însă a exprimat convingerea că trebuie menținută o supraveghere strictă și corectă asupra acțiunilor lor.
Teme și terminologie în învățarea AI
„Constituția” modelului Claude, document ce descrie valorile și comportamentele urmărite în procesul de antrenare, adresează incertitudini legate de conștiința și statutul moral al sistemului. În acest context, Anthropic folosește termeni precum înțelepciune sau virtute pentru a descrie comportamentul AI, dar explică că acești termeni provin din texte umane și nu sunt echivalentul unei vieți interioare.
Specialiștii subliniază că utilizarea acestor concepte nu reprezintă o dovadă a unei vieți interioare sau conștiințe, ci doar un instrument pentru orientarea răspunsurilor.
Responsabilitatea umană și percepția AI
Pentru utilizatori, diferența dintre un răspuns uman și unul generat de AI devine esențială. Un răspuns convingător sau cald nu implică, automat, validitate morală sau adevăr factual.
Responsabilitatea pentru deciziile și acțiunile bazate pe interacțiunea cu AI rămâne în totalitate în sfera judecății umane, indiferent de percepția de autoritate pe care o pot avea aceste sisteme.
