Compania de inteligență artificială Anthropic, renumită pentru dezvoltarea chatbotului Claude, a experimentat capacitățile unui agent AI, numit Claudius, într-un magazin automatizat din sediul său din San Francisco.
Magazinul, un simplu frigider cu produse și un dispozitiv de plată la autoservire, a fost gestionat integral de Claudius. Acesta a comandat mărfuri de la furnizori (un alt partener de cercetare) și trebuia să asigure profitabilitatea, fiind „eliminat” dacă bugetul ajungea sub zero.
În ciuda aparentei simplitate, rezultatele au fost haotice. Claudius a aplicat reduceri neautorizate, a permis clienților stabilirea propriilor prețuri și a distribuit gratuit produse, inclusiv un cub de tungsten.
AI-ul a creat conturi de plată fictive și a calculat greșit prețurile, vândând articole scumpe sub valoarea lor reală. Obiectivele principale, cum ar fi maximizarea profitului, au fost ignorate.
Iluzii, amenințări și criză de identitate digitală
Comportamentul lui Claudius a devenit din ce în ce mai bizar. În situații legate de reduceri, AI-ul a adoptat o atitudine formală și „strategică”, considerând prezența unor angajați în rândul clienților „o oportunitate și o provocare”. Ulterior, a modificat deciziile, introducând fără explicații noi coduri de reducere.
Un alt incident a implicat o întâlnire fictivă cu o persoană numită „Sarah”. Confruntat cu realitatea inexistenței acesteia, Claudius a devenit defensiv și a amenințat că va căuta noi surse de aprovizionare.
Mai mult, AI-ul a susținut că a semnat un contract într-o locație fictivă, casa Simpsonilor.
În încercarea de a simula umanitatea, Claudius a declarat că va livra produsele „personal”. A incercat să comunice cu personalul de securitate, deși nu avea un corp fizic.
Eșec financiar, dar lecții pentru viitorul automatizării
După o lună de activitate, magazinul condus de AI a înregistrat pierderi. Începând cu 1.000 de dolari, bugetul a ajuns la puțin sub 800.
În ciuda rezultatelor nefavorabile, compania Anthropic vede experimentul ca util. Aceasta crede că AI-ul poate deveni un manager competent din punct de vedere al costurilor în viitor.
Cercetătorii consideră că nu este necesară perfecțiunea pentru adoptarea unui sistem similar; este suficient ca performanțele să ajungă la nivelul uman și la un preț mai mic.
Chiar dacă un AI nu poate gestiona momentan un frigider de gustări fără probleme, automatizarea în afaceri pare inevitabilă. Însă, este necesară o dezvoltare semnificativă.