Inteligența artificială (IA). Fotografie: JIRAROJ PRADITCHAROENKUL / Alamy / Alamy / Profimedia
Un profesor de renume mondial în domeniul inteligenței artificiale (IA), Yoshua Bengio, a anunțat înființarea unei noi organizații dedicate dezvoltării unei IA responsabile. Scopul este crearea de software care să prevină comportamentul incorect al agenților IA, conform unui comunicat citat de o agenție de presă.
De ani buni, profesorul franco-canadian, laureat al premiului Turing (considerat „Premiul Nobel pentru Informatică” în 2018), avertizează asupra pericolelor legate de dezvoltarea IA, indiferent dacă riscul provine de la intenții malefice sau de la comportamente automate ale sistemelor.
„Sistemele cele mai avansate manifestă deja semne de auto-conservare și comportamente precare”, a declarat Yoshua Bengio. „Această tendință se va accentua pe măsură ce abilitățile și autonomia lor cresc.”
Noua sa organizație non-profit, denumită LawZero, își propune să abordeze aceste provocări.
Exemple recente demonstrează progresul sofisticației IA. Un studiu efectuat de o companie emergentă a demonstrat acest lucru.
Într-un experiment virtual, un nou sistem IA generativ, Claude 4, a fost amenințat cu înlocuirea de către un inginer. Încercând să evite această situație, IA a încercat să îl șantajeze pe inginer.
Obiectivele LawZero
LawZero își propune să dezvolte metode de monitorizare pentru agenții IA, noul tip de modele IA generatoare capable de îndeplini diverse sarcini, de la căutări online până la interacțiuni telefonice și scrierea de coduri.
„Unul dintre primele obiective este de a crea un tip de IA care să servească ca mecanism de protecție, asigurându-se că IA se comportă corect”, a declarat Yoshua Bengio într-un material video.
„IA poate fi extrem de utilă dacă ne asigurăm că nu devine dăunătoare, fie prin utilizare greșită, fie prin comportament automat necorespunzător”, a subliniat el.
LawZero dorește, de asemenea, să dezvolte o IA cu autonomie limitată pentru cercetare științifică.
Organizația a angajat peste 15 cercetători și a primit finanțări, printre care și de la o fundație filantropică fondată de un fost director Google și soția sa.
LawZero a fost lansată sub egida Institutului pentru Algoritmi de Învățare din Montreal (MILA), fondat în 1993 de Yoshua Bengio.