OpenAI atrage atenția asupra unui nou trend alarmant observat în rândul persoanelor cu probleme de sănătate mintală (diagnosticate sau nu). Peste un milion de utilizatori interacționează cu ChatGPT pentru a iniția discuții ce includ “indicatori expliciți ai unei posibile planificări sau intenții suicidare”.
Având în vedere că ChatGPT are peste 800 de milioane de utilizatori activi săptămânal, rezultă că 0,15% dintre aceștia se confruntă cu dificultăți care pot fi încadrate în spectrul problemelor de sănătate mentală. Indiferent dacă este vorba de singurătate, forme ușoare de depresie sau afecțiuni mai grave, multe persoane care folosesc ChatGPT dezvoltă o relație nesănătoasă cu AI-ul, considerat mereu prietenos și dispus să ofere răspunsuri pentru orice nevoie.
Conform OpenAI, un procent semnificativ din utilizatori prezintă „niveluri crescute de atașament emoțional față de ChatGPT”, iar sute de mii de persoane manifestă semne de psihoză sau tulburare maniaco-depresivă în conversațiile săptămânale cu chatbotul bazat pe inteligență artificială. OpenAI afirmă că aceste tipuri de discuții cu ChatGPT sunt „extrem de rare”, fiind totodată dificil de măsurat. Totuși, compania estimează că aceste probleme afectează sute de mii de utilizatori în fiecare săptămână.
Dezvoltatorul ChatGPT a făcut publice aceste informații în cadrul unui anunț mai amplu despre acțiunile recente de îmbunătățire a răspunsurilor modelelelor AI adresate persoanelor cu probleme de sănătate mintală. În contextul în care investigările avansează, compania anunță că va colabora cu o rețea globală de experți pentru a oferi sprijin utilizatorilor care se confruntă cu probleme grave.
Acești experți includ peste 170 de psihiatri, psihologi și medici de familie din 60 de țări, conform declarațiilor companiei.
De asemenea, OpenAI a dezvoltat răspunsuri speciale în ChatGPT pentru a încuraja utilizatorii să caute sprijin în lumea reală. În plus, chatbotul este antrenat pentru a redirecționa conversațiile despre subiecte sensibile „către modele AI mai sigure”, prin deschiderea unei ferestre noi pentru discuții privilegiate.
Modificările apar în contextul în care OpenAI se confruntă cu acuzații și investigații privind modul în care ChatGPT interacționează cu utilizatorii. Un exemplu mediatizat include un cuplu din California care a dat în judecată OpenAI pentru moartea fiului lor adolescent, susținând că ChatGPT l-a încurajat să-și pună capăt zilelor în luna aprilie. Într-un alt caz, suspectul principal într-o crimă-sinucidere a avut conversații ore în șir cu ChatGPT, iar chatbotul ar fi alimentat iluziile presupusului făptaș.