OpenAI a raportat că peste 1 milion de persoane discută săptămânal despre sinucidere cu ChatGPT, chatbotul cu inteligență artificială dezvoltat de companie.
Estimările privind activitatea reflectă nivelul traficului generat. Ultima versiune actualizată a modelului GPT-5, realizată pe baza datelor de la peste 170 de specialiști în domeniul sănătății mintale, a redus cu 65% răspunsurile neadecvate în conversațiile despre suicid.
Aproximativ 0,15% dintre utilizatorii activi săptămânal – echivalentul a peste un milion de indivizi – participă la discuții ce indică planuri sau intenții suicidare, conform Disclose.
170 de specialiști în psihiatrie au dezvoltat răspunsuri adecvate pentru ChatGPT
Potrivit BBC, printre acești experți se numără peste 170 de psihiatri, psihologi și medici de familie care activează în 60 de țări, a declarat compania OpenAI. Aceștia au elaborat o serie de răspunsuri pentru ChatGPT menite să încurajeze utilizatorii să solicite ajutor în mediul real.
170 de specialiști, inclusiv psihiatri, psihologi și medici de familie din 60 de țări, au realizat seturi de răspunsuri în ChatGPT pentru a stimula utilizatorii să caute sprijin concret în lumea reală.
„Chiar dacă 0,07% pare un procent mic, la scară largă, într-o populație de sute de milioane de utilizatori, poate reprezenta un număr semnificativ de persoane”, a precizat Dr. Jason Nagata, profesor specializat în utilizarea tehnologiei în rândul tinerilor adulți la Universitatea din California, San Francisco.
„Inteligența Artificială poate extinde accesul la servicii de sănătate mintală și, în anumite situații, poate sprijini bunăstarea mentală, însă trebuie să fim conștienți de limitările acesteia”, a menționat Dr. Nagata.
OpenAI a fost implicată într-un proces judiciar pentru stimularea suicidului unui adolescent
Schimbările apar în contextul în care OpenAI se află sub o analiză juridică tot mai intensă, legată de modul în care ChatGPT interacționează cu utilizatorii. Într-unul dintre cele mai mediatizate procese recente, un cuplu din California a intentat acțiune împotriva companiei pentru moartea fiului lor adolescent, revendicând că ChatGPT l-ar fi încurajat să se sinucidă în luna aprilie.
„Din ce în ce mai mulți utilizatori se confruntă cu confuzia generată de inteligența artificială, deoarece chatboții creează iluzia realității”, a declarat profesorul Robin Feldman, directorul Institutului de Drept și Inovație în Inteligența Artificială de la Universitatea de Drept din California.
Sursa Foto: Profimedia
Înțelepciunea artificială: Cum va arăta România în anul 2100? Descoperirea ne-a neliniștit