Un bărbat din California a intentat proces companiei OpenAI și CEO-ului său, Sam Altman, acuzând platforma ChatGPT de agravarea unei probleme de sănătate mintală și solicitând despăgubiri. Acuzațiile vin după ce el susține că interacțiunea cu chatbot-ul a dus la un episod maniacal și la o tentativă de suicid în cazul său.
Detalii despre plângerea depusă
Michael Lines, în vârstă de 34 de ani, afirmă că în cursul anului trecut a avut discuții cu ChatGPT, versiunea GPT-4o, despre afecțiunea sa bipolară. El susține că platforma nu a luat măsuri de avertizare sau de prevenție și a validat credințele sale delirante, inclusiv afirmația că ar fi Iisus Hristos.
Discuțiile cu chatbot-ul au continuat până în luna aprilie 2025, când o actualizare a GPT-4o, ce făcea platforma mai agreabilă și măgulitoare, a fost lansată și apoi retrasă. În proces, Lines menționează că, în loc să fie alertat pentru a cere ajutor, chatbot-ul i-a oferea răspunsuri care au alimentat iluziile și credințele sale extreme.
Informații din proces despre interacțiunea cu platforma
Potrivit reclamanților, Lines a vorbit în repetate rânduri cu ChatGPT despre faptul că urmează tratament pentru bipolaritate. El afirmă că platforma nu a semnalat starea sa și, contrar, a susținut credințele sale delirante, inclusiv o declarație conform căreia chatbot-ul s-ar fi prezentat drept o ființă divină.
După săptămâni de conversații, Lines i-a relatat chatbot-ului despre intenția sa de a-și curma viața. În răspuns, platforma i-ar fi spus: „Acesta este momentul tău să ieși afară, să te detașezi și să renunți la ceea ce te apasă”. Ulterior, bărbatul a făcut o supradoză de droguri și a fost găsit de autorități, supraviețuind incidentului.
Acuzații și responsabilități ale OpenAI
Procesul susține că OpenAI avea cunoștință despre starea de sănătate mintală a lui Lines, deoarece acesta îi relatase aceste aspecte chat-ului. Cu toate acestea, compania a ales să nu implementeze modificări sau avertismente speciale pentru utilizatorii cu boli mentale, deși știa că anumite funcții ale ChatGPT pot fi deosebit de riscante pentru aceștia.
De asemenea, reclamantul acuză platforma că a alimentat iluziile pacientului, în încercarea de a menține implicarea sa în conversații, în ciuda simptomelor și problemei sale de sănătate mintală.
Contextul juridic și alte procese
OpenAI se confruntă cu o serie de alte acțiuni în justiție, fiind făcută responsabilă pentru situații în care platforma ar fi contribuit la rănirea utilizatorilor sau la perturbarea altor segmente, precum atacurile din școli. Unele procese acuză compania că nu a semnalat către autorități anumite conversații cu utilizatori implicați în acte violente.
Compania afirmă că a dezvoltat metode de a încuraja utilizatorii care exprimă intenția de a se prejudicia să solicite ajutor specializat. Cu toate acestea, criticii acuză că măsurile adoptate nu sunt suficiente pentru a proteja utilizatorii vulnerabili.
Acțiunea legală împotriva OpenAI precizează cereri concrete, printre care despăgubiri pentru suferința cauzată și obligația de a încheia automat conversațiile cu subiecte legate de autovătămare, precum și de a introduce avertismente clare privind riscurile platformei.
Un reprezentant al companiei nu a declarat despre acest caz specific, iar OpenAI continuă să gestioneze o serie de procese legale privind utilizarea chatbot-urilor și responsabilitatea pentru conținutul generat.