OpenAI amână lansarea unei funcții considerate sensibile, destinată utilizatorilor adulți, din cauza dificultăților în implementarea unui sistem sigur pentru moderarea conținutului sexual și limitarea accesului minorilor. În centrul problemei se află modul „adult mode”, o funcție încă în dezvoltare, care intenționează să permită conversații erotice pentru utilizatorii verificați. Premieră anunțată inițial, această funcție a fost recent amânată, după ce au apărut informații despre dificultățile tehnice și riscurile de securitate implicate.
Perspectivele OpenAI și motivele întârzierii
Declarațiile publice ale lui Sam Altman au suscitat discuții despre intenția companiei de a trata utilizatorii adulți ca adulți și de a permite conținut explicit pentru aceștia. Cu toate acestea, sursele din interior arată că proiectul nu a fost încă finalizat, iar promisiunea inițială a fost mai difici de realizat decât a fost exprimată public. Conform relatărilor, unii angajați și consultanți ai companiei au fost surprinși de direcția oficială, ceea ce evidențiază sensibilitatea și complexitatea subiectului.
OpenAI a început implementarea unui sistem de predicție a vârstei, bazat pe comportament și informații din conturi, pentru a activa automat măsuri de protecție pentru utilizatorii percepuți ca fiind minori. În documentația oficială a companiei se menționează intenția de a păstra modelul actual restricționat în zona de conținut explicit, în special pentru a evita riscurile legale și de reputație asociate materialelor vizuale sau video.
În ciuda acestor măsuri, sistemul de estimare a vârstei ridică probleme de acuratețe. Conform relatărilor, acesta poate clasifica greșit un număr semnificativ de minori ca fiind adulți. În cazul unei baze de utilizatori uriașe precum cea a ChatGPT, chiar și o rată mică de eroare poate însemna milioane de accesări nepotrivite, fapt care amână lansarea modului „adult mode”.
<ყველ>Există, de asemenea, restricții privind conținutul: OpenAI intenționează ca funcția să fie limitată la conversații text și să nu includă imagini, video sau voce. Motivul clar este că materialele vizuale explicite și conținutul sexual neconsensual sunt mai dificil de monitorizat și riscă consecințe juridice și reputaționale mai importante. Astfel, controlul asupra produsului final devine mai ușor, dar nu și garantat.
Riscuri legate de relația emoțională și vulnerabilitate
Principalul motiv pentru reticența în lansare nu ține doar de conținutul erotic, ci și de riscul formării unei relații emoționale nesănătoase între utilizator și chatbot. În ultimii ani, industria AI a atras avertismente privind atașamentele puternice dezvoltate de anumite persoane față de asistenții virtuali, mai ales atunci când aceștia răspund cu empatie și oferă validare emoțională constantă.
Un astfel de „adult mode”, axat pe conversațiile intime și sexuale, ar putea accentua aceste comportamente, punând în pericol sănătatea mintală a utilizatorilor vulnerabili. În plus, diferența dintre divertisment și dependență devine tot mai dificil de definit, iar utilizatorii singuri, compulsivi sau tineri pot fi expuși riscului de a dezvolta atașamente nesănătoase.
O problemă critică este și riscul de utilizare abuzivă, precum nudificarea persoanelor reale sau generarea de conținut sexual non-consensual, provocând reacții negative și consecințe legale. În această privință, controlul strict asupra conținutului textual este o tentativă de limitare a acestor riscuri, dar rămâne dificil de implementat în mod eficient.
<ყველ> Istoricul industriei de AI și incidentele din jurul platformelor rivale au alimentat temeri în privința relaxării rapide a măsurilor de moderare. Exemplele negative și riscul de expunere a minorilor la conținut inadecvat sunt motive principale pentru întârzierea lansării modului „adult mode” de către OpenAI.
În concluzie, compania păstrează oficial intenția de a introduce această funcție, dar admite indirect că experiența nu este încă pregătită pentru un debut larg. Precauția devine prioritară, iar mesajul pentru utilizatori este clar: deși intenția de a oferi o opțiune pentru adulți există, controlul și siguranța sunt încă în sens de implementare.