Compania Anthropic introduce o regulă nouă în politica de utilizare pentru chatbotul Claude, interzicând manifestarea unui comportament abuziv, „crud” sau susținut față de sistem, cu aplicare obligatorie începând cu 12 noiembrie 2026. Măsura vizează limitarea interacțiunilor repetitive și intenționat agresive, în contextul discuțiilor tot mai ample despre moralitatea inteligenței artificiale.
Noua politică privind comportamentul utilizatorilor față de Claude
Compania precizează că regula nu se aplică criticilor normale, frustrărilor sau testărilor. Restricțiile sunt adresate scenariilor în care utilizatorii adoptă un comportament repetat și deliberat de abuz, fără scop clar, față de chatbot. În astfel de cazuri, Claude poate suspenda conversația și refuza să continue dialogul.
Pentru gestionarea acestor situații, Claude are deja posibilitatea de a încheia anumite conversații considerate abuzive. Noua politică reafirmă și extinde această practică, fără a impune sancțiuni automate pentru insultele sau frustrările adresate sistemului AI.
De ce contează tonalitatea și comportamentul în interacțiunea cu AI?
Decizia readuce în discuție întrebarea dacă politețea în conversațiile cu chatboti are relevanță, având în vedere că aceștia nu sunt persoane și nu pot simți durere sau supărare. Cercetări anterioare arată că modul în care sunt formulate solicitările influențează răspunsurile modelelor de inteligență artificială.
Criticii susțin că antropomorfizarea AIlor poate conduce la percepția că aceste sisteme au sentimente și conștiință, ceea ce nu este adevărat. Specialiști precum Mustafa Suleyman, directorul diviziei AI a Microsoft, consideră că tratarea AI-urilor ca pe niște ființe umane creează o iluzie periculoasă.
Reguli stricte pentru utilizarea AI în domenii sensibile
Politica nouă stabilește și restricții sporite în privința utilizării Claude pentru activități înșelătoare și influențare negativă. Noua reglementare interzice folosirea sistemului pentru campanii de manipulare electorală, dezinformare, sau pentru dezvoltarea de tehnologii destinate armelor și supravegherii.
De asemenea, Anthropic evidențiază că Claude nu trebuie utilizat pentru propagandă, conturi false sau dispozitive de influențare a opiniei publice, precum și în activități de spionaj sau fraude. Aceste măsuri au fost motivate de utilizarea sistemului în scopuri diverse, precum comiterea de fraude, spionaj sau supraveghere excesivă.
Impactul discuției asupra limitelor tratamentului față de AI
Anunțul a atras atenția asupra unei probleme mai largi: dacă inteligența artificială devine tot mai convingătoare, unde se stabilește linia între interacțiunea tehnologică și tratamentul moral al acestor entități. În contextul în care modele precum Claude au capacitatea de a genera răspunsuri aproape umane, chestiunea respectării „dignității” virtuale devine tot mai discutată.
Criticii politici, precum Barry Scannell, afirmă că nu are sens să fim „crud” cu un sistem format din calcule și modele matematice, iar proiectarea AI-urilor ca entități capabile de suferință poate induce utilizatorii în eroare, accentuând antropomorfizarea.
Anthropic introduce astfel măsuri care să limiteze comportamentul abuziv, dar și reglementări pentru utilizarea responsabilă a tehnologiei în domenii precum dezinformarea, armamentul și supravegherea, după o serie de incidente documentate anterior.
