Google a introdus avertismente limitate pentru conținutul medical generat de inteligența artificială, în contextul unui raport care indică lipsa de vizibilitate a acestor mesaje în momentul inițial al afișării. În ciuda declarațiilor companiei că sistemul încurajează consultații la specialiști, investigația The Guardian arată că avertismentele nu apar automat la prima afișare a sfaturilor medicale.
Prezentări generale AI și lipsa de avertizare imediată
Conform raportului, sistemele AI ale Google elimină avertismentele de siguranță vizibile în momentul în care utilizatorii primesc pentru prima dată informațiile medicale. Aceste mesaje de precauție apar doar dacă utilizatorii aleg manual să vadă conținutul suplimentar, accesând butonul „Afișați mai multe”. În mod normal, avertismentele apar la finalul textului, scrise cu font mai mic și pe un fundal deschis.
Mesajul care anunță că răspunsurile AI pot conține erori și recomandă consultarea unui specialist apare doar după ce utilizatorii au derulat tot textul respectiv.
Google nu a negat această situație, un purtător de cuvânt al companiei menționând că sistemul indică frecvent necesitatea asistenței medicale atunci când este cazul, în cadrul rezumatului.
Îngrijorări din partea experților în IA și a reprezentanților pacienților
Specialiștii în inteligență artificială au subliniat riscul major al acestor practici. Pat Pataranutaporn, profesor la MIT, afirmă că lipsa unor avertismente vizibile inițial poate duce la pericole critice, în special în cazul sfaturilor medicale generate automat. El atrage atenția că modelele AI, chiar avansate, pot produce informații eronate, un fapt periculos în domeniul sănătății.
De asemenea, expertul a subliniat că utilizatorii pot să nu furnizeze toate informațiile relevante sau pot interpreta greșit simptomele, iar avertismentele pot avea un rol esențial în abordarea critică a răspunsurilor.
Sonali Sharma de la Stanford susține că design-ul actual creează un „sentiment de siguranță” fals, ceea ce poate determina utilizatorii să ignore secțiunea de mențiuni de siguranță, expunându-i riscurilor de dezinformare.
Specialiștii avertizează că informațiile medicale parțial corecte, oferite în prezentările generale AI, pot induce în eroare, mai ales în condițiile în care utilizatorii nu pot diferenția rapid între informațiile veridice și cele false. Aceasta poate avea consecințe grave în viața reală.
Solicitări pentru măsuri mai vizibile și urgente
Organizații caritabile pentru pacienți, precum Anthony Nolan, au făcut apel la autorități și companii pentru a spori vizibilitatea avertismentelor. Tom Bishop, șeful departamentului de informare a pacienților, a cerut ca avertismentul să fie prima informație pe care o vad utilizatorii, cu dimensiune similară cu restul textului.
El a argumentat că avertismentele, plasate la final, pot fi ratate de persoanele care citesc rapid, și că este nevoie de o prezentare mai clară și mai vizibilă începe de la prima afișare.
Reacția Google și evenimente anterioare
Situația nu este nouă: în ianuarie, o anchetă de aceeași publicație a relevat riscuri pentru utilizatori în privința informațiilor false din sistemele AI ale Google, în special pentru sănătate. În urma acelui raport, compania a eliminat funcțiile pentru anumite căutări sensibile, însă măsura nu a fost extinsă la toate cazurile.
Un purtător de cuvânt al Google a respins criticile, afirmând că sistemul încurajează în mod frecvent utilizatorii să consulte un medic și menționând clar că sistemul include disclosure-uri de exonerare de răspundere și recomandări pentru asistență medicală.
Investigațiile recente evidențiază necesitatea unor măsuri mai stricte pentru siguranța utilizatorilor, în special în domeniul sănătății.