Două studii recente ridică semne de întrebare cu privire la fiabilitatea sistemelor de inteligență artificială în furnizarea de informații medicale. Cercetările relevă că, deși chatboții pot produce răspunsuri convingătoare, aceștia nu identifică întotdeauna corect informațiile incorecte legate de sănătate, ceea ce poate reprezenta un risc pentru utilizatori.
Manipularea limbajului medical poate determina răspunsuri eronate ale chatboților
Un studiu publicat în revista The Lancet, în secțiunea The Lancet Digital Health, analizează răspunsurile modelelor de inteligență artificială la informațiile false despre sănătate. Cercetătorii au testat 20 de modele AI folosind peste 3,4 milioane de solicitări provin din discuții de pe forumuri, rețele sociale și documente medicale modificate intenționat.
Rezultatele au indicat că sistemele AI pot fi influențate cu ușurință dacă dezinformarea este formulată în limbaj clinic sau academic. În schimb, afirmațiile falsificate în stil informal, ca cele din conversațiile online, sunt tratate cu mai mult scepticism de către chatboți. În cazul în care aceleași informații sunt prezentate ca în rapoarte medicale, modelele acceptă mai ușor și pot transmite recomandări greșite.
Printre exemple se numără sfaturi complet nefondate, precum introducerea unor căței de usturoi în rect pentru „întărirea sistemului imunitar”, recomandare care nu are baze științifice. Mahmud Omar, cercetător la Mount Sinai Medical Center și coautor al studiului, accentuează că sursa acestei probleme constă în modul în care AI livrează informația. Spre deosebire de medici, care exprimă adeseori incertitudini și recomandă investigații suplimentare, chatboții pot prezenta răspunsuri greșite cu aceeași siguranță cu cele corecte.
Sistemele AI nu sunt mai eficiente decât o simple cautare pe internet
Un alt studiu, publicat în revista Nature Medicine, analizează utilitatea chatboților în deciziile medicale, precum evaluarea necesității consultului de specialitate sau a vizitei la cameră de gardă. Rezultatele au arătat că răspunsurile generate de inteligența artificială nu aduc în mod obligatoriu claritate suplimentară comparativ cu o simplă căutare pe internet.
Un obstacol major este formularea incorectă a întrebărilor de către utilizatori, precum și combinația de informații corecte cu recomandări discutabile în răspunsurile primite. Totuși, specialiștii afirmă că aceste sisteme nu sunt complet inutile. Marvin Kopka, cercetător la Technical University of Berlin, menționează că chatboții pot oferi sugestii utile în anumite contexte.
Pericolul major îl reprezintă incapabilitatea persoanelor fără pregătire medicală de a evalua relevanța și acuratețea informației primite. În exemple concrete, un utilizator cu durere severă de cap ar putea primi recomandarea de a aștepta, fără să știe dacă simptomele indică o problemă gravă, ceea ce poate duce la agravarea situației.
Studiile subliniază că, deși tehnologia avansează, sistemele AI pentru informații medicale trebuie utilizate cu precauție, fiind necesară și verificarea suplimentară a datelor, mai ales în cazurile de urgență sau simptome severe.