Inteligența artificială poate accelera cercetarea biologică, dar riscă să genereze rezultate înșelătoare, fenomen cunoscut sub denumirea de “halucinație”, potrivit unui studiu recent. Utilizată pentru selecția de medicamente sau proteine, AI-ul poate produce predicții incorecte, însă impactul major apare când datele artificiale sunt utilizate drept dovezi. În cazul unor modele precum AlphaFold 3, rezultatele generate pot conține structuri “halucinante” care nu reflectă realitatea, influențând negativ concluziile cercetării.
Când greșelile AI-ului sunt doar distorsioni temporare
Thomas Burger, biolog computațional la Universitatea Grenoble Alpes, a analizat în publicația Patterns zece moduri de utilizare a AI-ului în biologie. El a constatat că nivelul de risc asociat depinde de modul în care se folosește AI-ul în procesul de cercetare. În promovarea selecției de molecule sau în trierea medicamentelor, greșelile cauzate de AI pot duce la pierderi de timp sau bani, dar rezultatele finale depind în continuare de verificarea experimentelor realizate în laborator.
Riscul major aparține datelor sintetice și interpretării lor
Potențialul riscului crește însă atunci când datele generate artificial devin înlocuitor pentru măsurătorile reale. În cercetare, volumele uriașe de informații despre gene și proteine pot fi analizate, completate sau înlocuite cu date sintetice pentru reducerea costurilor sau protejarea datelor pacienților.
Investițiile în astfel de metode pot avea însă consecințe grave dacă AI-ul introduce elemente false, care sunt interpretate drept dovezi reale. Un set de date modificat subtil sau complet fabricat poate conduce la concluzii eronate, întrucât nu mai reprezintă realitatea, dar pare plauzibil pentru cercetători.
Subtilitățile fabricării datelor și dificultățile de identificare
Problema nuconstă doar în crearea de descoperiri false, ci și în modificarea subtilă a semnalului real. AI-ul poate schimba caracteristici minore ale datelor, amplificând sau reducând semnalele relevante, astfel încât rezultatul final să pară valid.
Așa cum arată unele studii, doar diferențierea acestor manipulări necesită un nivel avansat de înțelegere a procesului de procesare a datelor, ceea ce face dificilă detectarea greșelilor.
Impactul AlphaFold 3 și riscurile pentru cercetare
Modelul AlphaFold 3, specializat în predicția structurii moleculelor, a demonstrat că poate genera structuri “halucinante” pentru anumite regiuni ale proteinelor, care nu au o structură clară. În publicația din 2024 din Nature, cercetătorii subliniază că aceste erori pot fi semnale de avertizare.
Dacă o structură “halucinantă” nu este identificată și ignorată, ea poate diminua confidența în datele reale, determinând respingerea unor tratamente sau concluzii valabile. În unele cazuri, AI-ul poate influența chiar descoperiri reale, dacă o ipoteză generată de model este ulterior verificată și confirmată independent.
Riscul de a devia de la realitate sau de a descoperi accidental
O halucinație AI poate duce, paradoxal, atât la respingerea unei descoperiri reale, cât și la generarea unei idei valabile, dacă rezultatul este verificat ulterior.
Orice rezultat produs de AI trebuie tratat cu precauție și verificat riguros pentru a evita ca erorile sau datele fabricate să influențeze deciziile științifice. În general, dacă rezultatele generate de AI nu sunt confirmate prin verificări independente, acestea rămân doar ipoteze și nu dovezi solide.
Un exemplu concret îl reprezintă modelele de predicție a interacțiunilor moleculare, precum AlphaFold 3, unde o încredere scăzută în anumite regiuni poate semnala posibile erori, dar nu le exonerează complet. În procesul decizional, diferența între un semnal real și o halucinație artificială poate avea consecințe majore asupra validității cercetărilor.
Studiile în domeniu reafirmă că, deși AI-ul oferă posibilitatea unei accelerări semnificative a cercetării, riscurile de interpretare greșită sau de fabricare a datelor trebuie gestionate cu atenție pentru a evita rezultate înșelătoare.
