Google a suspendat temporar funcția bazată pe modelul de inteligență artificială Nano Banana 2, care permitea utilizatorilor să creeze imagini fotorealiste pornind de la imagini satelitare, aeriene sau 3D din Google Earth, prin introducerea unei descrieri text a unei locații globale. Decizia vine în contextul criticilor legate de riscul de dezinformare și de încălcarea politicilor companiei.
Funcția și modul de operare
Funcția, dezvoltată pe modelul Nano Banana 2, facilita generarea de imagini realiste pentru diverse locații, folosind descrieri text introduse de utilizatori. Acest instrument era accesibil pentru utilizatori prin platforma Google Earth și permitea crearea de imagini personalizate cu un nivel ridicat de detaliu.
Critici și riscuri asociate
Instrumentul a atras critici pentru potențialul său de a genera scene fictive suprapuse peste imagini reale. În special, putea crea imagini care să încalce realitatea, perturbând percepția asupra monumentelor, obiectivelor turistice sau altor locații importante. Riscul de dezinformare și utilizarea abuzivă a imaginilor generate au fost principalul motiv de suspensie.
Declarații ale companiei Google
Google a specificat că a observat utilizatori care au distribuit imagini generate cu ajutorul funcției, ceea ce încalcă politicile companiei. În același timp, a menționat că profesioniști din domeniul geospațial folosesc funcția în scopuri utile, însă a suspendat serviciul pentru a introduce măsuri de protecție suplimentare.
Detalii despre conținutul încălcat
Compania nu a precizat explicit ce tipuri de imagini au încălcat regulile sale. A menționat însă că toate imaginile generate nu erau vizibile în experiența principală Google Earth și erau clar marcate ca fiind produse cu ajutorul inteligenței artificială.
Contextul restricțiilor în tehnologie
Este notabil că alte mari companii din industria tehnologică au fost nevoite să limiteze sau să dezactiveze funcții similare bazate pe inteligență artificială, din cauza riscurilor de dezinformare și utilizare abuzivă. În luna curentă, Meta a anunțat că a renunțat la funcția Muse Image, care genera imagini folosind fotografii publice de pe Instagram, tot din motive legate de confidențialitate.
Implicații și perspective
Suspendarea temporară a funcției de către Google indică preocuparea industriei legată de echilibrul între avansarea tehnologică și asigurarea unui nivel adecvat de control asupra conținutului generat de inteligența artificială.
Google nu a anunțat data exactă când va relua funcționalitatea, dar a transmis că va implementa măsuri pentru protecția utilizatorilor și pentru prevenirea utilizării necorespunzătoare a tehnologiei.
