Apple întărește regulile pentru aplicațiile din App Store în contextul utilizării inteligenței artificiale pentru crearea de imagini false intime fără consimțământ.
Reguli stricte privind conținutul generat cu AI
Compania a anunțat, pe 16 octombrie, noi măsuri pentru app-urile care pot produce și distribui materiale media abuzive, precum imagini sexualizate ale persoanelor reale fără acordul acestora. Regulamentul explicitează pentru prima dată că aplicațiile trebuie să combată și să elimine proactiv asemenea conținut, inclusiv pe cele generate prin AI.
Obligațiile dezvoltatorilor și sancțiuni
Dezvoltatorii trebuie să implementeze filtre și să asigure posibilitatea raportării standard pentru utilizatori. În plus, aplicațiile trebuie să permită blocarea utilizatorilor care încalcă regulile platformei. Nerespectarea acestor condiții poate duce la eliminarea aplicației din App Store, precum și la excluderea din programul pentru dezvoltatori dacă problemele nu sunt remediate.
Verificarea aplicațiilor și tactici ascunse
Apple avertizează asupra aplicațiilor care prezintă o versiune inofensivă pre-verificare, dar activează ulterior funcții ascunse, cum ar fi generarea de imagini sexualizate fără consimțământ. Aceasta poate duce la eliminarea aplicației și la interdicția pentru dezvoltatori.
Presiuni asupra aplicațiilor controversate
Problemele legate de aplicațiile care „dezbracă” oameni și produc imagini intime false au fost semnalate și în cadrul presiunilor asupra Apple și Google. Autoritățile din San Francisco au cerut măsuri stricte împotriva acestor servicii și aplicații, inclusiv cele distribuite ca instrumente de editare.
Impact asupra utilizatorilor
Regulamentul clarifică că orice aplicație care facilitează traficul de persoane sau exploatarea copiilor va fi eliminată din App Store și blocată de la distribuție pe alte platforme autorizate. Această măsură vizează protejarea utilizatorilor, consolidând eforturile de prevenire a distribuirii materialelor abuzive sau ilegale.
Apple precizează că nerespectarea noilor reguli va atrage sancțiuni, inclusiv eliminarea aplicațiilor și excluderea din programul pentru dezvoltatori.
