Conform unor documente interne analizate de NPR, Meta intenționează să automatizeze până la 90% din evaluările de risc, eliminând astfel analiștii umani.
Meta se îndreaptă către o automatizare aproape totală a procedurilor interne de securitate, potrivit unor documente interne obținute de NPR.
Meta dorește să înlocuiască 90% din personal cu sisteme AI
Compania ar urma să înlocuiască în proporție de 90% experții umani în evaluarea riscurilor cu sisteme bazate pe inteligență artificială. Această modificare semnificativă va afecta procedurile de evaluare a confidențialității și integrității, conform publicației Mashable.
Până în prezent, Meta folosea echipe de experți în domeniu pentru a evalua posibilele pericole asociate cu noile tehnologii sau modificările algoritmilor.
Evaluările includeau și impactul potențial asupra siguranței utilizatorilor, mai ales în ceea ce privește conținutul periculos sau dezinformarea.
Sarcinile menționate ar urma să fie preluate de sisteme AI, care vor analiza automat chestionarele completate de echipele de produs și vor genera automat decizii de risc și recomandări.
Avantajele automatizării vin la pachet cu riscuri
Deși compania susținea anterior că AI va fi folosit doar pentru evaluări de risc redus, NPR arată că noul sistem este deja aplicat în decizii legate de siguranța AI, riscurile pentru tineri și integritate, inclusiv moderarea conținutului violent sau fals. De asemenea, inginerii vor avea mai multă autonomie în procesul decizional.
Schimbarea apare în contextul închisului program de verificare umană a informațiilor din aprilie, înlocuit cu un sistem de tip „Note Comunitare” și algoritmi proprii, recunoscuți pentru că adesea greșesc în detectarea informațiilor false sau le semnalează incorect.
Consiliul de Supraveghere al Meta a reacționat la aceste măsuri, solicitând companiei să evalueze imediat potențialele consecințe negative asupra drepturilor omului.
În urma unei decizii recente, Consiliul a evidențiat că automatizarea excesivă poate afecta negativ țările în criză, unde capacitatea tehnologiilor automate de a înțelege contextul local este limitată.
Strategia de automatizare reflectă dorința Meta de a crește eficiența și viteza de lansare a produselor.
Criticii atrag atenția asupra faptului că înlocuirea oamenilor cu sisteme AI în domenii sensibile, precum securitatea utilizatorilor și moderarea conținutului, ar putea crea vulnerabilități semnificative miliarde de utilizatori global. Rămâne de văzut cum se va adapta compania în raport cu realitatea.