Un inginer principal din industria tehnologică avertizează asupra riscului ca automatizarea și inteligența artificială să distrugă infrastructura umană de cunoaștere critică pentru evoluția continuă a modelelor AI, susține un articol publicat de Venture Beat. În opinia sa, dispariția専門iștilor la nivel de început de carieră ar putea avea consecințe grave pentru perpetuarea experienței și calității în domeniu.
Automatizarea și dependența de specialiști experimentați
Mulți lideri în domeniul AI afirmă că modelele vor deveni din ce în ce mai autonome, folosind tehnici precum reinforcement learning pentru auto-îmbunătățire. Totuși, lumea reală nu funcționează ca un joc de șah sau Go, în care regulile sunt fixe și rezultatele sunt imediate. La fel, rezultatele în domenii precum medicină sau finanțe pot necesita ani pentru a fi validate, iar în programare, arhitectura greșită devine vizibilă doar când apar probleme operational.
Această complexitate face ca AI-ul încă să fie dependent de experți umani cu experiență, capabili să identifice greșelile subtile și să ofere feedback calitativ. În același timp, noile generații de specialiști încep să dispară, pe măsură ce învățarea acestor abilități devine tot mai rară.
Impactul automatizării asupra forței de muncă și cunoașterii
Posturile entry-level din industria tech și din domenii de birou sunt primele afectate de automatizare. Activități precum documentarea, analiză inițială, curățare de date, review de cod sau task-uri repetitive în domeniul juridic sau financiar sunt preluate de AI. Acest proces pare eficient pe termen scurt, însă riscă să compromită acumularea de experiență necesară pentru formarea noilor specialiști.
Dacă noile generații nu vor trece prin aceste etape, va fi dificil să se păstreze o cunoaștere profundă în domeniu, ceea ce poate limita dezvoltarea de soluții inovatoare sau corectarea celor existente.
Riscul unui colaps al bazei de cunoștințe
Analiza lui Al-Dahle compară situația actuală cu pierderea unor cunoștințe istorice odată cu dispariția civilizațiilor. Diferența esențială constă în faptul că acum nu este vorba despre războaie sau dezastre, ci despre decizii economice raționale. Companiile reduc costuri, automatizează și angajează tot mai puțini juniori, în timp ce investitorii aplaudă aceste mișcări.
Efectul colectiv ar putea fi unul devastator, deoarece AI-ul va prelua sarcinile de cercetare și dezvoltare, în timp ce excelența tehnică și cunoașterea profundă vor fi gestionate, în mare parte, de sisteme automate. În plus, dacă sistemele AI vor realiza majoritatea operațiunilor de cercetare juridică sau matematică, vor rămâne prea puțini oameni care să înțeleagă în profunzime domeniul.
Capacitatea de verificare și corectare a AI-ului
Problema majoră nu este producția de rezultate aparent corecte, ci lipsa unor experți capabili să verifice și să corecteze aceste rezultate. Manipulată în mod eronat, cunoașterea umană se va evapora gradual și va fi înlocuită de modele AI care generează răspunsuri convingătoare, dar non-nevoiați de practică pentru a-și menține acuratețea.
Deși există soluții precum evaluarea pe rubrici și feedback-ul bazat pe AI, acestea pot verifica doar rezultatele anticipate de specialiști. Intuiția, experiența acumulată după ani de proiecte sau greșeli, nu poate fi ușor digitalizată, ceea ce limitează procesul de ajustare și inovație.
Riscul limitării de către lipsa experților umani
Dispărând treptat, oamenii care au o înțelegere profundă a domeniilor critice vor deveni din ce în ce mai rari. În consecință, AI-ul riscă să fie limitat nu de tehnologie, ci de absența unor judecători umani cu experiență, capabili să interpreteze și să corecteze rezultatele generate de mașini.
În cadrul industriei, această metodă de verificare și ajustare subtilă a soluțiilor generată de AI depinde deja de expertiza umană, iar pierderea acestei expertize ar putea constrânge artificial evoluția sistemelor.