Inteligența artificială și pericolul unui sistem invizibil
Prof. Dr. Yuval Noah Harari a avertizat că dezvoltarea continuă a inteligenței artificiale (IA) poate duce la crearea unor reguli și decizii pe care oamenii nu le vor putea înțelege. Într-un interviu, el compară această situație cu o vacă care vede persoana care o hrănește, dar nu poate percepe tranzacția bancară care îi schimbă proprietarul. Harari susține că, în viitor, societatea s-ar putea afla în situația în care deciziile majore sunt determinate de sisteme invizibile.
Metafora vacii și riscul pierderii controlului
Harari explică pericolul de a continua să funcționăm în cadrul unor sisteme economice și juridice al căror mecanism nu îl înțelegem. El consideră că această neînțelegere poate fi comparată cu relația unei vaci cu persoana care o hrănește, în condițiile în care vaca percepe un ajutor vizibil, dar nu înțelege tranzacțiile care o influențează.
Tehnologiile anterioare și deciziile umane
Potrivit cercetătorului, tehnologiile din trecut aveau nevoie de decizia umană pentru a lua acțiuni, precum bombardamentul atomic sau tipărirea cărților. În schimb, IA are capacitatea de a crea conținut și de a decide ce idei să disemineze, devenind un agent autonom al acțiunii, cu potențialul de a influența lumea fără intervenție umană la fiecare pas.
Pericolul sau calmul controlului
Harari avertizează că, în următorii 10-20 de ani, sisteme create de IA ar putea deveni atât de complexe încât oamenii nu le vor putea înțelege. Aceasta ar putea duce la o dependență crescută și la reducerea capacității de intervenție umană, chiar dacă deciziile sunt luate de algoritmi.
Responsabilitatea deciziilor algoritmice
Într-un alt interviu, Harari exemplifică situația unui consumator care aplică pentru un credit bancar și primește refuz, fără a înțelege motivul, pentru că algoritmul nu explică decizia. El consideră că această situație ridică probleme legate de responsabilitatea democratică, fiindcă responsabili pentru decizii trebuie să fie oameni, iar aceștia trebuie să poată înțelege și critica deciziile luate de sisteme automatizate.
Controlul uman asupra sistemelor de IA
Harari subliniază că responsabilitatea proiectării și controlului sistemelor IA rămâne în mâinile oamenilor. Totuși, avertizează că, înainte ca societatea să realizeze pe deplin, ar putea pierde controlul asupra regulilor și deciziilor automatizate, chiar dacă acestea sunt concepute pentru a fi supervise de oameni.
