România trebuie să se pregătească pentru implementarea pe scară largă a AI Act, regulament european intrat în vigoare la 1 august 2024. Aceasta va afecta companiile în multiple domenii, de la recrutare și marketing până la securitate și analiză de date, impunând reguli privind modul în care utilizează inteligența artificială.
Primii pași: inventarizarea utilizării AI în firmă
Este esențial să se realizeze o hartă clară a tuturor instrumentelor AI folosite, inclusiv cele cumpărate de la furnizori sau utilizate de angajați pe conturi personale. Aceasta include aplicații de HR, CRM-uri, platforme de marketing, chatboți, sisteme de traducere și instrumente de analiză. Inventarul trebuie actualizat periodic și să distingă între AI folosit pentru productivitate și cel pentru decizii cu impact direct asupra persoanelor.
Stabilirea regulilor interne pentru angajați
Companiile trebuie să adopte politici concrete de alfabetizare AI. Angajații trebuie instruiți cu privire la ce informații pot introduce în sistemele AI externe, când trebuie verificat rezultatul și cine răspunde pentru implementare. Reguli clare trebuie să răspundă la întrebări simple privind utilizarea AI-ului pentru generarea de conținut, evaluări sau interacțiuni cu clienți. Verificarea rezultatelor și controlul uman sunt imperative, mai ales în domenii sensibile precum financiar, juridic și HR.
Evaluarea riscurilor înainte de implementare
Fiecare sistem AI trebuie clasificat în funcție de nivelul de risc, conform criteriilor AI Act. Este necesară o analiză preliminară pentru a identifica dacă un instrument poate genera discriminare, influența decizii importante, necesita control uman sau poate produce erori. În domeniul HR, evaluarea trebuie să fie foarte atentă, dat fiind impactul asupra accesului la locuri de muncă. În relația cu clienții, sistemele care influențează decizii de eligibilitate sau recomandări financiare trebuie supuse unor reguli stricte.
Documentarea responsabilă a utilizării AI
Demonstrarea conformității presupune păstrarea unui registru intern al sistemelor AI, cu detalii despre furnizori, scop, departament, tipul de date procesate și măsurile de control. Contractele cu furnizorii trebuie să includă specificații clare despre date, confidențialitate, localizare și responsabilități. Pentru conținut generat de AI, transparența trebuie asigurată, mai ales în interacțiunile cu clienții, unde trebuie clarificat dacă comunicarea se face cu mașina.
Integrarea AI Act cu alte cerințe legislative și de securitate
Regulamentul trebuie privit ca parte integrantă a strategiei de conformare, corelat cu GDPR, securitatea cibernetică și politicile interne. În special în firmele mici și medii, responsabilitățile clare, precum aprobarea, evaluarea riscurilor și verificarea furnizorilor, sunt crucial pentru conformitate. Securitatea trebuie să fie o prioritate pentru a preveni riscurile generate de utilizarea AI, inclusiv posibilitatea introducerii accidentale a datelor confidențiale sau instalarea de extensii nesigure.
Importanța unei strategii integrate și documentate
Multe companii vor descoperi că pentru a respecta regulamentele nu trebuie doar să implementeze AI, ci și să documenteze deciziile, evaluările de risc, politicile interne și procedurile de incidente. În cazul apariției unor probleme, este vital ca situațiile să fie clar gestionate prin instrucțiuni și reguli stricte, pentru a evita imunitatea deciziilor greșite sau discriminatorii.
AI Act nu se limitează la simpla utilizare a tehnologiei, ci impune o abordare responsabilă și transparentă. Firmele trebuie să înțeleagă unde, cum și de ce folosesc AI, pentru a putea demonstra responsabilitatea și pentru a evita riscurile legale și de reputație. Acțiunea recomandată este să înceapă înainte ca obligațiile să devină obligatorii, urmând pași concreți precum inventarierea, formularea politicilor și instruirea personalului.
Acest regulament european devine astfel o oportunitate pentru companiile care doresc să își organizeze mai bine procesele și să asigure o utilizare sigură a inteligenței artificiale în mediul de afaceri românesc.