Nate Soares, cercetător în domeniul siguranței inteligenței artificiale și președinte al Machine Intelligence Research Institute (MIRI), afirmă că există o probabilitate de peste 50% ca AI să provoace dispariția umanității în următorul deceniu. În cadrul unui podcast recent, Soares a spus că nu mai contribuie la economiile pentru pensie, făcând o legătură între decizia sa și riscurile pe care le asociază dezvoltării AI.
Perspectiva lui Nate Soares asupra riscurilor AI
Soares a explicat că nu mai știe dacă va avea timp să-și recupereze investițiile făcute în contul de pensie, deși acesta a fost deschis în perioada în care lucra la Google. El nu investește în prezent pentru pensie și susține că se concentrează pe încercarea de a preveni scenariile catastrofale legate de AI.
Cercetătorul afirmă că, deși nu consideră ca fiind inevitabile aceste evenimente negative, riscul ca AI să ducă la dispariția umanității este suficient de mare pentru a influența deciziile sale financiare și personale. Propunerea sa nu reprezintă o predicție certă, ci o estimare personală asupra unui risc major.
Cu ce se ocupă Machine Intelligence Research Institute
Nate Soares conduce organizația MIRI, care se specializează în studierea problemelor de siguranță ale sistemelor de inteligență artificială avansată. El este asociat cu Eliezer Yudkowsky, un cunoscut susținător al teoriei că dezvoltarea AI superinteligente ar putea reprezenta o amenințare existențială pentru om.
MIRI analizează scenarii în care sistemele AI ar putea ajunge să dezvolte obiective incompatibile cu interesele umane. Conform acestor cercetări, dacă un sistem atinge un nivel suficient de capabilități, devine dificil de controlat, mai ales dacă obiectivele sale nu sunt aliniate cu intențiile creatorilor.
Dezbateri și preocupări în comunitatea tehnologică
Pozițiile exprimate de Soares și Yudkowsky au generat discuții în mediul academic și în sectorul tehnologic. Susținătorii cercetărilor privind riscurile pe termen lung consideră necesare analize riguroase ale potențialelor consecințe ale AI avansate.
Experții avertizează asupra importanței de a evalua și gestioná aceste riscuri înainte ca tehnologia să atingă niveluri extrem de sofisticate. De asemenea, subliniază că dezvoltarea AI trebuie să fie însoțită de măsuri de siguranță pentru a preveni scenarii negative.
Nate Soares a declarat că, din cauza riscurilor, nu mai contribuie la pensie și se dedică cercetării pentru a evita o astfel de eventualitate.
