În contextul răspândirii tehnologiilor de inteligență artificială, diverse instrumente destinite să elimine urmele generate de modele precum Claude au devenit din ce în ce mai populare. Acestea permit ștergerea anumitor metadate sau a semnelor statistice din texte, ridicând întrebări legate de trasabilitatea și transparența conținutului AI.
Funcționarea watermark-ului din textele Claude
Tehnologia de watermarking folosită de Claude nu implică aplicarea unui simbol vizibil sau a unui filigran clasic peste text. În schimb, sistemul este conceput pentru a modifica subtil modul în care modelul selectează cuvintele, creând un tipar statistic specific. Acest tipar poate fi detectat ulterior cu ajutorul unei chei speciale, permițând identificarea probabilității ca versurile să fi fost generate de Claude.
Sistemul nu adaugă tokenuri sau elemente vizibile în text și nu alterează viteza de procesare a modelului. El nu păstrează informații despre utilizator, companie sau conversație, ceea ce înseamnă că watermark-ul indică doar probabilitatea ca anumite texte să fie generate de Claude. În plus, tehnologia respectă regulile și reglementările din cadrul AI Act, fiind parte din angajamentul Anthropic față de transparență în domeniul AI în Uniunea Europeană.
Instrumente pentru eliminarea urmelor Claude
Unul dintre cele mai cunoscute instrumente pentru ștergerea watermark-urilor a fost creat de antreprenorul francez Guillaume Meyer și intitulat Watermarks Remover. În aproximativ cinci ore, dezvoltatorii au realizat prima versiune a proiectului, care în prezent a acumulat peste 20.000 de stele pe GitHub.
Acest instrument poate elimina metadatele și caractere Unicode invizibile din fișiere, inclusiv rescrie conținutul pentru a dilua semnalele statistice ale watermark-ului. Creatorii precizează însă că eliminarea completă a unui watermark statistic nu este garantată, fiind o încercare „best effort”. Astfel, nu se poate exclude ca detectorii originali, precum cei ai Claude, să nu mai recunoască textul ca fiind generat de AI.
Alte proiecte similare includ MarkScrub, dezvoltat de Ansh Aneja, un instrument open-source capabil să curețe metadatele și să rescrie texte pentru a reduce semnalele statistice. Acesta avertizează în mod explicit că nicio aplicație de acest tip nu poate garanta eșuarea complete a detectării de către detectoarele speciale.
Situația actuală amintește de controversele legate de watermark-urile vizibile și invizibile din imaginile generate de inteligența artificială, precum cele din Gemini, menționate recent de Google. În cazul lor, mecanisme invizibile precum SynthID continuă să fie utilizate pentru a identifica originea conținutului, deși diverse platforme oferă opțiuni pentru eliminarea watermark-urilor vizibile.
Aceste evoluții evidențiază complexitatea gestionării trasabilității conținutului generat de AI și tendința unor utilizatori de a evita identificarea automată a originii textelor sau imaginilor generate.
