Uomo o intelligenza artificiale? come riconoscere immagini e testi generati dalle macchine

La soluzione finale prospettata dalla società guidata dal Ceo Sam Altman potrebbe essere una sorta di “watermark” invisibile da incollare ai contenuti per evitare di utilizzare un output generato fa ChatGPT facendolo passare per umano e prevenire di conseguenza il rischio di plagio o di impersonare in modo malevolo lo stile di scrittura di qualcuno.

Nel frattempo, per riconoscere la paternità di un testo o un'immagine creata da un bot si può ricorrere a software di vario genere (gratuiti o a pagamento) e con diverse capacità di comprensione.

La lista delle soluzioni disponibili (fra interfacce web, modelli di deep learning e applicazioni open source) è abbastanza nutrita ma resta il fatto che, in generale, tali strumenti (soprattutto i “free software”) non sono in grado di identificare tutte le intelligenze artificiali potenzialmente utilizzate per generare contenuti.

Il “classificatore” (AI Text Classifier) sviluppato da OpenAI e addestrato a rilevare le “prove” che un testo sia stato scritto da ChatGPT e simili, ne è una conferma: per stessa ammissione della startup, la tecnologia è in costante affinamento e al momento attendibile solo in parte, aprendo al rischio di “falsi positivi”.

Parliamo dunque di software fallibili del riconoscere l'origine di un contenuti scritto anche se sicuramente utili a tale scopo: GPTZero, per esempio, creato da Edward Tian, uno studente dell'Università di Princeton, che analizza un testo a partire da due caratteristiche principali delle informazioni in esso riportate, la perplessità (perplexity) e l'irruenza (burstiness).

GPT-2 Detector, a sua volta, è un tool di classificazione open-source in grado di riconoscere se un testo è stato generato grazie a tecnologia GPT-2 e lo stesso fa anche Open AI Detector, sviluppato e ospitato da Hugging Face.

Stable Attribution, invece, permette di identificare quali elementi grafici sono stati impiegati per addestrare il software di intelligenza artificiale che genera immagini, cerca gli elementi grafici su cui è stata addestrata l'AI.

Al riconoscimento delle immagini sono rivolti anche AI Image Forensics (creato da un organismo non profit europeo), che rileva caratteristiche proprie delle intelligenze artificiali come la ripetitività di determinati pattern e la presenza di artefatti di compressione, oppure Sightengine, un servizio (a pagamento) che utilizza il machine learning per intercettare contenuti non appropriati o manipolati ed evidentemente generati da AI.

Interessante, infine, è anche Fakespot, uno strumento che grazie alle tecniche di apprendimento automatico va ad analizzare le recensioni dei prodotti online e ad identificare quelle che potrebbero essere state create dall'AI generativa.