ChatGPT, dal modello alle risposte: è davvero intelligente?

Faccio un esempio più semplice: immagina di voler riconoscere le foto di un gatto da quelle di un altro animale. Prendi tante foto di gatti e altri animali e ci metti un’etichetta 1/-1 (gatto/non gatto). Ora (e qui devo essere un po’ tecnico) ogni foto la puoi esprimere come vettore, una sequenza di numeri reali, per esempio i toni di grigio di ogni pixel della foto. Una rete neuronale profonda funziona così: prende il vettore e lo moltiplica per una matrice, ottenendo un altro vettore. Questo vettore però ora viene sogliato: al posto di tutti i numeri negativi metti zeri. Ora lo moltiplichi per un’altra matrice, ottieni un altro vettore, e sogli di nuovo. Se lo fai tante volte la rete è profonda. Alla fine moltiplichi il vettore per un vettore colonna, e ottieni un numero. Se è positivo la rete ha risposta “gatto”, se è negativo “non gatto”. I “parametri” di cui tanto si parla sono semplicemente i coefficienti delle matrici.
Inizialmente, nelle matrici metti parametri a caso. Le risposte saranno a caso. Ma c’è un algoritmo (e qui è il grosso contributo dagli anni 80 in poi) che di fronte a una risposta sbagliata cambia un po’ i parametri modo che la risposta diventi giusta. Se lo fai per centinaia di milioni di immagini piano piano modifichi tutti i parametri. Alla fine la rete non solo non sbaglia quasi mai sugli esempi che gli hai dato in pasto, ma è in grado di generalizzare, cioè di rispondere correttamente anche su foto che non ha mai visto prima. Per questo aspetto le reti neuronali profonde sono state una rivoluzione. Questo tipo di rete è un classificatore, mentre GPT-3 è un trasformatore, ma il principio è lo stesso.

Sì, per quello l’allarmismo alla Skynet è un po’ ridicolo. Non è intelligenza artificiale in senso proprio, è solo una rete generativa molto ben ingegnerizzata. Non ci sono idee nuove. L’hanno però impacchettata in maniera molto efficace per il largo pubblico. Negli anni sessanta giocavano con decine di parametri. GPT-3 ha 175 miliardi di parametri. Addestrare modelli linguistici così grandi è diventati possibile solo negli ultimi dieci anni.

È intelligente se gli chiedi cose che possono essere dedotte dal testo con cui è stato addestrato, e soprattutto cose che abbiano senso per un sistema di apprendimento. Chiedigli una lista di persone simpatiche e vedi che ti dice.

QQuesto è strano solo per chi identifica la creatività con alcune specifiche attività umane, per esempio scrivere o dipingere (e qui la disastrosa impostazione Gentiliana della nostra scuola non aiuta). Quando abbiamo creato macchine che ricamano i tessuti con più precisione e velocità di un essere umano non credo nessuno si sia sconvolto più di tanto. Semplicemente ora abbiamo macchine che creano testi o immagini a partire da un’idea di base con più precisione e velocità di un essere umano. Questo non vuol dire che una macchina per ricamo si possa inventare un ricamo mai visto prima, o che GPT-3 scriverà il prossimo romanzo che cambierà la storia della letteratura. Però possiamo inserire in un telaio un ricamo nuovo e avere 100 tovaglie in poche ore, o spiegare a GPT-3 una trama geniale e fargliela trasformare in un racconto di 50 pagine in uno stile specifico in pochi minuti. Ovviamente il testo sarà freddino e impersonale, come il ricamo a macchina.
Però è indubbio che questo tipo di applicazione delle reti neuronali profonde ci costringe a ripensare che cosa sia la creatività, nel senso che gran parte di quello che ci piace considerare “creativo” è in realtà qualcosa che si può imparare, e se si può imparare lo possiamo spiegare a una macchina tramite apprendimento computazionale. Come ogni volta che abbiamo estratto la parte tecnica da un’attività “creativa” (torno all’esempio del ricamo) ci sarà gente che perderà il lavoro, perché quella parte tecnica non sarà più necessaria. Già ora molti siti usano immagini generate da Midjourney al posto di chiedere a un artista digitale di crearle.
In compenso, l’uso di GPT-3 per generate articoli nel sito CNET si è rivelato un boomerang disastroso, con decine di articoli pubblicati con errori fattuali veramente marchiani. Quindi, paradossalmente, è più facile per una macchina vincere un concorso d’arte che riportare correttamente una notizia. C’è di che riflettere, no?