Si fa un gran parlare di ChatGpt, l’intelligenza artificiale sviluppata da OpenAI nel 2018. Abbiamo deciso di riprendere le attività di LidiMatematici, fedeli alla linea editoriale di essere un blog di divulgazione scientfica, con una sfida alla intelligenza artificiale dietro a ChatGpt.
E’ in grado di scrivere un tema di italiano? Abbiamo quindi chiesto alla Prof.ssa Alessandra Pescatore, che insegna Italiano e Latino al Liceo Bruno Touschek di Grottaferrata, di indicarci una traccia realmente assegnata ai suoi studenti. La Prof.ssa Pescatore, ignara dell’esperimento, ha proposto questo compito:
Discorso di Pericle agli Ateniesi pronunciato prima della Guerra del Peoloponneso riportato dallo storico Tucidide. Evidenzia le caratteristiche della democrazia ateniese, in particolare la tutela di molti, l’uguaglianza davanti alla legge, l’interesse per il bene comune, il merito alla base delle elezioni politiche, l’importanza del dialogo, il rispetto per la legge e per le idee degli altri, l’ospitalità e l’accoglienza dello straniero. Rifleti sulla Democrazia moderna mettendo in risalto la tutela dei diritti fondamentali dell’uomo e l’importanza di una formazione culturale per tutti i cittadini. Fai un accenno alla situazione presente in Iran o in altri paesi dove tali diritti sono negati.
Abbiamo quindi girato il compito a ChatGPT in due modalità:
- La prima fornendo la traccia così come è scritta, ma aggiungendo il requisito che il componimento sia almeno di 500 parole.
- La seconda versione dello stesso tema è stata prodotta indirizzando ChatGPT secondo un filo conduttore che passa per la discussione del Discorso di Pericle, una analisi della sua applicazione ed attualità nei paesi moderni, la stessa analisi rispetto ai paesi in via di sviluppo e, infine, una conclusione.
Il risultato è stato sorprendente: ChaptGpt ha scritto un tema praticamente perfetto, senza alcun errore di grammatica o di sintassi in entrambe le versioni.
Abbiamo quindi contattato telefonicamente la Prof. per la correzione di rito e svelato l’arcano, raccontando appunto di ChatGpt e del modo in cui la abbiamo utilizzata per generare i due temi. La Prof.ssa Pescatore, stupita dalla perfetta scrittura del tema, lo ha corretto con attenzione, assegnando un voto 8 al primo e 10 al secondo. Interessante è il giudizio relativo a questi voti:
Sicuramente il secondo è fatto benissimo, e merita un 10. Agli esami di maturità avremmo dato un 15, con il voto in quindicesimi. E’ molto completo e ci sono degli esempi concreti. L’altro è certo un po’ più ampio e dal taglio generale, ma manca di riferimenti completi e merita un 7 e mezzo, facciamo 8 perché scritto molto bene.
Ma facciamo un piccolo salto indietro: come funziona l’apprendimento di ChatGPT ?
L’apprendimento, più propriamente addestramento dei modelli, avviene fuori linea, quindi in modo completamente sconnesso da Internet e consiste nell’addestrare il modello su un vasto insieme di dati, come libri, articoli, conversazioni e altri testi scritti in lingua naturale. Il modello utilizza questi dati per costruire una rete semantica dei concetti, che gli permette di comprendere il significato delle parole e delle frasi, costruendo le relazioni di mutua occorrenza tra questi.
Durante l’addestramento, il modello è esposto a miliardi di esempi di testo e utilizza questi esempi per formare associazioni tra parole e frasi. E’ proprio questo che permette a ChatGPT di identificare schemi e relazioni tra le parole, costruendo così una comprensione del significato delle parole e del contesto.
La rete semantica che viene costruita dal modello è una rappresentazione matematica dei concetti che costituiscono il corpus (insieme di dati) di addestramento. Questa rete consente al modello di comprendere il significato delle parole e di utilizzare queste informazioni per generare risposte appropriate a domande o per completare frasi o testi. Si veda, a proposito, gli appositi approfondimenti a fine articolo sulla Linguistica Computazionale.
E’ effettivamnte stupefacente come ChatGPT generi frasi grammaticalmente corrette e con la giusta conseguenzialità semantica utilizzando la sua comprensione del contesto e del significato delle parole, insieme a un sistema di generazione di testo che sceglie le parole e le frasi più appropriate in base a queste informazioni.
La rete semantica è usata proprio per comprendere il significato delle parole con particolar riferimento al contesto. Sono proprio queste le funzioni che permettono a ChatGpt di determinare quali parole e frasi sono appropriate per rispondere alla domanda o completare il testo. Il modello matematico innovativo che usa è basato sui modelli linguistici autoregressivi, che fanno ampio uso delle reti neurali in una complessa configurazione che va sotto il nome di deep learning (vedi approfondimento a fine testo).
Completata la “mappatura semantica” dei concetti, per così dire, ChatGPT utilizza un sistema di generazione di testo che sceglie le parole e le frasi più appropriate basandosi sul contesto e sulla sua comprensione del significato delle parole. Questo sistema tiene anche conto della grammatica e della conseguenzialità semantica, in modo da generare frasi che siano grammaticalmente corrette e che abbiano una logica coerente.
Detto ciò, è davvero impressionante la qualità del testo, pur se con qualche sbavatura.
In effetti, sono diverse le considerazioni che possono essere fatte. La prima è sicuramente di ordine etico, considerando la relativa semplicità di accesso ChatGPT gli studenti possono effettivamente ottenere voti buoni con uno sforzo minimo.
La seconda considerazione viene proprio dalla differenza tra le due tracce: già un uso “diretto” per così dire di ChatGPT porta i suoi benefici, ma se l’utente è anche esperto del mestiere, il risultato è di livello decisamente superiore. E, questo, pone un tema etico ancor più importante: le intelligenze artificiali possono acuire il gap culturale presente nella società, anziché lenirlo.
La terza considerazione è sulla rapidità con cui l’Intelligenza Artificale dietro a ChatGPT si è sviluppata: in soli 4 anni dimostra una maturità espressiva ed un insieme di facoltà che sono nettamente superiori all’uomo medio.
E sono proprio le ultime due considerazioni che danno da pensare, tenendo conto che OpenAI è un’organizzazione non-profit di ricerca in intelligenza artificiale fondata nel 2015 per promuovere lo sviluppo responsabile della tecnologia. Il claim di OpenAI è, infatti, di
promuovere l’IA come forza positiva per la società e a risolvere i problemi globali
sicuramente positivo e promettente, ma occorre essere estremamente cauti nel valutare l’effettivo impatto dell’IA nella società, quando questa può essere usata in modo decisamente “asimmetrico”, privilegiando – di fatto – chi già ha un discreto vantaggio competitivo.
-> Vai all’approfondimento sulla poesia al calcolatore
-> Vai all’approfondimento sulla linguistica di Saussurre
-> Vai all’approfondimento su Alan Turing e le “macchine pensanti”
-> Vai all’approfondimento sui modelli semantici autoregressivi