Un paio d’anni fa, durante un corso di aggiornamento in una scuola secondaria, provammo ChatGPT con l’insegnante di matematica. I risultati erano buoni ma insufficienti, e ricordo di aver detto che aveva senso, vista la struttura probabilistica di queste macchine. Oggi ho un corso presso la stessa scuola e dirò come le recenti scoperte facciano pensare che una parte crescente della nuova matematica avanzerà attraverso un uso massiccio dei modelli linguistici.
Superare me in matematica era facile; contribuire a risolvere problemi aperti da secoli riguarda invece i confini del nostro sapere collettivo. Possiamo anche immaginare risultati futuri che nessun essere umano riuscirà a comprendere fino in fondo.
D’altra parte mi affido ogni giorno a conoscenze che non possiedo. Salgo su un aereo senza sapere come costruirlo, rassicurato dal fatto che qualcuno lo sappia. Nei sistemi complessi, inoltre, anche questa comprensione può essere distribuita fra molti specialisti, senza concentrarsi interamente nella testa di nessuno. La nostra autonomia poggia già su una vastissima dipendenza dal sapere altrui.
A volte, inoltre, abbiamo usato qualcosa prima che chiunque ne comprendesse adeguatamente il meccanismo. La penicillina curava prima che se ne chiarisse l’azione molecolare; i motori a vapore funzionavano prima della termodinamica. Possedevamo conoscenze pratiche affidabili, mentre la spiegazione teorica era ancora incompleta. Possiamo sapere abbastanza da usare qualcosa senza sapere tutto ciò che lo fa funzionare, purché rimanga possibile verificarne gli effetti e riconoscere gli errori.
Con l’IA potremmo incontrare una difficoltà ulteriore, passando da una spiegazione che ancora ci manca a una che resta oltre la nostra portata. Verificare un risultato e comprenderne fino in fondo le ragioni potrebbero diventare attività sempre più distanti.
Anche quel ricorrente chiedersi se la macchina «capisce davvero» meriterebbe qualche domanda. Se capire significa usare una conoscenza in situazioni nuove e ricavarne conseguenze corrette, possiamo verificare quanto una macchina ci riesca. Se significa provare la mia sensazione interiore di aver capito, il criterio diventa privato, un po’ come lo scarabeo nella scatola di Wittgenstein, che ciascuno può osservare soltanto nella propria. Oltretutto quella sensazione mi ha accompagnato spesso anche quando avevo torto.
Anche la nostra comprensione arriva soltanto fino a un certo punto. La fisica ci permette previsioni straordinarie, pur lasciando aperta la domanda sul perché le leggi fondamentali siano proprio quelle. Comprendere qualcosa non richiede di possederne il fondamento ultimo. Forse dovremmo abituarci all’idea che la nostra sia una lieve competenza appoggiata su un insondabile mistero. Le macchine possono estendere un po’ quella competenza, senza necessariamente esaurire il mistero.
Tutto questo ha inevitabili risvolti psicologici. Stanotte, ad esempio, per fortuna per la prima volta, ho sognato Sam Altman, che mi invitava a visitare OpenAI. Era molto cortese, eppure mi sentivo a disagio. Tutto ciò che avevo intorno dipendeva da decisioni sulle quali non avevo alcun potere; ero un ospite e potevo essere congedato.
Questi strumenti stanno diventando essenziali per il nostro lavoro, e il nostro accesso dipende da chi li possiede. Senza, per alcuni compiti, lavoreremmo peggio, proprio come lavoreremmo peggio senza libri, o senza saper leggere. La dipendenza dal sapere altrui accompagna da sempre la nostra vita intellettuale; quando passa attraverso un servizio privato e revocabile, la cosa diventa pericolosa.
