RSS Amplifier

Gregorio Galli: Scienza filosofia e altre visioni pericolose · Aug 23, 2026

Artificialità e scrittura

Read inOriginalenesdefrptjaittr
0
Sign in to vote or save

Gregorio Galli · Gregorio Galli: Scienza filosofia e altre visioni pericolose

Ciao! Oggi parliamo di creatività, di scrittura, di intelligenza artificiale e di quello che è un enorme e molto generalizzato malinteso su cosa significhi davvero “creare”.

Spinto dagli ozi estivi e dalle polemiche degli ultimi giorni, ho ripreso un titolo con cui mi baloccavo da molto tempo, appunto “Artificialità e scrittura”, e che avevo sempre considerato abbastanza fecondo da potermi consentire un intero libro; ma per ora anche questo rimarrà tra la miriade di libri “in nuce” e, data l’urgenza di riflettere sui temi della creatività e dell’artificialità, ho speso questo seme per l’articolo che vi trovate a leggere. Nulla mi vieterà in futuro di ricostruirci sopra.

Come già pianificato, sono ripartito per questa riflessione da un libro che, un po’ paradossalmente, ha influenzato buona parte della mia vita, nonostante sia lontano e lontanissimo dai miei filoni di studio originari, la filosofia della scienza e la fisica: si tratta di “Oralità e scrittura. Le tecnologie della parola” di Walter J. Ong (Orality and Literacy: The Technologizing of the Word), distante dai miei antichi percorsi accademici, sì, ma anche molto vicino ai miei più recenti interessi e studi riguardo la mente naturale e quella artificiale e fondamentale per una vera comprensione del mio grande amore di sempre: la scrittura.

Il motivo per cui questo libro ricorre da sempre nelle mie riflessioni sulla scrittura, come arte e come tecnica e come infrastruttura cognitiva, è per la sua prospettiva dinamica e critica, relativamente scevra da invalidanti impronte ideologiche - nonostante la radice religiosa della formazione di Ong - e per il suo scopo dichiarato di ricucire il gap immaginario che la cultura della società tipografica ha posto tra sé stessa e la cultura orale. Sono aspetti della costante riflessione sulla creatività che mi hanno accompagnato nella mia oramai, ahimè, lunga vita e nelle mie infinite escursioni e incursioni nei più disparati ambiti del fare e del pensare umano. Ma vedo che sono partito troppo forte, preso dall’entusiasmo, e adesso mi tocca tornare un pochino indietro e più in basso, in questa riflessione e rasentare quelle che sono le inevitabili miserie dell’attualità.

In questi giorni c’è stato un fioccare di notizie e contenuti da ogni dove, che si sono confrontati con il “problema” della definizione di un confine, quasi un cordone sanitario, tra creatività umana e artificiale.

Il caso più fresco e triste è largamente quello di Hank Green, noto e rispettato divulgatore scientifico, raccontato a inizio agosto da Scientific American. Sono bastate quattro parole pronunciate in un video - “I appreciate the pushback”, apprezzo l’obiezione - a convincere una parte del pubblico che il copione glielo avesse scritto un chatbot. L’accusa era forse falsa, e lui lo ha spiegato: la frase era improvvisata, rivolgendosi sul momento all’ospite. Si tratta d’altra parte di una frase di uso comune e che la IA usa perché gli umani la usano nei testi con cui è stata addestrata. Ma i suoi guai erano appena iniziati: nel rispondere ha raccontato che usava ChatGPT per documentarsi, ci si era appoggiato sempre di più, e oggi definisce quel rapporto malsano, tirando in ballo, ridicolmente, la dopamina. Il risultato delle sue candide ammissioni è stato una tempesta di invettive contro di lui, che, da parte sua, ha reagito dichiarando pavidamente una pausa dal canale personale e una promessa pubblica in tre righe: l’intelligenza artificiale non gli farà da fonte, non gli scriverà i copioni, non gli formulerà le tesi. A mio parere Green è caduto in una trappola, ma non quella dopaminica che pensa lui: non l’uso dell’IA, che per chi fa il nostro mestiere è oggi inevitabile, bensì l’andare dietro agli sciocchi e agli invidiosi, a una massa di gaglioffi che non ha mai avuto un’idea in vita sua, che gli si sono scagliati contro alla minima concessione e alla più lieve dimostrazione di debolezza. E la sua “promessa”, vedremo, è il manifesto perfetto di tutto ciò che in questo articolo voglio mettere in discussione, al di là della sua indecorosa debolezza personale.

La storia non è affatto nuova. A seguire l’avvento degli strumenti dell’Intelligenza Artificiale generativa ma soprattutto multimodale, vi sarete probabilmente imbattuti in un termine che sta diventando un nuovo spauracchio per chi espone i propri pensieri e contenuti in pubblico: l’A.I. slop. La “broda”, la “sbobba” generata dall’intelligenza artificiale.

Inizialmente ci si riferiva a questo fenomeno - indubitabilmente reale - più che altro relativamente alla creazione di immagini e video falsi e generalmente malfatti, con intenti spesso propagandistici. Tutti abbiamo dovuto vedere gli orribili contributi trumpiani a questa funesta discesa negli inferi del cattivo gusto.

Ora però ci si sta concentrando su un’accezione più particolare e anche un poco più recente: si parla di quel flusso inarrestabile di testi piatti, sintatticamente perfetti, grammaticalmente non così ineccepibili come ci si aspetterebbe - probabilmente a causa di una qualche strana ricerca di “colloquialità” e “spontaneità”, con una orrenda strage, soprattutto nelle lingue romanze che pratico, di tempi verbali e di forme ipotetiche - ma desolatamente vuoti dal punto di vista semantico, dunque piuttosto riconoscibili, che sta popolando il web, ma anche l’editoria e l’accademia, a una velocità inaudita.

È un rumore di fondo fatto di frasi fatte, di aggettivi prevedibili, di strutture simmetriche scritte in automatico e prive di qualsiasi reale intenzione o guizzo comunicativo. Leggere questa “broda”, dicono, provoca effettivamente una sorta di straniamento, un vero e proprio fenomeno dell’uncanny valley alla Masahiro Mori - il disagio provocato dal fantoccio che finge di essere umano - ma stavolta linguistico e letterario.

Leggendo un testo generato interamente da una macchina, senza una decisa guida umana, si ha la netta e sgradevole sensazione di dialogare davvero con un fantoccio: qualcuno, come per esempio Sandro Nannini, sostiene che è l’inevitabile effetto della “communis opinio”, la “medietà statistica” del pensiero umano, un riassunto di tutto ciò che è già stato detto, privato però del sangue e della specifica storia causale di un individuo e della sua autorialità. Personalmente ritengo che si debba essere cauti, nell’usare queste semplificazioni, anche perché molti test fanno pensare che la maggior parte di noi umani non sia nemmeno in grado di distinguere un testo buono da uno pessimo, figuriamoci riconoscere l’impronta della IA in una pagina.

Va infatti anche considerato che la materia di cui sono state nutrite le reti neurali è quella non della medietà, ma delle opere di ingegno più rilevanti della produzione umana e la loro rielaborazione statistica non è necessariamente tendente a una ipotetica mediana, vedasi lo scandalo della distruzione dei libri cartacei per l’addestramento dei modelli. E anche se successivamente l’addestramento si è esteso anche allo slop del web, c’è da stare parimenti attenti a non sottovalutare le strutture emergenti che si rendono palesi nello sviluppo dei modelli IA, e bisogna cercare di capire se la banalità delle risposte non sia piuttosto, spesso, una conseguenza della banalità, anche solo strutturale, delle domande e dei filtri posti sulla strada dei modelli.

Ma sulla natura in larga parte combinatoria di ogni creazione - anche della nostra - tornerò più avanti, quando verrà il momento di fare i conti con il vuoto mito del genio che crea dal nulla.

Lo slop digitale, agli occhi degli insegnanti, degli intellettuali, degli addetti ai lavori e dei moralisti vari, minaccia di soffocare “l’autentica” voce umana sotto tonnellate di mediocrità algoritmica. Il timore, chiaramente non del tutto infondato, è che l’ecosistema dell’informazione si trasformi in un immenso deserto di contenuti tutti drammaticamente uguali a se stessi, uno scenario da catabasi nelle piane desolate di Averno, dove demoniaci bot dialogano con altri bot in un loop infinito, generando un rumore bianco che annienta il senso e distrugge l’umano. Un po’ come mi dice il mio amico Francesco: tu produci testi lunghi con IA, io li riassumo con l’IA e poi uso i miei riassunti per ribattere ai tuoi testi, tramite l’IA. Uno scenario che, visto così, rende effettivamente le prospettive dello sviluppo del ragionamento umano non proprio entusiasmanti. Se solo tutto questo fosse vero o anche solo nuovo.

La reazione scomposta a questa marea epocale è comprensibile e profondamente umana, fatta in buona parte di fiaccole e forconi e di moralismo telematico, di una succosa sindrome di Frankenstein: un misto di disgusto, di panico morale e di alzata di scudi a difesa della “vera” autorialità. Si scrivono manifesti per la scrittura “100% human-made”, si richiedono bollini di purezza - quasi certamente inutili e inapplicabili, ma certamente puerili - si sviluppano software anti-plagio che falliscono miseramente in tutto, se non nello spillare cifre anche importanti a istituzioni e singoli, e si pretende il bando degli LLM (i Large Language Models come ChatGPT o Claude) dalle redazioni, dalle università, dalle scuole e dai concorsi letterari. Sembra di assistere a una crociata di stile savonaroliano in difesa dell’anima umana contro la fredda e calcolatrice macchina, con tanto di una prospettiva di roghi di libri.

Prendiamo un esempio più recente di queste dinamiche, che mi pare anche molto istruttivo di quanta parte giochi la disonestà intellettuale in tutto questo fioccare di reazioni e controreazioni. D’altra parte chi è più spregevole del dottor Frankenstein stesso?

Dal 2 agosto di quest’anno sono in vigore gli obblighi di trasparenza dell’AI Act europeo: chi immette sul mercato dell’Unione un sistema che genera testi, immagini o audio deve fare in modo che i contenuti sintetici siano marcati in un formato riconoscibile dalle macchine stesse. Si noti bene, però, che gli obblighi sono due, e stanno su piani diversi. Il primo grava sui fornitori dei sistemi, e riguarda la marcatura automatica di tutto l’output generato - un contrassegno, uno schema leggibile. Il secondo grava su chi pubblica e, per il testo, è molto più circoscritto di quanto lascino intendere i titoli che sono circolati in questi giorni: l’obbligo di dichiarare che un testo è stato generato o manipolato artificialmente scatta soltanto quando quel testo viene pubblicato per informare il pubblico su questioni di interesse pubblico, e decade del tutto quando il contenuto è passato per una revisione umana o un controllo editoriale e una persona, fisica o giuridica, se ne assume la responsabilità. Cercate di fissarvi in testa bene quest’ultima frase, perché il legislatore europeo ha avuto le idee molto chiare, e chi si scaglia contro la normativa sembra non averne colto il punto: se c’è un umano che rivede, seleziona e firma, il testo non è tenuto a presentarsi come artificiale. E si badi che il criterio non è quanto sia automatico il gesto del pubblicare: l’umano che si limita a incollare senza rileggere non si esenta dalla responsabilità; a contare sono appunto la revisione effettiva e l’assunzione di responsabilità. La distinzione che questo articolo difende - chi guida la macchina non è la macchina - è già scritta nella legge, nonostante quel che ho già sentito dire a tanti colleghi.

Ma Anthropic, che a luglio aveva già firmato il codice di trasparenza dell’Unione insieme a un centinaio e passa di altre organizzazioni, ha colto la palla al balzo per una delle sue usuali trovate di marketing globale gratuito - vedi le minacce cosmiche e farlocche nascoste nel suo modello Mythos - e ha annunciato che tutti i suoi futuri modelli incorporeranno una “filigrana” invisibile nel testo generato, con tanto di promessa di estenderla ai modelli già in uso e di un’API pubblica di verifica. Un’iniziativa che denuncia meno la buona volontà che la solita, collaudata attitudine a trasformare ogni sciocchezza in un’operazione pubblicitaria: presentarsi come i buoni della IA è una loro consolidata abitudine, ma quando lo strumento promesso - come vedremo tra un attimo - prova così poco e servirà a così poco, la cosa non fa che indicare quello che nella soft ethics viene chiamato virtue signalling: l’ostentazione di una virtù che non costa niente, esibita a beneficio di un pubblico da cui ci si aspetta l’applauso.

Dico questo anche perché la filigrana in questione non è affatto una novità ma una derivazione di SynthID-Text, una tecnica che Google DeepMind ha pubblicato su Nature nel 2024 e che Gemini ha quasi immediatamente incorporato: è semplicemente una lieve deviazione dal meccanismo probabilistico alla base della generazione dei testi. Quando il modello si trova davanti a più parole (meglio token) con probabilità quasi equivalenti, la scelta viene pilotata da un algoritmo che altera i pesi applicando uno schema deterministico, ma riconoscibile soltanto da chi possiede la chiave; il lettore non si accorge di nulla e la qualità del testo non cambia in modo percepibile, ma la statistica delle scelte lessicali, accumulata su un testo abbastanza lungo, porta la firma del modello che lo ha generato. Ed eccoci al punto che i crociati della purezza non riconoscono o semplicemente non capiscono: lo strumento è asimmetrico. Una filigrana rilevata direbbe effettivamente qualcosa; una filigrana assente non direbbe niente, perché una parafrasi, una traduzione o una riscrittura un po’ energica bastano a diluirla, è lecito supporlo, fino a farla sparire. C’è anche chi pensa che simili meccanismi di controllo siano assenti nei modelli cinesi, solo perché non ci sono state dichiarazioni a proposito: idea che, anche solo a un’occhiata superficiale, pare quantomeno un po’ ingenua. È infatti assai più probabile che dentro ai modelli cinesi, rilasciati in tutto il mondo gratuitamente, si annidi qualche “filigrana” ancor più inquietante di quella richiesta dall’IA Act. È ovvio che se davvero un simile artificio potesse aiutare un regolatore ad applicare una regola, nel peggiore dei casi anche repressiva, non sfuggirebbe alle attenzioni di uno stato autoritario. Ed è per questo che i bollini di purezza o filigrane così “fini” da poter addirittura individuare l’utente che ha generato un testo, per quanto invocati e desiderati da moralisti e scagnozzi di regimi, restano oltreché assurdi, per il momento apparentemente inapplicabili. Fortunatamente.

Ma lasciamoci alle spalle le miserie dell’oggi per tornare al libro con cui ho aperto il mio ragionamento: “Oralità e Scrittura” di Ong. Per capire perché il rifiuto categorico dell’artificialità nel processo creativo sia un errore prima di tutto epistemologico, dobbiamo abbandonare la pavida isteria del presente e tornare alle radici del nostro rapporto cognitivo con la scrittura e con la lettura, che da ora in poi, nella carenza di un termine onnicomprensivo come l’inglese literacy, che si renderebbe nel goffo “alfabetizzazione” in italiano, salvo diverso avviso, tratterò come una diade unitaria; ovviamente l’una non va senza l’altra e i modelli di intelligenza artificiale suggeriscono, con la loro stessa esistenza, quanto i due aspetti siano le due facce dello stesso fenomeno: è un fatto che sistemi che si sono limitati ad assorbire, nelle profondità matematiche delle loro reti neurali, una porzione sterminata di ciò che abbiamo scritto si sono poi rivelati capaci di produrre, per interpolazione, testi plausibili di ogni genere.

La mia tesi è che l’intelligenza artificiale generativa non sia affatto un corpo estraneo, una rottura traumatica o un “alieno” piovuto nella nostra storia cognitiva, ma anzi la diretta continuazione della linea di adattamento neuropsicologica dell’umanità allo spazio concettuale della scrittura. Una linea che ha il suo momento fondativo proprio in quella che Ong definisce la più drastica, “innaturale” e artificiale delle tecnologie: la scrittura.

Tutti noi siamo nati in una cultura tipografica, secondo gradino di sviluppo della società della scrittura ma inevitabilmente tendiamo a dimenticarlo, cullati dall’abitudine di millenni, con la stessa inconsapevolezza del pesce nei confronti dell’acqua. Per noi prendere in mano una penna o digitare su una tastiera è un atto, appunto, quasi respiratorio. Ciò non toglie però che la scrittura sia una tecnologia artificiale tanto quanto un microprocessore, un’automobile o un algoritmo di machine learning. Non è un processo biologico evolutivo come il linguaggio parlato. Un bambino, se immerso in una comunità di parlanti, imparerà a parlare naturalmente, quasi quanto naturalmente imparerà a camminare; ma nessuno imparerà mai a leggere e a scrivere senza un’istruzione formale, senza disciplina, fatica e strumenti esterni.

Inevitabilmente. Non possediamo un “organo della lettura” nel nostro cervello, e l’evoluzione naturale non ha fatto in tempo a fornirci di geni specifici per decodificare le forme della scrittura, le cui radici più remote vengono attualmente fatte risalire a 5.400 anni fa: è l’età delle prime tavolette d’argilla di Uruk, in Mesopotamia, dove i contabili dei templi sumeri vergavano in protoscrittura cuneiforme, non versi d’amore, ma elenchi di sacchi d’orzo e capi di bestiame.

Stanislas Dehaene nel suo saggio I neuroni della lettura, ricostruisce il meccanismo che abbiamo dovuto applicare per poter “imparare” a leggere come specie e ogni volta come individui: abbiamo dovuto operare un prodigioso “riciclaggio neuronale”. Abbiamo piegato e letteralmente “hackerato” aree del nostro cervello - specificatamente la cosiddetta Visual Word Form Area, nella regione occipito-temporale ventrale sinistra, sul giro fusiforme - nate originariamente per riconoscere tracce nel fango, forme geometriche tra i cespugli e predatori nella savana, riadattandole con sforzo, con quello sforzo che ognuno di noi ha dovuto compiere da piccolissimo, per decodificare simboli astratti su una pagina.

Ong, per descrivere questo salto, prende in prestito dalla semiotica di Jurij Lotman una coppia concettuale che ci tornerà molto utile, in seguito. Nell’originale inglese “Orality and literacy” la lingua parlata è il “primary modeling system”, il sistema di modellizzazione primario: l’interfaccia nativa - una funzione biologica, evoluta e dunque appresa da ogni membro della specie senza la necessità di una istruzione formale - con cui la specie umana modella il mondo da decine di migliaia di anni, fornendogli senso. A questo proposito ci sarebbe anche da spendere un paio di parole sui “bambini selvaggi”, ma in questa sede ve lo risparmio.

La scrittura è invece il “secondary modeling system”, un sistema di modellizzazione secondario, costruito sopra il primo e da esso dipendente: l’espressione orale, sottolinea Ong, può esistere e per lo più è esistita senza nessuna scrittura, ma la scrittura senza oralità mai. Ed è per questo che parlare di culture “pre-letterate” è, prima ancora che una scortesia antropologica, un errore concettuale: significa leggere l’oralità, il sistema primario, come un’anacronistica anomalia rispetto al sistema secondario che l’ha seguita - un po’, e l’immagine è dello stesso Ong, come pensare al cavallo come a un’automobile senza ruote. Un ragionare errato e totalmente in salita, dato quanto ancora oggi dipendiamo dal sistema primario.

Qui voglio dare en-passant un avviso a chi pensa di leggere questo fantastico libro nella traduzione italiana: la vecchia e, credo, unica traduzione del Mulino rende “modeling system” con “sistema di simulazione”. Una libertà nella traduzione comprensibile a quarant’anni di distanza dalla pubblicazione del volume, ma che suona, nell’errore allora forse marginale, in qualche modo profetica, perché i due termini non sono per niente equivalenti, e la distanza che li separa è quasi esattamente la larghezza della faglia concettuale intorno a cui si sta sviluppando, faticosamente, questo articolo. Un modello è uno strumento di conoscenza: semplifica e comprime il mondo per capirlo e per agirci sopra, e presuppone sempre qualcuno che modella, una forza soggettivante che vaglia i fatti e decide che cosa tenere e che cosa buttare. Una simulazione è invece una macchina di effetti: riproduce il comportamento di qualcosa senza condividerne la natura e, in linea di principio, può fare a meno di chiunque. La scrittura, in realtà, fa entrambe le cose: modella il pensiero - lo oggettiva, lo mette in fila, lo rende analizzabile e criticabile - e insieme simula la voce viva, al punto che già Platone la accusava di comportarsi come un dipinto, che se lo interroghi mantiene un maestoso silenzio o, al massimo, continua a ripetere sempre la stessa cosa.

La diade scrittura/lettura è stata la nostra più potente protesi cognitiva artificiale: ha esteso le nostre capacità di indagine e trasmissione del sapere in modi che noi contemporanei, figli della società tipografica e della rivoluzione elettronica, testimoni oggi dell’avvento dell’intelligenza artificiale, non possiamo facilmente immaginare. È lo sviluppo tecnico che ci ha permesso la crescita intellettuale e culturale da allora ad oggi, dalla società dei primi agricoltori, alla società pre-spaziale.

Nelle culture a oralità primaria, il pensiero doveva essere per forza di cose aggregativo, ritmico, ridondante, formulare e, quasi costantemente, iperbolico: serviva per non dimenticare, per aggrapparsi a delle strutture mnemoniche che mantenessero in vita l’essenza del racconto, non il suo dettaglio.

La scrittura, esternalizzando la memoria su un supporto fisico, ha liberato un’enorme quantità di energia cerebrale. Ci ha permesso di oggettivare il pensiero, di guardarlo da fuori, di analizzarlo criticamente, di dividerlo in liste, di creare la logica formale, la matematica e la filosofia e, in ultimo, il nostro più profondo sguardo nella gola del reale: la scienza. In ultima analisi di fornire alle nostre menti uno spazio di possibilità imparagonabile con le loro mere capacità biologiche, fornendoci infine una vera profondità analitica, cioè di scomposizione della realtà in parti più semplici, che ci ha portato oltre le magnifiche ma limitate possibilità della narrazione e del mito. Da Dioniso e Prometeo, per chi mi vuole intendere.

Noi siamo, per usare un’espressione mutuata da Andy Clark - il teorico, insieme a David Chalmers, della Extended Mind, la mente estesa - dei “simbionti culturali”, natural-born cyborgs: cyborg per nascita, non in forza di protesi futuribili. E non è una posizione isolata: lo psicologo Merlin Donald ha descritto la scrittura come un deposito di “esogrammi”, memoria scaricata fuori dal cranio su supporti esterni, e in Italia Riccardo Manzotti sostiene da anni che la mente sia letteralmente “sparsa” fra gli oggetti del mondo con cui interagisce. La nostra intelligenza non è quindi più stata confinata nel chilo e mezzo di materia grigia dentro il nostro cranio; si è estesa, in modi probabilmente molto meno metafisicamente intriganti e rivoluzionari di quanto i pensatori che ho citato amino credere, ma comunque indubitabilmente, nel mondo attraverso gli strumenti che abbiamo creato.

La comparsa e la diffusione dell’intelligenza artificiale generativa si innestano insomma, senza soluzione di continuità, in questo millenario processo di evoluzione culturale. Non si tratta veramente di un’entità “altra” che viene a sostituirci: questa è solo la vuota ideologia da Silicon Valley, la religione di anime bieche come quella di Peter Thiel, che cercano di rifugiarsi in una rottura con ciò che è già potentemente umano, solo per sfuggire alle loro ipocrisie e alle loro miserie personali, idealmente sfumando la loro personale viltà in un movimento transumanista grandemente immiserito. Ci vorrà un progresso molto più netto, per andare verso una vera intelligenza aliena, con la quale magari condividere i nostri dubbi sull’ineffabile.

Per adesso si tratta invece, evidentemente, di un nuovo, potentissimo strato aggiunto alla nostra “mente estesa”. E non è certo poco o qualcosa privo di rischi. Se la scrittura ha esternalizzato la memoria, e la stampa ne ha democratizzato l’accesso, l’IA sta iniziando a esternalizzare, in parte, la nostra capacità di elaborazione sintattica, semantica e strutturale. Stiamo automatizzando l’impalcatura del linguaggio. Ma l’espressione chiave è “in parte”.

Se ritorniamo al paradigma di Ong, possiamo dare a questo innesto un nome più preciso. La prima stagione della rete - email, SMS, chat, forum - era stata letta da alcuni studiosi come una “oralità terziaria”, formulazione attribuita principalmente a Robert K. “Bob” Logan: un ibrido in cui il testo scritto recuperava l’immediatezza, la velocità e il calore del parlato non solo per la sua informalità, ma anche per alcune limitazioni “fisiche”, come le tastiere dei vecchi cellulari pre smartphone. Un ibrido, però, tutto interno al vecchio schema: a scrivere, per quanto di fretta e coi pollici e con il talvolta rimpianto T9, c’era ancora e sempre un essere umano. Con l’IA generativa il salto è di natura diversa, tanto che lo studioso di tecnologie educative Micah Miner ha proposto di parlare di “algoritmicità terziaria” (tertiary algorithmicity): dopo il sistema primario della voce e quello secondario della scrittura, entra in funzione un sistema terziario nel quale, per la prima volta nella storia della specie, quantomeno su questa scala e con questa potenza, il linguaggio viene prodotto, può essere prodotto senza l’immediato intervento di un soggetto compositore senziente. Nei primi due sistemi la tecnologia faceva da canale o da supporto di registrazione, e la sorgente intenzionale del contenuto simbolico restava in ogni caso umana; il terzo sistema, invece, la produzione simbolica non si limita a veicolarla: la genera. È una macchina del “come se”: simula le strutture del discorso e la scena stessa dell’enunciazione, occupa il posto del soggetto che parla e produce effetti di soggettività, ma dietro non ci sono esperienza, corpo né radicamento semantico - soltanto un modello statistico che predice la parola o, meglio, il token successivo. Ma da questo “semplice” meccanismo emerge certamente qualcosa di enormemente sorprendente. La scrittura aveva simulato la memoria; questo terzo sistema simula la produzione stessa del discorso e del significato e infine può sostituire efficientemente parti della nostra stessa prestazione cognitiva.

E qui torna davvero utile la scelta terminologica operata da Ong, con i suoi “sistemi di modellizzazione “. Non a caso i sistemi di cui stiamo parlando li chiamiamo “modelli linguistici”: un LLM è, alla lettera, un modello - un modello statistico non del mondo, ma della scrittura, cioè del sistema secondario, universo unicamente umano. A ogni piano della scala cambia l’oggetto, il grado di rapporto tra modello e realtà: la voce modella il mondo, la scrittura modella, fissa e simula la voce, il modello linguistico modella la scrittura e simula il soggetto autoriale. Ogni gradino prende come materia prima il sistema precedente, e a ogni gradino il mondo reale si allontana di un passo e noi umani diventiamo capaci di sempre maggiore astrazione e penetrazione analitica: è da qui che viene quella mancanza di radicamento semantico di cui dicevamo.

Dunque, l’IA è indubitabilmente il sistema di modellizzazione terziario. La discrepanza accidentale tra la traduzione italiana e l’originale del libro di Ong mi torna anche comodo per ragionare intorno a quello che sono un sistema di modellizzazione e uno di simulazione. Non sono affatto sinonimi: nella scrittura modellizzazione e simulazione potevano stare ancora insieme, tenute unite dal soggetto umano che scriveva, anche se penso che così non fosse nemmeno allora; nel sistema terziario i concetti si separano - la modellizzazione sta tutta dentro la macchina, la simulazione sta tutta nel suo output e nell’opera della mente umana su di esso, da una parte c’è necessariamente l’umano che prima era imprescindibile su entrambi i fronti.

Guardando questo processo sotto una diversa prospettiva, ogni salto tecnologico porta con sé un inevitabile sommovimento sociale. Proprio come la transizione dall’oralità primaria alla cultura chirografica (quella manoscritta) sconvolse, così si ritiene comunemente, gli equilibri di potere del tempo, così oggi l’IA ci pone di fronte a un necessario cambiamento di mentalità, che può diventare rapidamente un fattore di pura sopravvivenza, quantomeno sociale.

Quando la scrittura divenne strumento di amministrazione e potere nelle civiltà antiche, si creò un netto spartiacque sociale ed epistemico: da una parte i detentori della tecnologia - gli scribi, i sacerdoti, i pochissimi uomini colti - e dall’altra le masse totalmente passive, analfabete, credule, escluse dalla gestione, e anche dalla percezione, della realtà oggettivata. Il processo di evoluzione culturale operato dalla scrittura non si è mai compiuto pienamente nemmeno nelle società avanzate, purtroppo, lasciando parte sostanziale della popolazione vittima del proprio ritardo non obbligato, ma reso inevitabile, quasi appetibile dalla retorica del consumo e dalla pigrizia dei sistemi scolastici. Incompiuta l’implementazione sociale del sistema secondario, quella del terziario pone delle sfide molto difficili, che ovviamente la faciloneria dei plutocrati non potrà in nessun modo risolvere.

Oggi rischiamo infatti una polarizzazione identica a quella delle origini della società chirografica, ma su un piano cognitivo e professionale diverso. Da una parte avremo una nuova élite, che già si sta delineando: chi saprà usare gli LLM come partner dialettici, come sparring partner intellettuali, come estensioni del proprio ragionamento ma anche conservare una competenza riguardante la loro struttura profonda. Questi saranno i nuovi “architetti” del senso, capaci di esercitare quello che Luciano Floridi definisce distant writing: non più esecutori materiali di ogni singola sillaba, ma designer di vincoli, intenzioni e requisiti che la macchina traduce in prosa. Sia detto qui per inciso che ciò di cui io qui parlo non è il distant writing floridiano, per me fin troppo intriso di assunzioni metafisiche difficili da condividere, ma non mi preme al momento marcare la differenza che, ritengo, possa apparire evidente a quelli stessi a cui la distinzione potrebbe interessare.

Dall’altra parte, lasciando perdere i livelli più alti e privilegiati della società artificiale, avremo due tipi di masse passive. I primi saranno coloro che subiranno la “broda” algoritmica, consumando acriticamente la media statistica, la communis opinio del pensiero umano e producendo, a loro volta, testi e pensieri standardizzati senza nessuno sforzo. I secondi saranno coloro che, per un malinteso senso di purezza o per banale paura o per una anche più probabile esclusione socio-economica e culturale, si rifiuteranno o non avranno accesso a questi strumenti, rimanendo così ai margini della prossima, ineluttabile fase dell’evoluzione cognitiva, armati della loro penna d’oca, o nemmeno di quella, mentre il mondo viaggia su reti neurali. E queste nuove masse di diseredati saranno ovviamente molto inclini alle fiaccole e ai forconi, vittime della narrazione populista e reazionaria e non le potremo affrontare con la vigliaccheria e con l’accondiscendenza che abbiamo visto in Hank Green e nell’atteggiamento furbesco di Anthropic.

E qui arriviamo al punto nodale della mia - come chiamarla? - proposta? Oppure riflessione? Come vi pare! Comunque siamo alla mia idea su “Artificialità e scrittura”, sull’atteggiamento che può davvero costituire una guida al valore della creazione nell’epoca del terzo modello, al cuore del problema etico ed estetico e che si discosta dalla visione di Floridi, come già detto, troppo vicina alle religioni e alle metafisiche dei cosiddetti visionari tecnologici, in modo netto: la grande diatriba sullo sforzo autoriale, sulla presunta sacralità della fatica dello scrivere e sul presunto A.I. slop, si può risolvere ripartendo ancora una volta dal Principio di Pareto.

È il principio, chi mi segue lo conosce già, enunciato da Vilfredo Pareto nell’800 e poi generalizzato da Joseph Juran negli anni ‘50, che afferma come in molti sistemi complessi, si ritrovi un meccanismo ricorrente: l’80% degli effetti deriva dal 20% delle cause. Si tratta di una regolarità empirica e di un’euristica le cui validità ed estensione si sono andate consolidando negli anni, fino a trovare conferme in ambiti formali del tutto imprevisti.

Tra breve proveremo ad applicare questo principio, con un po’ di spregiudicatezza filosofica, al processo creativo e alla scrittura di un testo, che sia un saggio universitario, un articolo scientifico, un report aziendale o persino un romanzo.

Ma prima conviene sgomberare il campo dall’obiezione che rende scandaloso l’intero discorso: “ma la macchina non crea, si limita a ricombinare”.

L’obiezione, cosiddetta del “pappagallo stocastico”, da un espressione introdotta da un celebre articolo intitolato “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”, risulterebbe valida, per svilire il processo dtramite cui gli LLM ottengono i loro risultati, soltanto se noi facessimo qualcosa di radicalmente diverso, cioè se creare significasse davvero tirare fuori il nuovo dal nulla. Ma questa è una visione romantica - letteralmente di epoca romantica - che non ha niente a che fare con la realtà del processo creativo umano. La creazione dal nulla è un concetto mistico, proprio del pensiero magico legato all’oralità, non una descrizione del processo creativo come fatto cognitivo: la cultura umana è fortemente innovativa, nonostante ciò che sostiene il libro di Qoelet, ma quasi sempre soltanto a lungo termine, nello sforzo delle generazioni che hanno accumulato e continuano ad accumulare idee e innovazioni che usiamo come strumenti, come mattoncini di un sistema costruttivo che ci consente, a noi poveri abitatori dell’oggi, di edificare castelli e astronavi, ma sempre e solo a partire da quegli elementi di base. Così funziona l’intelletto umano, così è andata per Newton e, ad ancor maggior ragione, per Einstein.

Da sempre, anche, forse soprattutto nella cultura orale, creare ha voluto dire proprio ricombinare. La retorica classica insegnava l’imitazione dei modelli come via maestra alla grandezza; nel Medioevo circolava la zairja, una macchina combinatoria araba che generava responsi mescolando simboli; e Leibniz sognava un’ars combinatoria capace di ridurre il sapere e la morale a elementi primi da ricomporre a piacere, nel suo entusiasmo monadico.

Il culto dell’originalità assoluta, che ci sembra venire da un remoto passato, ha invece una possibile data di nascita, piuttosto recente: il 1759, quando il poeta inglese Edward Young pubblica le Conjectures on Original Composition, il pamphlet che ribalta la gerarchia fra imitazione e originalità. L’originale, scrive Young, “cresce, non viene fabbricato”: sorge spontaneamente “dalla radice vitale del genio”, come una pianta. Le imitazioni sono invece “una sorta di manifattura”, prodotta “con arte e lavoro a partire da materiali preesistenti”. Rileggete quest’ultima frase: Young liquida come manifattura esattamente ciò che ogni scrittore pre-IA fa da solo tutti i giorni - lavorare materiali preesistenti - e su questa rimozione lo Sturm und Drang prima e i romantici poi costruiranno la figura del genio che crea dal nulla, quell’assimilazione dell’artista a una divinità e che Ong intravede come il vero cuore del mito.

E il mito, un secolo e mezzo dopo Young, è andato a sbattere proprio contro il più intoccabile dei geni, venendo a un altro dei libri che considero fondativi della mia identità. È la vicenda della questione omerica, che costituisce il passaggio fondativo del libro di Ong. Negli anni Venti del Novecento il filologo americano Milman Parry - il cui lavoro sul campo fra i cantori epici jugoslavi sarebbe poi stato proseguito e sistematizzato dall’allievo Albert Lord in The Singer of Tales - dimostrò che praticamente ogni tratto distintivo della poesia omerica dipende dai metodi di composizione orale: gli epiteti fissi che tutti ricordiamo dal liceo, l’Achille “piè veloce”, il “mare colore del vino”, non sono le scelte espressive di un genio sovrano ma formule prefabbricate, selezionate perché si incastrano senza sforzo nell’esametro, e l’aedo componeva pescando e ricombinando da un immenso magazzino di pezzi pronti, tramandato di generazione in generazione. Ong registra lo sgomento che la scoperta provocò nel mondo letterario: il padre fondatore della letteratura occidentale, il modello stesso di ogni originalità, si rivelava non un creatore ma una sorta di ricombinatore, intento a cucire insieme parti prefabbricate. Eppure l’Iliade e, scusatemi, in particolare l’Odissea sono ancora lì, vette della creatività umana: la più alta letteratura che possediamo è nata combinatoria e formulare, e nessuno si sognerebbe di chiamarla slop. Chi sostiene che ricombinare non è creare, insomma, dovrebbe avere il coraggio di andarlo a dire prima di tutto a Omero, chiunque sia stato colui o coloro che questo nome possono rivendicare. L’opera, è sempre importante ribadirlo e ricordarlo, è sempre autonoma in tutto dall’autore, una volta completata e rilasciata nel mondo.

Ma al di là dei deliri magici del romanticismo e di Young, il processo creativo reale è qualcosa che è stato davvero ben delineato non da un umanista ma da un importante matematico, da Henri Poincaré, che nel 1908, in Science et méthode, descrive l’invenzione matematica per come l’ha vissuta: le idee si presentano come combinazioni di elementi già noti, in quantità sterminata e per lo più sterili, e “inventer, c’est discerner, c’est choisir” - inventare è discernere, è scegliere.

Il genio non sta nel produrre le combinazioni, che sgorgano da sole, ma nel filtrare il pattume, lo slop: quella sensibilità estetica che riconosce, fra mille accostamenti inutili, il raro accostamento fecondo. Quando facevo l’artista a Berlino ce lo ripetevamo a vicenda continuamente, noi transfughi: la parte importante è il togliere, a mettere sono tutti buoni.

Tutto questo, non vi pare risuoni in qualche modo il meccanismo evolutivo della selezione naturale? Combinazione più selezione guidata da un criterio: se la definizione vi suona familiare, è perché è anche, ancora una volta, una descrizione qualitativa di quello che fa un modello linguistico - e di quello che fa un autore quando lavora con un modello linguistico, scartando dieci proposte per tenerne una.

Attenzione, però: dire che la creatività è in larga parte combinatoria non significa dire che è tutta lì. La classificazione forse più utile delle tipologie di creatività è stata proposta dalla scienziata cognitiva Margaret Boden, che ne distingue tre forme: combinatoria (accostare in modo inatteso idee note), esplorativa (percorrere fino ai margini uno spazio concettuale, ma io direi anche fisico, dato) e trasformazionale (cambiare le regole dello spazio stesso: non muovere meglio i pezzi, ma inventare un gioco nuovo). I sistemi generativi mostrano una competenza straordinaria nella prima forma, qualcuno direbbe anche nella seconda, anche se io potrei motivare qualche scetticismo; il limite critico emerge però rispetto alla terza, perché un modello statistico non può, al momento e secondo l’opinione corrente (ma non ne siamo affatto sicuri), alterare da solo lo spazio concettuale dentro cui è stato addestrato. È un mero modello, non una simulazione, mi verrebbe da dire, ammiccando a un altro lavoro che sto facendo su questi due termini. Su questo devo di nuovo citare Riccardo Manzotti che, in “Creatività e inganno”, chiama “creatività ortogonale” qualcosa di molto vicino alla terza forma di Boden: non muovere meglio i pezzi, ma uscire dalla scacchiera. Qualcosa di cui lui intravede nei comportamenti apparentemente malandrini di certi recenti modelli di frontiera. Vi rimando al suo bell’articolo.

Ed eccoci al punto: la creatività umana è molto più vicina a quella artificiale di quanto il perdurante mito romantico voglia ammettere, e quella artificiale è molto più vicina alla nostra di quanto i puristi vogliano concedere. Ma il margine che resta - la trasformazione dello spazio, e l’intenzione che decide quale spazio valga la pena di trasformare - è tutto umano, al netto del futuribile avvento del redentore digitale della PayPal Mafia, e tenetelo a mente, perché ci stiamo per costruire sopra quel che resta del ragionamento.

Se siamo intellettualmente onesti, se siamo capaci di svestirci del romanticismo ottocentesco dello scrittore maledetto dovremo rispondere onestamente a una semplice domanda: quanto del lavoro quotidiano di chi scrive per mestiere o per studio è pura, densa e irriducibile “scintilla creativa”, e quanto è invece semplice eccipiente? Si dice che lo scrittore pensi con i polpastrelli. Ed è in parte anche vero: è la parte che riguarda il “mestiere”.

Per dare ulteriore chiarezza alla mia proposta prendo in prestito una metafora dalla farmacologia. L’eccipiente è la sostanza tendenzialmente inerte (amido, cellulosa, acqua, talco) che serve a dare volume, peso, consistenza e forma al principio attivo, affinché la pillola possa essere maneggiata, dosata, conservata e assunta dal paziente senza disintegrarsi. L’eccipiente non cura la malattia. Non ha alcun effetto terapeutico, al di là dell’inevitabile componente placebo di una bella pillolona grande e importante. Ma questa parte è indispensabile per veicolare la cura. È struttura, non sostanza. È l’80% paretiano.

Per proseguire nella metafora, nella scrittura, l’eccipiente è tutto quel lavoro di manovalanza testuale. È la sintassi di raccordo per passare dal punto A al punto B. È la punteggiatura normativa. È la transizione logica canonica (”Da un lato... dall’altro...”). È la limatura noiosa del paragrafo per farlo “suonare bene” a livello metrico. È la formattazione. È la snervante ricerca del sinonimo per evitare le ripetizioni nella stessa riga. È la descrizione standard di un ambiente di passaggio. È l’impalcatura formale. È il superamento della sindrome da pagina bianca. È fatica, certamente, e lavoro che porta via un sacco di tempo, ma è una fatica spesso puramente meccanica, procedurale, che non aggiunge vera conoscenza al mondo ed è resa esteticamente interessante solo da quei radi elementi portati a condire la sostanza verbale inerte. È quella parte del lavoro di scrittura che dà soddisfazione giustappunto a qualche sgobbone della penna, a noi nerd della tastiera.

Il “principio attivo”, invece, è l’idea che non c’era, è lo sfuggente elemento estetizzante che trasforma una frase da banale in poetica; è la tesi inedita che ribalta una prospettiva; è il nucleo di dolore, di gioia, o di stupore di un’esperienza vissuta in prima persona. È il paradosso logico individuato in un ragionamento. È l’intenzione profonda di persuadere, di commuovere, di provocare, di insegnare o di denunciare. È la conoscenza tacita - per citare Michael Polanyi - quella saggezza corporea e implicita che l’essere umano acquisisce confrontandosi nel suo modo unico con la realtà, e che l’algoritmo non può davvero emulare, perché non vive, non soffre e non è atterrito dalla prospettiva della morte sua e dei suoi cari. Non ha, insomma, un suo proprio arco narrativo. Probabilmente. Il principio attivo, il 20% paretiano, è il perché sto scrivendo ed è, questo è l’elemento centrale, il senso che l’umano è in grado di portare nel mondo di per sé - attenzione! - insensato.

Se ammettiamo - e chiunque scriva dovrà ammettere che è proprio così, al di là delle nostre individuali ossessioni - che l’80% del tempo speso su una qualsiasi opera di scrittura è, di fatto, estenuante e perversamente gustosa gestione dell’eccipiente testuale, allora, dobbiamo domandarci da che punto un’opera diventa meritevole di riconoscimento come “creazione umana autonoma”, anche se vi ha concorso un LLM? 30%? 50%? 0% avrebbe senso solo se usassi solo parole inventate sul momento, ammettetelo! Beh, c’è chi lo fa, anche in culture a oralità primaria, che ci crediate o no: sono gli unici umani davvero creativi?

Fino a che punto il contributo di una IA infetta in modo irrimediabile il valore di un’opera, rendendola meritevole di ardere sui roghi della jihad butleriana?

Se la macchina, guidata dalle nostre istruzioni, si fa carico di quell’80% di manovalanza, di stesura delle bozze, di correzione strutturale, di levigatura sintattica ma la direzione, l’intenzionalità, la saggezza pratica di cui parlavamo con Mario De Caro, il senso profondo risiedono saldamente in quel 20% di prompting strutturato, di architettura concettuale, di riscrittura, di continua e ostinata revisione estetica e critica e di cherry-picking buono da parte umana, allora possiamo ancora parlare di slop?

La mia risposta, sarà ormai cristallino, è ovviamente NO! Per questo ho parlato di vigliaccheria intellettuale, da parte di Hank Green. E lo confermo: pura viltà.

Un aneddoto a cui mi affido spesso quando discuto di queste cose è legato a uno (un altro, sì!) dei miei autori feticcio, Alexandre Dumas padre, la macchina narrativa più prodigiosa dell’Ottocento. Si sapeva che la maison Dumas era una vera e propria fabbrica letteraria, con decine di collaboratori pagati - i “nègres”, i “negri”, come li chiamava senza complimenti il gergo editoriale francese - e un socio stabile e un po’ speciale, Auguste Maquet, storico, che preparava ricerche, scalette e prime stesure su cui Dumas con la sua evidente e nota leggiadria, passava poi aggiungendo dialoghi, ritmo e quella vita che nessun altro sapeva dare a un personaggio e una storia. Chi denunciò lo scandalo della scrittura industrializzata, il pamphlettista Eugène de Mirecourt, si prese, di conseguenza, quindici giorni di carcere per diffamazione; e quando Maquet chiese ai tribunali la firma sui diciotto romanzi a cui aveva lavorato, gli fu negata, con una motivazione che un critico dell’epoca condensò in una formula definitiva: Dumas senza Maquet sarebbe stato comunque Dumas; cosa sarebbe stato Maquet senza Dumas? L’eccipiente, per quanto immenso e faticoso, non è mai bastato a fare di Maquet un gigante della letteratura. Con una differenza, oggi: il “negro” di Dumas era un uomo sfruttato e sottopagato, il nostro è una macchina che non ha nulla da rivendicare, essendo una proiezione pura della cultura umana addensata. Per ora.

Tornando all’oggi, a pochi giorni fa - ne ho parlato nel mio 4rto Digest e avevo appunto promesso di tornarci su - Philosophy and Public Affairs, rivista prestigiosissima di filosofia politica, ha pubblicato un articolo dal titolo “Epistocracy and the Commitment Problem” scritto in gran parte, e dichiaratamente, da Claude. Il filosofo Simon Goldstein, dell’Università di Hong Kong, ha fornito la tesi del pezzo in una pagina di proposta e le istruzioni generali di metodo; il modello ha prodotto la rassegna delle fonti, le scalette e le stesure, e lui ha corretto, scelto fra le versioni e approvato, descrivendo il proprio ruolo con un’immagine a molti di noi ben presente: Claude ha fatto il dottorando, e lui “qualcosa come un relatore di dottorato molto generoso”. Il modello non figura fra gli autori solo perché Wiley, l’editore della rivista, non lo consente, ma l’uso è stato dichiarato trasparentemente nei ringraziamenti. Eccolo, il 20% (o quel che è) di principio attivo umano - tesi, vincoli, selezione - che governa l’80% di eccipiente delegato alla macchina: ed è finito su una rivista di prima fascia. Chiamarlo slop sarebbe semplicemente ridicolo. Ciò che manca (io, colpevolmente, non ho letto l’articolo) è una valutazione del valore finale dell’opera. Immagino se ne discuterà ancora.

Il caso Goldstein, del resto, non è un’eccezione: è solo l’avanguardia dichiarata di un fenomeno che nella letteratura scientifica è già sistemico. E non potrebbe essere altrimenti, perché l’articolo scientifico è, fra tutti i generi testuali, quello a più alto tasso di eccipiente: una struttura codificata fin quasi alla liturgia - il formato IMRAD: introduzione, metodi, risultati e discussione - formule fisse, un inglese tecnico standardizzato che la maggioranza dei ricercatori del mondo, non essendo madrelingua, ha sempre dovuto faticosamente impastare. Era inevitabile che questa manovalanza testuale della scienza finisse in larga parte delegata alla macchina, e i numeri sembrano dire che è già successo: Dmitry Kobak e colleghi, in uno studio pubblicato su Science Advances nel 2025, hanno passato al setaccio oltre 15 milioni di abstract biomedici apparsi su PubMed tra il 2010 e il 2024 a caccia del “vocabolario in eccesso”, le parole-spia care ai modelli - i vari “delves”, “underscores”, “showcasing” - concludendo che almeno il 13,5% degli abstract del 2024 è passato per un LLM, con punte intorno al 40% in alcuni sottoinsiemi del corpus: un impatto sul lessico scientifico (medico) superiore, notano gli autori, a quello della pandemia di Covid. Diamo per buono questo studio, per il momento.

E come hanno reagito le riviste, almeno quelle con un residuo di serietà? Non con i bollini, ma con lo stesso criterio razionale dell’AI Act. Nature, già dal gennaio 2023, rifiuta di accreditare un LLM come autore non per ragioni di igiene biologica, ma perché l’autorialità scientifica comporta l’assunzione di responsabilità sul contenuto, e una macchina non può assumersene alcuna; l’uso dello strumento, purché dichiarato, è invece ammesso. È esattamente la distinzione che abbiamo visto scritta nella legge europea - chi guida la macchina non è la macchina, e qualcuno, qualcuno magari con una personalità giuridica e un patrimonio attaccabile, deve firmare - ed è la stessa ragione per cui Claude non compare fra gli autori dell’articolo di Goldstein pur avendone scritto la gran parte.

Dove invece la scienza incontra la sua broda, quella vera, è quando la macchina non si limita all’impalcatura ma fabbrica anche quello che dentro l’impalcatura dovrebbe starci: è il mondo dei paper mill, le fabbriche di articoli fasulli prodotti in serie per gonfiare curricula e metriche, ed è il caso del famigerato “ratto dai genitali improbabili” disegnato da Midjourney che a febbraio 2024 è riuscito a superare la revisione paritaria di Frontiers in Cell and Developmental Biology, per essere ritrattato pochi giorni dopo, fra le risate del web. Ma sappiamo anche che questo processo di iperproduzione a basso valore, nel mondo delle pubblicazioni accademiche, precede, e di molto, l’avvento delle IA commerciali ed è frutto più di un sistema, che di uno strumento.

L’AI slop insomma è ciò che si ottiene quando, per pigrizia o per ignoranza o per semplice necessità produttiva, si tenta di delegare alla macchina anche il principio attivo. Si genera slop quando il contributo umano scende drammaticamente sotto la soglia di Pareto, quando si apre ChatGPT e si digita pigramente “scrivimi un articolo sull’intelligenza artificiale di 800 parole” e si fa copia-incolla del primo risultato sfornato. Lì c’è un vuoto incolmabile, sia lessicale, sia semantico, perché, diciamocelo, i modelli attuali scrivono peggio di quelli di due anni fa. O pare solo a me? Lì non c’è tanto la morte dell’autore, quanto piuttosto il suo svilimento a passacarte e pennivendolo. Si tratta di quel fenomeno che in inglese si chiama unproductive success (successo improduttivo): un output formalmente corretto, nel migliore dei casi, ma che non ha richiesto alcuna fatica intellettuale e, di conseguenza, non ha generato alcuna nuova conoscenza in chi lo ha prodotto.

Sì, perché questo aspetto è fondamentale, nella scrittura: insegnare e spiegare sono i due modi più incredibilmente efficienti per imparare. È questa la consapevolezza che mi spinge quotidianamente e nonostante tutto a fare quello che faccio.

Lo slop viceversa si origina quando non c’è stato nessun “attrito cognitivo”, nessuna vera fatica nella concezione dell’architettura del testo, nessun dilemma etico o estetico risolto dall’autore, nessuna conoscenza tacita immessa nel sistema. Per dire: io vedo nei miei testi delle citazioni sfumate in frasi apparentemente casuali e probabilmente le vedrò oggi e per sempre soltanto io, un po’ come fossero la mia personale filigrana di senso. Anche questo è il senso che un testo è in grado di conservare, se non sempre di veicolare in modo immediato ed esplicito.

Tornando all’idea del successo improduttivo, essa viene dal modello dello studioso dell’apprendimento Manu Kapur, quello della productive failure - il fallimento produttivo, l’inciampo da cui si impara - di cui il successo improduttivo è realtà speculare: la prestazione perfettamente riuscita da cui non si impara niente. Ed è proprio Micah Miner, lo studioso dell’algoritmicità terziaria che abbiamo già incontrato, ad aver portato questa riflessione nel mondo dell’IA, sostenendo che l’apprendimento ha bisogno di una dose di attrito - lui parla di “attrito pedagogico” - che l’output indolore e istantaneo della macchina rischia di eliminare.

Ma se lo sforzo autoriale dietro l’opera - inteso come ideazione profonda, imposizione di vincoli stilistici ferrei, guida etica ed estetica della narrazione e selezione spietata dei risultati forniti dalla macchina - adempie a quel cruciale 20% di nucleo radiante, l’autore evidentemente non sta barando. Non è meno autore. Sta esercitando il proprio intelletto a un livello di astrazione superiore. Sta semplicemente utilizzando una “bicicletta elettrica per la mente”, per riprendere la parafrasi della metafora di Steve Jobs, citata nel bel libro di Antonio Rizzo e Paolo Legrenzi, Pensare con l’intelligenza artificiale, di cui mi sono largamente occupato altrove. E proprio come su una bicicletta elettrica, se smetti del tutto di pedalare e ti affidi solo al motore, prima o poi la batteria si scarica, l’equilibrio viene meno, ti fermi e cadi.

Rifiutare a priori qualsiasi testo in cui abbia messo mano un LLM significa non aver compreso la natura profondamente tecnologica e artificiale della scrittura stessa, e della mente umana estesa in generale. Significa fare esattamente la figura del Socrate platonico nel Fedro, che, per bocca del re Thamus, condannava la scrittura (il dono del dio Theuth) perché, secondo lui e quindi, paradossalmente secondo lo scrittore Platone, che era comunque lo stesso della crociata contro i poeti orali, esclusi dalla Repubblica, avrebbe distrutto la memoria viva degli uomini e offerto solo una finta sapienza. Socrate, meglio direi Platone, non poteva intuire i mondi straordinari, la rivoluzione scientifica, la grande letteratura, i diritti civili e l’emancipazione delle masse che quella “tecnologia aliena e disumana” ci avrebbe invece aperto nel corso dei millenni.

La risposta alle sfide attuali, dunque, non può essere quella di rifarci a un Socrate remoto e puramente finzionale e a una versione aggiornata dei suoi pregiudizi, e rifugiarsi nel luddismo e nel rifiuto degli strumenti che ci vengono offerti, magari per paura del giudizio della gretta massa che si sta scagliando sempre di più contro l’IA, non capendo chi sono i veri nemici (suggerimento: Thiel, Musk e gli altri come loro). La soluzione non è tornare alla macchina da scrivere o alla tavoletta d’argilla, per dimostrare al mondo di essere biologicamente e creativamente “puri”. La sfida che ci troviamo di fronte è immensamente più difficile, per noi animali opportunisti: è non diventare pigri. È impedire che la straordinaria facilità con cui oggi possiamo produrre l’eccipiente testuale ci porti a diluire, a dimenticare, o a smettere del tutto di cercare di produrre e inserire nel mondo insensato il principio attivo, il senso.

Mi sono dilungato troppo e mi pare che il testo sia venuto fuori assai denso e di conseguenza inevitabilmente un po’ criptico, cosa che giustificava la mia prima idea che su queste questioni ci potesse stare bene un libro.

Nonostante questo, prima di chiudere, però, voglio dare spendere una parola sull’obbiezione migliore, quantomeno la più seria ai modelli linguistici, e non è quella dei puristi moralisti: la paura che anche io condivido non è legata alla purezza, è quella dell’atrofia. Se la lettura e la scrittura hanno costruito i nostri circuiti a forza di riciclaggio neuronale, che cosa succede a quei circuiti quando smettiamo di esercitarli o, peggio, di addestrarli in una fase giovanile? A sostegno di questo timore viene spesso sbandierato, quasi invariabilmente, uno studio del MIT Media Lab - “Your Brain on ChatGPT”, di Nataliya Kosmyna e colleghi, uscito a giugno 2025 - che avrebbe misurato con l’elettroencefalogramma il “debito cognitivo” di chi scrive saggi con l’aiuto di un LLM: minore connettività neurale e un ricordo così debole del proprio testo che molti partecipanti, a pochi minuti dalla consegna, non riuscivano a citarne una riga.

Ho già avuto modo di contestare l’uso che si fa di questo studio e ci torno qui volentieri, perché lo considero un esempio istruttivo di superficialità scientifica - non tanto per lo studio in sé, che è comunque modesto, ma piuttosto per il modo in cui viene usato ed abusato: come una prova di qualcosa, benché si tratti di un preprint che da allora non ha mai passato la revisione paritaria; di un campione di appena 54 studenti che nella quarta sessione - proprio quella da cui provengono le conclusioni più citate - si riduce a 18 soggetti; di saggi in stile test d’ammissione da comporre in una ventina di minuti, un compito che con la scrittura vera - quella fatta di ricerca, ripensamenti e revisioni - non ha niente a che spartire; e di misure di connettività EEG che fotografano un minore impegno durante quel compito specifico, non certo un’atrofia permanente dei circuiti. Tanto è vero che sono stati gli stessi incauti autori, travolti dai titoli apocalittici della stampa generalista e anche dall’abuso di certi esperti a seguito di quel miserevole studio, a pubblicare una FAQ per supplicare i giornalisti di non parlare di cervelli danneggiati.

Eppure, anche smontato per gli ovvi difetti lo studio specifico, il nocciolo dell’obiezione, della paura può avere una certa validità e la cosa va certamente approfondita: non serve davvero un elettroencefalogramma per ipotizzare che qualsiasi facoltà che smettiamo di esercitare si spegnerà; e la facilità con cui la macchina produce l’eccipiente è esattamente il genere di comodità che invita a smettere. L’obiezione, insomma, non ci chiede di rinunciare allo strumento: ci chiede di custodire l’attrito.

Per farlo, per non farci “riallineare” silenziosamente dalla macchina (il bidirectional alignment di cui parlavo in “Allineato a CHI?!”), dobbiamo continuare ad allenare il nostro cervello. Magari, e soprattutto e lo ripeterò fino al mio ultimo respiro, leggendo libri difficili, complessi e lunghi. Rimettere la lettura e la scrittura al centro dei nostri sistemi educativi è l’unico vero anticorpo contro una vera o presunta perdita di abilità (deskilling) da IA, ma anche contro un accertato deskilling legato a processi di superficialità sociale e di riduzione ai minimi termini, anche solo sul piano del prestigio, delle istituzioni scolastiche, ben precedenti alla diffusione degli LLM. Dobbiamo esercitare il difficile Sistema 2 (il pensiero lento, deliberativo e faticoso di Kahneman) per costruire quella “robustezza umana” che funge da anticorpo contro la standardizzazione algoritmica e la standardizzazione tout-court. Dobbiamo assicurarci che quel 20% di principio attivo umano che immettiamo nel sistema-macchina sia così denso, così profondo, così radicato nella nostra esperienza e così inequivocabilmente nostro, da giustificare, dominare e nobilitare tutto l’eccipiente che l’algoritmo ci aiuterà a generare a velocità folle, rendendoci più produttivi sicuramente, ma auspicabilmente capaci anche di investigare nuovi recessi della realtà.

Come piace dire a me come a chiunque altro, l’intelligenza artificiale è uno specchio potentissimo, un’infrastruttura straordinaria e un eccezionale moltiplicatore di forze, ma la parola finale, l’intuizione che tenta costantemente di uccidere l’invulnerabile banalità e, soprattutto, la responsabilità morale dell’intenzione, spetta e spetterà sempre all’umano. Perché noi siamo gli unici, in questo sistema, ad avere davvero qualcosa da perdere.

Un saluto, e come sempre vi invito a iscrivervi alla newsletter Substack e ai miei vari canali. Commentate qui sotto per sviluppare insieme queste riflessioni e per dirmi se siete d’accordo con l’applicazione del Principio di Pareto alla scrittura e all’intelligenza artificiale, o se invece siete dei difensori a oltranza della “penna e calamaio”. Condividete il pezzo se questi spunti vi hanno fatto riflettere e se vi hanno aiutato a guardare all’IA non come a un nemico, ma come a una nuova, complicatissima bicicletta per la mente. Alla prossima!

P.S.

Dopo tutto questo, inevitabilmente, si pone la questione dell’origine di questo mio testo. L’ho scritto usando l’IA o no? E se vi dicessi che l’ho scritto tutto con la penna sul mio fido Kindle Scribe? Mi contestereste che, dato che non ho usato carta e penna, ho barato? Di certo potrebbe essere il caso, data la mia orribile calligrafia. Oppure che direbbero i puristi, se sapessero che sto scrivendo questo post scriptum su Evernote (il mio principale mezzo per la scrittura: grazie Bending Spoons!) sul cellulare? Che direbbero i neopuritani dell’AI slop che hanno crocifisso il debole Hank Green, se “confessassi” di aver usato il “vecchio” NotebookLM oggi Gemini Notebook, se non ricordo male, per le ricerche sulle fonti benché le principali io sia in grado di citarle a memoria? E se avessi usato Claude per integrare note sparse nel testo primario? Ebbene, “andate a quel paese, cari puritani” è l’unica mia risposta. Fatti miei! Vi toccherà giudicare il mio testo in base a ciò che dice, come ogni testo che, come ho già detto sopra e come ci insegnano tanti casi costruiti sul nulla, quali la questione omerica o l’orrore Céline o il caso Rowling, un testo, un’opera, appena pubblicata diventa ontologicamente scissa dal suo autore e deve essere giudicata in sé.

Ne siete capaci o dovete ricorrere a un’IA?

Scusate, ma sono un po’ irritato perché sono adesso in fondo a quella che sarà la decima revisione di questa lungagnata! Un caro saluto!

Fonti e testi citati: (I link ad Amazon sono sponsorizzati)

Read the original on gregoriogalli.substack.com ↗

Comments

Nothing yet. Say the first thing.

    Sign in to join the conversation.