Substack, Pangram e Cyrano de Bergerac

Da qualche giorno, su Substack si parla moltissimo di Pangram, un AI detector che permette a chi scrive e a chi legge di verificare quanta IA c’è in un testo. La verifica non è del tutto attendibile ma questo è, per certi versi, un problema minore e collaterale; il punto è antropologico e non tecnico, come accade sempre quando si ragiona di tecnologie.
La domanda cioè non è se e come funzioni Pangram ma perché sentiamo il bisogno di questa verifica e cosa ci racconta di noi stessi e del nostro rapporto con il testo e la scrittura.

Josè Ferrer in Cyrano de Bergerac - Fonte

Deleghe

Ogni volta che diamo vita a un prodotto, di qualsiasi genere esso sia, mettiamo in campo quattro attività: ideazione, progettazione, realizzazione e verifica.
Possiamo seguire in prima persona oppure delegare uno o più di questi processi a qualcununo o, oggi, all’IA. Per esempio, nel caso di un testo, se abbiamo delle belle idee e una buona capacità di costruzione del progetto ma nella parte della scrittura siamo un po’ deboli, la deleghiamo. Oppure, se sappiamo scrivere benissimo ma non abbiamo voglia di farlo, scegliamo di non realizzare noi questo segmento del lavoro.
I casi possono essere molteplici: chi ha solo l’idea e delega progetto e scrittura; chi si fa ispirare ma poi si dedica personalmente al progetto, alla scrittura e alla revisione; chi realizza tutto tranne il controllo finale, e così via.
Quando leggo un testo, come posso capire se l’autore si è fatto aiutare in una delle fasi e da chi?
Semplicemente, non posso.
E non posso non solo per un motivo tecnico (anche Anthropic ha affermato che il nuovo sistema di watermark interno al testo al quale sta lavorando non potrà assicurare una AI detection affidabile al 100%).
Non posso per un motivo epistemologico: perché io, i ghostwriter e l’IA seguiamo le medesime regole logico-lingusitiche di combinazione delle parole e quindi siamo formalmente indistinguibili.

Più ghostwriting per tutti

Il tema del rapporto tra chi scrive e chi firma e pubblica però non è nato oggi. Da sempre, infatti, non conosciamo per intero la ‘filiera’ di produzione dei testi che leggiamo, perché per fortuna non passiamo il tempo a controllare passo per passo romanzieri e scrittori per essere sicuri di quanto ci abbiano messo di loro nel lavoro che poi pubblicano. Viviamo da secoli accogliendo contenuti dei quali non sappiamo se chi li ha firmati li ha anche effettivamente scritti e questo non ha quasi mai costituito per noi un problema. Oggi invece è sempre più ampio e diffuso il dibattito sulla identificabilità dei contenuti prodotti dell’IA, come testimonia l'obbligo riportato nell’articolo 50.2 del recente AI Act: “Providers of AI systems (…) shall ensure that the outputs of the AI system are marked in a machine-readable format and detectable as artificially generated or manipulated”.
Tutta questa attenzione merita una domanda che parta proprio dalla constatazione fatta prima, e cioè che in passato non ci siamo mai soffermati più di tanto su chi fosse il vero autore dei contenuti che consultavamo: perché invece oggi una tesi scritta dalla IA ci preoccupa o ci indigna di più di una delle migliaia di tesi che in passato sono state scritte da agenzie che offrono questo servizio e che in questi anni abbiamo portato alla laurea? Perché un paper scientifico scritto con l’IA e firmato da un luminare ci sembra meno autentico di quelli che da decenni firma il medesimo luminare ma che sono stati scritti, come è noto, da quella che eufemisticamente viene chiamata una ‘équipe di collaboratori’?

Probabilmente perché oggi produrre un testo credibile con l’IA è rapido, facile ed economico, cioè alla portata di tutti. Mentre cioè abbiamo da sempre tacitamente accettato la ‘scrittura per delega’ perché era o statisticamente non rilevante (pochi tesisti che facevano i furbi sul numero complessivo di quelli onesti) o legata a figure apicali (il romanziere di successo o l'uomo politico che hanno dei ghostwriter), oggi tutti scrivono tantissimo (mail, messaggi, post, articoli, romanzi autopubblicati, etc.) e tutti hanno accesso a quella tecnologia.

Non è dunque il ghostwriting che ci preoccupa (visto che lo accettiamo da sempre) ma il fatto che è a disposizione di chiunque scriva in un mondo in cui scrivono tutti? Preferivamo un sistema di delega autoriale elitario e un po' carbonaro?
Non penso che il problema sia ideologico o politico. Più semplicemente credo che quel meccanismo di delega era tollerato in passato perché quasi invisibile e limitato a pochi mentre oggi, che l’IA lo ha ‘democratizzato’, non possiamo più ignorarlo. Anche in questo caso, il progresso tecnologico è una occasione per capire meglio come siamo fatti. La domanda infatti è ora: che ce ne facciamo di questa nuova consapevolezza?

All’inizio del Cyrano de Bergerac, Cyrano, che ama segretamente la bella Rossana ma non osa dichiararsi perché si vergogna del suo enorme naso, decide di aiutare Cristiano, bello ma senza doti poetiche, scrivendo per lui lettere d’amore e prestandogli le parole migliori per corteggiare la sua amata, con pieno successo.
Per secoli, siamo stati tutti un po' troppo Rossana. Ci siamo fidati dei Cristiano e delle loro parole, soprattutto se si presentavano belli e convincenti; abbiamo accettato e letto, senza protestare, testi che probabilmente erano stati materialmente scritti (se non addirittura pensati) non da chi li aveva poi effettivamente firmati. La democratizzazione del ghostwriting sta producendo invece un movimento di sfiducia collettivo che non è di per sé negativo. Diffidare sempre un po' di ciò che leggiamo, verificarne le fonti, informarsi su chi firma un contenuto, chiedersi se è un prodotto di qualità sono domande che avremmo dovuto farci da sempre dinanzi a un testo e che oggi l’IA ci spinge finalmente a porci più spesso perché sta facendo esattamente quello per cui l'abbiamo creata: imitarci nel modo migliore possibile.

Tra una settimana parliamo di come questo sano esercizio di sfiducia sia ancora più indispensabile quando si parla di audio e video prodotti dalla IA.

🙏 Grazie per aver letto Macchine Pensanti!
❤️ Puoi lasciare un commento, condividere questo contenuto per farlo conoscere o, se non lo hai già fatto, puoi iscriverti lasciando la tua mail.

Iscriviti ora

Condividi

Lascia un commento