L'AI è entrata in editoria e nessuno sa davvero cosa fare

Un romanzo è stato ritirato dal mercato in seguito alle accuse di essere stato scritto con l’intelligenza artificiale e il mondo editoriale ha mostrato la sua migliore Pikachu-face.

Ma era solo questione di tempo prima che qualcosa del genere accadesse.

Per chi non avesse seguito la vicenda Shy Girl, ecco un quanto più possibile rapido recap: a marzo la casa editrice Hachette ha annullato la pubblicazione sul mercato USA, prevista per aprile, del romanzo horror Shy Girl di Mia Ballard, insieme al ritiro delle copie già in circolazione sul mercato UK (dove era già uscito nell’autunno del 2025), dopo che online hanno iniziato a circolare insistenti voci che fosse stato scritto con l’AI. Il romanzo, uscito inizialmente in self, era stato acquisito da Hachette tramite accordo diretto con l’autrice alcuni mesi prima, in seguito al successo riscontrato (non ti sbagli) su TikTok.

Le accuse di una scrittura che “suona come AI” sono cominciate in recensioni su Goodreads e Reddit, e culminate in un video YouTube da oltre un milione di views dal titolo “i’m pretty sure this is ai slop”, che per quasi tre ore sviscera la scrittura del romanzo per evidenziare ciò che potrebbe smascherarlo come AI. Online la polemica è andata avanti per mesi, ma la goccia sul fatidico vaso è stata un articolo del New York Times che ha rilanciato le accuse portando a sostegno il responso di un software di rilevamento AI (verdetto: 70% AI). Mia Ballard ha ammesso, in un commento al video e in una risposta al NYT, la possibilità che la persona che si è occupata dell’editing prima dell’autopubblicazione possa aver utilizzato l’AI. Nel giro di 24 ore, Hachette l’ha gettata sotto al bus.

La vicenda mi ha appassionato, sia per le reazioni sollevate, sia per tutta la scia di zone grigie che scoperchia e si trascina dietro.

La questione della responsabilità di Hachette, tanto per cominciare. La casa editrice è stata molto rapida a disfarsi dell’autrice, ma non altrettanto a rispondere a importanti quesiti sul suo ruolo nell’acquisizione e revisione del testo. Le chiacchiere sul romanzo, infatti, andavano già avanti da mesi. Come è possibile che nessuno in casa editrice ne fosse a conoscenza, visto che sono stati loro a entrare in contatto con l’autrice sulla spinta del buzz sui social che si era venuto a creare? E poi: chi ha letto il testo, chi lo ha approvato? È stato revisionato prima di essere immesso sul mercato? Nessuna di queste domande sembra avere una risposta chiara.

Soprattutto, però, ho trovato interessante il modo in cui sono montate le accuse. A differenza di casi in cui l’uso di AI generativa è stato reso palese dalla presenza di pezzi plagiati o di premurosi prompt dimenticati (vuoi che ti aiuti a rendere questo passaggio più efficace?), le critiche nei confronti di Mia Ballard sono nate soltanto sulla base di… vibes. È una scrittura brutta. È una scrittura che sa di AI. Si vede dai pattern e la sintassi e gli aggettivi.

Lo stesso video sopracitato lo ammette: nonostante il dettagliato tentativo di identificarne le spie, è molto difficile individuare esattamente cosa suscita quella sensazione di una scrittura “vuota” tipica delle AI generative, e certi segnali possono tranquillamente sovrapporsi con ciò che semplicemente è acerbo, scritto male, fuori centro sia per tematiche che per consapevolezza stilistica. Di una scrittura bruttina, spesso inutilmente vuota, ripetitiva e con una buona dosa di cringe, penso che, soprattutto alle prime armi, siamo statə colpevoli un po’ tuttə.

Anche il passaggio attraverso un AI detector dell’articolista del New York Times1 non è detto che sia una gran prova. È risaputo che simili software sono fallaci e inaffidabili. Io, per esempio, ho fatto alcuni test con una mia vecchia (ed effettivamente molto cringina) fanfiction del 2013 e i risultati variano da un ottimista “85% umano” (e l’altro 15%?…) a un “68% AI”, due soli punti percentuali sotto al responso ottenuto da Shy Girl.

La personalissima idea che mi sono fatta, per quel che può valere, è che magari Ballard un po’ di AI per il suo romanzo davvero l’ha usata, ed è stata poi maldestra nel rispondere alla situazione - il fatto che la copertina autopubblicata usasse un’immagine protetta da copyright copia-incollata da Pinterest non ha aiutato, e dimostra come minimo una certa sprovvedutezza di fondo su certe questioni. Le sue dichiarazioni sull’editing hanno poi triggerato la clausola standard nei contratti editoriali secondo la quale un autorə si assume l’intera responsabilità del testo che consegna, dando così a Hachette l’occasione per lavarsene le mani.

Il punto però non è se l’autrice abbia davvero scritto e/o editato il romanzo con l’AI: il punto è che, da fuori, non siamo davvero in grado di stabilirlo. La sola sensazione della “mancanza di un’anima”, di cui io stessa in passato ho parlato, basta a farci distinguere ciò che è umano da ciò che è AI?

Il nulla che ci restituiscono le IA

·

November 22, 2024

Ciao da un novembre grigino, spruzzato di pioggia (e un po’ di neve) e disseminato di foglie gialle… come è giusto che novembre sia. È un novembre che invita a rallentare, raggomitolarsi e premere pausa dove si può, ed è quello che sto facendo anch’io: ho staccato molto dai social, mi sono concessa la gentilezza di ammettere che voler fare tutto e tutto…

Sul suo sito, lo scrittore Mark Lawrence ha condotto un interessante esperimento: ha pubblicato 8 flash fiction, 4 scritte da autorə bestseller e 4 scritte dall’AI, invitando a votare quali fossero umane e quali no e indicare per ognuna il proprio gradimento. È un esperimento che vi invito a tentare. Per me è stato un bagno di umiltà: ne ho azzeccate due e ho sbagliato tutte le altre. A giudicare dai risultati, gran parte di chi ha fatto il test non se l’è cavata tanto meglio.

Tranne che in casi davvero eclatanti, non abbiamo i mezzi per dire con assoluta certezza cosa sia AI e cosa no e, forse, neanche il senso critico. Non ce li ha il pubblico e, come Shy Girl dimostra, non ce li hanno nemmeno i professionisti dell’editoria. Questa è la (deprimente) realtà con cui fare i conti.

C'è anche un altro aspetto da non ignorare e che ho la sensazione diventerà sempre più pressante: cosa determina la classificazione di un romanzo come “scritto con l’AI” o “assistito dall’AI”? Se su un testo o un’immagine generati da un prompt in stile “chat, scrivimi di Pinco e Pallo” penso che siamo tutti d’accordo, la situazione è invece molto più confusa quando si tratta degli altri usi accessori.

Mentre scrivevo questo post ho lanciato un sondaggino informale su Instagram per saggiare la questione. Come sospettavo, le risposte (poco più di un centinaio) sono state varie e discordi.

Le domande che ho posto erano volutamente ambigue2. Cosa distingue rifinire una brutta bozza da un editing? Organizzare le idee dal fare brainstorm, e il fare brainstorm da fare ricerche? Correggere grammatica e sintassi non è quello che i correttori automatici già fanno da decenni? Considerando quanto è complesso e diversificato il processo creativo, dove tracciamo le linee e soprattutto chi le decide?

Editare un testo con l’AI è ciò che avrebbe (presumibilmente) condannato Shy Girl alla damnatio memoriae, eppure, solo qualche mese fa, io stessa ho sentito uno stimato professionista del mondo editoriale dire candidamente che, sì, l’editing umano è sempre la scelta migliore, però in assenza di risorse o alternative magari l’AI può aiutare. Oppure, pensiamo alla questione etica che si pone se professionisti editoriali usano l’AI sui manoscritti, per vagliarli o editarli, senza il consenso dell’autorə, o quando all’autorə non viene data scelta riguardo a una copertina generata con l’AI.

Non solo è chiaro che, davanti al patchwork di zone grigie introdotto dall’AI, nessuno ha le risposte, ma ancora peggiore è la sensazione che l’attuale mondo editoriale sia completamente impreparato a prendere posizione e navigare queste ambiguità.

E come potrebbe? È un settore schiacciato da continue riduzioni degli investimenti e del capitale umano, che continua a cercare scorciatoie e scappatoie, che sottopaga lə suə lavoratorə, che chiede sempre di più e in sempre meno tempo, che svaluta l’abilità artigiana di lavoro sui testi, che pesca roba da qualsiasi angolo di internet e la ributta sul mercato con un fiocchetto appiccicato sopra, che sotto sotto la AI la occhieggia goloso, che da un lato toglie lavoro ad autorə, articolistə, traduttorə e illustratorə perché tanto lo può fare la AI e dall’altro si imbarazza quando l’AI a usarla sono loro.

E lo so, l’editoria è un’industria e deve campare, rispondere alle logiche di mercato e tutto. Ma, a differenza di altri settori, si trova - così come l’industria musicale o quella dei videogiochi, quella del cinema e della serialità - nella peculiare condizione di essere un’industria che non è chiamata solo a creare “prodotti”, ma anche qualcosa di altro, che si tratti di pensiero, intrattenimento, senso critico e tutta la complessa rete di intersezioni che costruiscono e alimentano ciò che chiamiamo capitale culturale. Produrre un libro o un film non è come produrre uno spazzolino da denti. È un’industria il cui valore intrinseco sta nel capitale umano. Non solo la creatività, ma le capacità di lavorare un testo, selezionarlo, farne emergere il significato. Se questo capitale non lo protegge, è un’industria destinata a perdere.

Per questo l’AI la lascia così vulnerabile, mette le sue attuali contraddizioni così a nudo. E se l’editoria crede che l’AI sia qui per aiutarla a risollevare le proprie sorti, la aspetta un brutale risveglio.

Ma, e questo è ciò che sembriamo scordare, l’AI e gli usi che ne facciamo non sono una calamità inevitabile, alla quale arrendersi o perire.

Ursula Le Guin lo diceva già più di dieci anni fa: “I libri non sono solo merci. Le motivazioni del profitto sono spesso in conflitto con gli scopi dell’arte. Viviamo nel capitalismo, il suo potere sembra ineluttabile, ma lo sembrava anche il diritto divino dei re. Qualsiasi potere umano può essere sfidato e cambiato da altri esseri umani. La resistenza e il cambiamento spesso cominciano con l’arte, e ancora più spesso con la nostra arte, l’arte delle parole3.”

• 91 Percent Human: The Shy Girl Scandal: post interessante che mette in luce varie ipocrisie attorno al caso Shy Girl

• AI companies will fail. We can salvage something from the wreckage: una delle analisi più lucide sulle ripercussioni e le domande davanti alle quali ci mette l’AI, ma da Cory Doctorow non mi aspettavo niente di meno

📚 Prima di andare 📚

Questo spazio sarà sempre gratuito, ma se vuoi supportami puoi:

• Comprare e leggere i miei libri, e lasciare una recensione sincera

• Seguirmi anche su Instagram

• Iscriverti alla newsletter che stai leggendo, se già non l’hai fatto

Grazie di essere qui, di dedicare un po’ del tuo tempo a leggere i miei pensieri. Se ti va di lasciare un cuoricino, lo apprezzo. Se vuoi commentare il tema del giorno o scambiare due chiacchiere, mi fa sempre piacere.

-Vale