🤖 Tutta la verità (sull'addestramento delle IA) - Legge Zero #129

Alla libreria Fènix di Badalona, periferia di Barcellona, gli ordini strani sono cominciati in primavera. Fènix è una libreria particolare, specializzata nella compravendita di libri antichi, rari o fuori catalogo.

Il primo ordine anomalo è stato quello di quattro libri per un importo di 35 euro, con 67 euro di spese di spedizione (quasi il doppio del prezzo dei libri). Il compratore era un rivenditore canadese, la logistica americana, mentre il destinatario finale era ignoto. Da aprile, poi, le vendite di questo tipo sono diventate diverse centinaia a settimana: titoli ormai fuori catalogo, libri mai digitalizzati, storie locali, manuali tecnici, ricettari regionali. Tutti testi che nessuno cercava da anni e che ora qualcuno voleva tutti, subito, a qualunque costo di spedizione.

Quel qualcuno, però, non compra per leggere né per rivendere, magari a prezzo maggiorato. Tutti gli indizi portano ai laboratori di intelligenza artificiale che usano questi libri per addestrare i loro modelli linguistici.

E non si tratta di un caso isolato. La scorsa settimana, 404 Media ha rivelato che ISBNdb - il più grande database bibliografico del mondo, 111 milioni di titoli - ha aperto un servizio su misura per i laboratori di intelligenza artificiale: ordini da mille a un milione di volumi, con accordo di riservatezza su ogni commessa (“l’identità del cliente non viene mai divulgata”). Lo slogan è un piccolo capolavoro di marketing: “The world’s best AI training data is sitting on a shelf” (ovvero, “i migliori dati di addestramento del mondo sono fermi su uno scaffale”). Nel mucchio, denuncia Futurism, finiscono anche edizioni rare, volumi di cui sopravvivono poche copie. Vengono comprati, scansionati a dorso tagliato, mandati al macero (poi capiremo perché). I librai antiquari, dal canto loro, protestano: i laboratori di IA hanno budget che nessuna biblioteca o collezionista può pareggiare.

In verità, non si tratta di un fenomeno nuovo. È solo che ha smesso di essere un segreto. Già a gennaio il Washington Post aveva raccontato i documenti interni di “Project Panama”, l’operazione con cui Anthropic - dopo aver assunto nel 2024 Tom Turvey, l’uomo che aveva costruito le partnership di Google Books - si era data un obiettivo che non lascia spazio a interpretazioni: scansionare e poi distruggere tutti i libri del mondo. Macchina di taglio idraulica, scanner di livello industriale, un fornitore che prometteva di acquisire due milioni di volumi in sei mesi. Nei documenti interni c’era la consapevolezza che l’opinione pubblica sarebbe rimasta probabilmente “disgustata”.

Il progetto, quindi, era segreto non perché l’operazione fosse illecita, ma perché i dirigenti di Anthropic pensavano che sarebbe apparsa inaccettabile agli occhi del mondo.

Arrivati a questo punto, probabilmente, vi starete chiedendo: perché comprare libri (antichi)? E perché poi distruggerli?

I provider IA comprano libri per due motivi. Il primo è che i modelli addestrati su ingenti quantità di libri funzionano notevolmente meglio di quelli che hanno imparato solo su articoli e post reperiti online. Inoltre, i libri stampati prima del 2022 sono l’ultimo giacimento certificato di testo scritto da esseri umani. Tutto ciò che è stato pubblicato online dopo ChatGPT (30 novembre 2022) è potenzialmente contaminato da testo sintetico - quello che gli addetti ai lavori chiamano AI slop - e addestrare un modello su testo generato da altri modelli può produrre un degrado delle prestazioni. Il libro usato, quindi, è preziosissimo e per questo vale la pena pagare costi di spedizione così alti.

Fin qui tutto lineare, o quasi. Ma perché distruggere i libri dopo la scansione? Purtroppo, la risposta a questa domanda passa da una questione giuridica. Nella causa Bartz v. Anthropic, il giudice Alsup ha considerato fair use sia l’addestramento, ritenuto “trasformativo”, sia - nel caso concreto - la conversione in formato digitale dei libri regolarmente acquistati. Per quest’ultimo profilo ha pesato il fatto che Anthropic avesse distrutto le copie cartacee, evitando di creare copie aggiuntive. E così il suggerimento del macero ai provider di IA lo ha dato - involontariamente - un giudice.

C’è un dettaglio che rende la vicenda distopica. Nel 2006 Vernor Vinge, in La fine dell'arcobaleno, immaginò un progetto di digitalizzazione di massa in una biblioteca universitaria: i libri infilati in macchine che tagliano le rilegature, riducono le pagine in frammenti e le fotografano a mezz'aria. Vent’anni dopo, tutto questo è realtà. E il paradosso è che mentre da un lato abbiamo costruito l'Arctic World Archive - un caveau ricavato da una miniera di carbone dismessa alle isole Svalbard, nell'Artico norvegese - dove governi, archivi nazionali, la Biblioteca Vaticana e persino GitHub depositano copie del patrimonio digitale dell'umanità su pellicole speciali progettate per durare oltre mille anni, dall'altro quella stessa conoscenza la stiamo distruggendo per addestrare i chatbot californiani.

In ogni caso, il mercato ha imparato la lezione in fretta. Tanto che - nel suo materiale promozionale, - ISBNdb la riassume con una formula che merita di essere riportata: “the receipt is the new license” (“lo scontrino è la nuova licenza”).

La causa in cui il giudice Alsup ha dato ai provider IA l’involontario suggerimento sulla distruzione dei libri è Bartz v. Anthropic, una delle tante promosse da autori ed editori contro i provider di intelligenza artificiale (solo negli Stati Uniti, il tracker del prof. Edward Lee ha superato quota centodieci cause sul diritto d'autore a cui si aggiungono almeno una trentina di altri procedimenti nel resto del mondo).

Questa causa è particolarmente importante perché è una delle prime che si è chiusa, in un modo che, probabilmente, condizionerà anche le altre. Il processo è stato avviato, nell’agosto 2024, da tre scrittori - Andrea Bartz, Charles Graeber e Kirk Wallace Johnson - e poi si è trasformato in class action con l’adesione di migliaia di altri autori.

Nel giugno 2025 il giudice Alsup aveva tracciato la distinzione che abbiamo appena visto:

• addestrare Claude su libri regolarmente acquistati è da considerare “estremamente trasformativo”, quindi legittimo ai sensi della normativa statunitense sul diritto d’autore;

• invece, addestrare il modello di IA su oltre sette milioni di volumi scaricati da biblioteche pirata come Library Genesis e Pirate Library Mirror non poteva ritenersi legittimo.

A quel punto Anthropic - per evitare una condanna per le opere illegittimamente acquisite - ha proposto agli autori una transazione da un miliardo e mezzo di dollari. L’accordo transattivo è stato approvato in via definitiva dal giudice che ne ha ratificato i numeri. Si tratta delle somme più alte mai versate in una causa sul diritto d’autore legata all’IA.

Questi i dettagli dell’accordo che ha posto fine al procedimento: 3.000 dollari a opera per circa 500.000 titoli (sono già state presentate domande relative a circa il 91% delle opere), pagamenti entro settembre 2027 e obbligo per il provider di distruggere i file piratati e ogni copia da essi derivata.

Per capire cosa significhino queste cifre, basti ricordare che Microsoft - quando ha negoziato con l’editore HarperCollins l’uso dei libri per l’addestramento - ha pagato la somma di 5.000 dollari per opera (di cui 2.500 all’autore e 2.500 all’editore). L’accordo raggiunto da Anthropic - pur non rappresentando un precedente vincolante per il futuro - non solo definisce un parametro per le altre azioni simili (come la nuova class action per l’addestramento di Gemini, promossa da editori come Hachette, Cengage ed Elsevier insieme allo scrittore Scott Turow), ma - secondo alcuni - fornisce un messaggio problematico (dal punto di vista economico, conviene farsi fare causa dagli autori piuttosto che richiedere una licenza preventiva).

Se pensate che il caso Anthropic sia l’eccezione, vi sbagliate. Sia il numero di azioni legali pendenti in giro per il mondo, sia il nuovo mercato dei libri rari ci dimostrano che, invece, è la regola. Le IA, per funzionare e competere tra loro, hanno bisogno di dati, sempre più dati. E per procurarseli si usano tutti gli strumenti disponibili, compreso lo scraping (cioè la raccolta automatica e indiscriminata di tutti i contenuti possibili pubblicati su internet).

L’ultima conferma, in ordine di tempo, è arrivata da un leak che riguarda Suno, una delle più note piattaforme di IA generativa specializzate nella musica. A metà luglio, un hacker che si firma ellie.191 ha consegnato a 404 Media il codice sorgente della piattaforma di musica generativa insieme alle informazioni che spiegano da dove viene, esattamente, la musica su cui è stato addestrato il modello di IA. I dati fanno impressione: oltre 113.000 ore di musica da YouTube Music, più di 60.000 da Pond5 e poi Deezer, Genius, Jamendo, Freesound, centinaia di migliaia di podcast raccolti via RSS. Per YouTube, il codice suggerisce l’uso di proxy commerciali per aggirare le protezioni della piattaforma e scaricare le tracce, incluse versioni a cappella isolate dagli strumentali.

Si tratta di una prova che, probabilmente, sarà utilizzata nei giudizi contro la piattaforma di IA. Dal 2024 Suno è convenuta, insieme al concorrente Udio, in una causa promossa da una delle principali associazioni delle case discografiche statunitensi. Ma, nel frattempo, le singole case discografiche stanno contrattando accordi di licenza con le piattaforme. Anche in questo caso, quindi, sembra che lo scraping - pur se probabilmente illegittimo - potrebbe restare, almeno in parte, senza conseguenze.

Forse non ci avete mai pensato, ma il web - per come lo conosciamo - è cresciuto su un patto implicito: io pubblico, motori di ricerca e piattaforme indicizzano, gli utenti - attraverso di loro - arrivano da me, io ci guadagno (in fatturato, pubblicità o visibilità).

Lo scraping è stato fin qui tollerato perché restituiva traffico. I modelli generativi, invece, hanno rotto lo scambio: assorbono il contenuto e non restituiscono nulla.

Non solo: i provider stanno costruendo sul rastrellamento indiscriminato di informazioni ingenti fortune e, secondo alcuni, si stanno accaparrando quote di mercato a danno degli operatori che invece sono maggiormente rispettosi dei limiti imposti dai titolari dei diritti sui diversi contenuti.

Una legge specifica sullo scraping, però, non esiste: né in Europa né negli USA.

L'Unione europea, per ora, ha risposto solo con delle linee guida sul web scraping adottate a luglio dal Comitato dei garanti privacy europei: ancora in consultazione, non vincolanti e limitate ai dati personali. A molti sono sembrate troppo poco, arrivate troppo tardi.

C’è però uno strano contrappasso per cui i provider IA che sono stati portati in tribunale da autori ed editori, in questi mesi, stanno contestando un analogo comportamento scorretto dei loro concorrenti (specialmente cinesi).

Anthropic, ad esempio, ha accusato DeepSeek, MiniMax e Moonshot AI di aver condotto un’operazione di distillation su scala industriale contro Claude. I concorrenti non hanno violato i server della società di Amodei. Non hanno rubato il codice sorgente né i libri usati per l’addestramento. Hanno semplicemente fatto milioni di domande al modello IA di Anthropic.

La tecnica va spiegata, perché è scaltra. Non si ruba la ricetta, si assaggia il piatto milioni di volte finché non si sa rifarlo.

Secondo Anthropic, oltre 24.000 account fraudolenti avrebbero messo in atto questa tecnica in più di 16 milioni di conversazioni. Un anno prima, OpenAI aveva mosso a DeepSeek accuse quasi identiche.

C’è anche un’aggravante seria, che sarebbe sbagliato ignorare: il modello distillato eredita le capacità dell’originale ma non i suoi guardrail (i vincoli che impediscono, per dire, di farsi aiutare a progettare una bioarma o uno strumento di sorveglianza di massa).

Anche in questo caso - proprio come per lo scraping - non esiste una legge che vieti specificamente la distillazione: né in Europa, né negli Stati Uniti.

Al momento, questo vuoto normativo è stato rimpito dai termini di servizio dei principali provider statunitensi. Le condizioni di Anthropic, ad esempio, stabiliscono che l'utente non può accedere ai servizi "per costruire un prodotto o servizio concorrente, incluso l'addestramento di modelli di IA concorrenti". Quelle di OpenAI, invece, vietano di "usare gli output per sviluppare modelli di intelligenza artificiale che competano" con i propri prodotti e servizi.

Visto che la distillazione sta diventando un tema competitivo nei confronti dei rivali cinesi, c’è già chi negli USA invoca iniziative legislative per vietare la distillazione a livello normativo.

In questo contesto non è mancato chi - come Elon Musk - che ha fatto notare la contraddittorietà dell'approccio di molti provider:

Anthropic è colpevole di furto di dati di addestramento su scala massiva e ha dovuto pagare milioni di dollari per questo furto. È un fatto.

Elon Musk@elonmusk

Anthropic is guilty of stealing training data at massive scale and has had to pay multi-billion dollar settlements for their theft. This is just a fact.

NIK @ns123abc

the community notes COOKED anthropic 😭😭

9:52 PM · Feb 23, 2026 · 24.5M Views

4.83K Replies · 12.7K Reposts · 108K Likes

Quello che dice Musk è che la distillazione non è che lo scraping allo specchio. Oggi i lab americani invocano contro i concorrenti cinesi gli stessi argomenti - diritto d’autore, violazione contrattuale, appropriazione di know-how - che autori, editori e musicisti invocano contro di loro.

Tutto ciò, probabilmente, non rende la distillazione lecita. Ma impone onestà intellettuale.

Si può costruire un impero utilizzando, senza pagarli, i contenuti di tutti e poi pretendere che nessuno faccia lo stesso con i tuoi?

La catena del valore dell’addestramento dell’IA spiegata con un meme.

Per ora è tutto, arrivederci al prossimo numero.

Se la newsletter ti è piaciuta, sostienici: metti like, commenta o fai girare!

Share