Digest n°4 - La macchina scrive, la macchina corregge

Carissimi, questa settimana la macchina sembra aver voluto cambiare di posto nel processo scientifico. Avevamo già parlato in uno short della cosa nel video “IA nella Ricerca Scientifica: La Dura Verità!”. Ora però siamo spinti a doverci nuovamente interrogare sulla questione del rapporto tra autorialità e IA, anche nell’ambito delle pubblicazioni scientifiche. Un’importante rivista di filosofia politica ha appena pubblicato un articolo scritto in gran parte da un modello linguistico, sapendolo e dichiarandolo. E nel frattempo altri modelli sono stati messi a fare i revisori, e hanno trovato errori che erano rimasti nei manuali da settantacinque anni a questa parte. Autore e revisore, lo stesso attrezzo, messo a competere con se stesso, ma lo studio di cui avevamo appunto parlato nel video non ci rende particolarmente entusiasti di questa prospettiva. In mezzo, un obbligo europeo che chiede alle macchine di firmarsi, anche se pare sia stato fortemente male interpretato prima tra tutti dall’accondiscendente Anthropic. Partiamo dalle notizie, poi vi dico qualcosa del prossimo programma.

• Autore e revisore, la stessa macchina: Philosophy and Public Affairs ha pubblicato un articolo scritto da Claude, dal titolo “Epistocracy and the Commitment Problem”. Simon Goldstein, dell’Università di Hong Kong, ha fornito la tesi del pezzo in un paragrafo e istruzioni generali su come si scrive un paper; il modello ha fatto la rassegna delle fonti, le scalette e le stesure, lui ha corretto, scelto fra le implementazioni e approvato. La sua immagine è precisa: ha lavorato con Claude “come un supervisore pesante lavora con un dottorando”. Il modello non figura come autore solo perché Wiley, l’editore della rivista, non lo consente, ma l’uso del modello è stato dichiarato nei ringraziamenti, in fondo. Il direttore Jason Brennan risponde che la rivista non ha una policy, chiama la cosa un esperimento, e dice che non vuole risolvere per decreto un disaccordo vero fra studiosi. È una posizione comprensibile, ed è insieme la fotografia di un settore che sta scrivendo le regole mentre gioca. Fonte: Daily Nous, 13 agosto

• E intanto altre macchine fanno i revisori, e trovano errori vecchi di decenni. Un chimico teorico ha fatto girare un modello su previsioni di routine dei punti di ebollizione, ha visto che dissentiva da un’opera di riferimento, ed è venuto fuori che ad avere torto era il manuale, da tre quarti di secolo. Poi c’è la misura che pesa di più. I ricercatori di SAI Labs hanno messo degli agenti a controllare 168 lavori accettati per la presentazione orale a ICML 2026, la principale conferenza di apprendimento automatico: solo 34 lavori su 92 hanno superato la prova, cioè hanno visto riprodotte più di due delle cinque affermazioni controllate. Gli autori stessi mettono un limite al metodo, e ha senso: queste macchine sbagliano, e servono sugli errori oggettivi - conti, unità, riferimenti - non per giudicare se un risultato è interessante. Il conto sui 92 lavori resta lì. Fonte: Nature, 10 agosto

• Anthropic metterà una filigrana invisibile nei testi di Claude. Come spesso accade Anthropic è più realista del Re: dal 2 agosto l’AI Act impone a chi serve il mercato europeo di marcare i contenuti generati, e l’azienda ha firmato a luglio il codice di trasparenza dell’Unione insieme a un centinaio e mezzo di altre organizzazioni. La tecnica è una versione di SynthID-Text, che Google DeepMind ha pubblicato su Nature nel 2024. I ricercatori interpellati restano cauti, e conviene tenere a mente il perché ogni volta che qualcuno vi mostrerà un “verificatore di IA”: la filigrana trovata dice qualcosa, la filigrana non trovata non dice niente, perché sparisce con la parafrasi, la traduzione o una riscrittura robusta, e nei modelli più vecchi non c’è. Serve a chi vuole applicare una regola, non a chi vuole smascherare qualcuno. Ma la cosa è molto più complicata di così, anche perché la nosrma europea non impone affatto un’applicazione orizzontale di questi metodi di “riconoscibilità”, ma solo per l’uso automatizzato. Per di più, la “filigrana”, che si basa su pattern di utilizzo delle parole, non è chiaro quanto possa “resistere a una revisione” Fonte: Nature, 11 agosto

• Hank Green si è fermato. E, proprio in questo contesto, il buon Hank Green sembra essere caduto in una troppola. Quattro parole in un suo video - “I appreciate the pushback” - hanno convinto il pubblico che il copione glielo avesse scritto un chatbot. Il pubblico si sbagliava, lui dice: quella frase era sua, improvvisata rivolgendosi all’ospite. Solo che poi lui ha risposto, e ha raccontato dell’altro. Usava ChatGPT per documentarsi, ci si era appoggiato sempre di più, e adesso definisce quel rapporto malsano e tira in ballo la dopamina; mi pare che Hank sia caduto nella trappola non di usare la IA, cosa ovvia, ma di andar dietro a tutti gli sciocchi e gli invidiosi che gli si sono scagliati contro. Adesso lui si è preso una pausa dal canale personale e ha pubblicato una regola in tre righe: l’intelligenza artificiale non gli farà da fonte, non gli scriverà i copioni, non gli scriverà le tesi. Non mi aspettavo che Green potesse rivelarsi taanto pavido. Ne riparleremo a breve in modo molto più esteso, perché il rapporto tra autorialità e IA è un tema fondamentale, che mi interessa molto. Fonte: Scientific American, 8 agosto

• Trent’anni di risonanze non hanno trovato la firma cerebrale dei disturbi psichiatrici, e adesso sappiamo perché. Un gruppo della Monash University ha ripreso migliaia di scansioni di risonanza magnetica (MRI), già raccolte in studi precedenti e ha quantificato quanto siano incoerenti fra loro: sulla stessa condizione: uno studio trova una certa regione ingrandita e un altro la trova ridotta. La conclusione, su Nature Neuroscience, è che buona parte dei disegni sperimentali e degli strumenti in uso non ha la sensibilità per cogliere differenze così sottili. Lo strumento con cui abbiamo cercato per decenni era tarato male per la domanda che gli facevamo, e le meta-analisi costruite su quel materiale ereditano il problema. Chi mi segue sa che su questo terreno sono cauto per inclinazione ed esperienza: ne parlavo in Non siamo solo cervello. Fonte: Medical Xpress, 13 agosto

• La Francia voleva vietare i social ai minori di quindici anni. La Corte costituzionale ha detto di no. Decisione numero 2026-911 DC del 14 agosto: censurato l’articolo primo della legge, per lesione sproporzionata della libertà di espressione. Le motivazioni valgono per qualunque paese ci stia pensando, Italia compresa. Primo, il divieto colpiva servizi per i quali il rischio per la salute dei minori non è dimostrato, tutti insieme e senza distinzioni. Secondo, non teneva conto di età, situazione familiare e grado di maturità del minore. Terzo, ed è la parte davvero problematica: per far rispettare un divieto agli under 15 bisogna chiedere a chiunque, anche ai maggiorenni, di dimostrare quanti anni hanno, e il legislatore non ha previsto le garanzie per farlo senza ledere la privacy di tutti. Macron ha già incaricato Lecornu di riscrivere il testo. Personalmente però ritengo che si dovrà incidere sulle meccaniche stesse di attenzione e di trattenimento dei social. Vietare lo scrolling infinito per legge? Fonte: Conseil constitutionnel, 14 agosto

• A Dundee vogliono chiudere filosofia, e la contromossa è più intelligente della petizione. Dopo la Cina e il Wyoming, di cui abbiamo parlato nel Digest n°2, tocca alla Scozia. L’ateneo scozzese di di Dundee ha proposto di sospendere dal 2027 l’accesso a tutte le lauree in filosofia, per ridurre i costi. Il dipartimento dei filosofi, invece di limitarsi a protestare, ha messo sul tavolo un titolo in “Filosofia e Intelligenza Artificiale” - e ha fatto firmare la petizione a nientemeno che a Luciano Floridi, a Shannon Vallor e ad altri pezzi da 90 dell’etica delle macchine, cioè esattamente alle persone che possono dire se quella proposta ha senso, per il futuro degli studenti. Cinquemilatrecento firme, millecento accademici da 365 università. E Amanda Askell, che si occupa del carattere di Claude per Anthropic, si è laureata in filosofia proprio lì. Ne avevo già parlato quando toccava al Wyoming, mi pare. Fonte: Daily Nous, 11 agosto

• Esiste una particella fatta solo di forza, e ci sono voluti cinquant’anni. La collaborazione BESIII, all’acceleratore di Pechino, ha presentato a Natal, in Brasile, le prove che la particella X(2370) - individuata nel 2011 - è in prevalenza una glueball, cioè un grumo di soli gluoni, le particelle che tengono insieme i quark dentro protoni e neutroni. Se l’osservazione dovesse reggere alle verifica, sarebbe la conferma diretta che i gluoni interagiscono fra loro, previsione centrale della cromodinamica quantistica, e tocca una domanda centrale: la massa di un protone è molto maggiore della somma delle masse dei quark che lo compongono, e il resto verrebbe da lì. I fisici stessi frenano: non c’è una singola prova risolutiva, la persuasività nasce dall’accumulo di indizi raccolti in quindici anni, e la particella è definita “a dominanza di glueball”, non pura. Fonte: Nature, 12 agosto

• La prima morte per trabucco archeologicamente accertata. Lo Scheletro 150, uno dei nove riesumati nel 1997 al castello di Stirling, apparteneva a un uomo di vent’anni morto durante l’assedio inglese dei primi anni del Trecento. Le ossa sono rotte in più di centosessanta punti, il cranio in sessantuno. Jo Buckberry, dell’Università di Bradford, ha presentato il lavoro a un convegno di paleopatologia a Berlino: il quadro esclude la caduta, il calpestamento e i danni post-deposizionali, e indica un singolo impatto a energia altissima, compatibile con un masso lanciato dal trabucco di Edoardo I, quello che gli inglesi chiamavano Warwolf. Gli esperti forensi lo paragonano agli incidenti d’auto e di treno ad alta velocità. Siamo davanti a un lavoro da convegno e non ancora a un articolo revisionato, ma cambia poco: è la chicca della settimana, non credete? Fonte: Science, 12 agosto

Settimana senza video lunghi e senza diretta: mi sono preso qualche giorno, e ve lo dico invece di gonfiare questa sezione inutilmente. Gli Shorts, che vanno avanti parzialmente senza di me, hanno tenuto aperti tre filoni, e uno è nuovo di zecca.

La geopolitica dell’IA È il filone appena aperto, tre puntate fra il 13 e il 15 agosto: chi decide il nostro futuro tecnologico è una questione politica prima che tecnica, e l’Europa ha una carta che sottovaluta - le sue norme su dati, sostenibilità e intelligenza artificiale la rendono un partner prevedibile in un mondo che di prevedibile ha poco. Le voci del primo blocco di oggi sono esattamente la materia di quel discorso.

In pillole: vanno avanti anche il misticismo di Faggin, dove questa settimana si è parlato di coscienza e fisica quantistica e di editoria accademica italiana, e i pacifinti, con una puntata su etica e verità oggettiva che se la sarebbe cavata bene anche dentro il blocco di oggi sulle misure sbagliate. Fuori serie, uno sull’energia oscura che forse non c’è: un’analisi delle supernove che rimette in discussione l’espansione accelerata, e su cui la cautela va tenuta alta, perché il gruppo che la sostiene lo fa da anni e la comunità per ora non lo segue.

Infine lo short di “Uno short al giorno” di ieri, di nuovo sul Dunning-Kruger

Se un modello linguistico scrive un articolo che una rivista di prima fascia poi pubblica, il problema non è il modello. È che una parte della produzione accademica era già diventata una procedura, e non ce ne eravamo accorti.

Ritorna il discorso del rapporto tra autorialità e Intelligenza artificiale. Farò in modo di parlarne quanto prima.

Torno in diretta, e il tema è l’energia: l’addizione energetica di cui poco si parla e pochissimo si capisce, soprattutto tra i decisori politici; il fatto che le rinnovabili crescono benissimo mentre i fossili restano all’ottantasei per cento, e la domanda sugli accumuli, che riguarda quanto costa la centesima ora di autonomia e non la seconda. Intanto continuo a seguire due storie: se qualcuno tenterà davvero di replicare quei sedici virus progettati dalle macchine, e che cosa resterà dei dieci risultati matematici di Astra.

Alla settimana prossima, o agli altri contenuti che nel frattempo usciranno. Un caro saluto,Gregorio

Che stiate leggendo nella posta, nell’app di Substack o arrivando da Facebook: fatemi sapere che ne pensate. Un commento, una risposta a questa mail, un like, un mi piace - leggo tutto. Se il digest vi è piaciuto giratelo a qualcuno, e iscrivetevi sugli altri miei canali, che non costa niente. Il canale YouTube è qui. Alla prossima. Ciao!