Non c’è dibattito sulle IA che non contempli i loro bias, cioè errori, generalizzazioni e scorciatoie di ragionamento appresi da noi o meglio dai testi (in senso ampio) usati per il loro training. Forse vale la pena di ricordare che una delle grandi differenze tra il software normale e il software presunto intelligente è che nel software normale gli sviluppatori indicano passo passo alla macchina cosa fare (e quindi devono averlo definito prima, da cui si capisce perché alcuni software assomigliano più al gioco dell’oca che a un processo che fila liscio). Nel software presunto intelligente, invece, quasi sempre chi lo progetta e lo sviluppa lascia che il software trovi la sua strada analizzando quantità mostruose di dati (è quello che chiamiamo deep learning e se vi interessa capire quanto è stato difficile arrivare fin qui leggete Tutti i mondi che vedo di Fei Fei Li, perché per arrivarci siamo dovuti passare dall’etichettare milioni se non miliardi di immagini).
Prendo un respiro. Scrivere di queste cose è un campo minato. Nessun informatico / ingegnere / data scientist sopravvive al mio modo di raccontare la tecnologia. Facciamocene tutti una ragione.
Ok. Quindi. Un’IA impara dai dati senza istruzioni esplicite. Nessuno le ha detto che i chirurghi sono maschi e le infermiere donne (etc), lo ha visto in zilioni di dati (video foto testi manuali di medicina documentari quadri etc). A un certo punto, quando i pregiudizi emergenti dal software superano un certo livello di guardia, come in uno dei miei esempi preferiti, Having a beer after prayer? si interviene con un trainer umano, che fa in un certo senso da tutor al software in quello che si chiama Supervised Reinforcement Learning. Insomma, mazzate sui denti se chiami Prosecco il TrentoDoc e se non capisci che esistono le chirurghe.
Sembra un lieto fine, no? Un software si sciroppa tutto lo scibile umano, lo sintetizza facendo emergere i pattern, ogni tanto capisce un pattern sbagliato e un umano gli insegna a capirla giusta. Si chiama “allineamento” e, come le più sveglie di voi avranno intuito, è un problema nascosto da soluzione, perché, come da oggetto, ci allineiamo a chi? Prova a pensare che in questo momento l’allineamento valoriale dei software sia espresso dagli attuali governi italiani e statunitensi. Ok. Respira. Non sta (ancora) succedendo.
Abbiamo due strade, come umanità, intendo:
far risolvere il problema alle stesse IA (direi promettente, ma in questo momento non accettabile socialmente)
mettere in piedi una robetta tipo L’Encyclopédie ou Dictionnaire raisonné des sciences, des arts et des métiers, nota anche come Encyclopédie de Diderot et d’Alembert, magari un filino meno pre-positivista (che il positivismo è il nonno del tecnoentusiasmo).
Visto che io ho fatto il liceo linguistico e quando parlo francese mi sento ancora una jeune fille en fleur ti aspetto al WeWorld Festival, domenica 17 maggio, da Base a Milano, per la Masterclass COME SPIEGARE IL FEMMINISMO A UN SOFTWARE (e cosa impariamo nel farlo). Ci divertiremo, ci accapiglieremo, respireremo insieme. E se non ce la fai mi invento qualcosa per spiegare il femminismo a un software anche a distanza.
Ne ho fatte diverse, perché per combinazione stanno uscendo insieme i libri di donne da cui imparo sempre molto, pre-ordinateli (o comprateli) e godetene tutte:
Nelle cose più piccole. Pratiche di ayurveda per la vita quotidiana di Celeste Valenti
Supernova. Quando nasce una madre: le trasformazioni di cui nessuno ti ha mai parlato di Nina Gigante
Mary Shelley. La meravigliosa Creatura di Laura Guglielmi
Animali narrativi. Perché non possiamo smettere di credere alle storie di Maura Gancitano
Mi segno qui, poi, che devo parlarti di altri due libri, che intanto ti consiglio: Dati alla mano e Una cosa spirituale.
Prossimo appuntamento per abbonati: domenica 31 maggio alle 10:00
Online: tornano i miei corsi con Story Design Thinking, 125 euro iva compresa e Scrivere Zen con le AI, entrambi sia live sia registrati. Se li compri insieme con coupon pozione26 hai un bello sconto :-)
Avanti veloce (il mondo visto da un futuro), Storytelling Festival 2025.
Cefriel, Fondazione Pensiero Solido - AI, Augmented information: giornalismo e comunicazione nell’era dell’AI (il video del mio intervento)
Puntini sull’AI - IA e Creatività. Verso una seconda alfabetizzazione
Fiori di sambuco da mangiare crudi in insalata al Marché provençal di Fayence
una borsa mare a righine, sempre al Marché provençal di Fayence
ER (2), Secret Service, Yellowstone (1) Chicago Med (11), Foundation (2), Vera (4), Cold case (3)
DTS San Louis, The Pitt (2), Small prophets (1), Paradise (2), Detective Hole (1), RunAway, Hijack (2), Tehran (2), The Lincoln lawyer (3), Alex Cross (2), Working Moms (7), Criminal Minds (19), Under Salt Marsh (miniserie)
Wonder Men, Rizzoli & Isles (4)
Story Hacking, il mio progetto di formazione & allenamento a bassissimo costo (ma sto per alzarlo). Il 31 maggio alle 10:00 c’è il quinto incontro di un anno che sarà dedicato ai fantasmi e alla scrittura libera e senza scopo.
Stiamo per liberare Pronto Soccorso AI, il videocorso per avvicinarsi alle intelligenze artificiali, obsoleto ma non superato
Ricordo, soprattutto alle nuove arrivate (grazie!) che i consigli di questa newsletter non sono in vendita, però ogni tanto i libri che leggo mi vengono regalati dall'editore e su molti link c'è un codice di affiliazione, cioè se clicchi e compri io prendo una piccolissima percentuale (e a volte tu uno sconto).
Diventa host (abbiamo bisogno di host veri)
Sono nel meraviglioso tunnel di Home Exchange, vieni anche tu
Readwise (app di condivisione di sottolineature)
You need a budget
Nen (gas e luce)
Buon tutto. Grazie di esserci. Mafe
Qui si pratica il femminile sovraesteso e anche una discreta anarchia linguistica
Comments
Nothing yet. Say the first thing.
Sign in to join the conversation.