Il futuro è già qui

Hello humans,

esattamente otto mesi fa mi ritrovavo a scrivere il coccodrillo della AI Safety, mandata in pensione dalle sregolatezze trumpiane e dalle retromarce europee sull’AI ACT dopo avere dominato per due anni il dibattito globale sull’AI. Poi a cavallo del Natale l’AI ha iniziato a svoltare: i chatbot che creavano testi e immagini carine sono evoluti in agenti autonomi capaci di programmare meglio degli umani e di svolgere praticamente qualsiasi compito da colletto bianco; l’AI è entrata nelle guerre e nelle operazioni speciali USA; poi sono arrivati i modelli capaci di mettere a rischio la cybersicurezza nazionale; infine, gli ordini governativi per ritirarli dal mercato. E l’AI Safety, è tornata più forte di prima. Come, ve lo racconto in questo post con cui [humans/AI] si congeda per un lungo break estivo. Ci rivediamo a settembre, voi cercate di rifiatare perché credo che alla ripresa ne vedremmo delle belle. Io sono Matteo Montan e se volete saperne di più su di me e su questa newsletter, trovate tutto nelle Info. Buona lettura e buona estate!

Demis Hassabis, CEO di Google DeepMind e premio Nobel, ha chiesto formalmente agli Stati Uniti di guidare la creazione entro fine anno di un’authority globale sull’AI finanziata dalla stessa industry, con esperti indipendenti e il potere di testare i modelli di frontiera su rischi cyber, biologici, etc arrivando a bloccarne il lancio sul mercato. Per Hassabis non c’è tempo da perdere perché la Superintelligenza (la definizione più condivisa è quella di un’AI più intelligente di ogni uomo in ogni campo) arriverà in pochi anni, e la proposta è già stata discussa con l’amministrazione Trump e i CEO degli altri Big Labs. E la Cina? Hassabis nel suo manifesto la tocca solo di striscio: ammette che siamo “bloccati in una corsa commerciale e geopolitica intensa” e che lo Standards Body, pur nascendo come iniziativa USA, dovrebbe applicarsi ai modelli di frontiera, chiusi o aperti, qualunque sia il Paese di origine, diventando la base per futuri standard internazionali condivisi. Il CEO Nobel non indica però i meccanismi per coinvolgere o vincolare Pechino e gli analisti segnalano proprio qui il buco del piano: imporre standard americani a laboratori cinesi come DeepSeek e Zhipu AI, che corrono sotto un proprio quadro regolatorio, è cosa diversa dall’ottenere l’adesione delle aziende USA, restando l’accesso al mercato americano l’unica leva possibile. Per altro, appare difficile se non impossibile, sottomettere al controllo i modelli aperti: una volta pubblicati non si possono richiamare, le copie si moltiplicano e le protezioni si rimuovono con pochi dati di riaddestramento, come documentato da vari studi. Fonti: manifesto Hassabis | Axios | TechTimes

Contemporaneamente al manifesto Hassabis è arrivata la dichiarazione “We Must Act Now” che oltre 2000 economisti, ricercatori e premi Nobel (inclusi gli ex scettici Daron Acemoglu e Simon Johnson), hanno firmato questa settimana. L’AI - scrivono i firmatari - guiderà una trasformazione più grande della Rivoluzione industriale con tempi molto più brevi, con rischio di perdita di posti di lavoro su larga scala, e non solo. “Economisti, responsabili politici e leader tecnologici - si legge nella dichiarazione - devono agire ora per comprendere l'economia dell'AI trasformativa e per costruire gli incentivi, le salvaguardie e le istituzioni necessarie a orientare l'AI in una direzione che sia complementare all'uomo e vada a beneficio della società.” Il promotore della iniziativa Erik Brynjolfsson (Stanford) avverte: “Temo che non saremo pronti per lo tsunami in arrivo”. Fonte: Platformer

Per finire, è uscito “AI 2040: Plan A”, possibile risposta alla questione sollevata da Hassabis & Co. fornita dall’AI Futures Project, il gruppo di Daniel Kokotajlo autore del famoso studio di scenario “AI 2027”, a cui avevamo dedicato un lungo post (due i finali, entrambi non bellissimi per l’umanità). Il nuovo paper fa una raccomandazione dettagliata su come USA, Cina e resto del mondo dovrebbero governare la corsa alla superintelligenza. Il piano prevede un accordo internazionale nel 2029 per evitare la corsa, trasparenza totale sulla ricerca AI, crescita lenta e condivisa tra decine di aziende, una pausa nel 2035 al livello dei migliori esperti umani e superintelligenza rinviata al 2040, in un regime di “distruzione reciproca assicurata” della capacità di calcolo. Senza un accordo, avvertono gli autori, la corsa attuale porta dritti a estinzione o a una concentrazione irreversibile di potere. Fonte: AI 2040

Uno studio del Cambridge Programme on AI Science & Policy (CASP) presenta invece un altro scenario, quello della scheggia impazzita degli attori non governativi potenziati dall’AI. I ricercatori del CASP tra 2025 e 2026 hanno condotto 27 interviste a membri del gruppo terroristico Boko Haram attivi nel nord-est della Nigeria, da cui emerge che i terroristi usano ChatGPT, Claude, Gemini, Grok, Meta AI e DeepSeek per pianificare attacchi, progettare ordigni esplosivi, risolvere problemi vari con le armi e gestire logistica e sicurezza operativa, aggirando alcune salvaguardie. L’uso è istituzionalizzato tramite unità specializzate e formazione interna. Fonte: CASP

In attesa che si materializzi lo Standards Body internazionale, la paladina dell’AI responsabile Anthropic ha aperto 32 posizioni per analisti incaricati di impedire che Claude venga usata per costruire esplosivi, armi nucleari e biologiche, o per perpetrare truffe finanziarie e crimini informatici. Una specie di taskforce antiterrorismo privata, con stipendi tra i 250 e i 290 mila dollari. “Garantire che i nostri modelli non forniscano informazioni potenzialmente dannose è centrale per uno sviluppo responsabile”, spiega un portavoce: i ruoli richiedono competenze reali in biologia, esplosivi e altri settori sensibili, e la capacità di ragionare come chi cerca di eludere i controlli. In parallelo Anthropic, che si prepara a un IPO stratosferico, ha lanciato l’iniziativa “Hard questions”: un sondaggio su 52.000 americani e interviste a 81.000 utenti di Claude in 159 paesi sulle speranze e le paure legate all’AI, a cui si aggiunge un invito pubblico a inviare le domande più difficili sull’AI, dal lavoro alla famiglia alla scienza. Commentando il video di lancio “There’s hope in hard questions”, l’arcirivale Sam Altman ha scritto su X “Pensavo fosse satira”. Fonte: Anthropic

Vi lascio con un articolo di scenario da leggere con calma nel weekend. Lo ha scritto per Forbes l’analista di cybersecurity Chuck Brooks, la sua visione è che nel prossimo decennio l’AI evolverà da applicazioni isolate a “ecosistemi cognitivi”. Leggerete di tessuti di intelligenza dinamici con memoria persistente, percezione multimodale, pianificazione a lungo termine e apprendimento continuo; di milioni di agenti specializzati che cooperano come reti neurali biologiche, di computing neuromorfico (chip ispirati al cervello), interfacce cervello-computer, sistemi ibridi AI-quantistici e robotica incarnata; di come tutto questo trasformerà lavoro, scienza e infrastrutture. La transizione, secondo l’autore, richiede un dibattito urgente su responsabilità e allineamento ai valori umani. Tanto per cambiare. Forse varrà la pena pensarci davvero.

E’ tutto per oggi, cari humans, buona estate e ci si rivede a settembre!

Matteo M.

PS: Dimenticavo il rituale gioco sotto l’ombrellone! Il sito della BBC racconta di uno studio recente secondo il quale con circa un’ora di addestramento si può imparare a riconoscere un volto generato dall’AI. L’articolo è corredato da un test interattivo: cosa aspettate ragazzi?!

PPS - Se vuoi altre newsletter come questa, dai un’occhiata a Newsletterati