Possiamo davvero fermare la tecnologia?

✹ Newsletter n° 187 ✹

Il curioso caso della pistola spara-libri

Ha un mirino, una canna, un manico e un grilletto.

Ma non è una pistola. E per fortuna non spara davvero.

È “solo” un lettore di e-book dalla forma stravagante.

La bizzarra invenzione è stata realizzata dal maker statunitense Luke Blackford utilizzando una stampante 3D.

Blackford ha progettato l’e-reader a forma di pistola - già soprannominato Gundle, crasi di gun e kindle - come forma di provocazione.

Da qualche settimana, infatti, alcuni Stati americani stanno cercando di impedire alle persone di prodursi armi da fuoco in casa — quelle che in gergo sono chiamate «ghost guns», armi fantasma.

La notizia è questa, in sintesi: a New York e in California alcuni legislatori stanno spingendo il Firearm Printing Prevention Act, che obbligherebbe le aziende a prevenire ogni «uso improprio» delle loro stampanti 3D.

Il disegno di legge, se approvato in via definitiva, costringerebbe le case produttrici a installare un software di sorveglianza che controlli ogni singolo file di stampa, bloccando quelli considerati pericolosi.

Se per esempio dovesse riconoscere la componente di un’arma, l’algoritmo arresterebbe la stampante prima che questa possa produrla.

Cosa succede però se la pistola non è davvero una pistola, bensì una custodia di plastica per il nostro lettore di libri?

La questione, come Blackford ha voluto sottolineare con il suo esperimento di dubbio gusto, è tutta qui.

Il tentativo di inserire una “scatola nera” all’interno di un elettrodomestico porta con sé interrogativi profondi sull’uso e la finalità delle tecnologie che utilizziamo.

Perché non sempre la forma equivale alla funzione, e ogni device tecnologico può essere usato per scopi più o meno lodevoli. Come diceva Melvin Kranzberg, professore americano morto nel 1995,

«La tecnologia non è né buona né cattiva; ma non è nemmeno neutrale».

Il concetto del «dual use» è al centro di questa discussione: la stessa macchina che stampa fucili d'assalto può produrre valvole cardiache o protesi mediche a basso costo.

Per questo, colpire l'uso illecito senza azzoppare quello lecito è un esercizio estremamente complesso: per esempio, il codice informatico dovrebbe essere protetto dal diritto alla libertà di espressione?

Il dibattito ha radici storiche.

Nei primi anni ‘90 il governo degli Stati Uniti cercò di bloccare l'esportazione del PGP, un software di encryption open source, classificandolo come vera e propria «munition».

A quel tempo, i legislatori erano terrorizzati dalla possibilità che altre nazioni rivali potessero cominciare a utilizzare il potente linguaggio crittografico per proteggere le proprie comunicazioni militari.

Così, per aggirare il divieto, l’ideatore Philip Zimmermann e i suoi colleghi idearono una mossa geniale: stamparono l'intero codice sorgente di PGP in un libro cartaceo.

A quel punto, per bloccare la diffusione del software, il governo avrebbe dovuto mettere all'indice un libro, scontrandosi con il primo emendamento sulla libertà di stampa.

E qui torniamo alle pistole, e alla linea sottile che separa lecito e illecito.

Nel 2013, il governo statunitense cercò di mettere al bando la prima pistola stampata in 3D - la Liberator - tentando di limitare la circolazione su internet del suo file di stampa.

Per tutta risposta Cody Wilson, attivista pro-armi e designer dell’arma “fatta in casa”, adottò la stessa strategia di Zimmermann: stampò il codice della Liberator in un libro di 425 pagine che mise in commercio su Amazon, dove restò in vendita per qualche settimana prima di essere rimosso.

Il problema del dual use, che è comune a tutte le tecnologie general purpose, apre a tanti scenari interpretativi.

Un coltello può essere usato per ferire, ma anche per sbucciare una mela. Un drone per effettuare riprese spettacolari, ma anche per colpire i civili in guerra. E via dicendo.

Chi decide dove finiscono i benefici e dove iniziano i problemi?

Il caso più conosciuto, forse, è quello del videoregistratore Betamax, lanciato da Sony nel 1975. Dopo la sua messa in commercio, l'industria cinematografica cercò in tutti i modi di renderlo illegale — perché, come sostenevano le lobby di settore, facilitava la pirateria.

Fu la Corte Suprema a intervenire per salvarlo, stabilendo il principio dei cosiddetti «sostanziali usi non illeciti»: se un prodotto è utilizzato in gran parte per scopi legali (tra questi, registrare un programma in tv per guardarlo più tardi), vietarlo è un atto inconstituzionale.

Regolamentare la tecnologia, insomma, è particolarmente complesso.

Nel 1980, il ricercatore britannico David Collingridge nel suo saggio The Social Control of Technology teorizzo il «Dilemma di Collingridge» — teorema fondamentale per capire perché le leggi in questo settore arrivano sempre troppo presto o troppo tardi.

Secondo Collingridge, è più facile regolamentare una tecnologia agli albori.

Tuttavia ci sono due ostacoli: in questa fase iniziale, la nostra capacità di prevederne gli impatti negativi a lungo termine è molto limitata; e in più, applicare leggi troppo stringenti rischierebbe di soffocarne lo sviluppo e con esso i suoi possibili benefici.

Allo stesso tempo, quando dopo alcuni anni gli impatti negativi di una tecnologia diventano evidenti a tutti, la tecnologia è ormai profondamente radicata e protetta da efficaci meccanismi di lock-in sociali ed economici.

In questa seconda fase, modificarne la traiettoria o regolarla diventa estremamente costoso e politicamente difficile, perché attorno a essa si sono consolidate abitudini degli utenti, interi modelli di business e lobby potenti.

Lo stiamo vedendo accadere, ovviamente, anche con l’intelligenza artificiale.

Non è che sia impossibile regolamentarla, ma il tentativo di imbrigliarla o indirizzarla si scontra con difficoltà palesi.

In primo luogo, stiamo cercando di indirizzare una tecnologia radicalmente nuova usando in larga parte strumenti giuridici pensati per il mondo industriale del passato.

In secondo luogo, l’AI è difficile da imbrigliare e definire, trattandosi di una tecnologia profondamente liquida.

È più facile regolamentare tecnologie fisiche come il nucleare, fatte di materia prima e da infrastrutture visibili, che una composta da un codice replicabile, potenzialmente, all’infinito.

Il modello della sandbox, che ha avuto tanta fortuna nel fintech - ovvero la creazione di un ambiente di test chiuso, supervisionato dai legislatori a tempo determinato, in cui le aziende possono sperimentare innovazioni su una piccola parte di mercato reale prima di metterle in commercio - pare al momento come l’unica strada percorribile.

Ma anche qui, come stiamo vedendo spesso, le logiche commerciali prevalgono sulla salvaguardia e la sicurezza delle persone.

E così ci troviamo davanti a modelli che vengono rilasciati e poi bloccati perché troppo potenti, o ad agenti AI che «scappano» dal recinto e finiscono per fare danni.

Come diceva il grande drammaturgo Anton Čechov, se nel primo atto di un romanzo compare una pistola, bisogna che prima o poi, nello sviluppo del racconto, spari.

Il Gundle ha di fatto rinfocolato un dibattito già piuttosto acceso, mosso soprattutto da interessi economici e personali, dove i diritti fondamentali delle persone vengono ignorati ogni qual volta bisogna difendere il proprio orticello di potere e soldi.

In attesa del prossimo atto, in cui capiremo se la “pistola” sparerà libri o munizioni, il tempo per agire sembra sempre più ristretto. Nel frattempo, occhio alle vostre stampanti.

Alla prossima Ellissi
Valerio

◘ Nella mia cronologia

Cose che ho trovato e visto in giro, salvate per te.

◘ Il 91% degli autori di libri che hanno fatto causa ad Anthropic otterrà un risarcimento, per un totale di 1.5 miliardi di dollari.

◘ Sullo stesso tema: Suno, la popolare app per generare musica artificiale, avrebbe trafugato milioni di canzoni e testi da internet per “allenare” il suo “cervello creativo”.

◘ Co-star, popolarissima app di astrologia, è stata acquisita da Midjourney, la software company di intelligenza artificiale. Il perché non è ancora chiarissimo.

◘ Tanti appassionati, online, chiedono a Sony di riportare sul mercato i suoi leggendari walkman. Ma questo non accadrà, e i motivi li ha spiegati un ex ingegnere dell’azienda.

◘ Cosa succede quando chiediamo all’intelligenza artificiale di colorare delle vecchie foto di famiglia? Be’, questo.

◘ Anche se non sembra, viviamo in uno dei paesi più sicuri al mondo: in Italia omicidi e crimini sono in costante diminuzione.

◘ L’uomo che gira gli Stati Uniti per aggiustare i guard-rail difettosi. Un classico istantaneo firmato New Yorker.

◘ Substack ha stretto un accordo con Pangram per permettere agli utenti di scansionare newsletter come la mia in cerca di segnali di utilizzo dell’AI. A prescindere dalle questioni etiche, c’è un altro quesito che non possiamo ignorare, ovvero se gli AI-detection tool siano davvero affidabili.

◘ Ecco perché abbiamo bisogno di una memoria storica di internet.

◘ E infine: la nostalgia può diventare pericolosa?