Insegnare la guerra giusta a una macchina senza coscienza

Ho passato anni, da studente di teologia morale prima che da professore, sui vecchi manuali per confessori: i casus conscientiae, i casi di coscienza. Non sono trattati di principi, sono racconti minimi: un uomo che ruba per fame, un soldato che uccide in una guerra di cui dubita la giustizia, una vedova che mente per proteggere un figlio. Ogni caso introduce circostanze che aggravano o attenuano, costruite secondo una griglia antica quanto la retorica classica, chi, che cosa, dove, con quali mezzi, perché, in che modo, quando, e il confessore viene addestrato non a ripetere una regola, ma a vedere quella regola incarnarsi in una vita particolare, irripetibile, che non tornerà mai più identica a sé. Ne ho incontrati a centinaia, in latino e in volgare, alcuni di straordinaria finezza psicologica, altri di un casuismo quasi ossessivo nel moltiplicare le eccezioni. È un genere letterario antico quanto la cura delle anime, e nella tradizione in cui mi sono formato, quella francescana, la coscienza individuale, la sinderesi, il discernimento personale davanti al singolare, ha sempre avuto un peso che nessuna codificazione esterna poteva sostituire.

È proprio questo genere, sotto mentite spoglie, che ho ritrovato leggendo il nuovo compendio dell’UNIDIR sulle armi autonome letali: trecento pagine di scenari, ciascuno costruito come un caso, con circostanze favorevoli, avverse, incerte, pensate per addestrare un giudizio. La domanda che mi ha tenuto compagnia per giorni non è se questo manuale sia utile, lo è, probabilmente necessario, viste le divisioni che da un decennio paralizzano la diplomazia multilaterale su queste armi. La domanda è chi, alla fine della catena, sia chiamato a giudicare. E se quel qualcuno sia ancora capace di farlo nel senso in cui la tradizione ha sempre inteso il giudicare, o se quella capacità sia già stata, silenziosamente, trasferita altrove.

La casistica morale, nella sua forma classica, nasce da un’esigenza precisa: la legge generale non basta mai a se stessa, perché ogni atto umano accade in circostanze che la legge, per sua natura, non può prevedere tutte. Tommaso lo chiamava il problema della prudenza, la virtù che applica il principio universale al caso singolare attraverso un atto di ragione che non è deduzione meccanica, ma discernimento, e che richiede memoria del passato, intelligenza del presente, previdenza delle conseguenze. I manuali per confessori, diffusi a partire dal Medioevo e fioriti soprattutto nella manualistica della prima età moderna, erano lo strumento pedagogico per affinare quella prudenza: si insegnava il giudizio mostrando casi, non sostituendolo con un algoritmo di circostanze. Il caso, in questa tradizione, non chiude mai del tutto la domanda, la riapre ogni volta in una persona diversa, ed è proprio questa apertura residua, questo margine che nessun manuale può colmare interamente, a segnare la differenza tra l’insegnare a giudicare e il giudicare per altri.

…

Ma la casistica ha sempre portato con sé un sospetto, e quel sospetto ha un nome e una data precisa: Pascal, e le sue Lettere provinciali, scritte a difesa di Port-Royal contro i casisti della Compagnia di Gesù. L’accusa che Pascal rivolse ai casisti non era che usassero casi, ma che la moltiplicazione delle circostanze attenuanti finisse per dissolvere l’assoluto morale in un pulviscolo di eccezioni, ciascuna ragionevole, nessuna più vincolante della precedente. Il probabilismo, la dottrina per cui basta seguire un’opinione sostenuta da un autore qualificato anche se minoritaria, e la dottrina della direzione dell’intenzione, per cui un atto cambia natura morale secondo il fine che l’agente vi annette nel proprio animo, diventavano nelle mani di Pascal la prova che il metodo dei casi, portato alle sue conseguenze, produce non discernimento ma lassismo: la regola che si applica sempre meno a forza di applicarsi a tutto. Resta, in quella polemica di quasi quattro secoli fa, una domanda che non ha mai smesso di essere attuale: ogni volta che moltiplichiamo le circostanze per fare giustizia al caso, rischiamo di erodere ciò per cui il caso doveva essere giudicato.

Questo sospetto è la chiave per leggere il compendio dell’UNIDIR, perché lì la tensione tra discernimento e dissoluzione non è un rischio accidentale, è incorporata nella struttura stessa del documento. Gli autori dichiarano esplicitamente che le opzioni di impiego elencate per ciascuno scenario non sono né classificate né valutate in termini di legalità, fattibilità o preferibilità. È l’esatto opposto della casistica classica, il cui scopo era sempre e soltanto quello, stabilire una gradazione, dire questo è più grave, questo è più scusabile. Qui la neutralità non è un difetto del metodo, è la condizione della sua esistenza: per restare un riferimento comune utilizzabile da Stati che non condividono dottrina né interpretazione giuridica, il caso deve rinunciare a concludere.

…

C’è però un secondo movimento, più sottile e meno discusso, che la lettura attenta del documento rivela, ed è quello che mi sembra davvero inedito rispetto a qualunque casistica del passato. Il manuale suggerisce due modi di usare ogni scenario. Il primo è quello classico, prendere un sistema esistente e chiedersi come potrebbe essere impiegato in conformità al diritto. Il secondo inverte la direzione: partire dall’effetto operativo desiderato e dal vincolo giuridico, e risalire da lì ai requisiti tecnici che un sistema dovrebbe possedere, accuratezza dei sensori, capacità di spiegare le proprie decisioni, funzioni di override umano, resilienza delle comunicazioni, precisione del geofencing.

Qui accade qualcosa che nessun confessore avrebbe potuto immaginare: il caso di coscienza non termina in un giudizio sulla persona che ha agito, termina in una specifica di progettazione per l’artefatto che agirà. Tommaso distingueva con cura la prudenza, retta ragione dell’agire, dall’arte, retta ragione del fare: la prima riguarda chi sono io nell’agire, la seconda riguarda come si costruisce bene un oggetto. Il compendio le fa collassare l’una nell’altra. Trasformare l’obbligo di distinzione in una soglia di accuratezza del sensore, trasformare la precauzione in una tolleranza di errore accettabile, è esattamente questo collasso: non applicare un principio a un caso, ma tradurre un principio in un parametro. È l’operazione che da anni chiamo algoretica, e qui la vedo all’opera con una chiarezza quasi didattica, nel bene e nel male.

Conosco bene questa operazione anche da un altro tavolo, quello del regolamento europeo sull’intelligenza artificiale, dove la stessa parola, spiegabilità, ricorre come requisito tecnico per i sistemi ad alto rischio. Anche lì un principio morale e giuridico, il diritto a comprendere le ragioni di una decisione che ci riguarda, viene tradotto in una specifica misurabile, certificabile, verificabile da un organismo terzo. Non dico che questa traduzione sia illegittima, la pratico io stesso quando siedo a quei tavoli, e senza di essa il diritto resterebbe lettera morta davanti a sistemi che nessun giudice saprebbe altrimenti valutare. Dico che la traduzione ha un costo nascosto, ed è proprio quello che la casistica antica conosceva fin troppo bene: una volta che il principio diventa parametro, qualcuno dovrà decidere quale soglia conta come sufficiente, e quella decisione, per quanto tecnica nell’apparenza, è essa stessa un atto morale che si sottrae alla vista.

…

C’è infine una terza dimensione che il documento stesso rivendica, quella diplomatica: il compendio si presenta come strumento di rafforzamento della fiducia tra Stati, un terreno comune su cui confrontare interpretazioni del diritto umanitario senza dover rivelare capacità sensibili o posizioni nazionali definitive. Gli autori parlano esplicitamente di voler dare contenuto operativo a un’espressione che da anni circola nei negoziati di Ginevra senza una definizione condivisa, il controllo umano contesto-appropriato, mostrando attraverso scenari concreti cosa quella formula astratta potrebbe significare in pratica. Mi è tornato in mente Habermas, e la sua distinzione tra agire strategico e agire comunicativo orientato all’intesa. Un esercizio scenaristico condotto da diplomatici e giuristi di Stati rivali, in cui ciascuno espone come interpreterebbe distinzione e proporzionalità in un caso fittizio, ha tutta l’apparenza della razionalità comunicativa, pretese di verità e di correttezza messe sul tavolo, ascolto reciproco, ricerca di un’intesa.

Ma Habermas richiedeva, perché il discorso fosse davvero tale, che le pretese avanzate impegnassero chi le avanza, che dietro ogni enunciato ci fosse un soggetto disposto a risponderne. Qui, per costruzione, gli Stati possono parlare attraverso scenari etichettati come ipotesi astratte, mai legati alla postura nazionale corrente, mai vincolanti, e il documento stesso lo incoraggia esplicitamente, distinguendo tra posizione nazionale, analisi ipotetica e ragionamento esplorativo. È un discorso che ha la grammatica della comunicazione senza la posta in gioco della comunicazione, un’intesa allenata in assenza di rischio. Forse è il prezzo necessario per far sedere allo stesso tavolo Stati che altrimenti non si parlerebbero affatto, e in questo senso la cautela diplomatica merita rispetto, non sospetto. Forse è anche, però, l’ennesima forma in cui la nostra epoca sa simulare la deliberazione morale senza assumerne il peso, esercitandosi a discutere come se le conclusioni avessero conseguenze, sapendo già che, per il momento, non le avranno.

…

Mi resta, alla fine di queste pagine, un’immagine domestica più che geopolitica: un vecchio manuale per confessori e questo compendio delle Nazioni Unite, fianco a fianco su uno scaffale immaginario, che parlano la stessa sintassi delle circostanze aggravanti e attenuanti, della favorevole, dell’avversa, dell’incerta. Solo che uno dei due testi era scritto per qualcuno che, alla fine del caso, poteva ancora pentirsi, tornare sui propri passi, chiedere perdono a una persona reale. Dell’altro non sappiamo, e forse non sapremo mai, chi sia davvero il destinatario ultimo: l’operatore che decide, il giurista che valuta, o il sistema che, un giorno, eseguirà la classificazione senza che nessuno gliela debba più insegnare come un caso, perché l’avrà già imparata come un parametro.

Nella tradizione francescana in cui sono cresciuto, custodire non significa bloccare, significa rimanere accanto a ciò che si è chiamati a proteggere con un’attenzione che nessuna procedura può delegare per intero. È forse questo, alla fine, il compito che resta a chi continua a interpretare il diritto umanitario in questi anni di transizione: non rifiutare gli strumenti che la tecnica offre per affinare il giudizio, ma rifiutarsi di lasciare che il giudizio scompaia dietro lo strumento.

Non ho una risposta chiusa da offrirvi, solo questa domanda che mi accompagna da settimane: che cosa resta della prudenza, quando il caso che la doveva educare diventa il manuale tecnico di chi non potrà mai esercitarla?