La bomba era la risposta giusta alla domanda sbagliata

C’è un momento, nella storia recente dell’intelligenza artificiale applicata alla pubblica amministrazione, che trovo più istruttivo di molti paper: il momento in cui Liam Wilkinson, consigliere per l’IA governativa al Tony Blair Institute, guarda il risultato del suo benchmark e capisce di aver costruito la cosa sbagliata. Aveva impiegato settimane a costruire GovBench: tremila domande a risposta multipla sulla legislazione britannica, le procedure parlamentari, le norme di governo. I migliori modelli avevano risposto correttamente al 94–99 per cento. Il punteggio era straordinario. E non significava nulla.

Sapere come funziona un parlamento non è lo stesso che navigarlo. Conoscere la risposta corretta a una domanda di procedura parlamentare non è la stessa capacità che serve quando quella procedura va usata in un contesto che nessuno ha mai del tutto anticipato, sotto pressione, con informazioni incomplete, contro interessi avversi. Wilkinson lo ha capito nel modo in cui si capisce di aver posto la domanda sbagliata: riconoscendo la risposta come troppo facile. Un sistema che risponde correttamente al 99% di un quiz non è un sistema che sa governare; è un sistema che sa riconoscere la risposta giusta quando viene formulata come quiz.

Questa distinzione tra sapere riconoscere e sapere fare, tra competenza dichiarativa e competenza esecutiva, tra conoscere le regole e sapere quando e come applicarle, è vecchia quanto la filosofia. Aristotele l’ha detta come differenza tra episteme e phronesis, tra conoscenza scientifica e sapere pratico. Nell’era dell’intelligenza artificiale ha assunto una nuova urgenza, perché abbiamo costruito sistemi che eccellono nell’episteme con una facilità che non avremmo mai previsto, e abbiamo rischiato di confonderla con la phronesis.

Wilkinson ha deciso di provare con un videogioco. Non un gioco qualunque: Civilization VI, il gioco di strategia in cui si costruiscono e governano civiltà su più secoli, dove si gestiscono diplomazia, guerra, commercio e religione in un sistema in cui ogni scelta ha conseguenze che si propagano per decine di turni. Un gioco dove lo spazio delle decisioni al turno, nel gioco già avviato, supera le 10^166 possibilità. Un gioco che somiglia, strutturalmente, a ciò che significa governare: non applicare regole note, ma tenere insieme più obiettivi, riconoscere minacce non ancora visibili, adattare la strategia a un mondo che cambia mentre si agisce.

Read more