Chi controlla davvero l’algoritmo quando decide chi può lavorare?

L’automazione consente di controllare contemporaneamente migliaia di rapporti di lavoro, individuare anomalie e applicare regole uniformi. La stessa scala modifica però la natura dell’errore. Una valutazione inesatta non rimane confinata nel sistema informatico: può interrompere un reddito, escludere una persona dal lavoro e generare obblighi di rettifica o risarcimento. In questo contesto, dichiarare che una decisione è sottoposta a supervisione umana non basta. Occorre dimostrare che l’impresa disponga delle persone, delle informazioni, del tempo e dell’autorità necessari per ricostruire il caso e modificare l’esito. La supervisione diventa così una capacità produttiva da finanziare e misurare, non una formula inserita nella documentazione di conformità.