Cittadini "sorvegliati speciali" con l'algoritmo che valuta il rischio frode

Richieste di sussidio giudicate anche con l’utilizzo di un algoritmo? Secondo un tribunale dell’Aia non si può fare, perché c’è il pericolo di trasformare i cittadini in inconsapevoli “sorvegliati speciali”. La decisione del tribunale olandese è stata presa lo scorso 5 febbraio, quando l’esecutivo si è visto imporre l’alt all’uso di Syri, il Sistema per l’indicazione del rischio.

La posizione dell’Onu. Il relatore su povertà estrema e diritti umani delle Nazioni Unite, Philip Altson, ha accolto con favore la sentenza: “Si tratta di una chiara vittoria per chi vede nella digitalizzazione delle prestazioni sociali una minaccia per i diritti umani”. Del resto, era stato proprio Alston a presentare ai giudici olandesi uno studio da cui emergevano quali diritti umani erano in pericolo proprio a causa dell’uso di Syri. Un’analisi da cui risultava evidente che in quel modo venivano discriminati i più poveri, che vedevano violati i propri diritti a privacy e previdenza.

I protagonisti. La causa giudiziaria è stata spinta da organizzazioni della società civile che cercano proprio di difendere questi diritti, tra le quali il Public Litigation Project e Privacy First.

Come funziona. Syri è nato per contrastare le frodi e cerca di calcolare con quale probabilità una persona cercherà di compiere una truffa ai danni dello Stato. Per raggiungere questo obiettivo, il sistema raccoglie una vasta quantità d’informazioni personali provenienti dai vari database in possesso della pubblica amministrazione e non solo. Alla fine Syri può arrivare ad etichettare una persona “a rischio frode” ed è a quel punto che entro due anni può essere aperta un’indagine.

La sentenza. Per i giudici, l’esecutivo non ha bilanciato come avrebbe dovuto il diritto alla privacy con l’interesse pubblico, finendo con il mettere sotto sorveglianza interi quartieri. E non solo: i magistrati hanno rilevato anche un profilo di discriminazione secondo criteri di ricchezze ed etnia, visto che la raccolta dei dati era selettiva. Ad essere profilati, infatti, erano solo gli abitanti con un reddito più basso, ritenuti a priori più propensi a frodare lo stato.

Non solo Olanda. Per il relatore Onu, imporre sistemi digitali nelle prestazioni sociali porta con sé gravi pericoli non solo nei Paesi Bassi. “Penso a quelle persone che devono pagare prezzi elevati per ottenere l'accesso a Internet, o che devono percorrere lunghe distanze o assentarsi dal lavoro, o appoggiarsi a strutture pubbliche, o che, per età o competenze, hanno bisogno del supporto di amici, parenti e talvolta anche di estranei”, scrive Alston.