L’ALGORITMO CHE DECIDE PER NOI: SE L’INTELLIGENZA ARTIFICIALE VALUTA LE NOSTRE VITE

Quando un software decide se concedere un mutuo o un posto di lavoro, chi ci protegge dagli errori della tecnologia? – Tratto dalle linee guida dell’Unione Europea (Regolamento AI Act e GDPR) sulla tutela dei diritti dei cittadini rispetto ai sistemi decisionali automatizzati.

Immaginiamo di chiedere un prestito in banca, di fare domanda per un posto di lavoro o di inoltrare la richiesta per un sussidio statale. Fino a poco tempo fa, a valutare la nostra pratica c’era un operatore umano. Oggi, sempre più spesso, a prendere questa decisione è un programma informatico basato sull’Intelligenza Artificiale.

L’uso di questi strumenti rende tutto più veloce, ma quali sono i rischi per i cittadini quando a decidere è un software?

I tre nodi del problema

1. Decisioni “al buio” e mancanza di trasparenza

I sistemi di IA più complessi funzionano come “scatole nere”: elaborano i dati con formule matematiche così articolate da risultare incomprensibili persino agli operatori che li utilizzano. Quando la macchina fornisce un esito negativo, il cittadino non ne riceve la motivazione dettagliata. Senza sapere quali parametri abbiano determinato la scelta, diventa quasi impossibile contestare la decisione o dimostrare un errore.

2. La fame di dati personali e la privacy

Per funzionare, l’Intelligenza Artificiale necessita di un’enorme mole di informazioni. Il rischio è che le nostre abitudini di consumo, la posizione geografica o i dati di navigazione vengano incrociati per dedurre aspetti intimi della nostra vita — come lo stato di salute o la stabilità finanziaria — arrivando a profilare le persone a loro insaputa.

3. Il rischio di ingiustizie e discriminazioni (I “bias”)

Le macchine non sono imparziali: apprendono dai dati del passato. Se le informazioni usate per istruirle contengono disparità o stereotipi (come disparità salariali o pregiudizi territoriali), l’algoritmo considererà quella distorsione come una regola corretta, finendo per riprodurre e amplificare le stesse ingiustizie su larga scala.

La storia di Antonio

Antonio lavora con contratti intermittenti e fa affidamento su un sostegno al reddito nei mesi di inattività. Dall’oggi al domani, l’erogazione viene sospesa per “requisiti non maturati”. A bloccare la prestazione è stato un algoritmo dell’ente previdenziale progettato per individuare potenziali anomalie, che ha interpretato male la sovrapposizione di due contratti brevi a chiamata. Senza un contatto umano immediato per spiegare l’incomprensione, Antonio si ritrova privo di una risorsa essenziale a causa di una svista informatica.

Le garanzie del Regolamento Europeo (AI Act)

Per tutelare i cittadini di fronte al potere di queste tecnologie, l’Unione Europea ha introdotto il Regolamento AI Act, che fissa paletti precisi:

Supervisione umana obbligatoria: Nei settori ad alto rischio (lavoro, sanità, credito, giustizia e servizi pubblici), l’ultima parola non può spettare esclusivamente alla macchina. Un operatore umano deve sempre poter verificare, modificare o annullare la decisione automatizzata.

Diritto alla trasparenza: Ciascun cittadino ha il diritto di sapere se sta interagendo con un sistema informatico e di ricevere una spiegazione chiara in caso di esito negativo.

Divieti assoluti: Sono messe al bando le pratiche di “punteggio sociale” (valutazione della reputazione dei cittadini) e le tecnologie che utilizzano profilazioni biometriche o tecniche manipolative.

L’Intelligenza Artificiale rappresenta uno straordinario motore di innovazione ed efficienza, ma la velocità del progresso può viaggiare a scapito dei diritti individuali?

L’efficacia delle nuove tutele europee dipenderà dalla capacità di garantire controlli effettivi sugli algoritmi e di mantenere saldo un principio fondamentale: la tecnologia deve rimanere uno strumento di supporto alle decisioni, senza mai sostituire la responsabilità, la trasparenza e l’imparzialità del giudizio umano.