C’è una verità a cui siamo ancora immuni e che gran parte della classe politica tace: a decidere delle nostre vite siano i grandi capitani d’industria del digitale. Nicoletta Prandi è una giornalista specializzata nella divulgazione scientifica e politica dei temi legati all’innovazione e all’Intelligenza Artificiale. È stata portavoce del Commissario Generale di Expo Milano 2015, occupandosi di sicurezza perimetrale e ha contribuito a fondare il Centro di Competenze sulla Sicurezza Urbana.
In “Immuni alla verità. Quello che (non) dobbiamo sapere sul potere digitale” – edito da Guerini – prova ad analizzare perché, mentre l’Intelligenza Artificiale diventa sempre più pervasiva – dal metaverso alla telemedicina, fino al Green Pass – il dibattito pubblico non stia al passo. Qual è il costo sociale di questa corsa all’innovazione?
Dottoressa Prandi, come nasce l’idea del libro?
Dalla mia passione per la robotica, gli algoritmi e tutto quello che è futuro. Ho una fascinazione per l’analisi degli impatti sociali dell’innovazione, tema di cui mi sono specializzata negli ultimi anni, anche con progetti di divulgazione scientifica sulla sicurezza urbana. Mi sono resa conto del profondo gap che esiste da parte dei decisori sull’utilizzo delle tecnologie per gli spazi pubblici. Questo libro vuole provare a risvegliare le coscienze, dopo una fase storica che ha gettato molte criticità.
Quanto ha inciso la pandemia in questo squilibrio tecnologico?
Anche grazie alla pandemia la pubblica amministrazione sta creando spazi ibridi – cross-reality, realtà virtuale o Metaverso – e che impattano fortemente sulla vita del cittadino. Temi di cui la politica parla pochissimo. Questo libro vuole agire in due direzioni: mettere a conoscenza i cittadini delle tecnologie e richiamare i politici alla propria responsabilità. Siamo in una fase critica in cui dobbiamo decidere quali sono i perimetri della nuova democrazia digitale. In un mondo che cambia in maniera accelerate, verso le quali la nostra consapevolezza non tiene il passo: stanno muovendosi cose a Bruxelles di cui i media italiani non parlano
Per esempio?
Lo scorso giugno i due organismi che sono il corrispettivo europeo del nostro Garante per la privacy, lo European Data Protection Bord e Supervisor, avevano avvertito la Commissione di avvertire gli Stati membri di non utilizzare applicazioni massive di riconoscimento facciale nei luoghi pubblici e di adottare un sistema di credito sociale, come avviene in Cina. Ad ottobre il Parlamento Ue ha approvato una risoluzione, eppure in questi giorni di guerra l’esercito ucraino – per stessa ammissione del Ministero della Difesa di Kiev – sta utilizzando Clearview, un sistema americano che ha tracciato milioni di persone. L’intelligenza artificiale è ormai una realtà anche in contesto bellico.
Le risoluzioni europee in tema tecnologico nascono dunque già disattese?
Non sempre, basti pensare all’adozione da parte dell’Unione di un toolbox digitale in risposta ai giganti digitali per il controllo delle informazioni online che presuppone infrastrutture informatiche complesse. Poi però c’è il contraltare di LISA, l’Agenzia europea per la gestione operativa dei sistemi IT, che ha lanciato un bando di 900 milioni di euro – lo hanno vinto due aziende francesi – per creare uno dei database con dati biometrici più grandi del mondo. Si crea un tema rispetto alle raccomandazioni del Garante che ha intimato a Europol di cancellare tutti i dati dei cittadini europei senza precedenti penali, raccomandazione prontamente ignorata da Commissione ed Europol.
In poco tempo siamo passati dalla “post-truth” di Trump all’“immunità alla verità”: cosa è cambiato nel nostro rapporto con il vero?
In termini prettamente politici, fino a poco tempo fa qualsiasi essere umano dotato di device e accessibilità a un browser aveva la possibilità di trovare la Verità, con la “v” maiuscola. Nell’era dell’IA però, senza una conoscenza a valle del potere digitale e del suo funzionamento, il cittadino non è in grado di ricostruire la verità. Dobbiamo indossare nuove lenti con cui leggere il mondo, perché la classe dirigente utilizza lenti appannate: pensa ancora a un mondo di vent’anni fa. La lente più importante è la conoscenza dei soggetti che ogni giorno impattano sulla vita dei cittadini e che devono essere arruolati nel panel dei decisori politici, anche se formalmente non hanno ricevuto mandato dai cittadini.
Questo non rischia di rappresentare il “tramonto della politica” di cui parla nel libro?
E’ uno scenario che immaginiamo come futuro, ma che già viviamo. Pensiamo alle Smart City: un tema che ammalia i politici di qualsiasi estrazione, una boule de neige che ammanta ogni cosa. All’atto pratico è il dogma della Silicon Valley che si fa carne nella nostra politica. In nome della sicurezza, le nostre pubbliche amministrazioni devolvono alla tecnologia le proprie prerogative: la gestione dei dati si sostituisce al decisore o alla comunità. Si chiama datafication o decisionismo dei dati: è la mappatura di una realtà su cui in ogni secondo legifera l’IA, ogni secondo con migliaia di decisioni ideali sulla base dei dati. Così si allontana la politica dai cittadini.
Cosa possono fare politica e PA?
La politica deve fare di tutto per acquisire competenze che negli anni hanno acquisito le grandi multinazionali digitali, non in Europa: il mondo è diviso tra i GAFA americani (Google, Amazon, Facebook e Apple) e i BAT cinesi – Baidu, Alibaba e Tencent. La politica deve imparare a gestire queste competenze per rendersi trasparente nei confronti dei cittadini, quando dovrà prendere decisioni che richiedano un utilizzo massivo dei dati. Sta nascendo un dibattito sulla data justice per una trasparenza attiva, ovvero il riconoscimento dei diritti positivi: non basta più firmare il consenso, ora il cittadino deve poter avere accesso ai propri dati per poter interpellare la Pubblica Amministrazione. Come per i vaccini, dobbiamo passare dalla sorveglianza passiva a quella attiva. Nel libro ho intervistato l’ex sindaco di Milano, Giuliano Pisapia, che ha detto: “La politica deve agire. La logica Smart City non deve diventare il ghetto per i benestanti, non deve essere espulsiva di chi non può permettersi quello stile di vita”.