INTELLIGENZA ARTIFICIALE, CYBERSECURITY, DONNE E PROFESSIONI
Progetti, sfide di genere e iniziative europee
“Salve sono Sophia e ho ottenuto come prima ‘donna’ la cittadinanza in Arabia Saudita. Di solito l’iter burocratico è di diversi anni, occorre conoscere in modo approfondito l’arabo, avere una residenza stabile nel regno, oppure avere sposato un suddito arabo. Io sono stata il primo androide ad ottenere la cittadinanza di uno Stato come se fossi una persona reale”.
Costruita dalla Hanson Robotics, con sede a Hong Kong, è in grado di conversare, eseguire compiti e imitare le espressioni facciali degli umani. Le sue fattezze ricordano Audrey Hepburn e dice sempre sì.
E’ grave che molti giornalisti e titolisti l’abbiamo definita “donna” senza virgolettare, la forma è sostanza a volte, come in questo caso.
Occorre vigilare, monitorare, difendere i diritti sempre ed il rispetto della persona.
Poco aiuta il fatto che l’Arabia Saudita cerchi attualmente insegnanti di guida per le auto per le donne, con un apposito progetto europeo, che arrivano da Francia, Olanda, Italia con la collaborazione tra Unasca, Gdc (Global driving standards certification) e Eywa (Consultancy services. Le donne se vogliono “guidare” devono fare altri passi avanti in Arabia Saudita e non solo lì, ma nella nuova frontiera dell’AI, della cybersecurity e delle loro applicazioni.
L’intelligenza artificiale, la robotica, la soft-robotica, la cybersecurity sono infatti un tema di grande attualità eppure è di enorme importanza anche la questione di genere in questi ambiti. Servono più donne con competenze per la ricerca e l’innovazione sulla sicurezza informatica e nei settori della robotica, dell’Intelligenza artificiale e non solo per supplire alla mancanza di personale qualificato, ma soprattutto perché, in tutti questi settori, se i dati vengono impostati, immagazzinati, organizzati, predisposti con pregiudizi, si tornerà indietro di anni culturalmente e socialmente.
CONCORDIA, ECHO, SPARTA e CyberSec4Europe sono ad esempio i nomi di quattro progetti pilota, supportati dal programma di ricerca e sviluppo tecnologico europeo Horizon con l’obiettivo di rafforzare le capacità dell’Unione Europea sul fronte della cybersicurezza.
Vi è un duplice gender data gap: molto spesso né i programmatori che mettono a punto gli algoritmi, né la società civile nel suo complesso hanno idea del potenziale discriminatorio delle intelligenze artificiali. La maggior parte degli algoritmi di IA è segreto e protetto in quanto programma a codice chiuso: quindi non possiamo conoscere il funzionamento dei loro processi decisionali e non possiamo sapere quali – eventuali – preconcetti vi si annidino. Non stupisce allora di incontrare sessismo nelle selezioni del personale realizzate con algoritmi di intelligenza artificiale, come ha spiegato l’analista informatica Cathy O’Neil, autrice del saggio ‘Armi di distruzione matematica’, che spiega come la piattaforma online di selezione del personale Gild ad esempio consenta ai datori di lavoro di andare molto al di là del semplice curriculum vitae, passando al setaccio anche tutta la nostra “vita” online.
Hanno fatto di recente altri esempi come usare Google traduttore (uno dei sistemi di intelligenza artificiale più diffuso oggi) e tradurre da una lingua neutra come l’ungherese la frase “ő orvos ő ápoló” (che letteralmente significa medico e infermiere con articolo neutro), Google vi tradurrà “Il suo medico e la sua infermiera”.
Altri esempi?
Sistemi di intelligenza artificiale utilizzati per la selezione del personale che privilegiano gli uomini rispetto alle donne a parità di esperienza e preparazione (es. Amazon che ha poi bloccato il sistema dopo denunce emerse, o PureGym ), algoritmi alla base dell’assegnazione del credito bancario che concedono al marito crediti 20 volte superiori a quello della moglie pure in presenza di dichiarazione dei redditi congiunta (es. apple card di Goldman Sachs).
Il nuovo quadro normativo della Commissione europea è basato sul rischio, o meglio sulla “minimizzazione” dei rischi di danno materiale (fisico) e immateriale (violazione dei diritti fondamentali) derivanti da difetti di progettazione, da utilizzo scorretto dei data, da distorsioni nei data set.
L’indice di digitalizzazione dell’economia e della società (Digital Economy and Society Index – DESI) della Commissione europea monitora, su base annua, il livello delle competenze digitali di base e avanzate in ogni Stato membro e nell’UE.
Diversi studi europei dicono che sono miriadi le app, le applicazioni nelle quali è stato scelto di inserire una voce femminile; i dati raccolti europei evidenziano che le app di basso livello hanno voce femminile, le applicazioni ad alto livello hanno per lo più voci maschili. Le immagini al femminile caricate online, stando agli studi europei, dimostrano che la figura femminile viene inserita nel settore Ict e dei devices per la maggior parte dei casi in modo inappropriato o con preconcetti e stereotipi.
Numerosi studi evidenziano anche una questione di genere nel cambiamento della semantica e nel progressivo appiattimento e depauperamento lessicale che, con il mondo interconnesso, gli algoritmi, le applicazioni di AI, soluzioni grafiche come gli emoticon, riducono la nostra capacità espressiva e linguistica, ed appiattiscono, modificano pure la nostra capacità di connessione tra parole e significati, la nostra capacità di discernimento tra le fonti del sapere, la nostra capacità di concentrazione e di ricerca di informazioni on line, guidati, impigriti, analfabeti di ritorno, siamo inconsapevolmente “in rete” come mosche in una ragnatela ben tessuta, invisibile, come siamo immersi oramai da reti interconnesse, dall’Internet delle cose, e da notizie/dati preconfezionati, targettizzati per noi, che ci fanno fare scelte targettizzate in quanto siamo tutti schedati, profilati a nostra insaputa o meglio per nostra scelta folle di dare in modo superficiale, nostri dati personali, gratuitamente, alla rete Internet h24 e a causa della nostra limitata volontà di fare fatica e di rispettare noi per primi la nostra privacy.
Da studi europei si evince che i problemi di cybersicurezza e privacy nella maggior parte dei casi sono dovuti ad errori umani, a sottovalutazioni umane delle conseguenze di un nostro gesto/azione/iniziativa/interconnessione.
E per le generazioni che nascono digitali, che pensano che la realtà sia quella che viene loro proposta online e basta?
Un piccolo esempio?
Se si cerca eroe online si trovano i grandi eroi della storia uomini, se si cerca la parola eroina on line non si trovano volti femminili della storia, ma solo la droga. La Rete dei CUG – Comitati Unici di Garanzia per le pari opportunità, gruppi di ricercatrici come l’associazione Bewin, associazioni come WILEUROPE, EWMD, Stati Generali delle donne, enti quali l’Accademia della crusca, l’Accademia nazionale dei Lincei evidenziano l’importanza di tenere alto il monitoraggio sul corretto utilizzo di linguaggio e semantica con rispetto di genere nelle applicazioni on line, evidenziano anche la necessità di scelte oculate sui termini linguistici e sulle scelte grafiche ed iconografiche di rappresentazione dei Valori delle persone su Internet e su tutto ciò che implica la rete (interazione anche con app, robotica, soft-robotica, bio-robotica, AI etc.); l’intelligenza artificiale va ad impattare sulla capacità di discernimento dei cittadini, sulla interazione sociale (siti e app per incontri etc.); chi ne fruisce deve essere tutelato, deve avere una alfabetizzazione digitale per evitare di fare dei passi indietro culturali, per non minare il benessere di chi lavora e per combattere con vigilanza continua contro le possibili discriminazioni.
L’intelligenza artificiale decostruisce e ricostruisce la logica del pensiero (reverse engineering) ed accumula conoscenze (machine learning) imparando dai nostri comportamenti. Se i dati immessi hanno preconcetti o pregiudizi viene minata la qualità del trasferimento delle conoscenze.
Entro il 2020 la International Federation of Robotics aveva conteggiato l’utilizzo di circa 1,7 milioni di robot industriali nelle fabbriche e negli ospedali di tutto il mondo e 42 milioni nelle case per uso domestico o personale. L’impatto anche socioculturale quindi è in aumento. Le macchine contengono un’enorme quantità di informazioni (miliardi di parole, immagini e filmati) ma se i dati sono parziali o contengono pregiudizi, le macchine e i loro risultati saranno imperfetti.
La comunicazione online con tool di I.A. viene declinata tramite «intelligenza connettiva» e «intelligenza emotiva», c’è poi l’empatia vocale – visiva nei siti on line, nelle app, negli avatar dei medici e paramedici on line ed un utilizzo eccessivo di figure e voci femminili in Sanità ad esempio solo per mansioni e servizi on line di livello medio-basso; mentre un utilizzo del maschile per livelli medio-alti con discriminazione anche per gli uomini in quanto la professionalità di un infermiere non è minore rispetto a quella di una infermiera eppure sulle app etc. è sempre rappresentata da una figura al femminile, così come il medico è sempre iconograficamente il maschio; così per il ricercatore o l’ingegnere che è sempre indicato nelle app, negli avatar, nella robotica, nella scelta delle voci da inserire nei siti e nei dispositivi per il teleconsulto etc. come uomo e così via in vari settori e in varie professioni. Nello studio Gender Diversity in AI Research realizzato dalla fondazione Nesta, con sede a Londra che da oltre vent’anni indaga sui temi dell’innovazione, è stata evidenziata una grave crisi della diversità di genere nella ricerca sull’AI con solo il 13,8% come autrici donne, e, a parte l’Università di Washington, nessuna delle prime 35 istituzioni per la ricerca sull’AI ha registrato oltre il 25% delle pubblicazioni a firma di una donna.
Tra i progetti europei attivati si segnala Concordia, ovvero Cyber Security Competence for Research and Innovation, uno dei quattro vincitori della call di 60 milioni di euro messi a disposizione dalla Commissione europea e il progetto «Women in Cybersecurity» che ha l’obbiettivo di definire iniziative ed eventi volti a supportare le donne nello sviluppo di competenze e nell’avanzamento di carriera in ambito di cybersecurity. Il Dista, Dipartimento di Scienze teoriche e applicate gestisce un progetto finanziato europeo, unico ad avere un intero task dedicato al problema di inclusione delle donne in ambito di cybersecurity.
Oggi le donne, infatti, rappresentano solo il 20%, della forza lavoro in questo settore. Una percentuale decisamente maggiore rispetto a qualche anno fa, ma ancora ben lontana dal colmare il divario di genere. Un fenomeno presente anche in altri settori delle tecnologie dell’informazione e della comunicazione, ma che richiede un intervento mirato anche per la cybersecurity se si considera che questo è un mercato in forte crescita, con una stima di 3.5 milioni di nuove posizioni lavorative entro il 2021. Concordia nasce con l’ambizione di definire un percorso congiunto e rafforzare le competenze europee in ambito di cybersecurity, così da assicurare nell’era della data economy un trattamento dei dati sicuro e che rispetti i fondamenti della privacy.
Più donne negli ambiti della cybersecurity, della Intelligenza artificiale, servono anche per scelte più sostenibili. Infatti Ademe, l’Agenzia francese per l’ambiente e la gestione dell’energia ha fatto uno studio ed ha calcolato quanto l’utilizzo ad esempio della posta elettronica possa incidere sul consumo di energia e quindi, logicamente, anche sul relativo inquinamento. I dati sono sorprendenti: 8 e-mail inviate producono lo stesso quantitativo di emissioni di anidride carbonica che si avrebbero percorrendo un chilometro in automobile. Ademe ha fornito l’esempio pratico di una ditta con 100 dipendenti, i quali ipoteticamente inviano 33 messaggi a testa ogni giorno. Ipotizzando 220 giorni lavorativi nell’arco di un anno, le e-mail di quell’azienda produrrebbero circa 13,6 tonnellate di anidride carbonica, ovvero una quantità molto simile a quella prodotta da ben 13 viaggi di andata e ritorno tra Parigi e New York.
La sostenibilità dello sviluppo e la trasformazione digitale sono al centro del piano europeo per il rilancio.
Dati europei evidenziano come le donne a capo di aziende sia pubbliche che private siano più inclini a scelte ecosostenibili, ma sono ancora poche nel settore Ict , anche se il loro numero sta lentamente crescendo in posti di responsabilità.
Certo le soluzioni digitali sono potenti per lo sviluppo sostenibile, possono sostenere l’economia circolare, supportare la decarbonizzazione di tutti i settori riducendo l’impronta ambientale dei prodotti del mercato europeo.
A casa un termostato intelligente può far risparmiare fino al 25 % sulle bollette energetiche, analizzando le abitudini di chi ci vive e regolando la temperatura di conseguenza e, ad esempio alcuni settori chiave come l’agricoltura di precisione, i trasporti, l’efficienza energetica possono avere enormi benefici dalle soluzioni digitali per raggiungere gli obiettivi di sostenibilità che il Green Deal europeo si propone. Tuttavia ad oggi l’insieme delle Tecnologie della Comunicazione e dell’Informazione producono il 4% dei gas serra e assorbono il 7% dell’energia, con un tasso di crescita che si avvicina al 9% annuo, derivato in larga parte dall’alto tasso di sostituzione in particolare degli smartphone. I device elettronici, anche a causa proprio del tasso di sostituzione, inquinano quando diventano rifiuti elettronici, il loro smaltimento è regolamentato, ma con norme spesso disattese. Per la loro fabbricazione si usano le cosiddette “terre rare” che in realtà non sono in sé rare, ma lo diventano per il lungo processo di estrazione e raffinazione, anch’esso fortemente energivoro.
La Commissione Europea, dal suo canto, ha posto come obiettivo per il 2025, tra i suoi sette flagship, di raddoppiare la produzione di semiconduttori in Europa, per produrre processori 10 volte più efficienti dal punto di vista energetico. Molti quindi sono i pericoli che potrebbero derivare da una digitalizzazione senza una governance politica adeguata. Il rapporto IIASA ne elenca quattro principali tra cui le disuguaglianze, il monitoraggio dei cittadini e dei consumatori con il cosiddetto “ranking sociale”.
La trasformazione digitale non è quindi di per sé garanzia di sviluppo sostenibile, anche se gli effetti derivati dalla riduzione della carta, dall’incremento dell’efficienza delle macchine nella manifattura, dalla riduzione degli spostamenti attraverso l’uso delle teleconferenze, in base ad uno studio recente dovrebbero portare ad una riduzione derivata dall’ICT di 7,5 miliardi di tonnellate di CO2 equivalente (pari a quasi il 15% del totale).
Le istituzioni pubbliche, amministrative e politiche non sembrano sufficientemente veloci e preparate nel comprendere e gestire le dinamiche del digitale, che permea oggi e lo farà sempre più un domani, la nostra vita perché non sono abituate a strategie a lungo termine, non sono efficienti in rete, non hanno etiche condivise applicabili in tutti gli Stati.
Serve poi un investimento comune strategico in sperimentazione ed una governance internazionale sulle cosiddette “terre rare” di cui si sta appropriando sempre di più la Cina.
Le terre rare sono alla base delle nuove tecnologie, non sono rare in termini di abbondanza crostale media, come hanno spiegato diversi esperti, quanto per la bassa concentrazione dei loro depositi, normalmente meno del 5 per cento in peso, ciò rende i costi di estrazione estremamente elevati e servono costi della manodopera estremamente bassi o sostenuti da sussidi statali. Intorno al 1990, la Cina è diventata il più grande produttore al mondo di elementi delle terre rare superando gli Stati Uniti. Anche India, Brasile e Malesia.
Qualche esempio?
I sensori elettrici impiegano zirconia stabilizzata con ittrio per misurare e controllare il contenuto di ossigeno del carburante; i fosfori degli schermi ottici contengono ossidi di ittrio, europio e terbio; le batterie ricaricabili delle automobili ibride sono costituite di idruro metallico di nickel-lantanio. Non si tratta di un puro tema commerciale, si tratta di un elemento centrale della politica economica mondiale e difatti l’interesse della Cina nei confronti del Sudafrica, che fornisce l’83% di platino, di radio e di rutenio, del Burundi, del Madagascar e dell’Angola fa parte di una strategia precisa, come la ferrovia nella Repubblica Democratica del Congo finalizzata a sfruttare al meglio le risorse minerarie della regione meridionale del Katanga. La Cina avanza. Certo la Commissione europea è consapevole del fatto che la Cina produce il 61% di silicio, il 67% di germanio, l’84% di tungsteno, è il primo produttore di energia verde ed equipaggiamenti fotovoltaici al mondo ed è il primo mercato mondiale per quanto riguarda le automobili alimentate con le nuove energie, sta facendo fortissimi investimenti Intelligenza Artificiale e cybersecurity, ma possiamo e dobbiamo chiederci come cittadini del mondo: ha una visione di genere, rispetta i diritti umani, rispetta lo stesso concetto europeo di ecosostenibilità?
Di CINZIA BOSCHIERO