Post di Azzurra Rinaldi, responsabile della School of Gender Economics all’università di Roma Unitelma Sapienza, ed Emanuele Cacciatore, senior director Industry Strategy & Transformation in Oracle e direttore del programma “Future of Work” di EIIS –

Qualcuno forse ricorderà una notizia che nel 2018 fece molto scalpore e che contribuì ad accendere il dibattito, oggi più che mai attuale, sulla relazione tra intelligenza artificiale e pregiudizi di genere.

Alcune agenzie di stampa internazionali diffusero la notizia secondo cui l’algoritmo alla base di un software di recruitment utilizzato da Amazon a partire dal 2014, per anni aveva discriminato i candidati a posizioni di lavoro come software developer sulla base del sesso, favorendo i candidati di sesso maschile.

Come emerse di lì a poco, il modello era stato ‘addestrato’ su un data set costruito sulla base dei CV sottomessi nei dieci anni precedenti, la maggior parte dei quali provenienti da uomini. Il modello aveva ‘auto-imparato’ a riconoscere i candidati uomini come candidati preferibili sulla base del pattern ricorrente.

Nelle intenzioni del team che lo aveva progettato ed implementato, il tool avrebbe dovuto automatizzare il processo di ricerca e selezione, selezionando le job applications sulla base di un punteggio da 1 a 5 e proponendo ai reclutatori solo i CV con i punteggi più elevati che andavano a comporre il gruppo dei top 5. Nella realtà dei fatti tuttavia, l’algoritmo tendeva ad escludere le donne, replicando il pattern delle assunzioni degli anni precedenti. Un pattern che rifletteva la tradizionale dominanza maschile nel settore tech.

Il gender gap nel settore tech è ancora molto pronunciato.

Il Digital Economy and Society Index (DESI) 2020 riporta dati sconcertanti: in Italia, nel settore Tecnologia dell’Informazione e Comunicazione (TIC), le figure specialistiche di sesso femminile rappresentano l’1% del numero complessivo delle occupate (siamo in ottima compagnia: nella UE, la media è dell’1,4%). Il quadro è confermato anche dal Women in Digital ScoreBoard 2019, che riferisce di una diffusa disparità salariale e di una scarsa presenza delle donne nei posti di comando. Stando ai dati pubblicati nel Rapporto, fra gli specialisti ICT, si trova 1 donna su 6, con un guadagno di quasi il 20% in meno rispetto ai colleghi uomini.

La disparità si fa sentire non soltanto nei segmenti più tradizionali come il software development, il systems & network engineering, e la cybersecurity, ma anche in quelli emergenti come la data science e l’intelligenza artificiale (IA).

Nonostante ciò, le ultime tendenze sono incoraggianti: stando a quanto riportato nel Report “Women in Tech”, il gender gap nel settore tech sta diminuendo. I dati confermano questo trend anche per il nostro paese: negli ultimi due anni, per il 49% delle donne italiane impiegate nel settore tech, il divario di genere è stato meno marcato.

Una ricerca Linkedin sul mercato del lavoro per le posizioni IA in Europa – pubblicata a novembre 2019 (1) – mostra come vi sia, anche in un settore relativamente giovane come quello dell’ IA, una netta predominanza maschile.

La ricerca analizza la distribuzione dei talenti in ambito IA dal punto di vista geografico, economico (per settore industriale), e demografico. Ed è proprio dalla prospettiva della distribuzione demografica che emerge un dato allarmante: solo il 16% degli occupati in ambito IA in Europa sono donne. Un dato non troppo distante da quello del mercato USA in cui la percentuale si avvicina al 20%.

In nessuno stato membro dell’Unione Europea, questa percentuale eccede il 30% e non sembra essere correlata con la partecipazione delle donne alla forza lavoro. Con l’eccezione della Finlandia, infatti, la quota di donne occupate in IA non è più alta nei paesi che registrano tassi più alti di partecipazione femminile al mercato del lavoro, come ad esempio la Germania ed i paesi scandinavi.

Il caso dell’Italia lo conferma. L’Italia, con un tasso di partecipazione femminile al mercato del lavoro di circa il 52% – un tasso tra i più bassi d’Europa (2) – presenta una percentuale di donne occupate nel settore IA di circa il 25%. Solo Finlandia e Lettonia presentano tassi più alti. Una possibile spiegazione del posizionamento dell’Italia tra i paesi più ‘virtuosi’ potrebbe essere legata alla presenza di role model femminili nel settore IA in Italia (per citarne alcune: Barbara Caputo, Cecilia Laschi, Barbara Mazzolai), la stessa spiegazione che viene indicata nella letteratura relativa alla partecipazione delle donne alle discipline STEM, che conferma l’effetto dei role model femminili nella persistenza delle donne nell’ambito STEM sia nella formazione che sul mercato del lavoro (Herrmann et al., 2016; Betz, 2013).

Fonte: Linkedin Economic Graph

Insomma ci troviamo di fronte all’ennesimo gap di genere da colmare. Da dove cominciare nel caso specifico? Sarebbe necessario innanzitutto identificare le cause del gap, ricercando ad esempio eventuali differenze in termini di background professionale e formativo tra donne e uomini occupati nel settore IA e tra donne occupate nel settore IA e donne occupate in settore contigui. Un’analisi di questo tipo, secondo le conclusioni della ricerca Linkedin, potrebbe rivelare aree in cui interventi mirati sul piano delle politiche dell’istruzione e del lavoro potrebbero condurre ad un incremento dell’accesso delle donne nel settore IA. In assenza di un cambio di rotta, l’IA rischia di diventare un’ulteriore fattore di generazione dell’ineguaglianza di genere in Europa.

C’è un’altra considerazione altrettanto importante da fare.

Se è vero che oggi la tecnologia modella ed influenza il modo in cui viviamo, lavoriamo, interagiamo e ci istruiamo, l’adozione di meccanismi che assicurino una maggiore diversità, a partire da quella di genere, all’interno del pool di talenti che progetta e sviluppa tecnologie ed applicazioni di IA diventa cruciale per una società più equa.

Questo è particolarmente rilevante nel caso di prodotti, soluzioni e servizi basati su IA in considerazione del rischio potenziale intrinseco di creare o accentuare quelle stesse bias che costrinsero Amazon a dismettere il software di recruiting di cui si è parlato in apertura di articolo. Prepariamoci quindi ad avviare una rivoluzione, anche nel settore dell’IA.

Twitter @laprofrinaldi @emacacciatore

NOTE

1) Linkedin Economic Graph, “AI Talent in the European Labour Market”, Novembre 2019

2) International Labour Organization, ILOSTAT database, dati 2017