In questa intervista alla Dott.ssa Nicoletta Iacobacci capiremo quali rischi si celano dietro ai gender bias già consolidati nelle AI, e quali azioni potremmo intraprendere per cambiare le cose
Sono davvero lieta di dedicare la prima intervista di questa rubrica ad una donna che sta contribuendo non solo con il proprio lavoro, ma con la sua vita e mentalità, a creare un dibattito interiore nelle coscienze delle nuove generazioni. Parlare di gender bias, infatti, oggi è più che mai fondamentale per prevenire le discriminazioni nelle AI
Sto parlando di Nicoletta Iacobacci, il cui curriculum è trascrizione di una vita quotidianamente vissuta inseguendo passione, innovazione nelle materie STEM e desiderio di cambiamento, vero motore di ogni scelta coraggiosa.
Vi presento la Dott.ssa Iacobacci, PhD, Expert nel Research Ethics & Integrity Team, EC (Commissione Europea). Membro dell’International Academy of Television Arts and Sciences, è un BAFTA guru ed è stata ambassador per la Singularity University in Svizzera. Ha curato 6 eventi TEDx e ha collaborato con Hyperloop Transportation Technology.
Speaker internazionale e moderatore di eventi, facilita seminari e masterclass su Etica, tecnologie emergenti, inclusione e sostenibilità. Attualmente, lavora su IA, robotica e scienza affettiva, è membro del comitato esecutivo di Women’s Brain Project e insegna alla Webster University di Ginevra e alla Jinan University di Guangzhou, Cina.
A novembre 2021 è uscito il suo secondo libro, “L’Etica è Donna”.
Abbiamo avuto l’opportunità, all’evento WomenX Impact dello scorso novembre, di seguire il suo speech “Prohibited AI”: una riflessione sorprendentemente stimolante attorno al ruolo sociale delle nuove intelligenze artificiali.
Si è parlato di opportunità, etica, possibilità e rischi per il ruolo delle donne in quel futuro che si affaccia già concretamente nelle nostre giornate.
Buongiorno Dott.ssa Iacobacci, potrebbe ricordare, a chi non era presente all’evento WomenX Impact dello scorso novembre, cosa sono quelle che vengono definite Prohibited AI?
Buongiorno. Certamente: vengono definite intelligenze artificiali proibite quelle tecnologie che potrebbero causare rischi per i diritti e le libertà fondamentali. La stessa Unione Europea ha delineato alcune applicazioni vietate ed altre ad alto rischio (sottoposte a specifiche condizioni per la gestione), per cercare di garantire che i sistemi delle AI ammessi o inseriti nel mercato UE siano sicuri e rispettino applicazioni etiche.
Vediamo tutti i giorni quanto fake news, violazione della privacy e sistemi contenenti bias e pregiudizi limitino le libertà individuali e creino rischi per la collettività.
Nel suo libro, “L’etica è donna”, ha più volte aperto un dialogo con un modello linguistico GPT-3 che ha chiamato FEM, (intelligenza artificiale), in merito a questioni legate al ruolo delle donne nella società. Cosa è emerso da questo dialogo?
Sono consapevole del fatto che potrei essere attaccata per questo, ma ci tengo a dire che l’AI è stata creata dagli uomini per gli uomini.
Come emerso dalle mie conversazioni con FEM questo tipo di tecnologie, come quasi tutte quelle dello stesso genere, sono state sviluppate inserendo dati ricchi di bias di genere, pregiudizi razziali e luoghi comuni fuorvianti.
Basta pensare all’allarme sessismo che abbiamo vissuto con le creazione delle assistenti digitali come Siri o Alexa. In quanto assistenti, non potevano che essere donne, come dimostra la ricerca Unesco “I’d blush if I could“. Non ricordo le esatte parole emerse, ma il culmine è stato quando alla domanda: “Siri, sei una prostituta?” la risposta automatica, poi corretta in seguito alle segnalazioni, è stata simile a: “Mi fai arrossire”.
Questi problemi nascono dal fatto che le donne hanno avuto poca possibilità di partecipare alla nascita delle nuove tecnologie emergenti. Magari il fatto non è stato voluto, ma è successo.
Ci sono esempi molto più gravi, però, dove questi bias di genere influiscono sulla vita delle donne. Un esempio sono i software per il rilevamento dei sintomi dell’infarto: tarati sulle sintomatologie maschili ma non su quelle femminili, che differiscono appunto dalle prime. Ciò comporta un rischio sanitario per le donne in mancanza di un personale umano altamente specializzato.
All’interno dello stesso volume tocca un nervo scoperto nella società. Credo che la lettura di testi come il suo, nelle scuole, porti a generare un impatto tangibile sulle generazioni attuali e future. Lei si ispira infatti ad un cambiamento etico necessario. Ma cosa significa, nel concreto, che l’etica è donna?
”L’etica è donna” può sembrare una dichiarazione stravagante, ma si basa sull’ambizione di affrontare l’etica, per trasformarla, attraverso un approccio olistico femminile.
Il concetto tradizionale di etica ha, con molta evidenza, una concezione “maschile”. L’approccio “femminile” enfatizza la responsabilità, le relazioni, le particolarità e la parzialità. In un’ottica di futuro sostenibile, in cui l’etica rischia di sbiadire o perdere di valore, è fondamentale definire linee guida morali per le anomalie esistenti create dal progresso.
È necessario che l’etica tenga il passo con la tecnologia per garantire il rispetto delle diverse parità: di genere, razziali, ecc.
Intuizione, buon senso, empatia, accoglienza, sensibilità e collaborazione dovrebbero guidare le tecnologie esponenziali.
Il titolo, in realtà, è volutamente provocatorio, perché l’etica non appartiene esclusivamente ad un sesso o ad un altro: è umana.
In termini di gender bias e discriminazioni da fermare nelle AI, che tipo di azioni crede potrebbero intraprendere le donne, oggi e domani, per tutelare i propri diritti in un futuro dove queste tecnologie saranno “problemi reali”?
Credo che aprire dialoghi nelle scuole mettendo in evidenza fatti tangibili, spesso taciuti o mascherati, aiuti a sviluppare una coscienza critica personale e generi una spinta all’azione nelle nuove generazioni.
Questi elementi sono in grado di portare alla creazione di un dialogo etico e consapevole sulle nuove tecnologie. La presa di coscienza individuale, trasportata alla collettività, è fondamentale soprattutto per le donne.
La tecnologia dovrebbe implicare la possibilità di una scelta libera, se questa diventa invece un’azione costretta dalla società, allora è importante sapere cosa stiamo facendo per padroneggiarla, così da non essere governati da essa.
Quale messaggio vuole lasciare alle lettrici e ai lettori di questa rubrica?
La nostra evoluzione di esseri umani non ci permette di ostacolare il progresso tecnologico, ma forse abbiamo la possibilità di rallentare un attimo, di creare una riflessione su ciò che stiamo facendo, in modo da usare la tecnologia in maniera responsabile e sostenibile.
Dovremmo assicurarci di poter mantenere la possibilità di scegliere. È fondamentale rafforzare la nostra umanità nel settore tecnologico e, in questo senso, perdere il contributo delle donne significherebbe disegnare un mondo, di nuovo, a immagine puramente maschile.
La ringraziamo molto per aver condiviso la sua esperienza e la sua professionalità con noi.
È stato un piacere aprire questo dialogo, così come lo è stato intraprendere conversazioni altamente costruttive allo scorso evento.
Una piccola ma doverosa postilla: il tono di professionalità con cui ho volutamente trascritto questa intervista è stato scelto per contrastare il fenomeno “amicale” (tono volutamente ironico) che vede le donne chiamate per nome e basta, descritte come “moglie di”, o “madre di”, e gli uomini presentati con un professionalissimo cognome e titolo della professione.
Questo fenomeno è un triste smacco che continua ad imperversare nel giornalismo discriminatorio di scarsa qualità, che si riflette in titoli come quello che ha visto la Dott.ssa Anna Grassellino descritta come “Anna, ecc…” .
Questo per riferirsi alla Dottoressa laurea in Ingegneria Elettronica all’Università di Pisa, con dottorato in Fisica all’Università della Pennsylvania, ricercatrice dal 2008, insignita da Obama nel 2017 del premio Pecase, il massimo riconoscimento statunitense per i più promettenti professionisti della ricerca scientifica.
Ci tengo a precisare tutto questo perché sicuramente sbaglierò, commetterò errori, come è umano per tutti; ma vorrei che il taglio e l’obiettivo di questa rubrica fossero chiari per ogni lettrice e lettore.
Ci stiamo impegnando, con questo spazio, nell’ istruire l’occhio e la mente a riconoscere disuguaglianze insite nel nostro quotidiano, cercando di proporvi quanto più possibile un modello di informazione corretta.
Ci auguriamo di riuscire in questo intento: i nostri sforzi dediti all’empowerment femminile, passano anche da qui.
Sara Baroni, giornalista digital-femminista
