Tecnologia, Inclusione e Futuro: conversazione con Darya Majidi

Ci incontriamo qui al Festival Internazionale dell’Ingegneria del Politecnico di Milano, quindi partirei con il chiederti qualcosa sulla tua collaborazione con la nostra università.

Ho il grande piacere e onore di far parte del comitato scientifico di Human Tech, che è un progetto del Dipartimento di Eccellenza, incentrato sulla collaborazione uomo macchina. Quindi con Raffaella [Cagliano, Direttrice del Dipartimento di Ingegneria Gestionale] collaboriamo ormai da tre anni, e ne sono molto felice e orgogliosa.

Approfittiamo allora della presenza della professoressa Cagliano per capire meglio che cos’è Human Tech.

R.C.: L’obiettivo del progetto è quello di ripensare il modo con cui le tecnologie vengono sviluppate e poi adottate nei processi produttivi, nelle catene del valore e nell’organizzazione del lavoro, in modo da tenere la persona al centro. Quindi far sì che le tecnologie siano positive per la società e per il benessere delle persone.

È un grande progetto quadro – iniziato nel 2023 e che durerà cinque anni – volto a creare diversi stream di ricerca su questo tema.

Darya, proprio sul tema di tenere la persona al centro, avete parlato di AI in qualche modo pericolosa per le donne. Questo riguarda solamente il tema dei bias o ci sono pericoli anche più nascosti?

Uno dei pericoli è che lavorando sui dati storici, noi andiamo a propagare, ad amplificare dei bias, degli stereotipi del passato. Frasi come “Donna al volante, pericolo costante” andranno a sporcare la conoscenza.

Un altro pericolo è il fatto che, non coinvolgendo le donne nella creazione di questi sistemi, noi non includiamo il 50% della conoscenza e la prospettiva femminile, che è differente.

Pensiamo ad esempio alla medicina femminile, alla medicina di genere. Il coinvolgimento delle donne fa sì che possiamo conoscere meglio i sintomi; l’uomo, semplicemente, non può sapere tutto, ha una prospettiva di genere. Quindi, non coinvolgendo la conoscenza delle donne, di fatto rischiamo di creare dei sistemi incompleti.

Il terzo problema è il fatto che le donne, non studiando queste materie, si precludono di entrare nel mercato del lavoro e nei ruoli apicali di questi sistemi.

Un problema che ci portiamo avanti da sempre…

I dati più recenti ci dicono che le donne si diplomano meglio e escono con voti di diploma e voti di laurea migliori. Però poi, selezionando spesso percorsi accademici disciplinarmente lontani, non hanno poi la possibilità di lavorare in questi settori.

L’ultima cosa da notare è che spesso i lavori tipicamente femminili, quali call center, customer service, commesse, data entry, sono tutti lavori che nel prossimo futuro potremo velocemente sostituire con l’ai generativa. Anzi, sta già accadendo.

Pensi che i dati siano intrinsecamente affetti da bias? E sarà mai possibile separarli?

Il dato rappresenta uno specchio del linguaggio, quindi è già intriso di bias.

Un esempio su tutti: se noi chiediamo al traduttore di un famoso motore di ricerca la traduzione in italiano della frase “The doctor was an expert”, il sistema automaticamente restituisce “Il dottore (maschio) era un esperto”. Se noi invece inseriamo “The nurse was an expert”, automaticamente traduce in “infermiera”. Quindi si tratta di una tradizione con bias di genere addirittura intrinseca.

Ne parlavo già nel mio TedX del 2018, allora era un semplice alert. Ora abbiamo fatto molta esperienza e possiamo chiederci se possiamo utilizzare l’AI per ripulire queste traduzioni. Cioè, io Conoscendo i bias, i sistemi possono concepire filtri che vadano proprio a ripulire i dati; quindi, paradossalmente, può essere una nostra ottima alleata.

Parli spesso di tecnologia come strumento per l’empowerment delle donne. Possiamo ritenere il digitale oggi alfabetizzazione di base per le persone? A parer tuo andrebbe insegnato a scuola fin da piccoli?

Sì, il digitale è sicuramente uno strumento di empowerment.

Pensiamo al fenomeno del #metoo: perché è diventato mondiale? Perché le donne, diffondendo quell’hashtag, hanno usato Internet per fare una denuncia sociale. Se noi sappiamo cosa succede ogni istante nel mondo, in Afghanistan o in Iran, è perché le ragazze, le donne, lì possono avere voce attraverso le tecnologie. Per questo le tecnologie sono strumenti di potere.

Il problema qual è? Che se noi usiamo questi sistemi consapevolmente diventano un vero alleato. Ma in questo momento storico, il 90% delle AI che noi usiamo qui da noi è fatto o nella Silicon Valley o in Cina. Non include tutta la storia, la cultura europea, piuttosto che greca o persiana. È come se la storia fosse resettata e quindi dobbiamo stare attenti che questi modelli linguistici di grandi dimensioni (Large Language Models) tengano in conto tutte le diversità e sfaccettature.

Tu dici che fare impresa è importante per l’empowerment delle donne. La mia curiosità è se potrebbe in qualche modo essere basato su una visione maschilista della società associare il successo personale al guadagno economico.

Capisco cosa intendi. Ma un conto è voler diventare miliardaria per questioni di mero profitto. Un conto è avere la propria autonomia economica.

In questo momento, in Italia, il 47% delle donne non lavora, non ha un’autonomia economica. Vuol dire che anche per comprarsi il pane devono chiedere una autorizzazione a qualcuno. Nelle generazioni precedenti questa dipendenza economica era contestualizzata in un sistema sociale che garantiva un sostegno alla donna. Ora, con le separazioni, i divorzi, le donne sole e senza lavoro rappresentano purtroppo una nuova povertà. E nemmeno per quelle che lavorano è tutto facile: le donne con un impiego nei settori tecnologici hanno una differenza di paga che arriva fino al 25%.

C’è un cambio culturale che noi dobbiamo mettere in atto. A breve verranno emanate direttive europee che correggeranno che dovrebbero fare in modo che a parità di mansioni, le donne abbiano lo stesso stipendio. Abbiamo la consapevolezza che una donna che non lavora è anche più soggetta anche alla violenza.

E non si tratta di un discorso di capitalismo, è un discorso di trovare il miglior equilibrio nell’attività lavorativa.

Per leggere l'intera intervista visita il sito di Frontiere.