Il gender gap colpisce anche l’IA: un agente femminile viene pagato meno di uno maschile

Il gender pay gap sembra trovare spazio anche nel mondo dell'intelligenza artificiale. Un nuovo studio sull'interazione tra esseri umani e assistenti IA sul posto di lavoro ha rilevato che gli agenti virtuali presentati con sembianze femminili possono essere ricompensati meno rispetto a quelli dall'aspetto maschile, seppur a parità di efficienza e di lavoro svolto. Il risultato emerge da un esperimento condotto in un ambiente di realtà virtuale da ricercatori dell'Università di Limerick, dell'Università di Zurigo e della SKEMA Business School.

Lo studio dal titolo Human-Like and Male? How AI Assistant Design Relates to Trust and Monetary Reward at Work in VR (traducibile come "Simili agli umani e di sesso maschile? Come la progettazione degli assistenti virtuali basati sull'IA si relaziona alla fiducia e alla ricompensa monetaria sul lavoro nella realtà virtuale") è stato pubblicato in occasione della quattordicesima edizione della Nordic Conference on Human-Computer Interaction (NordiCHI), la principale conferenza internazionale sull'interazione uomo-macchina.

Lo studio: IA femminile pagata meno e poca percezione del pregiudizio

Per studiare il fenomeno, i ricercatori hanno coinvolto 189 lavoratori, inserendoli in un ufficio di realtà virtuale e chiedendo loro di svolgere alcune attività con l'aiuto di quattro diversi assistenti basati sull'intelligenza artificiale. I partecipanti potevano interagire con un chatbot testuale, un piccolo robot da scrivania e due agenti dall'aspetto umanoide: Johan, presentato come uomo, e Johanna, presentata come donna. I quattro assistenti condividevano le stesse funzionalità di base e utilizzavano lo stesso modello di IA, GPT-4-1106-preview di OpenAI. Al termine dei compiti, ai partecipanti è stato chiesto di valutare il lavoro degli agenti e di utilizzare denaro reale per decidere quanto pagarli. Lo scopo era misurare non soltanto ciò che le persone dichiaravano di pensare, ma soprattutto il loro comportamento effettivo.

Il risultato più significativo riguarda proprio i due agenti umanoidi. Nel complesso, Johan e Johanna hanno ottenuto valutazioni simili sul lavoro svolto, anche se Johan ha goduto di un livello di fiducia leggermente superiore, senza però raggiungere una differenza statisticamente significativa. È però quando si è trattato di distribuire il denaro che è emersa una grande disparità. Sia gli uomini sia le donne hanno infatti pagato Johanna significativamente meno di Johan, circa il 10% in meno, nonostante i due agenti avessero le stesse capacità. Johan è stato inoltre percepito come più simile a un essere umano rispetto alla controparte femminile. Le donne, in particolare, hanno mostrato una maggiore fiducia negli agenti dall'aspetto umano rispetto agli uomini e hanno anche valutato e premiato questi assistenti più generosamente.

Un aspetto curioso dell'esperimento riguarda poi il fatto che durante le interviste finali, la maggior parte dei partecipanti ha dichiarato di non aver trattato diversamente un assistente IA maschile o femminile. Le decisioni prese con denaro reale hanno invece raccontato una storia diversa. È proprio questo delta tra la percezione del proprio comportamento e le scelte effettive che dimostra come le persone, per quanto si considerino neutrali, possono comunque risultare soggetti ai pregiudizi legati al genere.

Un problema anche per chi progetta l'IA

Lo studio non significa ovviamente che i modelli IA abbiano un genere, né che ogni assistente con sembianze femminili venga necessariamente trattato peggio. Mostra piuttosto che il modo in cui un sistema viene presentato può attivare pregiudizi e aspettative già presenti nelle interazioni interpersonali. Da una parte può rappresentare un aspetto confortante: l'utilizzo di simili tecnologie non sembra renderci meno umani. Dall'altra si accende una spia che sia i ricercatori che stanno sviluppando i nuovi modelli, sia gli utenti finali – ossia noi – farebbero bene a non ignorare. La scelta di un nome, di una voce, di un volto o di caratteristiche associate al genere non è necessariamente neutrale. Può contribuire a toccare alcune corde e ignorarne altre, orientando in modo inconsapevole il nostro approccio e il modo in cui utilizziamo un'IA.

C'è infine un'ultima questione da non sottovalutare. Se i nuovi modelli vengono addestrati anche attraverso contenuti e sistemi generati da altre IA, il rischio è che gli stessi meccanismi finiscano per alimentarsi a vicenda, riproducendo vecchi pregiudizi e disuguaglianze che ci porteremo in dote anche nel mondo di domani.