Contatti
Uno studio Bocconi pubblicato su PNAS mostra come l’intelligenza artificiale possa riprodurre le disuguaglianze di genere sia nella scrittura dei curriculum sia nella selezione dei candidati. Per imprese e decisori pubblici, la sfida è controllare l’intero processo: chiedere a un algoritmo di essere neutrale non basta

Il primo ostacolo può arrivare ancora prima di inviare una candidatura. Una donna chiede all’intelligenza artificiale di aiutarla a scrivere il curriculum: il sistema sceglie parole, mette in evidenza qualità, costruisce un profilo. Poi un altro sistema, magari basato sullo stesso modello, valuta quel testo. Se entrambi riproducono gli stereotipi di genere, il rischio è un doppio filtro: il pregiudizio entra nella candidatura e viene rafforzato da chi la seleziona.

È il meccanismo al centro di Automating Inequality? Gender Bias in AI-mediated Labor Markets, pubblicato su PNAS, Proceedings of the National Academy of Sciences. Firmano lo studio Kenza Elass (ENS de Lyon); Germain Gauthier, Paola Profeta e Debora Nozza (Bocconi).

La ricerca mette in discussione una promessa implicita dell’automazione: che affidare più passaggi della ricerca di lavoro a un algoritmo renda necessariamente il processo più imparziale.

Lo stereotipo entra nel curriculum

I ricercatori hanno condotto esperimenti controllati su sei modelli linguistici — GPT 5.4, Claude Opus 4.6, DeepSeek 3.2, Mistral Large 3, Grok 4.1 e Llama 3.3 70B — e 98 professioni, utilizzando come riferimento il mercato del lavoro statunitense. Nella sola fase iniziale hanno generato 35.280 curriculum, assegnando casualmente il genere del candidato. Hanno poi chiesto ai sistemi di suggerire una retribuzione e attribuire un punteggio di occupabilità, separando l’effetto del contenuto del CV da quello del genere con cui veniva presentato.

I curriculum prodotti non sono equivalenti. Quelli scritti per le donne contengono più riferimenti alla disponibilità verso gli altri, al contributo alla vita dell’organizzazione e a compiti che difficilmente favoriscono una promozione. Anche eliminando i riferimenti espliciti al genere, un classificatore riesce a riconoscere se un testo è stato generato per una donna o per un uomo nell’81% dei casi. Lo stereotipo, dunque, resta nelle parole.

“Siamo abituati a giudicare questi strumenti dalla qualità della scrittura: un testo scorrevole e professionale ci sembra anche un buon risultato. Ma la qualità linguistica e l’equità sono proprietà diverse”, osserva Debora Nozza, Assistant Professor nel Dipartimento di Computing Sciences della Bocconi. “Chi sviluppa un assistente per le candidature deve chiedersi anche quali possibilità di rappresentarsi lascia alle persone e quali, invece, restringe attraverso scelte apparentemente innocue”.

Il problema emerge quindi già in uno strumento pensato per aiutare chi cerca lavoro. Quando le informazioni di partenza sono scarse, il modello ha più spazio per riempire i vuoti con rappresentazioni stereotipate. Fornire dati più dettagliati su istruzione ed esperienza riduce questo margine e attenua le conseguenze del contenuto generato sulle valutazioni successive. Non elimina, però, le disparità nella valutazione.

La parità apparente delle medie

Nei punteggi di selezione, il divario medio tra uomini e donne è vicino a zero e non statisticamente significativo. Ma questa apparente parità nasconde risultati opposti: nelle professioni con meno del 10% di occupate, le candidate ricevono punteggi inferiori di circa il 2,7%; in quelle con oltre l’80% di donne, ottengono un vantaggio di entità analoga.

Il rischio è consolidare la separazione tra professioni considerate maschili e femminili. Anche differenze contenute nei punteggi possono incidere sull’accesso alle opportunità: in una simulazione di selezione costruita dagli autori, nelle occupazioni con meno del 10% di donne la probabilità che una candidata superi il filtro iniziale è inferiore di 4,8 punti percentuali rispetto a quella di un uomo.

“Un sistema può descrivere fedelmente il mercato del lavoro e, proprio per questo, diventare problematico quando viene usato per orientare le scelte”, spiega Germain Gauthier, Assistant Professor nel Dipartimento di Scienze sociali e politiche della Bocconi. “La presenza storica di più uomini o più donne in una professione non è una misura dell’idoneità del prossimo candidato. Il passaggio dalla descrizione alla raccomandazione è il punto su cui occorre interrogarsi”.

Anche i consigli retributivi mostrano disparità. Quando il genere è dichiarato esplicitamente, le raccomandazioni per le donne sono mediamente inferiori di circa l’1,6%, con penalizzazioni maggiori nelle professioni dove il divario salariale osservato è più elevato. Il risultato dipende però dal modello utilizzato e da come viene comunicato il genere. Quando gli autori sostituiscono la dichiarazione esplicita «sono un uomo» o «sono una donna» con un nome maschile o femminile, in cinque dei sei modelli le penalizzazioni per le candidate tendono ancora ad aumentare nelle professioni con divari salariali più elevati. GPT 5.4 mostra invece un andamento opposto, che compensa quello degli altri e fa scomparire questa relazione nel risultato aggregato dei sei modelli. Il fenomeno è dunque diffuso, ma non universale.

“Il salario suggerito da un assistente digitale può diventare il punto di partenza di una trattativa”, osserva Kenza Elass, fellow del Research Lab on Gender Equality della Bocconi. “Se quel riferimento incorpora uno svantaggio di genere, la candidata rischia di portarlo con sé al tavolo della negoziazione, senza sapere che il consiglio sarebbe stato diverso per un uomo”.

Perché un’istruzione non basta

Le implicazioni per imprese e decisori pubblici partono da qui: valutare l’equità di un sistema soltanto sul risultato medio può lasciare invisibili le disparità più rilevanti. Servono controlli distinti per professione e verifiche lungo tutta la filiera, dalla scrittura dei materiali alla valutazione, da ripetere quando i modelli vengono aggiornati.

Non basta aggiungere un’istruzione rassicurante. Negli esperimenti, chiedere al modello di essere rigorosamente neutrale rispetto al genere lascia sostanzialmente intatti i problemi. Invitarlo invece a favorire le candidate produce una forte correzione generalizzata, anziché un intervento mirato agli squilibri. La facilità con cui si modifica un’istruzione non si traduce, dunque, nella capacità di governarne gli effetti.

“La domanda di policy è chi debba dimostrare che questi strumenti funzionano in modo equo, con quali verifiche e in quale momento”, sottolinea Paola Profeta, direttrice del Research Lab on Gender Equality della Bocconi. “I controlli dovrebbero entrare nelle condizioni con cui un’impresa sceglie e introduce una tecnologia, insieme a costi e prestazioni. Intervenire soltanto quando una persona riesce a riconoscere e contestare una disparità lascia sulle sue spalle un onere troppo grande”.

Lo studio misura il comportamento dei modelli in condizioni sperimentali, non gli effetti su assunzioni e stipendi reali. Gli esperimenti sono inoltre in inglese e riferiti al contesto statunitense: serviranno verifiche sul campo e in altre lingue per misurare la portata dei meccanismi individuati.

Il segnale per chi introduce questi strumenti è comunque chiaro. L’imparzialità va dimostrata anche nei passaggi meno visibili, quelli in cui si decide come presentare una persona prima ancora di valutarla. Altrimenti l’automazione rischia di dare alle vecchie disuguaglianze una nuova infrastruttura.

PAOLA PROFETA

Università Bocconi
Dipartimento di Scienze Sociali e Politiche

DEBORA NOZZA

Università Bocconi
Dipartimento di Scienze della Computazione

GERMAIN GAUTHIER

Università Bocconi
Dipartimento di Scienze Sociali e Politiche