Quando l’intelligenza artificiale offre consigli morali, spesso trascura ciò che ci rende umani

Man mano che gli strumenti di IA generativa diventano compagni di vita quotidiana, le persone si rivolgono sempre più spesso a loro per ricevere consigli su questioni profondamente personali: dovrei affrontare un amico? Sono ingiusto nei confronti del mio partner? Ho sbagliato a mettere i miei figli al primo posto?

Non si tratta di domande tecniche, ma morali. E sebbene i grandi modelli linguistici (LLM) come ChatGPT siano diventati interlocutori straordinariamente capaci, un nuovo studio suggerisce che abbiano ancora difficoltà con uno degli aspetti più umani del processo decisionale: gestire il disaccordo morale.

Un articolo presentato alla 19ª Conferenza della sezione europea della Association for Computational Linguistics rileva che i sistemi di IA tendono a riprodurre le opinioni della maggioranza, trascurando la diversità di valori che gli esseri umani apportano alle situazioni etiche complesse. I ricercatori definiscono questo fenomeno il “divario morale pluralistico”.

L'IA è in grado di comprendere la complessità morale?

Lo studio è stato condotto da Debora Nozza, Dirk Hovy (entrambi del Dipartimento di Scienze della Computazione dell’Università Bocconi e del Bocconi Institute for Data Science and Analytics), Giuseppe Russo (EPF di Losanna) e Paul Röttger (Università di Oxford).

Il loro punto di partenza è una semplice osservazione: molti dilemmi morali non hanno un’unica risposta corretta, ma invitano invece a considerare uno spettro di prospettive. Nella vita quotidiana, le persone spesso non sono d’accordo, a volte profondamente, su ciò che costituisce la cosa giusta da fare. Eppure la maggior parte delle valutazioni sul ragionamento morale dell’IA si concentra sul fatto che un modello raggiunga o meno la risposta «corretta», tipicamente definita dall’opinione della maggioranza.

Gli autori sostengono che questo approccio non colga il punto. Il vero ragionamento morale è pluralistico. Coinvolge valori contrastanti, esperienze di vita diverse e disaccordi legittimi.

«I dilemmi morali raramente hanno un’unica risposta corretta, ma invitano invece a considerare una vasta gamma di prospettive.»

Questa osservazione è più significativa di quanto possa sembrare. La maggior parte delle valutazioni sull’IA presuppone l’esistenza di un’unica risposta corretta rispetto alla quale un modello possa essere misurato. Gli autori mettono in discussione tale presupposto. In molte controversie quotidiane tra partner, parenti, colleghi o amici la domanda importante non è se la macchina identifichi l’opinione della maggioranza, ma se sia in grado di rappresentare la gamma di posizioni ragionevoli che gli esseri umani effettivamente sostengono.

Uno dei più grandi set di dati sui dilemmi morali del mondo reale

Per indagare fino a che punto l’IA rispecchi il giudizio morale umano, il team ha creato un set di dati contenente 1.618 dilemmi morali del mondo reale e oltre 51.000 giudizi umani, raccolti dalla popolare community di Reddit “Am I The Asshole?”. Ogni dilemma include sia un verdetto che una spiegazione scritta del ragionamento che lo sostiene.

Anziché ridurre le risposte a una semplice etichetta “sì” o “no”, i ricercatori hanno conservato la distribuzione completa delle opinioni. Ciò ha permesso loro di confrontare il modo in cui gli esseri umani dissentono con quello in cui i sistemi di IA dissentono o no. Il risultato è una delle analisi più dettagliate mai condotte su come i modelli linguistici si comportano di fronte a questioni etiche complesse e ambigue.

L’IA è d’accordo con noi… finché le cose non si complicano

I risultati rivelano che quando gli esseri umani sono ampiamente d’accordo su una questione morale, i sistemi di IA funzionano bene. Modelli come GPT, Claude, Llama, Mistral e Qwen giungono spesso a conclusioni simili a quelle della maggior parte delle persone. Ma quando il disaccordo aumenta, l’allineamento dell’IA si deteriora rapidamente.

I ricercatori osservano che è proprio in questo ambito che i consigli morali assumono maggiore importanza:

«È presumibilmente in questa zona grigia che le persone dipendono maggiormente dai consigli morali.»

In altre parole, l’IA è più forte quando la risposta è ovvia e più debole quando la domanda è davvero difficile.

Il vero problema non è il giudizio, ma i valori

La scoperta più importante è emersa quando i ricercatori sono andati oltre le decisioni finali ed hanno esaminato i valori utilizzati per giustificarle. Utilizzando una tassonomia di 60 valori morali, il team ha analizzato migliaia di spiegazioni fornite da esseri umani e dall’IA.

A prima vista, gli esseri umani e l’IA sembravano sorprendentemente simili. Entrambi facevano spesso riferimento a concetti quali autonomia, cura, compassione, rispetto e benessere. Ma un’analisi più approfondita ha rivelato una differenza cruciale: gli esseri umani attingono a un’ampia varietà di valori a seconda del contesto. I sistemi di IA, al contrario, si basano ripetutamente su un ristretto insieme di principi dominanti.

• I primi dieci valori rappresentano l’81,6% di tutti i riferimenti ai valori nelle spiegazioni generate dall’IA.
• Gli stessi dieci valori rappresentano solo il 35,2% delle spiegazioni fornite dagli esseri umani.

Gli esseri umani erano significativamente più propensi a invocare valori quali l’inclusività, la comunicazione, la cura di sé, la sensibilità emotiva e il benessere dei bambini — considerazioni che spesso emergono in situazioni interpersonali ricche di sfumature. Ciò ha portato gli autori a identificare ciò che definiscono il «divario morale pluralistico»:

«Una tendenza sistematica dei modelli di linguaggio di grandi dimensioni (LLM) a fare affidamento su un insieme più ristretto di valori morali che rispecchiano da vicino i giudizi della maggioranza.»

Il profilo morale dinamico

I ricercatori non si sono limitati a diagnosticare il problema. Hanno sviluppato una tecnica denominata Dynamic Moral Profiling (DMP), progettata per esporre i sistemi di IA a una gamma più ampia di prospettive sui valori umani prima di generare una risposta.

Anziché indurre un modello a ragionare dalla sua prospettiva predefinita, il DMP lo espone a profili di valori derivati dalle risposte umane a tipi simili di dilemmi. Il metodo non indica al modello quale conclusione raggiungere; piuttosto, lo incoraggia a prendere in considerazione una gamma più ampia di valori umani prima di generare una risposta. Il risultato è un miglioramento del 64,3% nell’allineamento con i giudizi umani e un marcato aumento della diversità dei valori.

Forse l’aspetto più importante è che l’approccio ha funzionato non solo sul set di dati originale, ma anche su dilemmi completamente nuovi, suggerendo che il metodo sia generalizzabile al di là degli esempi di addestramento.

I rischi di un’eccessiva semplificazione

Le implicazioni vanno ben oltre la ricerca accademica. Milioni di persone consultano già i sistemi di IA per consigli sulle relazioni, conflitti sul posto di lavoro, controversie familiari e altre situazioni dal forte contenuto etico. Se questi sistemi tendono costantemente a privilegiare le opinioni della maggioranza, rischiano di trascurare le prospettive delle minoranze che potrebbero essere altrettanto valide e importanti.

Gli autori si guardano bene dal concludere che l’IA non debba mai fornire consigli morali. Sostengono invece che i modelli attuali tendano a semplificare la complessità etica.

La loro conclusione è particolarmente rilevante man mano che l’IA diventa sempre più integrata nel processo decisionale quotidiano:

«L’esposizione a prospettive pluralistiche non è solo benefica, ma essenziale per sostenere un processo decisionale ponderato e sensibile al contesto.»

Gli autori suggeriscono che il futuro di un’IA affidabile potrebbe non dipendere dall’individuazione di un unico quadro morale “corretto”. Potrebbe invece richiedere sistemi in grado di riflettere la ricchezza, la diversità e i disaccordi, talvolta scomodi, che caratterizzano la stessa moralità umana.