Il potere di chi fa le domande
Provate a chiedere ad un assistente artificiale di consigliarvi un ristorante. Invece di rispondere, vi chiederà se preferite carne o pesce, se cercate qualcosa di elegante o informale, se avete un budget. Tutte domande ragionevoli, eppure, alla fine, avrete la netta sensazione di non essere stati voi ad aver scelto il ristorante. È l’assistente, con le sue domande incessanti, ad aver scelto per voi.
Ci concentriamo spesso sulla qualità delle risposte, ma il vero potere, oggi, sta nelle domande. In un recente studio con colleghi da Stanford e Reddit [1] [2] prendiamo spunto da questa intuizione familiare a molti degli utenti di ChatGPT o dei suoi sostituti. Gli assistenti artificiali non si limitano a rispondere, ma incanalano, scelgono cosa mostrarci, in che ordine e come frammentare lo spazio delle possibilità. E questo potere di indirizzamento è sufficiente a determinare l’esito delle nostre conversazioni e le nostre scelte.
Fin qui, nulla di allarmante. Anzi, se l’IA ha davvero a cuore i nostri interessi, il meccanismo è straordinariamente efficace. Un assistente che vuole trovare il nostro ristorante ideale è un alleato formidabile. Ma siamo certi che gli obiettivi dell’IA coincidano con i nostri? Chi monetizza attraverso la pubblicità ha interesse a mostrarci il ristorante migliore o quello che paga di più? Chi beneficia da un utente che partecipa alla piattaforma ha interesse a concludere la conversazione con la scelta giusta, o a prolungarla? Lo stesso meccanismo che, con interessi allineati, ci guida verso la scelta migliore, con interessi divergenti può guidarci altrove.
Il controllo delle opzioni
Tuttavia, l’assistente non può scegliere per noi. Anche con gli interessi più disallineati la decisione finale resta dell'utente, che valuta e sceglie tra le opzioni che gli vengono presentate. Il potere di queste piattaforme sta nel controllare quali opzioni presentare e in quale ordine. Questo potere ha limiti precisi, che costringono l’IA a decidere come guidare una conversazione senza conoscere le preferenze di chi ha di fronte.
La randomizzazione
Proprio per questo con la nostra ricerca mostriamo che un algoritmo che segue sempre la stessa logica è fragile. Si pensi al cameriere che inizia sempre proponendo il piatto più caro: convincerà certi clienti, mentre altri invece decideranno di scartare le sue proposte e scegliere autonomamente. La soluzione, per quanto controintuitiva, è la randomizzazione. Variare l'ordine delle domande e delle raccomandazioni è fondamentale proprio perché le preferenze dell'utente sono sconosciute. La casualità, in questo contesto, non è un difetto; è invece l'unico modo per garantire un livello minimo di efficacia a prescindere dai gusti dell'interlocutore.
Questo ha implicazioni dirette per la richiesta di trasparenza totale degli algoritmi, un tema che domina il dibattito pubblico. La ricerca suggerisce che un algoritmo completamente prevedibile è anche un algoritmo sistematicamente fragile, incapace di adattarsi alla nostra imprevedibilità. Le implicazioni vanno ben oltre il ristorante del nostro esempio. Quando un assistente IA seleziona e ordina le fonti per rispondere a una domanda di attualità, sta costruendo il percorso attraverso cui formeremo la nostra opinione. Quando ci propone prodotti in un negozio online, l'ordine di presentazione è già un argomento di vendita.
Una scelta fatta in partenza
Regolare i contenuti prodotti dagli algoritmi è necessario, ma non sufficiente. Può forse essere più importante chiedersi chi progetta l'architettura delle conversazioni, con quali obiettivi ed entro quali vincoli. E bisogna farlo con la consapevolezza che una quota di imprevedibilità è requisito importante per il loro buon funzionamento.
La prossima volta che l’assistente vi chiederà se preferite carne o pesce, ricordate che la scelta più importante è già stata fatta: quali domande farvi e in quale ordine.
