Il robot che suggeriva troppo: i problemi e i vantaggi del “nudging” applicato all’IA – Agenda Digitale
intelligenza artificiale
Le “spinte gentili” del nudging servono a indurre qualcuno a scegliere una strada piuttosto che un’altra. Ma cosa succede quando sono le macchine o i robot sociali a suggerirci delle cose? Dovrebbero esserci dei limiti? E chi li stabilisce?
07 Nov 2022
Le macchine, a diversi livelli – che si tratti dell’interfaccia di un sito web, di un assistente vocale come Siri, Alexa o Cortana, di una chatbot o di un vero e proprio robot sociale – ci suggeriscono delle cose: “potresti provare anche questo”, “se ti è piaciuto questo, allora…”, “gli altri utenti hanno scelto questo”, e così via.
Al di là dei problemi di privacy che sorgono (dal momento che i suggerimenti dipendono dai dati individuali raccolti), una questione interessante sollevata dall’EGE (2018) consiste nel chiedersi se dovrebbero esserci dei limiti a questo fenomeno: dovrebbero esserci delle cose che le macchine non possono suggerirci? Chi stabilisce questi limiti? E sulla base di cosa?
La teoria della “spinta gentile” e l’influenzabilità dell’essere umano
Queste domande possono essere declinate in diversi modi: il più semplice, forse, riguarda i limiti dei suggerimenti pubblicitari. Noto è stato il caso di una donna che ha pubblicato un articolo sul Washington Post per diffondere la sua triste storia: dopo aver perso il bambino quasi alla fine della gravidanza, le varie piattaforme che utilizzava continuavano a mostrarle pubblicità legate alla nascita e all’accudimento dei bambini, contribuendo ad amplificare il suo dolore (Brockell 2018).
WHITEPAPER
Certificazioni GDPR: tutti i vantaggi per le organizzazioni che vi aderiscono
Con un significato un po’ diverso, un caso interessante a questo proposito, è quello del nudging e della sua applicazione all’IA. La cosiddetta nudge theory (Thaler & Sunstein 2008) si inserisce nell’ambito dell’architettura della scelta e consiste in tutte quelle “spintarelle”, come dice il nome stesso, che servono a indurre qualcuno a scegliere una strada piuttosto che un’altra. Un esempio banale: mettere il cibo salutare all’altezza degli occhi, dove è più visibile e quindi sarà più facilmente scelto dal cliente del negozio o della mensa.
L’idea, infatti, è che queste spinte debbano essere verso il meglio, e dunque non avere scopi malevoli. Non si tratta, ad ogni modo, di scelte obbligate, anzi il nudging sta proprio nel fatto che
