Bias cognitivi, il problema irrisolto dell’IA discriminatoria – Agenda Digitale
derive della tecnologia
Dalla prevenzione del crimine fino al calcolo del merito per l’accesso a finanziamenti. Sono molteplici gli esempi di utilizzo dell’IA sulle persone, con un preoccupante filo conduttore: il problema (ancora irrisolto) delle derive discriminatorie
13 Dic 2022
Era il 2013 quando Eric L. Loomis era alla guida di un veicolo precedentemente usato per una sparatoria nello stato del Wisconsin, Stati Uniti. Fermato dalla polizia, gli venivano addebitati cinque capi d’accusa, tutti in recidiva.
Questo che a primo impatto sembrerebbe un normalissimo fatto di cronaca in una qualsiasi giornata americana, è in realtà una delle vicende più importanti degli ultimi anni in tema di applicazione delle nuove tecnologie alle vicende umane.
Giustizia predittiva: la dignità umana faro per l’AI nei processi
I problemi del software COMPAS
Nel processo a carico di Loomis, infatti, il giudice aveva quantificato la pena anche sulla base dei risultati di un software chiamato COMPAS, strumento di valutazione concepito per prevedere il rischio di recidiva e identificare i bisogni dell’individuo in
