Questo articolo su Nature racconta di alcuni casi in cui l’implementazione di un algoritmo di machine learning avrebbe portato all’introduzione di bias indesiderati.
Come nel caso dell’ospedale universitario di Chicago, dove alcuni ricercatori volevano creare un algoritmo che trovasse il modo di minimizzare le degenze facendo concentrare i medici su quei pazienti con maggiori probabilità di essere dimessi speditamente.
Durante lo studio però i ricercatori notarono che uno dei fattori più influenti nella decisione sarebbe stata la zona di residenza dei pazienti, poiché i pazienti provenienti da zone povere avevano in media degenze più lunghe. Concentrando gli sforzi dei medici sui pazienti con degenze più brevi, anche se con la lodevole intenzione di ottimizzare i tempi per tutti, avrebbero finito per avvantaggiare i pazienti provenienti da zone ricche a discapito di chi viveva in zone più popolari.
Per approfondire: A fairer way forward for AI in health care (Nature)
