l’algoritmo di facebook ha scambiato i neri per gorilla – il social: ‘un errore inaccettabile’…

Dal Corriere.it

Facebook

Il «colpevole» è un video di un tabloid britannico, il Daily Mail, che risale al 27 giugno 2020. Si intitola «L’uomo bianco chiama i poliziotti contro gli uomini di colore al porto turistico». Il filmato mostra un gruppo di persone di colore che discutono con altri uomini bianche e con degli agenti di polizia.

Nessun riferimento a scimmie o gorilla. Eppure l’algoritmo di Facebook ha pensato di suggerire, a chi aveva guardato questo post, dei video relativi ai primati. C’era scritto proprio così: «Continua a guardare video sui primati». Inevitabile lo scoppio di una polemica contro questa intelligenza artificiale che non è stata allenata in modo sufficiente – a quanto pare – a distinguere un nero da una scimmia.

facebook su iphone

Facebook ha subito avviato un’indagine interna e ha disabilitato l’algoritmo. Per poi scusarsi: un portavoce ha definito l’errore «inaccettabile» e assicura che si sta facendo il possibile perché questo «non succeda di nuovo». E ancora. «Mentre abbiamo fatto dei miglioramenti alla nostra intelligenza artificiale, sappiamo che non è perfetta e che dobbiamo fare altri progressi».

Non è però un caso isolato quello relativo al video del tabloid britannico. Da anni i sistemi di intelligenza artificiale delle grandi società tecnologiche, da Facebook a Google a Amazon, sono sotto osservazione in particolare per i pregiudizi sulla questione di razza.

Il filmato incriminato

Diversi studi hanno dimostrato come, ad esempio, il riconoscimento facciale abbia molte più difficoltà a identificare le persone di colore rispetto ai bianchi. Portando a incidenti spiacevoli, come quello capitato al 31enne Nijeer Parks. Assomigliava a un ricercato: l’intelligenza artificiale lo ha identificato come colpevole e lui è finito in carcere. E andando indietro al 2015, c’è stato il caso dei tag di Google che identificavano come «gorilla» due persone di colore.