Facebook anunció la semana pasada que deshabilitó su función de recomendación de tópicos después de que se asoció erróneamente a los hombres negros con “primates” en un video publicado en la red social.
Un portavoz de Facebook lo calificó como un “error claramente inaceptable” e informó que el software de recomendación involucrado se desconectó.
“Ofrecemos disculpas a todos aquellos que hayan visto estas ofensivas recomendaciones “, se retractó la compañía.
“Inhabilitamos toda la función de recomendación de tópicos tan pronto como nos dimos cuenta de que esto estaba sucediendo para poder investigar la causa y evitar vuelva a suceder”.
El software de reconocimiento facial ha enfrentado innumerables críticas por parte de defensores de los derechos civiles que señalan los problemas con la precisión, en particular cuando se trata de personas que no son blancas.
¿Cómo inició la polémica?
Hace unos días, algunos usuarios de la red social vieron un video de un tabloide inglés protagonizado por hombres negros y luego, recibieron un aviso generado automáticamente por el software en donde les preguntaron si deseaban “seguir viendo videos sobre primates”, como detalló el The New York Times.
El video, fechado en junio de 2020 fue publicado por el Daily Mail y se titula “White man calls cops on black men at marina“.
Según Facebook, por un error de Software, salió esta pregunta acerca de si quieren seguir viendo videos de Primates, refiriéndose a los Negros. Sí o no ? Pienso que alguien dentro de la compañía, tuvo alguna experiencia negativa con ellos y filtro "accidentalmente" la pregunta… pic.twitter.com/9l8FBYkWVz
— Chikistrakiz (@chikistrakiz) September 4, 2021
Si bien los humanos se encuentran entre las muchas especies de la familia de los primates, el video no tiene nada que ver con monos, chimpancés o gorilas.
El ex gerente de diseño de contenido de Facebook, Darci Groves, compartió una captura de pantalla de la recomendación en Twitter.
“Este mensaje de ‘seguir viendo’ es inaceptable”, tuiteó Groves, dirigiendo el mensaje a antiguos colegas de Facebook.
Um. This “keep seeing” prompt is unacceptable, @Facebook. And despite the video being more than a year old, a friend got this prompt yesterday. Friends at FB, please escalate. This is egregious. pic.twitter.com/vEHdnvF8ui
— Darci Groves (@tweetsbydarci) September 2, 2021
No es la primera vez que el gigante de redes sociales fundado por Mark Zuckerberg se enfrenta a polémicas de este tipo en los últimos años.
En 2020, cientos de anunciantes firmaron la campaña Stop Hate for Profit, organizada por grupos de justicia social como la Liga Anti-Difamación (ADL) y Free Press, para presionar a Facebook para que tomara medidas concretas para bloquear el discurso de odio y la desinformación que se dio tras la muerte de George Floyd a manos de la policía.
AFP