¿Es racista el algoritmo de Twitter?
Feedelity
septiembre 21, 2020
“Twitter es racista” esto es lo que afirman varios usuarios luego de que se revelaran evidencias de que el algoritmo de recorte de imágenes prioriza el rostro de personas blanca sobre el de personas negras.
Twitter vuelve a ser el centro de las noticias en el mundo digital en menos de 1 semana y esta vez por algo no tan bueno. La semana pasada la red social fue uno de los principales temas de conversación debido a su nueva funcionalidad de Branded Likes, ahora se encuentra en medio de un oleada de críticas que lo acusan de que su algoritmo es racista.
El problema se da por los Thumbnails (imagen de vista previa en miniatura del original) de las imágenes que se publican en Twitter. Varios usuarios reportaron que al subir una foto con la cara de una persona blanca y una persona negra, el algoritmo de Twitter muestra con más frecuencia el rostro de la persona blanca en el thumbnail.
¿QUÉ ES UN ALGORITMO Y CÓMO FUNCIONA?
Un algoritmo es un conjunto ordenado de operaciones sistemáticas que realizan acciones o cálculos para resolver problemas. En otras palabras, son “robots” programables que realizan tareas complejas de forma masiva, que serían imposibles realizar para los humanos debido a la cantidad de información a procesar. Los algoritmos usan el concepto de inteligencia artificial para realizar los cálculos y al mismo tiempo aprender por sí mismos, nuevas formas de resolver los problemas que se les plantean.
En este caso, Twitter lanzó su red neuronal para la gestión de imágenes en 2018 y según la red social “se encargaría de mostrar las partes más relevantes de una imagen en la vista previa”.
Sin embargo; un experimento realizado por varios usuarios durante el fin de semana demostró que la herramienta de inteligencia artificial para recorte de fotos podría tener un sesgo racista. Uno de los más relevantes fue el usuario Tony Arcieri quien subió a la red social una foto del senador Mitch McConnel y del ex presidente Barack Obama. Cuando los dos rostros se encuentran en la misma imagen, el algoritmo de Twitter muestra en la vista previa la cara de McConell, aún si la disposición de las fotos es distinta.
thanks to everyone who raised this. we tested for bias before shipping the model and didn't find evidence of racial or gender bias in our testing, but it’s clear that we’ve got more analysis to do. we'll open source our work so others can review and replicate. https://t.co/E6sZV3xboH
— liz kelley (@lizkelley) September 20, 2020
Inmediatamente otros usuarios se sumaron a los experimentos cargando otras fotos y para su sorpresa el resultado siempre era el mismo, en la vista previa se muestra el rostro de la persona blanca.
Las críticas debido a los resultados de los experimentos no tardaron en llegar a oídos de Twitter, generando que varios de sus directivos se pronunciaran, entre ellos Liz Kelley, del equipo de comunicación
“Nuestro equipo probó el algoritmo antes de enviar el modelo y no encontró evidencia de sesgo racial o de género, pero está claro a partir de estos ejemplos que tenemos que hacer más análisis, Abriremos nuestro trabajo para que otros puedan revisar y replicar”.
¿ES EN VERDAD TWITTER RACISTA?
Esta es la pregunta del millón de dólares que se están haciendo cientos de usuarios y aunque varios ya han querido “cancelar” a Twitter, la verdad es que este error es desafortunadamente un poco más común de lo que quisiéramos. Es por esto que varios expertos en inteligencia artificial han desaconsejado usar servicios de identificación facial o algoritmos de predicción de crimen ya que podrían inducir a sesgos raciales o de género.
En el caso del algoritmo de Twitter, son varios los factores que podrían estar influyendo en este error, uno de los principales es que el contraste de las imágenes suele ser el elemento de mayor peso en el análisis. Las caras blancas tienden a mostrar mayor contraste en distintas zonas, saliendo “favorecidas” al momento de escoger la parte más relevante de la imagen. Algo similar sucede con las aplicaciones de videollamadas, que recortan o agregan un fondo apoyándose en el contraste que genera el rostro sobre el resto de la imagen.
Ahora Twitter deberá lidiar no solo con la presión mediática del caso, sino también con descifrar dónde se encuentra exactamente el error en el código del algoritmo, ya que usualmente una vez creados y en funcionamiento, la inteligencia artificial crea nuevas reglas que solamente esa misma inteligencia es capaz de entender.
LAS MARCAS NO PIERDEN TIEMPO
¿Quién dice que algo así no puede ser aprovechado por alguna marca? Pues bueno, este ha sido el caso de algunas que se han sumado a las pruebas que han realizado varios de usuarios con situaciones serias y algunas un poco más cómicas. Un caso es el de KFC España, que ha publicado un divertido reto para ver a quién prefiere el algoritmo de Twitter, si su comida o la de la competencia.
Probando el algoritmo de Twitter a ver que comida es mejor 🤔 pic.twitter.com/i99mPjewv8
— KFC (@KFC_ES) September 21, 2020
¿TU NEGOCIO NECESITA UN IMPULSO?
En Feedelity te ayudamos a convertirte de emprendedor a empresario. Agenda una cita y recibe una sesión de CONSULTORÍA Y DIAGNÓSTICO GRATIS con un consultor especializado que te ayudará a conseguir #EstrategiaConRetorno.
