Cuando la tecnología se equivoca: Google Fotos etiquetó a dos afroamericanos como “Gorilas”

[dt_gap height=”10" /]

Cuando un bug de software causa que un botón no ande o que se cierre inesperadamente el programa la situación puede ser molesta, pero todos entendemos que la tecnología dista de ser perfecta. Ahora hay cosas más serias, como que un programa confunda a un ser humano con un animal. Sobre todo cuando es en un país como Estados Unidos, donde los conflictos raciales han dejado una marca imborrable en la sociedad hasta el día de hoy.

[d[dt_gap height=”10" /]p>

googlephotos0001Jacky Alcine es un joven neoyorkino. El pasado 28 de Junio el muchacho revisaba su colección de fotos en el servicio de Google y un álbum llamó su atención. ¿El título? “Gorilas”. Cuando vió la previsualización de las imágenes que se contenían en el cuadernillo electrónico pudo darse cuenta que eran los autorretratos que se había sacado recientemente con una amiga. Si, el software había confundido el rostro de una persona afroamericana con un animal.

Al notar esto el reclamo no se hizo esperar y Jacky subió la captura de pantalla a Twitter, donde la situación escaló al siguiente nivel cuando gran cantidad de usuarios retwittearon el mensaje en la red social. “Google Fotos, la cagaron. Mi amiga no es un gorila” dijo el usuario buscando una respuesta, cuando más tarde agregó:

“Me gustaría entender como sucedió. El problema radica en el COMO. Así es como determinan el objetivo de mercado de alguien”.

[dt_[dt_gap height=”10" /]

[dt_ga[dt_gap height=”10" /]p style="text-align: justify;">googlephotos0002Fue el mismo Yonatan Zunger, director de ingeniería en software de Google el que respondió en Twitter:   “Santa mierda. No, así no se determina el objetivo de mercado de alguien. Esto está 100% mal”. Luego Zunger envió un segundo mensaje al joven en Twitter afirmando que se habían removido todas las etiquetas incorrectas, y las búsquedas serían corregidas en breve.

Un comunicado oficial de Google fue emitido posteriormente:

“Estamos consternados y realmente apenados de que esto haya sucedido. Estamos tomando medidas inmediatas para evitar que este tipo de resultado vuelva a aparecer. Todavía hay claramente un montón de trabajo que hacer con el etiquetado automático de las imágenes, y estamos viendo cómo podemos evitar este tipo de errores en el futuro”.

¿Cómo sucede esto? Claro, esa es la pregunta del millón. Los sistemas de reconocimiento de imagen han avanzado muchísimo en la última década, pero aún se basan en un principio técnico de comparación de patrones mediante gigantescas bases de datos desde donde pueden comparar muestras de cientos de miles de líneas junto a un contexto que le ayuda a tomar una decisión sobre el contenido que la plataforma cree que “ve” en la foto. Hoy quedó en evidencia que la programación de estas características aún tienen un gran trabajo por delante hasta poder “ver” y razonar como un humano y no como la máquina que son.

Comentarios

comentarios

Related Posts

google maps portada
Google sabe dónde estás a pesar de desactivar el historial del ubicaciones pero así podrás evitarlo
gmail
Te enseñamos a eliminar la vista de conversación en Gmail
teléfono de google
Teléfono de Google llega con nueva actualización y Google Material
google chrome 65 20188
Modifica la apariencia de Google Chrome gracias a sus temas
Google Home
Análisis Google Home, el asistente personal que llega a tu casa
android pie
Te contamos cuales son los smartphones que pronto se actualizaran a Android Pie