Cuando la tecnología se equivoca: Google Fotos etiquetó a dos afroamericanos como “Gorilas”

nada

[dt_gap height=”10" /]

Cuando un bug de software causa que un botón no ande o que se cierre inesperadamente el programa la situación puede ser molesta, pero todos entendemos que la tecnología dista de ser perfecta. Ahora hay cosas más serias, como que un programa confunda a un ser humano con un animal. Sobre todo cuando es en un país como Estados Unidos, donde los conflictos raciales han dejado una marca imborrable en la sociedad hasta el día de hoy.

[d[dt_gap height=”10" /]p>

googlephotos0001Jacky Alcine es un joven neoyorkino. El pasado 28 de Junio el muchacho revisaba su colección de fotos en el servicio de Google y un álbum llamó su atención. ¿El título? “Gorilas”. Cuando vió la previsualización de las imágenes que se contenían en el cuadernillo electrónico pudo darse cuenta que eran los autorretratos que se había sacado recientemente con una amiga. Si, el software había confundido el rostro de una persona afroamericana con un animal.

Al notar esto el reclamo no se hizo esperar y Jacky subió la captura de pantalla a Twitter, donde la situación escaló al siguiente nivel cuando gran cantidad de usuarios retwittearon el mensaje en la red social. “Google Fotos, la cagaron. Mi amiga no es un gorila” dijo el usuario buscando una respuesta, cuando más tarde agregó:

“Me gustaría entender como sucedió. El problema radica en el COMO. Así es como determinan el objetivo de mercado de alguien”.

[dt_[dt_gap height=”10" /]

[dt_ga[dt_gap height=”10" /]p style="text-align: justify;">googlephotos0002Fue el mismo Yonatan Zunger, director de ingeniería en software de Google el que respondió en Twitter:   “Santa mierda. No, así no se determina el objetivo de mercado de alguien. Esto está 100% mal”. Luego Zunger envió un segundo mensaje al joven en Twitter afirmando que se habían removido todas las etiquetas incorrectas, y las búsquedas serían corregidas en breve.

Un comunicado oficial de Google fue emitido posteriormente:

“Estamos consternados y realmente apenados de que esto haya sucedido. Estamos tomando medidas inmediatas para evitar que este tipo de resultado vuelva a aparecer. Todavía hay claramente un montón de trabajo que hacer con el etiquetado automático de las imágenes, y estamos viendo cómo podemos evitar este tipo de errores en el futuro”.

¿Cómo sucede esto? Claro, esa es la pregunta del millón. Los sistemas de reconocimiento de imagen han avanzado muchísimo en la última década, pero aún se basan en un principio técnico de comparación de patrones mediante gigantescas bases de datos desde donde pueden comparar muestras de cientos de miles de líneas junto a un contexto que le ayuda a tomar una decisión sobre el contenido que la plataforma cree que “ve” en la foto. Hoy quedó en evidencia que la programación de estas características aún tienen un gran trabajo por delante hasta poder “ver” y razonar como un humano y no como la máquina que son.

Comentarios

comentarios

Related Posts

Te traemos las 5 mejores apps para que te disfraces en este Halloween
YouTube para Android ahora permite emitir en directo a cualquier usuario
Guía para eliminar tu cuenta de Gmail por completo: paso a paso
Google PixelBook
Google Pixelbook, así es la mejor laptop de Google
Google Pixel Buds
Google nos trae los nuevos Pixel Buds, su nueva apuesta en el mercado
Google Pixel 2
El mejor celular Android del momento, así es el Google Pixel 2