Google elimina los pronombres de género para evitar prejuicios sexistas

El director de Gmail, Paul Lambert, anunció a Reuters que un investigador de Google descubrió que en el empleo de la tecnología ‘Smart Compose’ de Google habían prejuicios sexistas en los pronombres que propone, basados en el género.

Lambert señaló que el problema fue detectado en enero de este año, cuando escribió «me reuniré con un inversor la próxima semana» y la herramienta de Inteligencia Artificial (IA) sugirió la pregunta «¿quieres reunirte con él?», asumiendo de forma improcedente que se trataba de un hombre.

En este sentido, para evitar errores y prejuicios en las sugerencias relativas a la identificación de género, ‘Smart Compose’ dejará de mostrar pronombres como «ella» o «él» en las frases que sugiere.

Además, indicó que «no todos los errores son iguales» y que el género es algo «grande, muy grande» como para equivocarse.

Para los interesados, ‘Smart Compose’ es una herramienta de generación de lenguaje natural basada en IA, mediante la cual un ordenador es capaz de aprender a escribir oraciones mediante el estudio de patrones del usuario y relaciones entre distintas palabras en aspectos como la literatura, las páginas web y los correos electrónicos.

El sistema ayuda al usuario a completar frases a partir de la exposición a billones de oraciones humanas, en las cuales pueden aparecer generalidades.

En términos de historia y en ámbitos como ciencia o negocios, la tecnología de IA tendía a aventurar de forma equivocada que el género de un inversor o un ingeniero es masculino.

¿Quiénes trabajan para mejorar el servicio?

El director del producto destacó que 15 ingenieros y desarrolladores probaron distintas soluciones pero todas fallaron, ya que ninguna de las opciones valoradas estaba totalmente libre de prejuicios.

Por esta razón Google optó por dejar de utilizar pronombres que implican género.

Para descubrir nuevos prejuicios, Lambert comentó que la empresa utiliza pruebas desarrolladas por su equipo de ética de IA e investigan en los sistemas para encontrar los errores mediante un equipo de ‘spam’ y abuso.

¿De qué va este cambio?

La nueva política que elimina los pronombres basados en género y también afectará a las posibles respuestas sugeridas automáticamente por ‘Smart Reply’, el servicio de Google que permite a los usuarios responder de forma instantánea a mensajes de texto y correos electrónicos.

Google presentó la herramienta ‘Smart Compose’ en la Conferencia I/O para Desarrolladores, celebrada en mayo en Mountain View, California (Estados Unidos) y la incorporó al servicio de correo electrónico de Google en agosto de 2018.

https://www.elciudadano.cl/tecnologia-2/demandan-a-google-por-rastrear-ubicaciones-sin-autorizacion/08/22/

https://www.elciudadano.cl/tecnologia-2/como-evitar-que-google-rastree-tu-ubicacion/10/17/