Reverso, una popular aplicación de traducción que recopila contenido de código abierto de millones de textos de la vida real, podría enfrentar acusaciones de no hacer lo suficiente para filtrar el contenido antisemita después de la oración de muestra: «Hitler era mucho más amable con los judíos de lo que merecían», fue descubierto en su página web.
Al traducir la frase en francés, «más gentil» al inglés, Reverso proporciona ejemplos de «más agradable» escritos en formato de oración. El mejor ejemplo ofrecido dice: «Hitler fue mucho más amable con los judíos de lo que merecían».
También hay una opción para escuchar la oración de ejemplo pronunciada en voz alta, con un bot que dice las palabras que muchos clasificarían como voces de odio antisemitas y virulentas.
Una traducción adicional problemática ocurre cuando se traduce «Sionismo», con el ejemplo de la oración superior que dice «No mencionó el cáncer del sionismo» y otra declaración «El sionismo ha estado planeando dominar el mundo desde su famosa conferencia celebrada en Basilea, Suiza en 1897. »
Sin embargo, debido a que las traducciones de Reverso son el resultado de algoritmos de big data que organizan textos de origen, su contenido puede ser moldeado por ideas o lenguaje discriminatorio, racista y, por lo demás, pernicioso.
El fundador de Reverso, Theo Hoffenberg, le dijo a i24NEWS: «Reverso recupera miles de millones de frases en diferentes idiomas de diferentes sitios y películas».
“Dentro de este corpus muy grande, filtramos en base a palabras clave. No hay filtro sobre si lo que se dice es bueno o no «, dijo Hoffenberg.
El creador del sitio señaló que esta traducción en particular fue especialmente mala suerte. «Normalmente no sucede. Esta es la primera vez que tenemos un ejemplo tan horrible que se destaca «.
El ejemplo, sin embargo, no será eliminado inmediatamente.
“Actualmente no tenemos un mecanismo para informar ejemplos incorrectos, que eliminamos en cada nuevo ciclo, cada mes o cada dos meses. «Podremos arreglarlo para fines de la próxima semana», dijo Hoffenberg.
El aprendizaje automático, una forma de inteligencia artificial (IA) en la que se basan las aplicaciones como Reverso, permite que los sistemas se desarrollen constante y automáticamente sin programarse explícitamente.
Cuando se trata de prejuicios humanos, el aprendizaje automático muestra cómo los sistemas pueden imitar el antisemitismo y el racismo que fluye libremente por Internet.
A medida que más aplicaciones y sistemas públicos se basan en algoritmos que permiten a sus operadores filtrarse a través de cantidades masivas de información, existe la preocupación de que los chatbots y otras aplicaciones de inteligencia artificial reflejen los aspectos más feos de la humanidad.
Fuente: 20 minutos