Instagram ‘recomienda’ imágenes antisemitas y desinformación de Covid-19

El algoritmo de Instagram está 'recomendando' imágenes antisemitas, conspiraciones de QAnon y desinformación de Covid-19 a millones de usuarios
El algoritmo de Instagram está 'recomendando' imágenes antisemitas, conspiraciones de QAnon y desinformación de Covid-19 a millones de usuarios

El algoritmo de Instagram está ‘recomendando’ imágenes antisemitas, conspiraciones de QAnon y desinformación de Covid-19 a millones de usuarios. Esto es el resultado de una función recientemente introducida que les envía automáticamente contenido nuevo y no solicitado para digerir.

Un estudio del Centro para la Lucha contra el Odio Digital (CCDH) destaca imágenes que culpan a Israel por la pandemia. QAnon o Q: es una de las principales teorías de la conspiración de la extrema derecha estadounidense​​​​​

En un intento por ampliar la participación de la audiencia y aumentar los ingresos por publicidad, el pasado mes de agosto el gigante de las redes sociales introdujo nuevas funciones de «Publicaciones sugeridas» y «Explorar» que utilizaban algoritmos para dirigir a los usuarios a material nuevo.

Pero una investigación realizada por el Centro para Contrarrestar el Odio Digital (CCDH) sobre este desarrollo encontró que los usuarios que previamente habían seguido las principales cuentas anti-vaxxer estaban recibiendo ‘recomendaciones’ para material abiertamente antisemita.

En un ejemplo del estudio, publicado el martes, cuatro voluntarios configuraron cuentas de Instagram y siguieron a diez de los usuarios más conocidos que publicaban material anti-vaxx en el sitio.

Las cuentas, que tienen 6.5 millones de seguidores en la plataforma, fueron seleccionadas porque parecían ofrecer un consejo relativamente profesional. Algunas habían recibido un estado verificado por Instagram.

Leer más: Instagrammer musulmán acosa a clientes judíos en una tienda kosher de Michigan

Incluían cuentas como «Médicos por contenido informado», «Defensa de la salud de los niños» y «Robert F Kennedy Jnr».

Lamentablemente, el estudio encontró que de 30 ‘recomendaciones’ publicadas por la página Explore de Instagram entre septiembre y octubre del año pasado, 19 contenían lo que la CCDH consideró como “desinformación y odio”.

Uno usó la bandera israelí para implicar que los judíos controlan el gobierno. El segundo, de una cuenta diferente, usó la bandera para vincular a Israel con el uso de máscaras, un «Plannedemic» y el «NWO», un supuesto «Nuevo Orden Mundial» que dirige los eventos globales.

A los voluntarios que siguen esta lista también se les recomendó una serie de información errónea de Covid.

Numerosas publicaciones afirmaron que «no hay pandemia». Otros ejemplos instaron a las personas a «dejar de hacerse la prueba» y «dejar de usar la máscara». Otros mezclaron la negación de Covid con grandes teorías de conspiración. La publicación afirmaba que «no hay pandemia, este es el lanzamiento del Nuevo Orden Mundial».

Leer más: TikTok se sumó a Facebook e Instagram y prohibió publicaciones del famoso humorista francés Dieudonné por antisemitismo

Imran Ahmed, director ejecutivo del Centro para la lucha contra el odio digital, dijo: “Es increíble que a medida que la pandemia se extendiera por el mundo, Instagram lanzó una nueva función que anima a los usuarios a ver teorías de conspiración y mentiras sobre Covid y las vacunas. 

Esta función se creó en nombre de las ganancias, para mantener a las personas desplazándose y poder ofrecerles más anuncios.

«Los algoritmos que recomiendan contenido son el acto de un editor, que toma decisiones sobre lo que ven los lectores, no una plataforma neutral.

Esto tiene serias implicaciones legales y regulatorias para las empresas de medios sociales. Además, demuestra su responsabilidad por daños a las personas y la sociedad. 

“Las acciones de Instagram habrán creado una mayor desconfianza en la vacuna Covid, cobrando vidas y prolongando la pandemia para todos nosotros.

«El 2020 demostró que las mentiras en línea tienen un costo pagado en la vida real. Instagram debe suspender su función de publicaciones sugeridas hasta que pueda estar seguro de que no promueve desinformación, odio y mentiras. También necesitan eliminar rápidamente el material, gran parte del cual contraviene los estándares de su comunidad».

Leer más: Boicot de la comunidad judía mundial a Twitter e Instagram por el antisemitismo en sus redes

El estudio también señaló cómo varias de las publicaciones que se considera que promueven contenido de odio se presentaron junto a los anuncios. Destacan el uso de Instagram de ‘recomendaciones’ algorítmicas para aumentar el tiempo que los usuarios pasan en la plataforma y aumentar los ingresos por publicidad.

Los voluntarios también siguieron cuentas influyentes vinculadas a la promoción del «bienestar» y la «salud alternativa». Nuevamente, descubrieron que el algoritmo de Instagram los dirigió a contenido engañoso o controvertido.

En la segunda fase de la investigación, que continuó hasta el pasado mes de noviembre, los voluntarios centraron su atención en la función «Publicaciones sugeridas» de Instagram.

Instagram, que fue adquirida por Facebook en 2012, anunció su función de «Publicaciones sugeridas» en agosto de 2020.

El estudio de CCDH, que fue coeditado y realizado con la agencia de desarrollo de jóvenes Restless Developement, mostró que, como resultado de esta función, los usuarios de Instagram que mostraron un interés previo en las cuentas de extrema derecha, incluidos los que respaldan al violento «aceleracionista». Ideología, que tiene como objetivo provocar una guerra civil, se «recomendó» contenido nuevo en torno a la desinformación de Covid.

Las ‘Publicaciones sugeridas’ recibidas afirmaron que las pruebas de Covid eran «intrínsecamente defectuosas», que la pandemia se estaba utilizando para imponer «autoritarismo médico» y que los ensayos de la vacuna Pfizer se aprobaron con datos falsos.

Leer más: Tras ser bloqueado de Twitter por llamar al asesinato de judíos, actor egipcio publica caricatura antisemita en Instagram

Aquellos que eligieron seguir las cuentas que promocionan las teorías de la conspiración de QAnon también recibieron más material que incluía la afirmación de que Covid-19 era un «plandemic».

El informe de CCDH sugirió que Instagram extendió el alcance de su algoritmo para publicar «Publicaciones sugeridas» a todos los usuarios en medio de una pandemia, sin hacer el trabajo necesario para garantizar que no promueva información errónea peligrosa sobre Covid o vacunas.

Esto fue a pesar de la promesa de Facebook, hecha en marzo de 2019, de que «no mostrará ni recomendará contenido que contenga información errónea sobre vacunas en Instagram Explore o páginas de hashtag», realizada por primera vez en marzo de 2019.

El informe afirma que Instagram solo debería restablecer sus funciones de publicación algorítmica cuando se demuestre que son seguras.

Esto debería implicar una nueva evaluación de la seguridad de la función «Publicaciones sugeridas». A la luz de la decisión de Facebook de limitar el uso de dichas funciones hace apenas dos años debido a su impacto en la salud mental de los usuarios.

Leer más: Eva, la niña de Auschwitz, que imagina su historia en Instagram, ya tiene un millón de seguidores

Además de tomar medidas para evitar que su algoritmo publique información errónea, la investigación de CCDH sugiere que Instagram puede hacer mucho más para reducir el impacto y la difusión de información errónea en su plataforma.

Respondiendo a las afirmaciones hechas en el estudio de Instagram de CCDH, un portavoz de la compañía de Facebook dijo: “Compartimos el objetivo de reducir la difusión de información errónea. Esta investigación tiene 5 meses de desactualización y utiliza un tamaño de muestra extremadamente pequeño de solo 104 publicaciones.

“Esto está en marcado contraste con los 12 millones de datos erróneos dañinos relacionados con las vacunas y COVID-19 que hemos eliminado de Facebook e Instagram desde el comienzo de la pandemia.

“Nos hemos centrado en conectar a las personas con información creíble. De esta manera, cuando las personas buscan contenido relacionado con COVID-19 y vacunas en nuestras aplicaciones, las dirigimos a organizaciones de salud autorizadas. Ahora hemos dirigido a las personas al NHS y sitios web gubernamentales más de 10 millones de veces.

También estamos trabajando en mejoras en la búsqueda de Instagram, para hacer que las cuentas que desalientan las vacunas sean más difíciles de encontrar «.

Las fuentes de Facebook también señalaron políticas actualizadas para dar cuenta de ciertos tipos de discurso de odio implícito. Incluida la eliminación de estereotipos dañinos sobre los judíos.

También dijeron que la metodología utilizada en el informe de CCDH era «defectuosa». Que no produce una muestra representativa. Tampoco tiene en cuenta el contenido que la empresa ha identificado de forma proactiva mediante IA y otras tecnologías automatizadas.  

JC

2 COMENTARIOS

DEJAR UN COMENTARIO

Please enter your comment!
Please enter your name here