Lo que nos enseña la debacle racista del GIF sobre el discurso de odio en línea

Giphy regresó tanto a Snapchat como a Instagram después de su eliminación rápida y sin ceremonias el mes pasado tras el descubrimiento de un GIF explícitamente racista que mostraba un contador cada vez mayor de “muerte por crimen de N-palabras” impulsado por un gorila.



De acuerdo a El borde , Giphy dijo que el GIF se deslizó debido a 'un error en nuestros filtros de moderación de contenido que afecta específicamente a las pegatinas GIF', lo que le permite eludir las reglas de la plataforma que prohíben a los usuarios publicar dicho contenido. Giphy arregló el error e Instagram y Snapchat lo volvieron a agregar.

Aunque este incidente se resolvió cuando el público lo captó, es notablemente diferente al paso en falso del pasado. Instagram y Snapchat retiraron la aplicación de forma inmediata y pública. No hubo racionalización ni invocación de la Primera Enmienda, solo una disculpa firme y concisaycorrección.





Todos los medios de comunicación social, desde Facebook hasta Twitter y Reddit, se han enfrentado a la inevitable pregunta de cómo lidiar con el contenido tóxico y dañino, principalmente después de la protesta pública. Facebook ha estado lidiando con una gran cantidad de problemas de privacidad en los últimos tiempos, pero aún tiene que lidiar con el racismo y el discurso de odio en sus plataformas. Facebook insinuó recientemente que era hasta que los usuarios decidan condenar la pedofilia a través de una encuesta, mientras se permite silenciosamente a los anunciantes apuntar a 'odiadores de judíos' y otros grupos de odio en Estados Unidos y en el mundo, según hallazgos recientes de ProPublica. La New York Times informa que esta política incluso avivó las tensiones en Myanmar, donde Facebook aceptó anuncios que atacaban a la población minoritaria rohingya allí. En contexto, Facebook ha prohibido a las mujeres hablar sobre sus experiencias personales, según Aturdido .

¿Facebook hará algo sobre el discurso de odio en su plataforma? La inteligencia artificial apropiada no está 'ahí todavía', dice el CEO Mark Zuckerberg. Dijo que podría llevar de cinco a diez años arreglar el software que supuestamente identifica el discurso de odio, según su testimonio antes del Congreso de los EE. UU. el 10 de abril. Pero mientras Zuckerberg cita los matices lingüísticos como una razón para el fracaso de la IA, Facebook también supuestamente reprimió la libertad de expresión ayudando al gobierno vietnamita a eliminar el contenido disidente. Y como Slate explicado el año pasado , “De cinco a 10 años” tiende a ser la frase clave de las organizaciones relacionadas con la tecnología que prometen todo, desde eliminar la quimioterapia hasta los autos voladores.



Facebook se enfrenta preguntas incómodas ahora mismo, pero no es el único. Reddit, una parte posiblemente más sombría de Internet, dejó que el Neoyorquino en sus oficinas para ver el progreso de la desintoxicación, que consiste en un personal humano que revisa subreddits para determinar qué tan malo tiene que ser algo para cerrarlo. Reddit actualizó las políticas el año pasado cuando encontró contenido misógino violento en el subreddit r / incels, según Vicio .

Twitter aún debe responder por qué los usuarios que arrojan contenido afiliado a los neonazis pueden permanecer en la plataforma, mientras que, según los informes, otros usuarios encuentran que se enfrentan al abuso en Internet. puede conseguirlos prohibidos en lugar del abusador. El año pasado, Twitter comenzó quitar la marca de verificación verificada de usuarios populares asociados con movimientos de derecha alternativa, pero supremacistas blancos como Richard Spencer ya usaban la aplicación para difundir mensajes violentos. Ahora, Twitter está estudiando la posibilidad de eliminar las cuentas de bot que difunden información errónea divisiva .

La frustración del público es palpable, y quizás la única fuerza impulsora detrás de cualquier cambio. Unilever, uno de los anunciantes más grandes del mundo, planteó en febrero la posibilidad de eliminar los anuncios de Facebook si no cumple con la regulación del discurso de odio. El Washington Post informó que la falta de regulaciones federales sobre la industria tecnológica está empujando a los gobiernos estatales a tomar medidas. California, donde tienen su sede la mayoría de las empresas de tecnología, está elaborando una legislación para abordar los bots de las redes sociales. Maryland, Nueva York y Washington los siguen de cerca, impulsando proyectos de ley que hacen que los anuncios políticos en línea sean más transparentes para los votantes después del escándalo Cambridge Analytica de Facebook.



Aunque Instagram es propiedad de Facebook, abordó el problema del GIF racista rápidamente. Las acciones de Snapchat han caído en gran medida debido a que las celebridades expresaron quejas al respecto, como Kylie Jenner preguntando si alguien lo usa más y Rihanna soltar la aplicación después de que un anuncio preguntara a los usuarios si preferían abofetearla o golpear a Chris Brown.

El incidente del GIF marca un momento de ajuste de cuentas para las plataformas de redes sociales que anteriormente han utilizado la Primera Enmienda como escudo. La velocidad de la resolución indica un cambio de poder, especialmente porque los usuarios de las redes sociales están eliminando cuentas y comenzando a monitorear sus propias configuraciones de privacidad. A medida que las personas abandonan Internet, es importante observar cómo las grandes empresas de tecnología y medios lidian con su lugar en la sociedad y lo que los usuarios les exigen. Han hecho dinero con nosotros durante demasiado tiempo. Es hora de rendir cuentas.

[Foto: Getty Images]

Entradas Populares