Discord eliminó miles de extremistas violentos y servidores criminales en 2020

Ilustración para el artículo titulado Discord eliminó a miles de servidores criminales y extremistas violentos en 2020 Foto: Samuel Corum (.)

Gracias a la infinita y deprimente medida en que covid ha mantenido a todos atrapados dentro, Discord es más relevante que nunca. Pero como reveló la compañía en su último informe de transparencia, eso ha llevado a nuevos desafíos y mejores esfuerzos para enfrentar otros desafíos en los que probablemente debería haberse esforzado más antes.

Discord, que al parecer está en conversaciones con Microsoft para venderlo por alrededor de 1.3 Bethesdas, publicó el informe de transparencia hoy. En medio de información operativa estándar sobre la segunda mitad de 2020 de Discord, se destacaron algunos detalles. Por un lado, el número total de informes de usuarios aumentó de manera bastante constante a lo largo de 2020, de 26.886 en enero a 65.103 en diciembre, y el número aumentó inicialmente en marzo. Esto tiene sentido; la gente estaba atrapada en sus hogares y, como resultado, Discord estaba creciendo rápidamente. El spam resultó en la mayor cantidad de eliminaciones de cuentas (más de 3 millones), con contenido de explotación, incluida la pornografía no consensual, en un distante segundo lugar (129,403) y el acoso en el tercero (33,615).

Discord también señaló que de los informes realizados, con mayor frecuencia tomó medidas contra problemas relacionados con material de daño infantil, delitos cibernéticos, doxxing, contenido de explotación y contenido extremista o violento. “Esto puede explicarse en parte por la priorización del equipo de los problemas en 2020 que tenían más probabilidades de causar daños en el mundo real”, dijo la compañía en el informe de transparencia.

De hecho, según el informe, Discord eliminó más de 1.500 servidores por extremismo violento en la segunda mitad de 2020, lo que dijo que era «un aumento de casi el 93% con respecto a la primera mitad del año». Citó a grupos como los Boogaloo Boys y QAnon como ejemplos.

«Este aumento se puede atribuir a la expansión de nuestros esfuerzos contra el extremismo, así como a las crecientes tendencias en el espacio del extremismo en línea», escribió la compañía. “Una de las tendencias en línea observadas en este período fue el crecimiento de QAnon. Ajustamos nuestros esfuerzos para abordar el movimiento y, en última instancia, eliminamos 334 servidores relacionados con QAnon «.

G / O Media puede obtener una comisión

Las eliminaciones de servidores de ciberdelincuencia se dispararon de manera similar en el transcurso de 2020, aumentando en un 140% desde la primera mitad del año. En total, Discord eliminó casi 6,000 servidores por delitos cibernéticos en la segunda mitad de 2020, lo que, según dijo, siguió a un aumento significativo en los informes. “Más espacios de ciberdelincuencia que nunca se marcaron en Trust & Safety, y finalmente se eliminaron más de nuestro sitio”, escribió Discord.

Discord también enfatizó su enfoque en métodos que le permitan “detectar y eliminar proactivamente a los grupos más dañinos de nuestra plataforma”, señalando sus esfuerzos contra el extremismo como ejemplo, pero también señalando dónde cometió un error.

“Nos decepcionó darnos cuenta de que en este período una de nuestras herramientas para detectar de forma proactiva [sexualized content related to minors] los servidores contenían un error ”, escribió Discord. “Como resultado, hubo menos banderas en general en nuestro equipo. Ese error se resolvió desde entonces, y hemos reanudado la eliminación de servidores en las superficies de la herramienta «.

El otro problema aquí es que Discord hizo un esfuerzo concertado para eliminar el contenido de QAnon casi al mismo tiempo que lo hicieron otras plataformas, después de que la mayor parte del daño ya se había hecho. Si bien la eliminación puede haber sido proactiva según la definición interna de Discord, las plataformas tardaron incluso en comportarse de manera reactiva cuando se trataba de QAnon en su conjunto, lo que provocó un daño real y duradero en los Estados Unidos y en todo el mundo. En 2017, Discord también funcionó como un escenario importante para la manifestación Unite The Right en Charlottesville, Virginia, que finalmente condujo a la violencia y tres muertes. Si bien la plataforma ha intentado limpiar su actuación desde entonces, fue sede de una gran cantidad de abuso y actividad de la derecha alternativa en 2017.

Un poco de transparencia es mucho mejor que nada, pero vale la pena señalar que los informes de transparencia de las empresas de tecnología a menudo brindan poca información sobre cómo se toman las decisiones y las prioridades más importantes de las plataformas que esencialmente gobiernan nuestras vidas en línea. A principios de este año, por ejemplo, Discord prohibió el servidor de r / WallStreetBets a la altura de GameStop stonksapalooza. Los espectadores sospechaban un juego sucio, una interferencia externa de algún tipo. Hablando con Kotaku, sin embargo, dos fuentes dejaron en claro que las políticas laberínticas de moderación interna finalmente hicieron que Discord tomara esa decisión. El mal momento y la transparencia deficiente antes y después se encargaron del resto.

Este es solo un pequeño ejemplo de cómo se puede desarrollar esta dinámica. Hay muchos más. Las plataformas pueden decir que están siendo transparentes, pero en última instancia solo le están dando a la gente un montón de números apenas contextualizados. Es difícil decir cómo se ve la transparencia real en la era de las plataformas tecnológicas que lo abarcan todo, pero no es esto.

.

Historias recomendadas

Ilustración para el artículo titulado Discord eliminó a miles de servidores criminales y extremistas violentos en 2020Ilustración para el artículo titulado Discord eliminó a miles de servidores criminales y extremistas violentos en 2020Ilustración para el artículo titulado Discord eliminó a miles de servidores criminales y extremistas violentos en 2020