Informe de transparencia 2020
Nota para los lectores:
Este es nuestro primer informe de transparencia. En él se analiza minuciosamente cómo abordamos la seguridad, las medidas que hemos tomado para que nuestro producto sea un espacio seguro para todas nuestras comunidades y cómo el personal de seguridad, los moderadores y las soluciones tecnológicas contribuyen al cumplimiento de las normas que establecemos. El resultado es una amplia visión general de los datos específicos del servicio cuyo objetivo es ayudar a los lectores a entender las cuestiones relacionadas con la seguridad en Twitch y nuestros avances en esta materia. Los próximos informes se centrarán en nuestros esfuerzos para hacer de Twitch un lugar aún más seguro.
La seguridad en Twitch
Así entendemos la seguridad
Twitch es un servicio creado para animar a los usuarios a que se sientan cómodos expresándose y divirtiéndose, pero también queremos que nuestra comunidad sea y se sienta segura. Las Directrices de la comunidad buscan el equilibrio entre la importancia de respetar que los usuarios se expresen tal y como son y presentar con claridad las normas que definen lo que no está permitido en el servicio; por ejemplo, decir algo que sea hiriente para otros (o ilegal). Nuestro objetivo es fomentar una comunidad que apoye y respalde a los creadores, que sea un espacio agradable y divertido para los espectadores, y que rechace cualquier interacción ilegal, negativa o dañina.
En Twitch creemos que todos los miembros de nuestra comunidad (creadores, espectadores, moderadores y la propia plataforma) desempeñan un papel fundamental en la promoción de su bienestar y seguridad. Las Directrices de la comunidad nos permiten establecer con claridad qué expresiones y comportamientos se permiten en el servicio y cuáles no. Para garantizar su cumplimiento, contamos con la actuación de los moderadores de la comunidad y con las denuncias de los usuarios y también con soluciones tecnológicas, como el aprendizaje automático y la detección proactiva. Los creadores y los moderadores (o "Mods") también usan herramientas de Twitch y de terceros, como AutoMod, la vista de moderador y los bots de moderación, para aplicar las normas generales de Twitch o incluso definir otras más estrictas en sus propios canales.
Cómo abordamos la seguridad
Twitch es un servicio de transmisión en directo. La mayor parte del contenido de Twitch desaparece tras su creación y visualización, lo que nos obliga a abordar la seguridad y el bienestar de la comunidad de una manera diferente a otros servicios que se basan principalmente en contenidos que primero se graban y después se publican. Las soluciones de moderación de contenidos que utilizan las plataformas donde se publican vídeos grabados no funcionan, o funcionan de otra forma, en Twitch. Gracias a la experiencia y la inversión, hemos descubierto que, en el caso de Twitch, la mejor forma de proteger al usuario y de poder ampliar esa protección es usando diversas herramientas y procesos, colaborando con los miembros de nuestra comunidad y prestándoles los medios necesarios.
El resultado es un sistema de seguridad de varios niveles que combina el trabajo, tanto de Twitch (mediante herramientas y personal), como de los miembros de la comunidad. Este proceso empieza cuando los creadores nuevos y veteranos se familiarizan con las Directrices de la comunidad, cuyo propósito es buscar el equilibrio entre la libre expresión de los usuarios y la seguridad de la comunidad, y que definen la conducta que se espera en Twitch. A continuación, los creadores aplican en su canal las normas generales del servicio o establecen, si así lo desean, un mayor nivel de exigencia. Twitch facilita a los creadores las herramientas necesarias para definir, comunicar y hacer cumplir las normas mínimas de conducta exigidas en su canal. También ofrecemos a los espectadores herramientas de control que les permiten supervisar el contenido que ven al navegar por el servicio. Al mismo tiempo, Twitch aplica distintos algoritmos de aprendizaje automático para detectar de forma proactiva cierto tipo de contenido dañino y eliminarlo antes de que llegue a los usuarios. Además, damos a los usuarios la capacidad de informar de cualquier conducta dañina o inapropiada directamente a Twitch. Un equipo de especialistas capacitado para tomar medidas en todo el servicio se encarga de revisar estas denuncias y de tomar las medidas adecuadas en cada caso.
En la siguiente sección, analizamos en detalle cada uno de estos temas (desde la base de la pirámide hasta la parte superior) y cómo se relacionan entre sí.
Directrices de la comunidad
Las Directrices de la comunidad de Twitch son los cimientos de nuestro ecosistema de seguridad. Estas directrices definen los límites de todo el contenido generado por los usuarios y toda la actividad que tiene lugar en el servicio. Dado que las Directrices de la comunidad describen la conducta que se considera aceptable en Twitch, es fundamental que sean claras. Por ello, cuando ha sido posible, hemos añadido descripciones y ejemplos concretos de conductas prohibidas (y excepciones específicas). Asimismo, sabemos que la cultura de Twitch cambia continuamente, por lo que revisamos y actualizamos las Directrices de la comunidad para responder a sus necesidades. Estamos convencidos de que, si definimos con claridad cuáles son las conductas esperadas y las actualizamos cuando sea necesario, los usuarios de Twitch comprenderán los límites que hemos establecido y se expresarán con libertad y seguridad dentro de dichos límites. También creemos que unas Directrices de la comunidad claras y relevantes son vitales para garantizar la coherencia a la hora de tomar medidas destinadas a mantener la seguridad de la comunidad.
Seguridad a nivel de servicio
La seguridad a nivel de servicio abarca todo el trabajo que realizamos para garantizar el cumplimiento de las Directrices de la comunidad por todo Twitch. Consta de tres elementos: la detección automática, las denuncias de usuarios y la revisión y aplicación de medidas.
Detección automática. En los últimos dos años, hemos implementado tecnologías de "detección automática" que buscan en los contenidos del servicio material dañino o inapropiado para eliminarlo o para marcarlo y que lo revise alguien cualificado. Algunos ejemplos serían la desnudez, el contenido sexual, la violencia extrema y el gore. Twitch es mayoritariamente un servicio de transmisión en directo, por lo que casi todo el contenido que se transmite no está grabado ni se ha subido con anterioridad. Dado que el contenido se visualiza a medida que se va creando, la transmisión en directo constituye un espacio particularmente difícil para la detección automática. No obstante, hemos encontrado formas de utilizar la detección automática para reforzar la moderación proactiva en Twitch, y seguiremos invirtiendo en estas tecnologías para mejorarlas.
Denuncias de usuarios. Las denuncias son esenciales para mantener la seguridad y la confianza de nuestra comunidad, y para garantizar el cumplimiento de las Directrices de la comunidad. Creemos que las denuncias son especialmente efectivas en Twitch porque la gran mayoría de nuestro contenido (vídeo y chat) es público. Animamos a los creadores, moderadores y espectadores a denunciar cualquier contenido que infrinja las Directrices de la comunidad para que podamos tomar las medidas apropiadas. Nuestro equipo de moderación de contenido se encarga de revisar las denuncias recibidas.
Revisión y aplicación de medidas. En Twitch contamos con un grupo de expertos profesionales altamente cualificados que revisan las denuncias de usuarios y el contenido marcado por nuestras herramientas de detección automática. Estos expertos en moderación están repartidos entre distintos lugares y ofrecen servicio en más de 20 idiomas y los 365 días del año para poder revisar las denuncias que se reciben en todo el mundo. Las denuncias se clasifican por orden de prioridad para que los casos más graves puedan resolverse lo antes posible. El tiempo de revisión de cada denuncia depende de una serie de factores, como la gravedad del asunto denunciado, la disponibilidad de pruebas que la respalden y el volumen de denuncias pendientes en cada momento. También contamos con un equipo de investigadores experimentados que analizan las denuncias más serias y colaboran con las fuerzas del orden en caso necesario.
Nuestros expertos en moderación dedican mucho tiempo a revisar contenidos de todo tipo —desde conductas negativas hasta comportamientos extremadamente perturbadores—, por lo que su salud y seguridad son tan importantes para nosotros como la salud y seguridad de la comunidad de Twitch. Por ello, hemos invertido en herramientas que reducen los efectos perjudiciales que ciertos contenidos pueden tener en los revisores. Por ejemplo, el sistema que usan muestra los vídeos potencialmente dañinos automáticamente en blanco y negro, con una menor resolución o sin sonido. También ofrecemos a nuestros revisores programas y prestaciones diseñados para proteger su salud mental.
Seguridad a nivel de canal
En Twitch creemos que la seguridad debe ser también un reflejo del creador. Nuestros creadores pueden establecer sus propias normas en cuanto a conductas aceptables o inaceptables dentro de su comunidad, siempre partiendo de la base de que las Directrices de la comunidad constituyen el mínimo que todos deben respetar. Para fomentar una cultura de responsabilidad, los creadores pueden aprovechar la participación de otros miembros de su comunidad y crear un equipo de moderadores para que le ayude a moderar el chat de su canal. (Es fácil reconocer a los moderadores por el icono de la espada verde que aparece junto a su nombre de usuario). Los moderadores desempeñan varias funciones: dan la bienvenida a los nuevos espectadores al canal, contestan preguntas, ayudan a definir las normas de la comunidad y vigilan que se cumplan. Tanto los creadores como sus moderadores tienen a su disposición un potente conjunto de herramientas, como AutoMod, modos de chat o la vista de moderador, para desempeñar sus funciones de la forma más sencilla e intuitiva posible. Estas herramientas filtran automáticamente el chat y permiten a los creadores y moderadores ver (y eliminar) mensajes de chat sospechosos antes de que se muestren en el canal, expulsar temporalmente a ciertos usuarios (vetarlos en el chat durante un tiempo) o bloquearlos para siempre del canal.
Seguridad a nivel de espectadores
Además de las herramientas que ponemos a disposición de los creadores y sus moderadores, también queremos que los espectadores puedan personalizar su experiencia en materia de seguridad. Para ello, ofrecemos a los espectadores funciones, como advertencias de contenido, filtros de chat y herramientas de bloqueo, que pueden usar para personalizar el contenido y las interacciones en todo el servicio.
Seguridad de los anunciantes
La publicidad es una parte importante de Twitch, y las marcas que se anuncian con nosotros quieren saber qué hacemos para garantizar la seguridad de nuestros usuarios y fomentar un entorno más positivo. Para anunciarse en Twitch, necesitan la certeza de que su marca no se asocie con contenidos o conductas que no coincidan con sus valores. Trabajamos en estos objetivos de varias formas. En primer lugar, solo incluimos publicidad en canales dirigidos por streamers con un historial de responsabilidad intachable en sus transmisiones, y cuya identidad ha sido previamente verificada. Por otra parte, permitimos que los anunciantes decidan dónde incluir sus anuncios: en canales de streamers que transmitan videojuegos que encajen con los valores de su marca o en aquellos que emiten videojuegos clasificados como aptos para todas las edades (conforme a las clasificaciones ESRB o PEGI). Los anunciantes también pueden elegir que sus anuncios no aparezcan en canales con contenido marcado por los streamers como "para adultos" o cuando se emita un videojuego que no coincida con los valores de su marca, como shooters en primera persona o títulos destinados a un público adulto.
Actualizaciones de seguridad de 2020
Directrices de la comunidad. En 2020 actualizamos varios apartados clave de nuestras Directrices de la comunidad con el propósito de ofrecer mayor claridad y agilizar la aplicación de las políticas. Para lograrlo, facilitamos descripciones de comportamientos prohibidos, ilustrados con ejemplos y excepciones. Entre las actualizaciones más importantes de 2020 destacan:
- Desnudez y vestimenta - Las directrices revisadas se implementaron en abril de 2020.
- Terrorismo y violencia extrema - Las directrices actualizadas se publicaron en octubre de 2020.
- Incitación al odio y el acoso - Las directrices revisadas se publicaron en diciembre de 2020 y entraron en vigor en enero de 2021.
En el proceso de actualización de las políticas sobre desnudez y vestimenta, y sobre la incitación al odio y el acoso, empezamos solicitando y reuniendo comentarios de varios grupos de discusión formados por un conjunto diverso de creadores de Twitch. También revisamos el borrador de las directrices con nuestro Consejo Asesor de Seguridad: un grupo de ocho miembros formado por creadores, investigadores y líderes de ONG. Estos pasos sirvieron para precisar nuestras directrices y para reflejar mejor las normas e ideales de la comunidad de Twitch. Sabemos que nuestro servicio, nuestra comunidad y el mundo en el que vivimos no son estáticos y, en consecuencia, seguiremos revisando y modificando nuestras normas y conductas aceptadas, así como las Directrices de la comunidad, para que reflejen esta evolución.
Capacidad operativa. Tenemos el compromiso de garantizar que las denuncias relacionadas con la seguridad se revisan con prontitud, por lo que hemos invertido mucho en aumentar nuestra capacidad. Solo durante el último año, multiplicamos por cuatro el número de expertos en moderación de contenido disponibles para responder a las denuncias de usuarios.
Moderación en canales: cobertura, retirada de contenido y aplicación de medidas
Resumen
En Twitch, los creadores tienen libertad para desarrollar comunidades únicas y personales, pero siempre que dichas comunidades sean espacios equilibrados y cumplan las Directrices de la comunidad de Twitch. Con este objetivo, muchos creadores de Twitch piden ayuda a miembros de confianza de su comunidad para moderar el chat de su canal. Los moderadores del canal (o "Mods") y las herramientas de moderación constituyen la base de la moderación del chat en los canales de Twitch. Invertimos mucho para que este modelo funcione y nuestros creadores y sus moderadores dispongan de herramientas lo suficientemente flexibles y potentes que garanticen el cumplimiento tanto de las Directrices de la comunidad de Twitch como de las normas específicas del canal definidas por su creador. Nuestro paquete de herramientas de moderación persigue dos objetivos: identificar contenido potencialmente dañino para que el moderador pueda revisarlo y adaptar los controles de moderación para responder a la velocidad del chat de Twitch.
Los creadores y sus moderadores pueden utilizar las herramientas que les ofrece Twitch para administrar quién puede chatear en el canal y qué contenido puede verse en el chat. Para gestionar los participantes activos de su comunidad, los creadores y sus moderadores pueden eliminar del chat a quienes actúen de forma perjudicial mediante un veto temporal o permanente. Al hacerlo, los últimos mensajes del usuario en cuestión se eliminarán del canal y, mientras dure el veto, no podrá enviar mensajes en dicho canal. Los creadores y los moderadores también pueden cambiar algunos ajustes para restringir los participantes en el chat a grupos de mayor confianza, como solo seguidores o suscriptores. Los moderadores pueden enviar sus propios mensajes de chat —que llevan el emblema verde de moderador— para establecer el tono que debe tener. Para controlar los mensajes que se pueden ver en el chat, los creadores y los moderadores utilizan dos funciones esenciales: AutoMod y los términos bloqueados. Cuando está activado, AutoMod hace un cribado de los mensajes de chat y retiene aquellos que incluyan contenido considerado peligroso. Esto impide que se muestren en el canal a no ser que los apruebe un moderador. Los términos bloqueados permiten a los creadores personalizar AutoMod agregando frases o términos concretos que se bloquearán siempre en su canal. La manera más efectiva de utilizar estas funciones es a través de la vista de moderador, una interfaz del canal personalizable que ofrece a los moderadores una serie de widgets para tareas de moderación, como revisar los mensajes retenidos por AutoMod, monitorizar las medidas tomadas por otros moderadores del equipo o modificar los ajustes de moderación, entre otras cosas.
Es importante recordar que las medidas tomadas por un creador y sus moderadores solo afectarán al acceso de un usuario a ese canal. Los vetos, las expulsiones temporales y la eliminación del chat solo se aplican dentro del canal y no afectan al acceso del usuario a otros canales ni a otras secciones del servicio de Twitch. No obstante, los creadores y moderadores (así como cualquier usuario de Twitch) pueden denunciar conductas que infrinjan las Directrices de la comunidad a través de la herramienta de denuncias de Twitch para que el personal de moderación pueda tomar las medidas pertinentes.
Los siguientes apartados incluyen información adicional sobre cómo los creadores y sus moderadores pueden definir normas para el chat de sus canales y garantizar su cumplimiento.
Moderación del chat
Casi todas las interacciones entre usuarios de Twitch se producen en canales que cuentan con moderadores, AutoMod o ambos.
Durante la primera mitad de 2020, el 65% del contenido en directo visualizado en Twitch (medido en minutos de visualización) se emitió en canales en los que la función AutoMod de Twitch hacía un seguimiento activo del chat en busca de mensajes dañinos. En la segunda mitad de 2020, este porcentaje alcanzó el 71%. Creemos que este considerable aumento se debe en gran parte al hecho de que en la segunda mitad de 2020 AutoMod se activaba por defecto en los canales nuevos que no tenían usuarios asignados como moderadores. Tal y como se ve en el gráfico anterior, el porcentaje de horas de visualización en canales que tenían al menos un moderador activo aumentó ligeramente, desde el 82% en la primera mitad del año al 86% en la segunda. Este alto porcentaje indica que es muy probable que los canales grandes tengan moderadores activos. Lo más importante es que, a lo largo de 2020, más del 92% del contenido en directo visualizado en Twitch se transmitió en canales cuyo chat estaba moderado por moderadores activos, AutoMod o ambos. Esta cobertura fue de más del 95% durante el segundo semestre del año.
Eliminación proactiva y manual de mensajes de chat
La gran mayoría del contenido borrado en Twitch se corresponde con mensajes de chat eliminados por moderadores del canal dentro de canales individuales. Twitch ofrece herramientas personalizables, como los términos bloqueados y AutoMod (descritos en detalle más arriba), que permiten a los canales aplicar filtros que hacen un cribado proactivo de los mensajes para impedir que lleguen a aparecer en el chat. Los moderadores del canal también pueden hacer un seguimiento activo del chat y eliminar mensajes dañinos o perjudiciales en cuestión de segundos desde que se publican.
En la primera mitad de 2020, se enviaron 24 400 millones de mensajes de chat en Twitch. En el segundo semestre, esa cifra alcanzó los 32 600 millones de mensajes (un incremento del 33%). Durante el primer semestre de 2020, se eliminaron 61,5 millones de mensajes de chat de forma proactiva utilizando los términos bloqueados y AutoMod, y esta cifra aumentó hasta los 98,8 millones en la segunda mitad del año (un incremento del 61%). En la primera mitad de 2020, los moderadores de canales eliminaron manualmente 15,9 millones de mensajes de chat, mientras que en la segunda mitad esta cifra alcanzó los 31,5 millones (un incremento del 98%). Estos incrementos en la cantidad de contenido de chat cuestionable eliminado pueden explicarse en parte por el crecimiento del 33% en el número de mensajes de chat que se envían en Twitch y por el crecimiento global de un 40% en el número de canales de Twitch entre el primer y el segundo semestre de 2020. Consideramos que el crecimiento restante se debe al aumento en la cobertura de moderación que mencionamos más arriba y al lanzamiento en marzo de la vista de moderador, que facilita a los moderadores la eliminación de contenido.
Medidas aplicadas en los canales
Además de eliminar mensajes, los moderadores pueden expulsar de un canal a los usuarios que resulten dañinos y perjudiciales, ya sea mediante una expulsión temporal o un veto definitivo, para evitar que puedan causar más daño en el canal. Recientemente hemos mejorado estas herramientas para que los usuarios que hayan sido vetados de un canal puedan apelar la decisión al moderador de dicho canal y ser readmitidos si el moderador está de acuerdo.
En el primer semestre de 2020, los creadores y sus moderadores impusieron 2,3 millones de vetos permanentes en canales, mientras que durante la segunda mitad del año esta cifra aumentó hasta los 3,9 millones de vetos en canales (un incremento del 72%). Del mismo modo, las expulsiones temporales de un canal pasaron de 3,2 millones en la primera mitad de 2020 a 4,5 millones en la segunda mitad (un incremento del 40%). El incremento global en vetos y expulsiones temporales de un canal puede atribuirse en gran medida al aumento del 29% en el número de canales únicos de transmisión, que pasó de 14,6 millones en la primera mitad del año a 18,8 millones en la segunda mitad.
Denuncias y medidas
De nuevo, es importante recordar que Twitch es un servicio de transmisión en directo y que la mayor parte de su contenido es efímero. Por esta razón, la "eliminación de contenido" no es nuestra principal medida para garantizar el cumplimiento de las Directrices de la comunidad por parte de los streamers. Nuestra estrategia consiste en que el contenido en directo se marque, ya sea mediante detección automática o por las denuncias de los usuarios, y se comunique a nuestros expertos en moderación, quienes verifican las infracciones y toman "medidas" (habitualmente una advertencia o una suspensión temporal en un canal). Si hay contenido grabado relacionado con una infracción, se elimina dicho contenido. La mayoría de las medidas que tomamos no requieren la eliminación de contenido porque, además de la denuncia, ya no queda ningún registro de la infracción; el contenido en directo que infringía las normas ya no existe. Por esta razón, estamos convencidos de que lo más adecuado en nuestros esfuerzos por mantener la seguridad son las medidas que aplicamos, y así es como hemos orientado las siguientes secciones de este informe.
Hay que tener en cuenta que las estadísticas sobre las medidas de las siguientes secciones no incluyen ni suponen una duplicación de las medidas a nivel de canal mencionadas en la sección anterior.
Aumento del número de horas de visualización y de las denuncias enviadas en Twitch
Tal y como se muestra en el gráfico anterior, las denuncias de usuarios sobre todo tipo de infracciones aumentaron de 5,9 millones durante el primer semestre de 2020 a 7,4 millones durante el segundo semestre (un incremento del 25%). En este mismo periodo, Twitch experimentó un rápido crecimiento, como muestra el aumento de un 22% en su uso (medido en horas de visualización). Aunque el número de denuncias aumentó en términos absolutos entre el primer y el segundo semestre, el número de denuncias por cada mil horas de visualización solo aumentó de 0,74 a 0,76 (como se ve en la línea verde del gráfico anterior). Al interpretar estos datos, concluimos que, aunque el uso de Twitch creció rápidamente en 2020, la tasa de incidencia de las conductas denunciadas se mantuvo relativamente uniforme.
Aplicación de medidas
Las denuncias de usuarios se clasifican por orden de prioridad (en función de una serie de factores, como la clasificación y la gravedad del comportamiento denunciado y de si este es ilegal o no) y se remiten a nuestro equipo de moderación de contenido para su revisión. Si el revisor considera que efectivamente la denuncia demuestra una infracción de las Directrices de la comunidad, tomará una medida contra la cuenta del infractor. En función de la naturaleza de la infracción, aplicaremos distintas medidas, como una advertencia, una suspensión temporal (de entre 1 y 30 días) y, en los casos más graves, una suspensión indefinida de Twitch. Si existe alguna grabación relacionada con la infracción, la eliminaremos.
También disponemos de un proceso de apelaciones, de modo que, si un usuario considera que se ha tomado una medida equivocada, infundada o injusta, este podrá apelar la decisión. Un grupo independiente de especialistas dentro del equipo de moderación de contenido se encarga de gestionar las apelaciones.
Para obtener más información sobre las medidas aplicadas a una cuenta, visita la página sobre las medidas que se aplican a una cuenta.
Las medidas aplicadas aumentaron de 788 000 en la primera mitad de 2020 hasta 1,1 millones en la segunda mitad, lo que supone un incremento del 41%. La mayor parte de este incremento se puede atribuir al aumento del 22% en el crecimiento global del uso de Twitch en ese periodo. Esto se refleja en el incremento del número de medidas adoptadas por cada mil horas de visualización ("KHW"): de 0,099 por KHW en el primer semestre de 2020 a 0,114 por KHW en el segundo semestre (como se muestra en la línea verde del gráfico anterior). Creemos que este incremento del 15% en el número total de medidas adoptadas por KWH se encuentra dentro de las variaciones normales de funcionamiento y que no puede atribuirse a ninguna causa en particular. También esperamos observar un pequeño repunte del número de denuncias, ya que a lo largo del año hemos dedicado un gran esfuerzo a educar a la comunidad de Twitch sobre las opciones disponibles para denunciar infracciones. En las siguientes secciones describimos las causas del aumento de ciertos tipos de medidas.
Además de las medidas aplicadas indicadas más arriba, Twitch detectó automáticamente una gran cantidad de cuentas de bots en tres ocasiones a lo largo de 2020. Estas cuentas, que se suelen utilizar para aumentar de manera artificial las cifras de visualizaciones, fueron identificadas y eliminadas. Estas medidas no se incluyen en las cifras anteriores porque no provienen de denuncias ni de la detección automática de contenido dañino, sino que se trata de medidas masivas automáticas que supusieron la aplicación de 5,8 millones de medidas adicionales.
En las siguientes secciones ofrecemos datos y análisis de los distintos tipos de medidas que Twitch impuso en 2020.
Incitación al odio, acoso sexual y acoso
No toleramos conductas ni discursos que inciten al odio o al acoso, ni que animen o inciten a otros a participar en conductas de acoso o de incitación al odio. Esto incluye las proposiciones sexuales no deseadas, la incitación al insulto dirigido a una parte de la comunidad y las manifestaciones de odio basadas en una característica de identidad protegida.
Las denuncias de usuarios por incitación al odio, acoso sexual y acoso aumentaron un 19% entre el primer semestre de 2020 y el segundo, mientras que el número de denuncias por cada mil horas de visualización cayó ligeramente hasta las 0,219 por cada KHW en el segundo semestre (en comparación con 0,224 en el primero). No obstante, tal y como se muestra en el siguiente gráfico, las medidas aplicadas en estas categorías aumentaron un 214% y un 158% en términos absolutos y por cada KWH, respectivamente.
Las principales razones del incremento en la tasa de medidas aplicadas en la segunda mitad de 2020 son las siguientes: (1) introdujimos mejoras en los procesos de denuncias de usuarios y de aplicación de medidas al principio del segundo semestre que permitieron a nuestros equipos de moderación de contenido identificar más tipos de denuncias dentro de esta categoría y aplicar más medidas al respecto; y (2) entre mayo y agosto de 2020, aumentamos de manera significativa nuestra capacidad para revisar denuncias, lo que nos permitió hacer frente a más denuncias de acoso e incitación al odio con más rapidez. Seguiremos invirtiendo en herramientas y capacidad para tomar medidas para que sea más fácil y rápido revisar las denuncias de acoso e incitación al odio en el futuro. Además, en enero de 2021, implementamos una versión revisada de las Directrices de la comunidad en lo referente a la incitación al odio, el acoso sexual y el acoso que esperamos contribuya a nuestros esfuerzos y los de la comunidad para que estas conductas desaparezcan de Twitch.
Violencia, gore, amenazas y otras conductas extremas
Con el propósito de limitar la exposición de la comunidad a contenidos que puedan ser ilegales, inquietantes o dañinos, prohibimos archivos multimedia y conductas que se centren en violencia extrema o gore, violencia sexual, amenazas violentas, autolesiones, crueldad animal, conducción peligrosa o negligente y otras conductas y contenidos ilegales, perturbadores o intimidatorios.
El número de medidas aplicadas por este tipo de conducta aumentó de 3825 en la primera mitad de 2020 a 7429 en la segunda mitad (un incremento del 94%). Al igual que ocurre con las medidas por incitación al odio, acoso sexual y acoso (detalladas en la sección anterior), este considerable aumento en el número de medidas se debe a los cambios que introdujimos a principios del segundo semestre a fin de mejorar el sistema de denuncias, las herramientas de moderación y la capacidad de revisión. Además, durante la segunda mitad de 2020, introdujimos mejoras adicionales en nuestro sistema de detección automática de este tipo de contenido. Seguiremos invirtiendo en todas estas áreas en 2021.
Terrorismo, propaganda terrorista y captación
Twitch no permite contenidos que representen, glorifiquen, alienten o apoyen el terrorismo ni a individuos o actos extremistas violentos. Esto incluye amenazar a los demás con cometer actos que puedan provocar lesiones graves a grupos de personas o daños materiales significativos, así como animar a los demás a cometerlos. Esto también incluye la exhibición o los enlaces a propaganda terrorista o extremista, incluso si el objetivo es denunciar estos contenidos.
Recibimos pocas denuncias de esta categoría y, en consecuencia, aplicamos pocas medidas de este tipo, como puede verse en las cifras del gráfico anterior. No obstante, consideramos que este tipo de conducta es de la mayor gravedad. Twitch publicó en octubre una política revisada sobre terrorismo y contenido extremista en la que se especifica de manera más clara la definición de una organización criminal y cómo nuestros equipos de seguridad internos categorizan el contenido relacionado. Estas especificaciones amplían la definición de los contenidos que pertenecen a esta categoría (al incluir comportamientos que antes se clasificaban como otros tipos de comportamiento indebido), lo que ha dado lugar a un considerable aumento en las medidas aplicadas dentro de esta clase (en términos porcentuales, aunque no en cifras absolutas). En 2020 no se dio ningún caso de actividad terrorista transmitida en directo en Twitch. Las medidas adoptadas en esta categoría se aplicaron por exhibición de propaganda terrorista (77 medidas en 2020) y por enaltecimiento o defensa de actos de terrorismo, violencia extrema o destrucción de bienes materiales a gran escala (10 medidas en 2020).
Desnudez, pornografía y conducta sexual
Limitamos la exposición de la comunidad a contenidos que no son apropiados para una audiencia diversa. Esto incluye la restricción del contenido que implique desnudez, una insuficiente cobertura del cuerpo o una vestimenta inapropiada, o que sea de naturaleza sexual.
A finales de octubre pusimos en marcha mejoras en nuestra detección proactiva de la desnudez, lo que dio lugar a un mayor volumen de medidas en esta categoría.
Spam y otras infracciones de las Directrices de la comunidad
Twitch prohíbe las actividades disruptivas, como el spam, porque vulneran la integridad de los servicios de Twitch y perjudican la experiencia de los usuarios. Tampoco permitimos otras conductas deshonestas ni inapropiadas, como hacerse pasar por otra persona, emitir imágenes de otras personas en contra de sus deseos, saltarse un veto, hacer un uso indebido de las herramientas de Twitch, clasificar intencionadamente una transmisión en una categoría errónea, hacer trampas en un videojuego o jugar a un videojuego prohibido, o utilizar nombres de usuario inapropiados o cuentas de usuarios con una edad inferior a la real.
Las medidas aplicadas en esta categoría aumentaron de 734 000 en la primera mitad de 2020 a 987 000 en la segunda mitad (un incremento del 34%). Este incremento fue superior a la tasa de crecimiento del 22% en el uso de Twitch entre el primer y el segundo semestre de 2020. Como indica la línea verde del gráfico anterior, el número de medidas por cada mil horas de visualización aumentó de 0,092 en el primer semestre a 0,102 en el segundo (un incremento del 10%). Dada la variedad de infracciones que conforman esta categoría, la lista de causas que explican este incremento es igualmente larga.
Twitch ha logrado grandes avances en varias áreas para luchar contra esta clase de conductas en 2020. Por ejemplo, los susurros, que son la función de chat privado de Twitch, siempre han sido el principal medio de envío de spam debido a que los mensajes son privados y no están sometidos a la moderación de un canal. Para combatir el spam en los susurros, en 2020 incorporamos varios modelos de detección automática que bloquean los mensajes por completo o marcan el mensaje avisando al receptor y le solicitan que presente una denuncia. El éxito de estos modelos se ha traducido en una reducción del 70% en las denuncias de spam relacionadas con los susurros entre el primer y el segundo semestre de 2020. Seguimos trabajando en el desarrollo de la detección proactiva y otras soluciones tecnológicas para reducir el spam, la evasión de vetos, el uso de nombres de usuario inapropiados y otras infracciones.
Solicitudes del Estado y de las autoridades
Resumen
El equipo de cumplimiento de la ley de Twitch es responsable de gestionar todos los casos relacionados con daños a la infancia, de comunicar las amenazas violentas y las acciones terroristas a las autoridades correspondientes (y cualquier otra cuestión que deba comunicarse conforme a la legislación) y de responder a las solicitudes de datos de los usuarios por parte de las fuerzas del orden. Nuestro equipo de moderación de contenido comunica este tipo de casos a nuestro equipo de cumplimiento de la ley.
Denuncias del NCMEC; cooperación global
No toleramos la explotación sexual infantil. Cuando descubrimos contenido multimedia en el que se muestra explotación sexual infantil o corrupción de menores, eliminamos dicho contenido, investigamos y lo denunciamos a las autoridades a través del National Center for Missing & Exploited Children de EE. UU. (NCMEC, Centro Nacional de Niños Desaparecidos y Víctimas de Explotación). También trabajamos directamente con organizaciones similares de todo el mundo, como INHOPE o ICMEC, para abordar esta problemática y evitar que en Twitch haya contenido multimedia de explotación infantil o corrupción de menores.
El número de informes al NCMEC aumentó un 66% entre el primer y el segundo semestre. Este incremento se debe a las mejoras en nuestro proceso de investigación de este tipo de comunicaciones, que permitieron a los equipos internos detectar de manera más integral patrones de conducta y en consecuencia enviar un mayor volumen de informes al NCMEC.
Comunicaciones a las fuerzas del orden
Siempre que Twitch detecta amenazas de violencia creíbles envía de manera proactiva los datos del usuario en cuestión a las agencias de seguridad correspondientes. Twitch tuvo 38 casos de este tipo en 2020.
Las comunicaciones a las fuerzas del orden se redujeron un 27% en el segundo semestre. Creemos que esto se debe sobre todo a la reducción del número reuniones públicas como consecuencia de la COVID-19. Este descenso en el número de reuniones públicas significa que hay menos lugares y acontecimientos a los que estas personas puedan dirigir sus amenazas de violencia.
Citaciones y solicitud de datos
Twitch responde a las solicitudes de información de las fuerzas del orden de todo el mundo en relación con los delitos que estén investigando. Esto se hace a través de nuestro proceso de citaciones y TAJM (siglas de Tratado de Asistencia Jurídica Mutua), que exige que todas las solicitudes de información se notifiquen a través de CSC, nuestro servidor de procesos.
Las citaciones y solicitudes de información procesadas por Twitch aumentaron un 37% en la segunda mitad de 2020. Esta cifra está dentro de los volúmenes esperados de citaciones y solicitudes válidas que recibimos de las autoridades.