Rapport de transparence 2020

Avant-propos

Voici le premier rapport de transparence de Twitch. Ce rapport présente notre approche de la sécurité en ligne et détaille les moyens que nous avons mis en place afin de garantir un espace sûr pour tous. Il décrit concrètement la manière dont les équipes sécurité de Twitch, les modérateurs et nos solutions technologiques contribuent de concert à faire respecter les règles que nous fixons. Le rapport contient également un certain nombre de données relatives à l'activité sur notre service. L'objectif de la démarche consiste à rendre publique une information complète et approfondie sur la sécurité sur Twitch et les progrès réalisés en ce sens. À l'avenir, les prochaines éditions de notre rapport de transparence permettront à tous de suivre les actions que nous déployons pour faire de Twitch un espace toujours plus sûr. 

La sécurité sur Twitch

Nos principes en matière de sécurité

Twitch a été créé pour encourager ses utilisateurs à s’exprimer librement et se divertir tous ensemble, et nous voulons que notre communauté soit et se sente toujours en sécurité. Les Lignes de conduite de la communauté Twitch visent à trouver un juste équilibre entre l’importance donnée à la liberté d’expression de nos utilisateurs et l’établissement de règles claires en ce qui concerne les comportements prohibés sur le service, à savoir toute action préjudiciable à autrui ou illégale. Notre objectif est de développer une communauté qui soutient les créateurs, offre un environnement accueillant et divertissant pour les spectateurs, et bannit les interactions illégales, négatives et préjudiciables.

Chez Twitch, nous sommes convaincus que chaque membre de la communauté (les créateurs, les spectateurs, les modérateurs et les équipes de Twitch) a un rôle important à jouer pour le bien-être et la sécurité de tous sur le service. Les Lignes de conduite de la communauté visent à distinguer les expressions et comportements qui sont autorisés de ceux qui ne le sont pas. Afin de garantir le respect de ces Lignes de conduite, nous nous appuyons sur les actions de modération de la communauté et sur les signalements des utilisateurs, ainsi que sur des solutions technologiques telles que l’apprentissage automatique (« machine learning ») et la détection proactive. Les créateurs et les modérateurs (les « modos ») utilisent également des outils fournis par Twitch ou par des tiers, comme AutoMod, ou encore l’affichage modérateur et les bots de modération, afin de faire respecter les règles en vigueur sur l’ensemble du service Twitch, ou fixer des règles plus strictes sur leur propre chaîne.  

Notre approche en matière de sécurité 

Twitch est un service de streaming en direct : la grande majorité du contenu diffusé sur Twitch n’est disponible qu’en visionnage instantané. Cette caractéristique nous oblige à penser à la sécurité et au bien-être de notre communauté différemment par rapport aux services spécialisés dans le contenu pré-enregistré et mis en ligne de manière durable. En effet, les solutions de modération conçues pour les services de vidéos pré-enregistrées ne fonctionnent pas dans le cas de Twitch, du moins fonctionnent-elles différemment. Par expérience, nous savons que la sécurité des utilisateurs de Twitch est mieux garantie par des outils et processus adaptés et adaptables, et par le travail conjoint que nous menons avec les membres de notre communauté, qui disposent de moyens pour agir.

Notre approche stratifiée de la sécurité combine les efforts de Twitch, via nos équipes et outils dédiés, et ceux des membres de la communauté. Elle repose sur l’assimilation des Lignes de conduite de la communauté par les créateurs de contenu, y compris les nouveaux entrants. Ce règlement recherche l’équilibre entre la libre expression des utilisateurs et la sécurité de la communauté ; il clarifie également les attentes en matière de comportement sur Twitch. Chaque créateur se doit d’appliquer les règles du service Twitch, et peut décider de fixer des règles de modération plus exigeantes encore sur sa chaîne. Nous fournissons aux créateurs des outils pour définir, communiquer et faire respecter les règles de base sur leur chaîne. Nous fournissons également aux spectateurs des fonctionnalités leur permettant de contrôler le contenu qu’ils voient lors de leur navigation. Dans le même temps, Twitch applique divers algorithmes d’apprentissage automatique (« machine learning ») pour détecter et supprimer de manière proactive certains types de contenus préjudiciables avant même que les utilisateurs ne les rencontrent. Enfin, nous donnons aux utilisateurs la possibilité de signaler directement à Twitch tout comportement nuisible ou inapproprié. Ces signalements sont ensuite étudiés par une équipe de spécialistes qui peuvent y remédier à l’échelle de l’ensemble du service. 

Dans la section qui suit, nous examinerons en détail chacun de ces éléments (du bas de la pyramide au sommet) et la façon dont ils interagissent ensemble.  

Lignes de conduite de la communauté

Les Lignes de conduite de la communauté Twitch constituent le fondement de l'écosystème de sécurité sur notre service. Elles définissent les règles à suivre pour tous les contenus et activités générés par les utilisateurs, et distinguent clairement les comportements autorisés sur Twitch, de ceux qui ne le sont pas. Afin d'en maximiser la compréhension, nous illustrons les Lignes de conduite par des descriptions et des exemples précis de comportements interdits. Nous savons que la culture de la communauté Twitch évolue, ce qui implique une mise à jour régulière des Lignes de conduite afin que celles-ci restent toujours adaptées aux besoins de la communauté. Nous sommes convaincus qu'en fixant un cadre clair, les utilisateurs de Twitch comprennent les limites que nous avons définies et se sentent libres et confiants de s’exprimer dans ce cadre. Nous pensons également que des Lignes de conduite de la communauté claires et adaptées constituent une base essentielle pour donner un cadre et une cohérence aux actions de contrôle que nous déployons pour garantir la sécurité de la communauté. 

Sécurité à l'échelle du service

La sécurité à l’échelle du service englobe tout le travail que nous accomplissons pour faire respecter les Lignes de conduite de la communauté sur l’ensemble de Twitch. Cela se décline en trois volets : la détection automatique, les signalements transmis par les utilisateurs, et enfin l’étude de ces signalements et l’application de sanctions.

Détection automatique : depuis maintenant deux ans, nous mettons en place des technologies de « détection automatique » qui scannent les contenus du service pour en supprimer les éléments préjudiciables ou inappropriés, ou les faire examiner par nos équipes de spécialistes. Sont notamment concernés la nudité, les contenus à caractère sexuel, le gore et la violence extrême. Twitch est principalement un service de streaming en direct, et la plupart des contenus streamés ne sont pas enregistrés ou mis en ligne. Le rythme de la diffusion instantanée complique le travail de la détection automatique. Nous avons néanmoins trouvé des moyens d’utiliser cette technologie efficacement pour renforcer la modération proactive sur Twitch, et nous continuerons à investir pour renforcer ce type d'outils.

Signalements transmis par les utilisateurs : les signalements transmis par les utilisateurs sont indispensables pour maintenir la sécurité et la confiance au sein de la communauté Twitch, et faire respecter les Lignes de conduite de la communauté. La grande majorité du contenu (vidéo et chat) est public, d'où l'efficacité du mécanisme de signalement par les utilisateurs. Nous encourageons les créateurs, les modérateurs et les spectateurs à signaler tout contenu qui enfreint les Lignes de conduite de la communauté, afin que nous puissions prendre les mesures appropriées à l’échelle du service. Les signalements transmis par les utilisateurs sont directement envoyés à notre équipe de professionnels de la modération de contenu, qui les étudie pour y donner les suites appropriées.  

Étude des signalements et application des sanctions : Twitch dispose d’une équipe de professionnels hautement qualifiés et expérimentés pour analyser les signalements transmis par les utilisateurs et par nos outils de détection automatique. Ces experts de la modération de contenu travaillent depuis différents pays et totalisent plus de 20 langues maîtrisées, ce qui nous permet d'étudier les signalements 24 heures sur 24, 7 jours sur 7 et 365 jours par an. Les signalements sont classés par ordre de priorité afin que les comportements les plus nuisibles soient traités le plus rapidement possible. Le temps d’examen d’un signalement donné dépend de plusieurs facteurs, dont la gravité du signalement, la disponibilité de preuves concernant le signalement, et le nombre des signalements en attente d’être étudiés.  Nous nous appuyons aussi sur une équipe d’enquêteurs pour traiter les signalements les plus graves et coopérer avec les forces de l'ordre le cas échéant.

Nos professionnels de la modération de contenu passent un temps considérable à examiner des contenus très divers, de commentaires simplement péjoratifs à des contenus choquants. Nous accordons la plus grande importance au bien-être et à la sécurité de nos équipes, autant qu'à ceux de la communauté Twitch. C'est pourquoi nous avons investi dans des outils visant à limiter l'impact des contenus choquants pour les équipes qui y sont exposées, par exemple avec un système automatique d'affichage des vidéos potentiellement dangereuses en noir et blanc, en basse résolution et/ou sans son. Nous proposons également à nos équipes de modération différents programmes et services de soutien psychologique.  

Sécurité à l'échelle des chaînes

Chez Twitch, nous considérons que les créateurs de contenu doivent aussi avoir leur mot à dire en matière de modération. C'est pourquoi nous permettons à nos créateurs de fixer des règles et d'interdire certains comportements au delà des Lignes de conduite de la communauté qui constituent la base fondamentale des règles à respecter sur l'ensemble du service. Pour développer cette culture de responsabilité, les créateurs peuvent faire appel à des membres de leur communauté et confier à qui ils le souhaitent le statut de « modérateur » (ou « modo ») : ce statut donne accès à des outils de modération sur le chat de la chaîne.  Les modos sont facilement identifiables sur le chat grâce à l’icône d’épée verte à côté de leur identifiant. Les modos assument de nombreuses fonctions, qu’il s’agisse d’accueillir de nouveaux spectateurs sur la chaîne, de répondre aux questions, ou encore de présenter et de faire respecter les Lignes de conduite de Twitch ainsi que les règles spécifiques à la communauté. Nous mettons à disposition des créateurs et de leurs modos une puissante suite d’outils qui comprend AutoMod, les modes de chat et l’affichage modérateur, pour les aider à remplir leur rôle de manière simple et intuitive. Ces outils sont utilisés pour filtrer automatiquement le chat. Ils permettent aux créateurs et aux modos de filtrer et supprimer avant publication les messages de chat suspicieux, et de bannir temporairement ou définitivement des utilisateurs de la chaîne. 

Sécurité des spectateurs 

En plus des outils que nous mettons à disposition des créateurs et de leurs modos, nous veillons aussi à ce que les spectateurs puissent paramétrer leurs filtres de sécurité sur Twitch. Pour ce faire, nous fournissons aux spectateurs des fonctions comme des avertissements sur les contenus, des filtres de discussion et des outils de blocage qu’ils peuvent utiliser afin de personnaliser leurs contenus et leurs interactions sur le service. 

Garanties de sécurité vis-à-vis des annonceurs

La sécurité des utilisateurs et le maintien d'un espace positif et sûr sont des éléments cruciaux pour les annonceurs. Pour faire de la publicité sur notre service, les marques ont une condition, à savoir ne pas être associées à du contenu ou à des comportements qui ne correspondraient pas à leurs valeurs. Nous répondons à ces attentes de plusieurs manières. Tout d’abord, nous ne diffusons de la publicité que sur les chaînes de streamers qui font preuve d'un comportement responsable et dont nous avons vérifié l'identité. De plus, nous permettons aux annonceurs de cibler le placement de leurs publicités, soit vers des streamers qui streament des jeux spécifiques correspondant aux valeurs de la marque, soit vers des streamers de jeux grand public sur la base des classifications ESRB ou PEGI. Les annonceurs peuvent également faire en sorte que leurs publicités ne soient pas diffusées sur des chaînes dont le contenu a été défini par les streamers comme étant « pour adultes », ou lorsque le streamer joue à un jeu ne correspondant pas aux valeurs de la marque de l’annonceur, comme les FPS ou les jeux classés pour un public adulte.

Mises à jour de 2020 en matière de sécurité 

Lignes de conduite de la communauté : en 2020, nous avons apporté des modifications importantes aux Lignes de conduite de la communauté afin notamment de les clarifier et d'en faciliter l'application concrète. Pour ce faire, nous avons ajouté des descriptions précises des comportements interdits, ainsi que des exemples et des exceptions spécifiques. Voici un aperçu des principales mises à jour de 2020 :

• Nudité et tenue vestimentaire - les lignes de conduite mises à jour sont entrées en vigueur en avril 2020 ;
• Terrorisme et violence extrême - les lignes de conduite mises à jour sont entrées en vigueur en octobre 2020 ;
• Harcèlement et comportements haineux - les lignes de conduite mises à jour publiées en décembre 2020 sont entrées en vigueur en janvier 2021.

Les mises à jour des lignes de conduite en matière de nudité, de tenue vestimentaire, de harcèlement et de comportements haineux font l'objet d'un travail de discussion préalable mené auprès de plusieurs groupes de créateurs. Les projets de mises à jour sont également étudiés par notre conseil consultatif de sécurité, un groupe de huit membres composé de créateurs, d’universitaires et de leaders associatifs reconnus pour leur expertise en la matière. Notre service, notre communauté et le monde dans lequel nous vivons sont en constante évolution, ce qui implique des mises à jour régulières des Lignes de conduite de la communauté afin de faire en sorte qu'elles reflètent toujours les valeurs et les idéaux de la communauté Twitch. 

Moyens opérationnels : l’étude des signalements de sécurité doit se faire rapidement, et nous avons beaucoup investi pour accroître nos capacités en la matière.  Au cours de l’année écoulée, nous avons multiplié par quatre nos effectifs spécialisés dans la modération et l'analyse des signalements. 

Modération sur les chaînes : couverture du service et mécanismes de suppression et de sanction 

Aperçu

Sur Twitch, nous donnons aux créateurs les moyens de construire leur propre communauté, à condition que cette liberté soit utilisée à bon escient dans un cadre sain, sûr et strictement respectueux des Lignes de conduite de Twitch. Pour ce faire, de nombreux créateurs de Twitch demandent à des membres de confiance de leur communauté de les aider à modérer le chat de leur chaîne. Ces modérateurs de chaîne (« modos ») et les outils de modération constituent la base de la modération des chats sur les chaînes. Pour que ce modèle fonctionne, nous investissons massivement afin de doter nos créateurs et leurs modos d’outils efficaces et adaptés pour faire respecter à la fois les Lignes de conduite de Twitch et les règles propres à chaque chaîne définies par le créateur. Notre suite d’outils de modération répond à deux objectifs : identifier les contenus potentiellement dangereux qui seront filtrés par les modérateurs, et adapter les outils de contrôle des modérateurs en fonction de la cadence du chat. 

Les créateurs et leurs modos ont à leur disposition des outils fournis par Twitch afin de déterminer qui peut utiliser leur chat et quel contenu peut y être diffusé. Ils peuvent également bannir de la chaîne, de manière temporaire ou permanente, les utilisateurs dont le comportement enfreint les règles de Twitch ou de la chaîne : cette action a pour effet de supprimer les messages récents d’un utilisateur du chat et de l'empêcher d’envoyer d’autres messages jusqu'à nouvel ordre. Les créateurs et les modos peuvent aussi modifier certains paramètres pour restreindre l’accès du chat à des groupes de confiance comme les followers ou les abonnés. Les modos peuvent également participer directement au chat: les messages des modos sont clairement reconnaissables à leur badge vert et viennent guider le ton de la discussion. Pour contrôler les messages apparaissant dans le chat, les créateurs et les modos utilisent deux fonctionnalités de base : AutoMod et les termes bloqués. Lorsque la fonctionnalité AutoMod est activée, elle contrôle les messages de chat avant leur diffusion et met de côté ceux dont le contenu est jugé à risque afin d'être filtrés par les modos. Quant aux termes bloqués, ils permettent aux créateurs de personnaliser davantage AutoMod en ajoutant des termes ou des phrases personnalisés qui seront systématiquement bloqués sur leur chat. Le meilleur moyen d’utiliser ces fonctions est l’affichage modérateur, une interface de chat personnalisable qui équipe les modos d’outils destinés aux tâches de modération, comme l’étude des messages sélectionnés par AutoMod, le suivi des mesures prises par les autres modos de leur équipe, la modification des paramètres de modération, et autres fonctionnalités.

Les mesures prises par un créateur et ses modérateurs ont une incidence uniquement sur l’accès d’un utilisateur à cette chaîne. Les bannissements temporaires et permanents et la suppression des messages s’appliquent à un seul chat et n’affectent pas l’accès de l’utilisateur à d’autres chaînes ou d’autres parties du service Twitch. Toutefois, les créateurs, les modérateurs et l'ensemble des utilisateurs de Twitch peuvent signaler à tout moment un comportement contraire aux Lignes de conduite de la communauté grâce à l’outil de signalement de Twitch. Les équipes de modération de Twitch peuvent, le cas échéant, appliquer des mesures à l'échelle du service. 

Les sections suivantes précisent la manière dont les créateurs et leurs modérateurs définissent et appliquent les règles sur le chat de leur chaîne.

Modération du chat

L'écrasante majorité des interactions entre utilisateurs de Twitch a lieu sur des chaînes modérées par des modérateurs, par AutoMod, ou par une combinaison des deux.  

Au cours de la première moitié de l’année 2020, 65 % des contenus en direct visionnés sur Twitch (mesurés en termes de minutes visionnées) l’ont été sur des chaînes dotées de la fonctionnalité AutoMod, qui surveille activement le chat pour détecter les messages nuisibles : ce chiffre est passé à 71 % au cours du deuxième semestre 2020. Nous pensons que cette augmentation substantielle peut être largement attribuée à l'activation d'AutoMod par défaut à compter du deuxième semestre 2020 pour toutes les nouvelles chaînes ne disposant pas d’utilisateurs assignés au rôle de modérateur. Comme le montre le graphique ci-dessus, le pourcentage d’heures visionnées sur des chaînes disposant d’au moins un modérateur actif a légèrement augmenté, passant de 82 % au premier semestre à 86 % au deuxième. Cela démontre que les chaînes les plus populaires sont très susceptibles d’avoir des modérateurs actifs. Sur l'ensemble de l’année 2020, plus de 92 % des contenus visionnés en direct sur Twitch l’ont été sur des chaînes dont le chat était modéré soit par des modérateurs actifs, soit par AutoMod, ou les deux: ce taux de couverture est passée à plus de 95 % au second semestre. 

Suppression proactive et manuelle des messages de chat

La grande majorité des suppressions de contenu sur Twitch concerne des suppressions de messages de chat effectuées par des modérateurs agissant sur des chaînes individuelles. Twitch fournit des outils comme la fonctionnalité de termes bloqués personnalisables et AutoMod (décrit plus en détail ci-dessus) : ceux-ci permettent aux chaînes d’appliquer des filtres qui éliminent de manière proactive les messages du chat avant qu’ils ne soient publiés. Les modérateurs des chaînes peuvent également surveiller activement le chat et supprimer les messages nuisibles ou perturbateurs dans les secondes qui suivent leur publication. 

Au cours du premier semestre 2020, 24,4 milliards de messages ont été envoyés sur Twitch, et au second semestre, ce nombre est passé à 32,6 milliards (soit une augmentation de 33 %). Au total, 61,5 millions de messages ont été supprimés du chat de façon proactive grâce à la fonctionnalité des termes bloqués et à AutoMod au cours du premier semestre 2020. Ce nombre est passé à 98,8 millions au cours du second semestre (soit une augmentation de 61 %). Pendant le premier semestre 2020, les modérateurs de chaînes ont supprimé manuellement 15,9 millions de messages de chat. Au deuxième semestre 2020, ce nombre est passé à 31,5 millions (soit une augmentation de 98 %). Cette augmentation de la quantité de contenus de chat indésirables supprimés s’explique d'une part par la croissance de 33 % du nombre de messages envoyés sur Twitch et la croissance globale de 40 % du nombre de chaînes sur Twitch, entre le premier et le deuxième semestre 2020, et d'autre part par la croissance du taux de couverture des actions de modération mentionné précédemment, et au lancement en mars du tableau de bord de l’affichage modérateur qui facilite la suppression de contenu par les modérateurs. 

Sanctions sur les chaînes

En plus de supprimer leurs messages, les modérateurs de chaîne peuvent décider de bannir d’une chaîne les utilisateurs nuisibles et perturbateurs de manière temporaire ou permanente. Nous avons récemment amélioré cet outil afin de permettre aux utilisateurs bannis d’une chaîne de faire appel auprès du modérateur et d’y être admis à nouveau.

Pendant le premier semestre 2020, les créateurs et leurs modérateurs ont procédé à 2,3 millions de bannissements permanents ; pendant le deuxième semestre 2020, ce chiffre est passé à 3,9 millions (soit une augmentation de 72 %). Parallèlement, les bannissements temporaires sur les chaînes sont passés de 3,2 millions au cours du premier semestre 2020 à 4,5 millions pour le deuxième (soit une augmentation de 40 %). L’augmentation globale des bannissements temporaires et permanents sur les chaînes peut être largement attribuée à l’augmentation de 29 % du nombre de chaînes uniques qui streament : 14,6 millions de chaînes au premier semestre 2020, et 18,8 millions au deuxième. 

Signalements et sanctions 

Il convient de rappeler que Twitch est un service de streaming en direct : la grande majorité du contenu sur Twitch est donc éphémère. Pour cette raison, le respect des Lignes de conduite de la communauté par les streamers et les utilisateurs ne peut reposer sur la « suppression de contenu ». Le contenu en direct est en fait signalé par la détection automatique ou par des utilisateurs à notre équipe de professionnels de la modération de contenu, qui imposent alors des sanctions (par exemple, un avertissement ou une suspension temporaire de la chaîne) pour remédier aux infractions avérées. Les contenus enregistrés en infraction sont quant à eux supprimés. Notons cependant que la plupart des sanctions n’entraînent pas la « suppression » du contenu : en effet, en dehors du signalement, il n’y a plus de traces de l’infraction puisque le contenu en direct a déjà disparu. Pour cette raison, nos efforts en matière de sécurité doivent se concentrer sur l’application de sanctions : c’est ce que nous expliquons dans les sections suivantes de ce rapport.

Par souci de clarté, veuillez noter que les statistiques relatives aux sanctions qui vous sont présentées dans les sections suivantes n’incluent pas les sanctions au niveau des chaînes abordées dans la section précédente.

Augmentation du nombre d’heures visionnées et des signalements sur Twitch 

Comme le montre le graphique ci-dessus, les signalements transmis par les utilisateurs pour tous les types d’infractions sont passés de 5,9 millions au cours du premier semestre 2020 à 7,4 millions au cours du deuxième semestre (soit une augmentation de 25 %). Sur la même période, Twitch a connu une croissance rapide, comme en témoigne l’augmentation de 22 % de l’utilisation (mesurée en heures visionnées). Alors que le nombre absolu de signalements transmis par les utilisateurs a augmenté entre le premier et le deuxième semestre, le nombre de signalements par millier d’heures de visionnage a connu une augmentation minime, passant de 0,74 à 0,76 (représentée par la ligne verte dans le graphique ci-dessus). Notre interprétation est donc la suivante : même si Twitch a connu une croissance rapide en 2020, la fréquence des comportements signalés est restée relativement stable. 

Sanctions

Les signalements transmis par les utilisateurs sont classés par ordre de priorité (en fonction de plusieurs facteurs, notamment la classification et la gravité du comportement signalé, et le caractère illégal ou pas du comportement en question) et envoyés à notre équipe de modération de contenu pour être examinés. Si nos équipes conviennent que le rapport démontre une violation des Lignes de conduite de la communauté, elles prennent des mesures visant le compte du responsable. Selon la nature de l’infraction, diverses sanctions sont possibles : un avertissement, une suspension temporaire d’1 à 30 jours, et pour les infractions les plus graves, une exclusion définitive de Twitch. Tout contenu lié à l'infraction se trouvant enregistré sur le service est définitivement supprimé. 

Nous disposons également d’une procédure d’appel : si un utilisateur estime qu’une sanction est erronée, injustifiée ou injuste, il peut faire appel. Ces appels sont gérés par un groupe dédié de spécialistes au sein de notre équipe de modération de contenu.

Pour en savoir plus sur les sanctions prises contre les comptes, veuillez consulter notre page Sanctions de compte.

Le nombre total de sanctions est passé de 788 000 au premier semestre 2020 à 1,1 million au deuxième semestre, soit une augmentation de 41 %. La majeure partie de cette augmentation peut être attribuée aux 22 % de croissance globale de l’utilisation de Twitch au cours de cette période.  Cela est démontré par l’augmentation du nombre de sanctions prises par millier d’heures visionnées (MHV) : 0,099 par MHV au premier semestre 2020, et 0,114 par MHR au deuxième (représenté par la ligne verte dans le graphique ci-dessus).  Nous pensons que cette augmentation de 15 % du nombre total de sanctions par MHV constitue une variation normale et n’est de manière générale pas imputable à une ou plusieurs causes particulières. Nous nous attendons également à une légère augmentation du nombre de signalements, à la suite de nos efforts tout au long de 2020 pour mieux informer la communauté Twitch des options de signalement disponibles. Dans les sections ci-dessous, nous décrivons les causes de l’augmentation de certains types de sanctions.

En plus des sanctions détaillées ci-dessus, au cours de l’année 2020, Twitch a identifié à trois reprises un grand nombre de comptes de bots.  Ces comptes, généralement utilisés pour augmenter artificiellement le nombre de vues, ont été clôturés. Ces mesures ne sont pas incluses dans les chiffres ci-dessus car elles ne découlent pas de signalements ou de détection automatisée de contenus préjudiciables. Elles ont toutefois donné lieu à 5,8 millions de sanctions supplémentaires.  

Dans les sections qui suivent, nous présentons certaines données et analyses relatives aux différents types de sanctions prises par Twitch en 2020.

Comportement haineux, harcèlement sexuel et harcèlement

Nous ne tolérons pas les comportements ou les discours haineux, de harcèlement, ou qui encouragent ou incitent autrui à la haine ou au harcèlement. Cela comprend les avances et sollicitations sexuelles non désirées, l’incitation à la haine ou autres expressions de haine visant une communauté ou une caractéristique ayant à voir avec l'identité des personnes.

Les signalements transmis par les utilisateurs au sujet de comportements haineux, harcèlement sexuel et harcèlement ont augmenté de 19 % entre le premier et le deuxième semestre 2020. Les signalements par millier d’heures visionnées ont légèrement diminué, passant à 0,219 par MHV au deuxième semestre (par rapport à 0,224 au premier semestre). Toutefois, comme le montre le graphique ci-dessous, les sanctions dans ces catégories ont augmenté de 214 % et de 158 %, en valeur absolue et par MHV, respectivement.

Les principales raisons de l’augmentation de l’application de sanctions au deuxième semestre 2020 sont les suivantes : tout d'abord, nous avons apporté des améliorations aux processus de signalement transmis par les utilisateurs et de prises de sanctions au début du second semestre, ce qui a permis à nos équipes de modération de contenu d’identifier et de sanctionner un plus grand nombre de ce type de signalements. Ensuite, de mai à août 2020, nous avons considérablement augmenté notre capacité d'analyse des signalements transmis par les utilisateurs, ce qui nous a permis de traiter plus rapidement davantage de signalements de harcèlement et de comportements haineux. Nous allons continuer à investir dans des outils et des capacités de sanctions qui permettent de passer en revue plus facilement et plus rapidement les signalements de harcèlement et de comportements haineux. En outre, en janvier 2021, nous avons publié une nouvelle version des Lignes de conduite de la communauté concernant les comportements haineux, le harcèlement sexuel et le harcèlement. Nous espérons que cette mise à jour permettra d’optimiser nos efforts et ceux de la communauté en vue d’éradiquer définitivement ces comportements de Twitch. 

Violence, gore, menaces et autres comportements extrêmes

Afin de limiter l’exposition de la communauté à des contenus susceptibles d’être illégaux, dérangeants ou nuisibles, nous interdisons les éléments et les comportements axés sur le gore ou la violence extrême, la violence sexuelle, les menaces violentes, l’automutilation, la cruauté envers les animaux, la conduite dangereuse ou distraite, et tout autre contenu ou comportement illégal, dérangeant ou choquant.

Le nombre de sanctions pour ce type de comportement est passé de 3 825 au premier semestre 2020 à 7 429 au deuxième semestre (soit une augmentation de 94 %). Comme pour les sanctions concernant les comportements haineux, de harcèlement sexuel et de harcèlement (détaillées dans la section précédente), cette augmentation considérable du nombre de sanctions est due aux mesures que nous avons prises au début du second semestre afin d’améliorer les options de signalements transmis par les utilisateurs, les outils de modération et la capacité d’étude des signalements. Au cours du deuxième semestre 2020, nous avons également fait évoluer notre système de détection automatique pour ce type de contenu. Nous poursuivrons nos investissements dans tous ces domaines en 2021.

Terrorisme, propagande terroriste et endoctrinement

Twitch interdit tout contenu qui représente, fait l’apologie, encourage ou soutient le terrorisme, de même que le service bannit les individus et les actes extrémistes et violents. Cela inclut le fait de menacer ou d’inciter les autres à porter atteinte aux personnes ou aux biens. Cela inclut aussi le fait de diffuser un lien de propagande terroriste ou extrémiste, quand bien même l'intention initiale serait de dénoncer ce type de contenus.  

Nous recevons peu de signalements dans cette catégorie et prononçons de fait peu de sanctions, comme le montrent les chiffres du graphique ci-dessus. Néanmoins, nous accordons la plus haute importance à empêcher ce type de contenus sur notre service. En octobre, Twitch a publié une nouvelle version de la politique en matière de terrorisme et de contenus extrémistes, clarifiant ainsi la façon dont nous définissons les organisations terroristes et dont nos équipes de sécurité catégorisent les contenus qui s’y rattachent. Ces clarifications ont élargi le champ de cette catégorie en englobant des comportements qui n'étaient jusque là pas comptés dans cette catégorie, ce qui a entraîné une augmentation substantielle des sanctions de ce type en pourcentage, mais pas nécessairement en chiffre absolu. En 2020, nous n’avons connu aucun cas d’activité terroriste streamée en direct sur Twitch. Les sanctions prises dans cette catégorie concernaient la propagande terroriste (77 sanctions en 2020) et la glorification ou l’encouragement d’actes de terrorisme, de violence extrême ou de destruction de biens à grande échelle (10 sanctions en 2020).

Nudité, pornographie et comportement sexuel

Nous limitons l’exposition de la communauté aux contenus qui ne sont pas appropriés pour le grand public. Cela comprend le fait de restreindre les contenus qui comportent de la nudité, montrent certaines parties du corps, des vêtements inappropriés ou du contenu à caractère sexuel.

Fin octobre, nous avons apporté des améliorations à notre système de détection proactive de la nudité, résultant en une augmentation des sanctions dans cette catégorie.   

Spam et autres infractions aux Lignes de conduite de la communauté

Twitch interdit les activités perturbatrices comme le spam, car ce genre d’activité va à l’encontre de l’intégrité des services Twitch et rend l’utilisation de Twitch moins agréable pour les utilisateurs. Nous interdisons également d’autres comportements malhonnêtes ou inappropriés, comme par exemple : l’usurpation d’identité, le fait d’inclure d’autres personnes dans un stream contre leur volonté, le contournement d’un bannissement, l’utilisation abusive des outils de Twitch, la mauvaise catégorisation intentionnelle d’un stream, le fait de tricher dans un jeu ou de jouer à un jeu interdit, les identifiants inappropriés, et les comptes de personnes mineures.

Le nombre total de sanctions dans cette catégorie est passé de 734 000 au premier semestre 2020 à 987 000 au deuxième semestre (soit une augmentation de 34 %). Cette augmentation est supérieure au taux de croissance de 22 % de l’utilisation de Twitch entre le premier et le second semestre 2020. Comme le montre la ligne verte du graphique ci-dessus, le nombre de sanctions par millier d’heures visionnées est passé de 0,092 au premier semestre à 0,102 au deuxième (soit une augmentation de 10 %). En raison de la variété des différentes infractions qui composent cette catégorie, la liste des causes de cette augmentation est tout aussi longue.

Twitch a fait des progrès dans plusieurs domaines pour lutter contre ce genre de comportements en 2020.  Par exemple, le chuchotement (la fonction de chat privé entre deux utilisateurs de Twitch) a toujours été le principal vecteur de spam : ces messages étant privés, ils ne sont pas soumis à la modération d’une chaîne. Pour lutter contre le spam dans les chuchotements, nous avons lancé en 2020 plusieurs modèles de détection automatisée qui bloquent complètement les messages de spam ou signalent le message au destinataire et incitent ce dernier à le signaler. Le succès de ces modèles a entraîné une baisse de 70 % des signalements de spam liés aux chuchotements entre le premier et le deuxième semestre 2020. Nous continuons à développer la détection proactive et d’autres solutions technologiques pour réduire la prévalence du spam, du contournement de bannissement, des identifiants inappropriés et d’autres infractions de ce type.

Relations avec les forces de l'ordre et dialogue avec les autorités

Résumé 

Une équipe de Twitch dédiée se consacre à faire le lien entre les signalements remontés par l'équipe de modération et les autorités compétentes quand ces signalements sont susceptibles de constituer une infraction au droit. Cette équipe est notamment chargée de traiter les cas impliquant tout préjudice causé à un enfant et de signaler toute menace de violence ou acte terroriste aux autorités. Cette équipe gère par ailleurs les demandes relatives aux données des utilisateurs qui seraient émises par les autorités.

Rapports au National Center for Missing and Exploited Children et coopération mondiale

Nous ne tolérons pas l’exploitation sexuelle des enfants. En cas de contenu à caractère pédophile ou représentant l’exploitation sexuelle d’enfants, nous supprimons immédiatement le contenu, menons une enquête et en faisons un rapport aux autorités par l’intermédiaire du National Center for Missing and Exploited Children (« Centre national pour enfants portés disparus et sexuellement exploités », une association de référence aux États-Unis). Nous travaillons par ailleurs directement avec des organisations similaires dans le monde entier, comme l’INHOPE et l’ICMEC, pour bannir de Twitch et mettre définitivement un terme à ces pratiques d'exploitation et d'abus des enfants.

Les signalements transmis au NCMEC ont augmenté de 66 % entre le premier et le deuxième semestre. Cette augmentation est due aux améliorations apportées à la procédure d’enquête de Twitch en matière des signalements à relayer : les équipes internes sont en effet en mesure d’identifier de manière plus globale les tendances liées à ces comportements, transmettant ainsi davantage de signalements au NCMEC.  

Signalements transmis aux autorités

Dès que Twitch identifie des menaces crédibles de violence, nous transmettons systématiquement et de manière proactive les données des utilisateurs aux autorités compétentes. Twitch a enregistré 38 cas de ce type en 2020.

Les signalements transmis aux forces de l’ordre ont diminué de 27 % au cours du deuxième semestre. Nous pensons que cela est dû en grande partie à la diminution des rassemblements publics en période de pandémie. En effet, en l’absence de rassemblements publics, les lieux et événements contre lesquels diriger des menaces sont limités.

Transmission de données aux autorités compétentes

Twitch transmet aux autorités du monde entier les données liées aux infractions et crimes sur lesquels elles sont susceptibles d’enquêter. Pour répondre à ce type de requêtes, nous avons mis en place un processus de production de documents et un traité d’entraide judiciaire (« Traité d’entraide judiciaire »), qui exige que toutes les demandes de données soient traitées par l’intermédiaire de notre serveur dédié (CSC).

Le nombre d’ordonnances judiciaires de production de documents et d’obligations de préservation des données a augmenté de 37 % au cours du deuxième semestre. Ce chiffre est conforme aux volumes prévus d’ordonnances judiciaires de production de documents et d’obligations de préservation des données valides que nous avons reçues des autorités.