Transparenzbericht 2020

Leserhinweis:

Dies ist unser erster Transparenzbericht. Er zeigt, wie wir mit dem Thema Sicherheit umgehen und wie wir dafür sorgen, dass unsere Community sicher und geschützt ist. Unsere Sicherheitsteams, unsere Community-Moderatoren und unsere technologischen Lösungen helfen dabei mit, die von uns aufgestellten Regeln durchzusetzen. Dieser umfassende Überblick über die Daten unseres Dienstes vermittelt ein aussagekräftiges Bild über sicherheitsrelevante Themen auf Twitch sowie unsere Fortschritte in diesem Bereich. Wir streben danach, Twitch zu einem noch sichereren Ort zu machen, was künftige Berichte zeigen werden. 

Sicherheit bei Twitch

Unsere Sicherheitsphilosophie

Twitch wurde entwickelt, um unseren Benutzern eine Plattform zu geben, auf der sie sich frei äußern und miteinander unterhalten können. Dabei wollen wir sicherstellen, dass unsere Community immer geschützt ist und sich sicher fühlt. Unsere Community-Richtlinien erlauben Benutzern einerseits, sich frei zu äußern, und stellen andererseits klare Regeln auf, was auf unserer Plattform nicht erlaubt ist. Dazu gehören zum Beispiel Äußerungen, die andere verletzen (oder illegal sind). Unser Ziel ist eine Community, die Creator unterstützt und fördert, eine freundliche und unterhaltsame Umgebung für Zuschauer bietet und illegale, negative und verletzende Interaktionen unterbindet.

Wir sind davon überzeugt, dass alle in unserer Community – ob Creator, Zuschauer, Moderator oder Twitch selbst – eine wichtige Rolle dabei spielen, für eine gesunde und sichere Community zu sorgen. Die Community-Richtlinien legen fest, welche Äußerungen und Verhaltensweisen auf der Plattform erlaubt sind und welche nicht. Durch die Maßnahmen der Community-Moderatoren, durch Benutzermeldungen und technologische Lösungen, wie maschinelles Lernen und proaktive Erkennung, sorgen wir dafür, dass die Community-Richtlinien eingehalten werden. Creator und Moderatoren (umgangssprachlich als "Mods" bezeichnet) setzen darüber hinaus Tools ein, die von uns und von anderen Anbietern bereitgestellt werden. Dazu gehören AutoMod, die Mod-Ansicht und Moderations-Bots, um die erforderlichen Standards auf der gesamten Twitch-Plattform durchzusetzen oder auf bestimmten Kanälen höhere Standards festzulegen.  

Unser Sicherheitsansatz 

Twitch ist ein Live-Streaming-Dienst. Die überwiegende Mehrheit der Inhalte, die auf Twitch veröffentlicht werden, verschwinden in dem Moment, in dem sie produziert und gesehen werden. Deshalb müssen wir die Sicherheit und den Schutz der Community anders gewährleisten als andere Dienste, die hauptsächlich auf vorab aufgezeichneten und hochgeladenen Inhalten basieren. Lösungen zur Moderation von Inhalten, die bei videobasierten Diensten mit hochgeladenen Inhalten funktionieren, funktionieren bei Twitch nicht oder auf andere Weise. Dank Experimenten und Investitionen haben wir festgestellt, dass die Sicherheit der Benutzer bei Twitch immer dann am besten geschützt und optimal skalierbar ist, wenn wir eine Reihe von Tools und Prozessen einsetzen und gleichzeitig den Mitgliedern unserer Community die Möglichkeit geben, gemeinsam mit uns daran zu arbeiten.

Das Ergebnis ist ein mehrstufiger Sicherheitsansatz, bei dem wir (durch die Bereitstellung von Tools und Mitarbeitern) mit Mitgliedern der Community zusammenarbeiten. Neue und etablierte Creator verinnerlichen unsere Community-Richtlinien, um das Gleichgewicht zwischen der freien Meinungsäußerung der Benutzer und der Sicherheit der Community zu wahren. Sie definieren, welches Verhalten auf Twitch erwartet wird. Jeder Creator hält auf seinem Kanal die für Twitch geltenden Standards ein oder kann sogar noch höhere Maßstäbe setzen. Wir stellen Creatorn Tools zur Verfügung, mit denen sie die erforderlichen Mindeststandards für das Verhalten auf ihrem Kanal festlegen, kommunizieren und durchsetzen können. Zusätzlich bieten wir den Zuschauern Steuerungsfunktionen, mit denen sie die Inhalte kontrollieren können, die sie beim Durchsuchen der Plattform sehen. Parallel dazu setzt Twitch verschiedene maschinelle Lernalgorithmen ein, um bestimmte Arten von problematischen Inhalten proaktiv zu erkennen und zu löschen, bevor Benutzer sie sehen. Schließlich geben wir Benutzern die Möglichkeit, verletzendes oder unangemessenes Verhalten Twitch direkt zu melden. Diese Meldungen werden von einem Team erfahrener Spezialisten geprüft und bearbeitet, die in der Lage sind, auf der gesamten Plattform Maßnahmen zu ergreifen. 

Im Folgenden werden wir diese einzelnen Punkte im Detail erörtern (von unten nach oben) und darauf eingehen, wie sie sich ergänzen.  

Community-Richtlinien

Die Community-Richtlinien von Twitch sind die Grundlage für unser gesamtes Sicherheits-Ökosystem. Diese Richtlinien definieren den Rahmen für alle benutzergenerierten Inhalte und Aktivitäten auf der Plattform. Da die Community-Richtlinien die Verhaltensregeln für Twitch definieren, sind sie besonders deutlich formuliert. Wir haben deshalb versucht, durch Beschreibungen und spezifische Beispiele für unzulässiges Verhalten (und konkrete Ausnahmen), so deutlich wie möglich zu sein. Wir sind uns bewusst, dass sich die Kultur auf Twitch ständig verändert. Aus diesem Grund überprüfen und aktualisieren wir unsere Community-Richtlinien, um den Anforderungen der Community gerecht zu werden. Wir sind davon überzeugt, dass Twitch-Benutzer die von uns gesetzten Grenzen verstehen und sich innerhalb dieser Grenzen frei und sicher ausdrücken können, wenn wir eindeutige Standards festlegen, die bei Bedarf aktualisiert werden. Wir sind außerdem davon überzeugt, dass eindeutige, relevante Community-Richtlinien eine wichtige Grundlage für eine einheitliche Durchsetzung unserer Maßnahmen sind, um die Sicherheit der Community zu gewährleisten. 

Sicherheit auf Plattformebene

Die Sicherheit auf Plattformebene ist das Ergebnis unserer Arbeit zur Einhaltung der Community-Richtlinien auf Twitch. Sie lässt sich in drei Bereiche unterteilen: maschinelle Erkennung, Benutzermeldungen und deren Prüfung sowie Maßnahmen zur Durchsetzung.

Maschinelle Erkennung: In den letzten zwei Jahren haben wir Technologien zur "maschinellen Erkennung" implementiert, die Inhalte auf der Plattform scannen, um verletzende oder unangemessene Inhalte entweder zu löschen oder sie zur manuellen Überprüfung durch Spezialisten zu markieren. Beispiele hierfür sind Nacktheit, sexuelle Inhalte, blutrünstige Darstellungen und extreme Gewalt. Twitch ist in erster Linie ein Live-Streaming-Dienst, und die meisten Inhalte, die gestreamt werden, werden nicht aufgezeichnet oder hochgeladen. Da die Inhalte in Echtzeit angezeigt werden, ist Live-Streaming eine besondere Herausforderung für die maschinelle Erkennung, um mit den Inhalten Schritt zu halten. Dennoch haben wir Wege gefunden, die maschinelle Erkennung zu nutzen, um die proaktive Moderation auf Twitch zu unterstützen, und wir werden weiterhin in diese Technologien investieren, um sie noch weiter zu verbessern.

Benutzermeldungen: Meldungen aus der Community helfen enorm dabei, die Sicherheit und das Vertrauen unserer Community aufrechtzuerhalten sowie die Community-Richtlinien einzuhalten. Wir sind davon überzeugt, dass Benutzermeldungen auf Twitch besonders effektiv sind, da die überwiegende Mehrheit der Inhalte auf Twitch – Video und Chat – öffentlich ist. Wir ermutigen Creator, Moderatoren und Zuschauer, Inhalte zu melden, die gegen unsere Community-Richtlinien verstoßen, damit wir auf der gesamten Plattform entsprechende Maßnahmen ergreifen können. Benutzermeldungen werden zur Überprüfung an unser Team aus Spezialisten zur Inhaltsmoderation weitergeleitet.

Überprüfung und Durchsetzung: Wir beschäftigen ein Team aus hochqualifizierten und erfahrenen Spezialisten, um Benutzermeldungen und Inhalte zu überprüfen, die von unseren maschinellen Erkennungstools markiert werden. Diese Spezialisten für die Inhaltsmoderation sind über mehrere Standorte verteilt und betreuen mehr als 20 Sprachen, um rund um die Uhr und 365 Tage im Jahr die weltweit eingehenden Meldungen zu überprüfen. Die Meldungen werden priorisiert, damit besonders problematisches Verhalten so schnell wie möglich korrigiert werden kann. Die Bearbeitungszeit einer Meldung hängt von einer Reihe von Faktoren ab, wie z. B. dem Schweregrad der Meldung, der Verfügbarkeit von Beweisen für die Meldung und dem aktuellen Umfang der Meldungswarteschlange. Darüber hinaus beschäftigen wir ein Team erfahrener Prüfer, die sich mit den gravierendsten Meldungen befassen und falls nötig mit den Strafverfolgungsbehörden zusammenarbeiten. 

Wir sind uns bewusst, dass unsere Spezialisten für die Inhaltsmoderation viel Zeit damit verbringen, Inhalte zu überprüfen, deren Spektrum von negativ bis extrem belastend reichen kann. Die Gesundheit und Sicherheit dieser Mitarbeiter ist uns ebenso wichtig wie die Gesundheit und Sicherheit der Twitch-Community. Deshalb haben wir in Tools investiert, um die belastenden Auswirkungen bestimmter Inhalte zu minimieren. So zeigt das System, das unsere Prüfer verwenden, potenziell schädliche Videos automatisch in Schwarz-Weiß, mit geringerer Auflösung und/oder stummgeschaltet an. Außerdem bieten wir unseren Prüfern Programme und Leistungen an, die zum Schutz ihres seelischen Wohlbefindens beitragen sollen.  

Sicherheit auf Kanalebene

Wir sind davon überzeugt, dass auch Creator für die Sicherheit ihrer Inhalte verantwortlich sind. Unsere Creator können ihre eigenen Standards für akzeptables und inakzeptables Verhalten in der Community setzen. Dabei geben unsere Community-Richtlinien den Mindeststandard vor, an den sich alle Communitys halten müssen. Creator können, um eine Kultur der Verantwortlichkeit zu fördern, andere Mitglieder ihrer Community einbeziehen und ein Team aus Moderatoren zusammenstellen, die den Creator unterstützen, indem sie den Chat auf dem Kanal des Creators moderieren. (Mods sind im Chat an dem grünen Schwert-Abzeichen zu erkennen, das neben ihrem Benutzernamen angezeigt wird.) Moderatoren übernehmen viele Aufgaben, von der Begrüßung neuer Zuschauer im Kanal über die Beantwortung von Fragen bis hin zur Festlegung und Durchsetzung von Standards. Creator und ihre Mods erhalten von uns eine Reihe von leistungsstarken Tools wie AutoMod, Chat-Modi und die Mod-Ansicht, um ihre Aufgaben so einfach und intuitiv wie möglich zu erledigen. Mit diesen Tools kann der Chat automatisch gefiltert werden und Creator und Mods können problematische Chatnachrichten sehen (und löschen), bevor sie auf dem Kanal erscheinen. Außerdem können sie Benutzer in ein Time-out versetzen, um sie für eine bestimmte Zeit aus dem Chat auszuschließen oder sie dauerhaft für einen Kanal sperren.  

Sicherheit auf Zuschauerebene 

Zusätzlich zu den Tools für Creator und Mods geben wir auch Zuschauern die Möglichkeit, die Sicherheit ihres Benutzererlebnisses selbst zu bestimmen. Dafür stellen wir Zuschauern Features wie Inhaltswarnungen, Chat-Filter und Tools zum Blockieren von Inhalten zur Verfügung, mit denen sie Inhalte und Interaktionen auf der Plattform individuell anpassen können.  

Sicherheit für Werbetreibende

Werbung ist ein wichtiger Bestandteil von Twitch. Marken, die auf Twitch werben, möchten wissen, wie wir unsere Benutzer schützen und für ein positives und unbedenkliches Umfeld sorgen. Eine Voraussetzung der Werbetreibenden auf Twitch ist, dass ihre Marke nicht mit Inhalten oder Verhaltensweisen in Verbindung gebracht wird, die nicht mit ihren Markenwerten übereinstimmen. Das gewährleisten wir durch verschiedene Maßnahmen. Wir platzieren Werbung ausschließlich auf den Kanälen von Streamern, die nachweislich verantwortungsvoll streamen und uns vorab geprüfte Identitätsinformationen zur Verfügung gestellt haben. Darüber hinaus ermöglichen wir unseren Werbetreibenden, ihre Werbung gezielt zu platzieren – bei Streamern, die bestimmte Spiele streamen, die zu den Markenwerten des Werbetreibenden passen, oder bei Streamern, die Spiele streamen, die für ein allgemeines Publikum eingestuft wurden (basierend auf ESRB- oder PEGI-Bewertungen). Werbetreibende können außerdem sicherstellen, dass ihre Anzeigen nicht auf Kanälen mit Inhalten gezeigt werden, die von den Streamern als "Mature" (Für Erwachsene) gekennzeichnet wurden, oder bei Spielen, die nicht mit den Markenwerten des Werbetreibenden übereinstimmen. Ein Beispiel hierfür sind Ego-Shooter-Spiele oder Spiele, die für ein erwachsenes Publikum eingestuft wurden.

Sicherheitsupdates 2020 

Community-Richtlinien: Wir haben 2020 mehrere zentrale Punkte unserer Community-Richtlinien aktualisiert, um die Richtlinien noch verständlicher und leichter anwendbar zu machen. Dafür haben wir untersagte Verhaltensweisen genauer beschrieben und sie durch Beispiele und Ausnahmen weiter verdeutlicht. Zu den wichtigsten Änderungen aus 2020 gehören:

• Nacktheit und Bekleidung – überarbeitete Richtlinien eingeführt im April 2020;
• Terrorismus und extreme Gewalt – aktualisierte Richtlinien eingeführt im Oktober 2020;
• Belästigung und hasserfülltes Verhalten – überarbeitete Richtlinien veröffentlicht im Dezember 2020, Inkrafttreten im Januar 2021.

Für die Aktualisierungen der Richtlinien zu Nacktheit und Bekleidung sowie zu Belästigung und hasserfülltem Verhalten haben wir zunächst Fokusgruppen einberufen und Feedback von verschiedenen Twitch-Creatorn gesammelt. Darüber hinaus haben wir die Richtlinienentwürfe mit unserem Sicherheitsbeirat besprochen, einem Team aus acht Creatorn, Akademikern und NGO-Leitern. So konnten wir unsere Richtlinien präziser formulieren und die Standards und Ideale der Twitch-Community genauer wiedergeben. Wir sind uns bewusst, dass unsere Plattform, unsere Community und die Welt, in der wir leben, nicht statisch sind. Deshalb werden wir unsere Standards und Erwartungen kontinuierlich überprüfen und anpassen und unsere Community-Richtlinien bei Bedarf aktualisieren, um diese Entwicklung widerzuspiegeln. 

Handlungsfähigkeit: Wir verpflichten uns, dafür zu sorgen, dass die Prüfung von Sicherheitsmeldungen zeitnah erfolgt. Daher haben wir umfangreiche Investitionen getätigt, um unsere Kapazitäten zu erhöhen. Allein im letzten Jahr haben wir die Anzahl der Spezialisten für die Inhaltsmoderation, die auf Benutzermeldungen reagieren, um das Vierfache erhöht. 

Moderation auf den Kanälen: Erfassen, Löschen und Durchsetzungsmaßnahmen 

Übersicht

Wir geben Creatorn auf Twitch die Möglichkeit, einzigartige und individuelle Communitys aufzubauen. Diese Freiheit ist jedoch mit der Verpflichtung verbunden, diese Communitys zu schützen und sich an die Community-Richtlinien von Twitch zu halten. Deshalb bitten viele Creator auf Twitch vertrauenswürdige Mitglieder ihrer Community, den Chat auf dem Kanal des Creators zu moderieren. Diese Kanal-Moderatoren ("Mods") und Moderations-Tools sind die Grundlage der Chat-Moderation auf jedem Twitch-Kanal eines Creators. Wir investieren viel in dieses Modell, um Creatorn und Mods Tools zur Verfügung zu stellen, die flexibel und leistungsstark genug sind, um sowohl die Community-Richtlinien von Twitch als auch die vom Creator festgelegten kanalspezifischen Standards durchzusetzen. Unsere Tools für die Moderation verfolgen zwei Ziele: die Identifizierung potenziell verletzender Inhalte zur Überprüfung durch die Moderatoren und die Skalierung der Moderationskontrollen, um schnell verlaufende Chatnachrichten zu bewältigen.  

Creator und Mods können mit den von Twitch bereitgestellten Tools verwalten, wer auf ihrem Kanal chatten darf, und welche Inhalte im Chat zu sehen sind. Um festzulegen, wer aktiv an ihrer Community teilnimmt, können Creator und Mods unerwünschte Zuschauer aus dem Chat entfernen, indem sie temporäre und permanente Sperren aussprechen. Diese Sperren löschen die letzten Nachrichten eines Chat-Teilnehmers aus dem Kanal und verhindern, dass er für die Dauer der Sperre weitere Nachrichten auf dem Kanal sendet. Creator und Mods können außerdem bestimmte Einstellungen ändern, um einzuschränken, wer chatten darf. So können zum Beispiel nur vertrauenswürdige Gruppen wie Follower oder Abonnenten zugelassen werden. Mods können ihre eigenen Chatnachrichten senden, die mit einem grünen Moderator-Abzeichen gekennzeichnet sind, um den Ton im Chat vorzugeben. Um zu kontrollieren, welche Nachrichten im Chat gesehen werden können, verwenden Creator und Mods zwei zentrale Features: "AutoMod" und "Blockierte Begriffe". Wenn die Funktion "AutoMod" aktiviert ist, werden Chatnachrichten vorab geprüft und Nachrichten mit als riskant eingestuften Inhalten zurückgehalten, sodass sie auf dem Kanal nicht sichtbar sind, bis sie von einem Mod genehmigt wurden. Mit "Blockierte Begriffe" können Creator AutoMod weiter anpassen, indem sie eigene Begriffe oder Phrasen hinzufügen, die auf ihrem Kanal gesperrt werden sollen. Diese Features lassen sich am besten über die Mod-Ansicht nutzen. Dabei handelt es sich um eine anpassbare Kanaloberfläche, mit der Mods eine Reihe von Widgets für Moderationsaufgaben zur Verfügung stehen, wie z. B. das Überprüfen von Nachrichten, die von AutoMod festgehalten werden, das Verfolgen von Maßnahmen, die von anderen Mods in ihrem Team durchgeführt werden, das Ändern von Moderationseinstellungen und mehr.

Dabei ist zu beachten, dass die Maßnahmen von Creatorn und Mods sich nur auf den Zugriff eines Benutzers auf diesem Kanal beschränken. Kanal-Sperren, Time-outs und Chat-Löschungen gelten nur innerhalb eines Kanals und wirken sich nicht auf den Zugriff des Benutzers auf andere Kanäle oder andere Teile der Twitch-Plattform aus. Creator und Mods (oder andere Twitch-Benutzer) können jedoch Verhaltensweisen, die gegen unsere Community-Richtlinien verstoßen, über das entsprechende Twitch-Tool melden. Diese Meldungen können dann von den Twitch-Moderationsspezialisten plattformübergreifend bearbeitet werden.  

Die folgenden Abschnitte enthalten weitere Informationen darüber, wie Creator und Mods Standards für den Chat auf ihren eigenen Kanälen festlegen und durchsetzen.

Moderation des Chats

Die überwältigende Mehrheit der Benutzerinteraktionen auf Twitch findet auf Kanälen statt. Diese werden von den Moderatoren des Kanals, mit AutoMod oder durch beides moderiert.  

Im ersten Halbjahr 2020 fanden 65 % der auf Twitch angesehenen Live-Inhalte (gemessen an den angesehenen Minuten) auf Kanälen statt, in denen das Feature "AutoMod" den Chat aktiv auf unzulässige Nachrichten überwachte; im zweiten Halbjahr 2020 stieg dieser Anteil auf 71 %. Wir gehen davon aus, dass dieser deutliche Anstieg vor allem darauf zurückzuführen ist, dass AutoMod im zweiten Halbjahr 2020 standardmäßig für neue Kanäle aktiviert war, die keine zugewiesenen Benutzer als Kanalmoderatoren hatten. Wie in der Grafik oben zu sehen ist, stieg der Prozentsatz der angesehenen Stunden auf Kanälen, die mindestens einen aktiven Moderator hatten, leicht an, von 82 % im ersten Halbjahr auf 86 % im zweiten Halbjahr. Das zeigt unserer Meinung nach, dass größere Kanäle sehr wahrscheinlich aktive Moderatoren haben. Am wichtigsten ist, dass im gesamten Jahr 2020 über 92 % der auf Twitch angesehenen Live-Inhalte auf Kanälen mit einem Chat stattfanden, der entweder von aktiven Moderatoren oder AutoMod oder beidem moderiert wurde; und dieser Anteil stieg im zweiten Halbjahr auf über 95 %. 

Proaktives und manuelles Löschen von Chatnachrichten

Die überwiegende Mehrheit der gelöschten Inhalte auf Twitch sind Chatnachrichten, die von Kanalmoderatoren auf individuellen Kanälen entfernt werden. Twitch stellt Features wie anpassbare "Blockierte Begriffe" und "AutoMod" (siehe oben) zur Verfügung, mit denen Kanäle Nachrichten filtern können, um sie proaktiv zu löschen, bevor sie gesehen werden. Außerdem können Kanalmoderatoren den Chat aktiv überwachen und unzulässige oder störende Nachrichten innerhalb von Sekunden nach ihrer Veröffentlichung löschen. 

Im ersten Halbjahr 2020 wurden 24,4 Milliarden Chatnachrichten auf Twitch versendet; im zweiten Halbjahr stieg diese Zahl auf 32,6 Milliarden (eine Zunahme von 33 %). 61,5 Millionen Nachrichten wurden in der ersten Jahreshälfte 2020 mithilfe von "Blockierte Begriffe" und AutoMod proaktiv aus dem Chat entfernt; diese Zahl stieg in der zweiten Jahreshälfte auf 98,8 Millionen (eine Zunahme von 61 %). Im ersten Halbjahr 2020 löschten Kanalmoderatoren manuell 15,9 Millionen Chatnachrichten; im zweiten Halbjahr 2020 stieg diese Zahl auf 31,5 Millionen (eine Zunahme um 98 %). Dieser Anstieg der entfernten unzulässigen Chat-Inhalte lässt sich teilweise durch den Anstieg der Anzahl der auf Twitch gesendeten Chatnachrichten um 33 % und den allgemeinen Anstieg der Anzahl der Kanäle auf Twitch um 40 % vom ersten zum zweiten Halbjahr 2020 erklären. Wir vermuten, dass der Rest des Anstiegs auf die oben beschriebene Ausweitung der Moderationsmaßnahmen sowie auf die Einführung des Dashboards "Mod-Ansicht" im März zurückzuführen ist, das es Mods erleichtert, Inhalte zu löschen.  

Maßnahmen auf dem Kanal durchsetzen

Zusätzlich zum Löschen von Nachrichten können Kanalmoderatoren unerwünschte und störende Benutzer aus einem Kanal entfernen, entweder durch ein temporäres Time-out oder eine permanente Sperre, um zu verhindern, dass sie in Zukunft auf dem Kanal weiteren Schaden anrichten können. Diese Tools wurden vor Kurzem erweitert, um Benutzern, die aus einem Kanal verbannt wurden, die Möglichkeit zu geben, diese Entscheidung beim Kanalmoderator anzufechten und mit dessen Zustimmung wieder zugelassen zu werden.

Im ersten Halbjahr 2020 verhängten Creator und Mods 2,3 Millionen unbefristete Kanal-Sperren; im zweiten Halbjahr 2020 stieg diese Zahl auf 3,9 Millionen Kanal-Sperren (eine Zunahme von 72 %). Ebenso stiegen die temporären Kanal-Time-outs von 3,2 Millionen im ersten Halbjahr 2020 auf 4,5 Millionen im zweiten Halbjahr 2020 (eine Zunahme von 40 %). Der Gesamtanstieg der Kanal-Sperren und Time-outs lässt sich weitgehend auf den 29-prozentigen Anstieg der Anzahl der individuellen Kanäle beim Streaming zurückführen – diese stiegen im ersten Halbjahr 2020 von 14,6 Millionen Kanäle auf 18,8 Millionen Kanäle. 

Meldungen und Maßnahmen zur Durchsetzung 

In diesem Zusammenhang sei noch einmal darauf hingewiesen, dass Twitch ein Live-Streaming-Dienst ist und die überwiegende Mehrheit der Inhalte auf Twitch extrem kurzlebig ist. Aus diesem Grund konzentrieren wir uns nicht auf das "Löschen von Inhalten" als primäres Mittel, um bei Streamern die Einhaltung unserer Community-Richtlinien durchzusetzen. Stattdessen werden Live-Inhalte entweder durch maschinelle Erkennung oder Benutzermeldungen an unser Team aus Spezialisten für die Inhaltsmoderation gemeldet, die dann bei verifizierten Verstößen "Durchsetzungsmaßnahmen" (in der Regel eine Warnung oder eine zeitlich begrenzte Sperre des Kanals) ergreifen. Wenn zufällig Inhalte aufgezeichnet wurden, die einen Verstoß darstellen, dann werden diese Inhalte gelöscht. Die Mehrzahl der Durchsetzungsmaßnahmen erfordert jedoch keine Löschung von Inhalten, da es abgesehen von der Meldung keine Aufzeichnung des Verstoßes mehr gibt, da der unzulässige Live-Inhalt bereits nicht mehr vorhanden ist. Aus diesem Grund sind wir davon überzeugt, dass die geeignetste Methode zur Beurteilung unserer Sicherheitsvorkehrungen die Durchsetzungsmaßnahmen sind, die in den folgenden Abschnitten dieses Berichts erläutert werden.

Wir weisen darauf hin, dass die Statistiken zu den Durchsetzungsmaßnahmen in den folgenden Abschnitten nicht die Durchsetzungsmaßnahmen auf Kanalebene beinhalten, die im vorigen Abschnitt besprochen wurden, und dass sie sich nicht mit diesen überschneiden.

Anstieg der auf Twitch angesehenen Stunden und eingereichten Meldungen 

Wie in der Grafik oben zu sehen ist, stiegen die Benutzermeldungen für alle Arten von Verstößen von 5,9 Mio. im ersten Halbjahr 2020 auf 7,4 Mio. im zweiten Halbjahr 2020 (eine Zunahme von 25 %). Im gleichen Zeitraum verzeichnete Twitch ein hohes Wachstum, was durch einen Anstieg der Nutzung um 22 % (gemessen an den angesehenen Stunden) belegt wird. Während die absolute Anzahl der Benutzermeldungen vom ersten zum zweiten Halbjahr zunahm, stieg die Anzahl der Meldungen pro Tausend angesehener Stunden nur von 0,74 auf 0,76 (oben in der Grafik dargestellt als grüne Linie). Wir erklären dies damit, dass die Nutzung von Twitch im Jahr 2020 insgesamt zwar stark gestiegen ist, die Häufigkeit der Meldungen jedoch relativ gleich geblieben ist. 

Durchsetzungsmaßnahmen

Die Benutzermeldungen werden priorisiert (basierend auf einer Reihe von Faktoren, einschließlich der Klassifizierung und des Schweregrads des gemeldeten Verhaltens sowie ob es illegal ist oder nicht) und von unserem Team für die Inhaltsmoderation geprüft. Wenn der Prüfer der Meinung ist, dass die Meldung einen Verstoß gegen die Community-Richtlinien darstellt, wird er Maßnahmen gegen das Konto des Verursachers ergreifen. Je nach Art des Verstoßes ergreifen wir verschiedene Maßnahmen, darunter eine Warnung, eine vorübergehende Sperre des Kontos (1-30 Tage) und bei schwerwiegenden Verstößen eine unbefristete Sperre des Kontos. Wenn Inhalte, die den Verstoß enthalten, auf der Plattform aufgezeichnet wurden, werden sie von uns gelöscht. 

Darüber hinaus gibt es ein Einspruchsverfahren. Wenn ein Benutzer der Meinung ist, dass eine Maßnahme fälschlicherweise stattgefunden hat oder ungerechtfertigt oder unfair ist, kann er Einspruch gegen die Maßnahme einlegen. Die Einsprüche werden von einer eigenständigen Gruppe von Spezialisten innerhalb unseres Teams für die Inhaltsmoderation verwaltet.

Weitere Informationen zu Kontomaßnahmen gibt es unter "Konto-Vollstreckungen" auf unserer Seite.

Die Anzahl der Durchsetzungsmaßnahmen stieg von 878.799 im ersten Halbjahr 2020 auf 1,1 Millionen im zweiten Halbjahr 2020 (eine Zunahme von 41 %). Die Hauptursache für diesen Anstieg ist das Wachstum der Gesamtnutzung von Twitch um 22 % in diesem Zeitraum. Dies wird durch den Anstieg der Anzahl der Durchsetzungsmaßnahmen pro Tausend angesehender Stunden ("KHW") deutlich: 0,099 pro KHW im ersten Halbjahr 2020 stiegen auf nur 0,114 pro KHW im zweiten Halbjahr 2020 (oben in der Grafik als grüne Linie dargestellt). Wir sind der Meinung, dass dieser Anstieg um 15 % bei der Gesamtzahl der Durchsetzungsmaßnahmen pro KWH innerhalb der normalen Abweichungen liegt und sich nicht auf eine bestimmte Ursache zurückführen lässt. Ein leichter Anstieg der Meldungen war außerdem zu erwarten, da wir uns das ganze Jahr darum bemüht haben, die Twitch-Community über ihre Möglichkeiten zur Meldung aufzuklären. In den folgenden Abschnitten beschreiben wir, welche Gründe es für die Zunahme bestimmter Arten von Durchsetzungsmaßnahmen gibt.

Zusätzlich zu den oben aufgeführten Durchsetzungsmaßnahmen haben wir 2020 drei Mal programmgesteuert eine große Anzahl von Bot-Konten identifiziert. Diese Konten werden in der Regel eingesetzt, um Zuschauerzahlen künstlich zu steigern, und wurden deshalb identifiziert und gelöscht. Diese Aktionen sind in den oben aufgeführten Zahlen nicht enthalten, da sie nicht auf Meldungen oder maschinelle Erkennung unzulässiger Inhalte zurückzuführen sind. Diese drei programmgesteuerten Massenaktionen führten jedoch zu weiteren 5,8 Millionen Durchsetzungsmaßnahmen.  

Die folgenden Abschnitte enthalten Daten und Analysen zu den verschiedenen Arten von Durchsetzungsmaßnahmen, die Twitch im Jahr 2020 verhängt hat.

Hasserfülltes Verhalten, sexuelle Belästigung und Mobbing

Wir tolerieren keine Verhaltensweisen oder Äußerungen, die hasserfüllt oder belästigend sind, oder die andere zu hasserfülltem oder belästigendem Verhalten ermutigen oder anstiften. Dazu gehören unerwünschte sexuelle Annäherungen und Aufforderungen, die Anstiftung zu gezielten Beleidigungen in der Community und hasserfüllte Äußerungen, die auf identitätsbezogene Merkmale abzielen.

Benutzermeldungen zu hasserfülltem Verhalten, sexueller Belästigung und Mobbing sind vom ersten Halbjahr auf das zweite Halbjahr 2020 um 19 % gestiegen, und die Meldungen pro Tausend angesehener Stunden sind im zweiten Halbjahr mit 0,219 pro KHW leicht gesunken (im Vergleich zu 0,224 im ersten Halbjahr). Wie in der folgenden Grafik zu sehen ist, sind die Durchsetzungsmaßnahmen in diesen Kategorien jedoch um 214 % und 158 % gestiegen, sowohl in absoluten Zahlen als auch auf einer Pro-KWH-Basis.

Die Hauptursachen für den Anstieg der Durchsetzungsmaßnahmen im zweiten Halbjahr 2020 sind: (1) wir haben zu Beginn des zweiten Halbjahres die Abläufe für Benutzermeldungen und deren Durchsetzung verbessert. So konnten unsere Teams für die Inhaltsmoderation mehr Meldungen dieser Art identifizieren und durchsetzen; und (2) von Mai bis August 2020 haben wir unsere Kapazität zur Überprüfung von Benutzermeldungen deutlich erhöht, wodurch wir auf mehr Meldungen zu Belästigungen und hasserfülltem Verhalten schneller reagieren konnten. Wir werden weiterhin in Tools und Kapazitäten zur Durchsetzung investieren, die die Überprüfung von Meldungen über belästigendes und hasserfülltes Verhalten in Zukunft einfacher und schneller machen. Zusätzlich haben wir im Januar 2021 überarbeitete Community-Richtlinien zu hasserfülltem Verhalten, sexueller Belästigung und Mobbing eingeführt, von denen wir erwarten, dass sie unsere Bemühungen – und die der Community – weiter verstärken werden, um diese Verhaltensweisen auf Twitch zu verhindern. 

Gewalt, blutrünstige Inhalte, Drohungen und andere extreme Verhaltensweisen

Wir streben danach, die Community nicht mit illegalen, beunruhigenden oder verletzenden Inhalten zu konfrontieren. Deshalb untersagen wir Medien und Verhaltensweisen, die sich mit extremen blutrünstigen oder gewalttätigen Inhalten, sexueller Gewalt, gewalttätigen Drohungen, selbstverletzendem Verhalten, Tierquälerei, gefährlichem oder unachtsamem Fahrverhalten und anderen illegalen, verstörenden oder angsteinflößenden Inhalten oder Verhaltensweisen befassen.

Die Anzahl der Durchsetzungsmaßnahmen für diese Art von Verhaltensweisen stieg von 3.825 Durchsetzungsmaßnahmen im ersten Halbjahr 2020 auf 7.429 Durchsetzungsmaßnahmen im zweiten Halbjahr 2020 (eine Zunahme von 94 %). Wie bei den Durchsetzungsmaßnahmen für hasserfülltes Verhalten, sexuelle Belästigung und Mobbing (im vorherigen Abschnitt detailliert beschrieben) ist dieser beträchtliche Sprung in der Anzahl der Durchsetzungsmaßnahmen auf unsere Bemühungen zu Beginn des zweiten Halbjahres zurückzuführen, die Benutzermeldungen, die Tools zur Moderation und die Prüfkapazitäten zu verbessern. Ebenfalls im zweiten Halbjahr 2020 haben wir unser maschinelles Erkennungssystem für diese Art von Inhalten weiter verbessert. Wir werden auch im Jahr 2021 weiterhin in all diese Bereiche investieren.

Terrorismus, terroristische Propaganda und Anwerbungen

Twitch verbietet Inhalte, die Terrorismus oder gewalttätige extremistische Akteure oder Handlungen darstellen, verherrlichen, ermutigen oder unterstützen. Dies schließt die Androhung oder Aufforderung zu Handlungen ein, die zu schwerem körperlichen Schaden für bestimmte Personengruppen oder zu erheblicher Zerstörung von Eigentum führen würden. Dies umfasst auch die Darstellung von oder die Verlinkung zu terroristischer oder extremistischer Propaganda, selbst wenn diese Inhalte angeprangert werden sollen.  

Wir bekommen in dieser Kategorie nur wenige Meldungen und veranlassen demnach auch nur wenige Durchsetzungsmaßnahmen, wie die Zahlen in der obigen Grafik zeigen. Dennoch betrachten wir diese Art von Verhalten als hochgradig problematisch. Im Oktober veröffentlichte Twitch eine überarbeitete Richtlinie zu terroristischen und extremistischen Inhalten, die deutlich macht, wie wir terroristische Organisationen definieren und wie unsere internen Sicherheitsteams entsprechende Inhalte kategorisieren. Durch diese Präzisierungen wurde die Definition von Inhalten, die in diese Kategorie gehören, erweitert, um auch Verhaltensweisen in dieser Kategorie zu erfassen, die zuvor als andere Arten von Missbrauch kategorisiert wurden. Dies führte zu einem erheblichen Anstieg der Durchsetzungen dieser Art (prozentual gesehen, wenn auch nicht in absoluten Zahlen). Im Jahr 2020 gab es keine Vorfälle von live gestreamten terroristischen Aktivitäten auf Twitch. Die Durchsetzungsmaßnahmen in dieser Kategorie betrafen die Verbreitung von terroristischer Propaganda (77 Durchsetzungsmaßnahmen im Jahr 2020) und die Verherrlichung oder Befürwortung von terroristischen Handlungen, extremer Gewalt oder der Zerstörung von Eigentum im großen Stil (10 Durchsetzungsmaßnahmen im Jahr 2020).

Nacktheit bei Erwachsenen, Pornografie und sexuelle Handlungen

Wir schränken den Umgang der Community mit Inhalten ein, die nicht für ein breites Publikum geeignet sind. Dazu gehört die Einschränkung von Inhalten, die Nacktheit, unzureichende Bekleidung des Körpers, unangemessene Kleidung oder sexuelle Handlungen umfassen.

Ende Oktober 2020 haben wir unsere proaktive Erkennung von Inhalten mit Nacktheit verbessert, was zu einer erhöhten Anzahl von Durchsetzungsmaßnahmen in dieser Kategorie führte.   

Spam und andere Verstöße gegen die Community-Richtlinien

Twitch verbietet jegliche störende Aktivitäten wie Spamming, da diese Art von Aktivitäten der Integrität der Twitch-Plattform schadet und das Erlebnis der Benutzer beeinträchtigt. Wir untersagen außerdem unehrliches oder unangemessenes Verhalten, wie zum Beispiel: Nachahmung von Personen, das Übertragen anderer Personen gegen deren Willen, die Umgehung von Sperren, den Missbrauch von Twitch-Tools, die vorsätzliche falsche Kategorisierung eines Streams, das Betrügen bei einem Spiel oder das Spielen verbotener Spiele, unangemessene Benutzernamen und Konten von minderjährigen Benutzern.

Die Gesamtzahl der Durchsetzungsmaßnahmen in dieser Kategorie stieg von 734.837 im ersten Halbjahr 2020 auf 987.239 im zweiten Halbjahr 2020 (eine Zunahme von 34 %). Dieser Anstieg war höher als die Wachstumsrate der Twitch-Nutzung von 22 % zwischen dem ersten Halbjahr und dem zweiten Halbjahr 2020. Wie die grüne Linie in der obigen Grafik zeigt, stieg die Anzahl der Durchsetzungsmaßnahmen pro Tausend angesehener Stunden von 0,092 im ersten Halbjahr auf 0,102 im zweiten Halbjahr (eine Zunahme von 10 %). Aufgrund der Vielfalt der einzelnen Verstöße, aus denen sich diese Kategorie zusammensetzt, gibt es eine ähnlich lange Liste von Ursachen für diese Zunahme.

Twitch hat in verschiedenen Bereichen Fortschritte gemacht, um diese Art von Verhaltensweisen im Jahr 2020 zu bekämpfen. So wurde Spam in der Vergangenheit vor allem über "Flüstern" verbreitet, dem privaten Chat-Feature von Twitch, da diese Nachrichten privat sind und nicht vom Kanal moderiert werden. Zur Bekämpfung von Spam in "Flüstern" haben wir 2020 mehrere maschinelle Erkennungsmodelle eingeführt, die Spam-Nachrichten entweder vollständig blockieren oder die Nachricht für den Empfänger kennzeichnen und ihn auffordern, eine Benutzermeldung abzugeben. Der Erfolg dieser Modelle führte zu einem Rückgang der "Flüstern"-Spam-Meldungen um 70 % vom ersten Halbjahr zum zweiten Halbjahr 2020. Wir arbeiten weiterhin an der Entwicklung proaktiver Erkennung und anderer Technologielösungen, um die Verbreitung von Spam, die Umgehung von Sperren, unangemessene Benutzernamen und andere Verstöße zu minimieren.

Strafverfolgungsbehörden und Regierungsanfragen

Übersicht 

Das bei Twitch zuständige Team für Strafverfolgungsmaßnahmen ("Law Enforcement Response Team") bearbeitet alle Fälle der Rechtsverletzungen von Kindern, der Eskalation von Gewaltandrohungen oder von terroristischen Handlungen und leitet diese an die zuständigen Behörden weiter. Außerdem bearbeitet es alle anderen gesetzlich vorgeschriebenen Meldungen an die Strafverfolgungsbehörden sowie Anfragen von Strafverfolgungsbehörden nach Benutzerdaten. Unser Team für die Inhaltsmoderation übergibt diese Art von Fällen an unser Team für Strafverfolgungsmaßnahmen.

NCMEC-Meldungen und weltweite Kooperation

Wir tolerieren in keinster Weise die sexuelle Ausbeutung von Kindern. Wenn wir auf Medien aufmerksam gemacht werden, in denen die sexuelle Ausbeutung von Kindern oder das sogenannte "Grooming"-Verhalten dargestellt wird, löschen wir die Inhalte, stellen Nachforschungen an und leiten diese über das National Center for Missing & Exploited Children (NCMEC) an die Behörden weiter. Wir arbeiten außerdem direkt mit anerkannten Organisationen auf der ganzen Welt zusammen – wie INHOPE und ICMEC –, um die Ausbeutung von Kindern durch Medien und "Grooming" auf Twitch zu thematisieren und zu verhindern.

Die NCMEC-Meldungen sind zwischen dem ersten und zweiten Halbjahr 2020 um 66 % gestiegen. Dieser Anstieg beruht auf den Verbesserungen des Ermittlungsverfahrens von Twitch für Eskalationen dieser Art. So konnten die internen Teams Verhaltensmuster umfassender bewerten und daher eine höhere Anzahl von NCMEC-Meldungen vornehmen.  

Weiterleitung an Strafverfolgungsbehörden

Immer dann und überall dort, wo Twitch ernstzunehmende Gewaltandrohungen identifiziert, sendet Twitch proaktiv die Benutzerdaten an die zuständigen Strafverfolgungsbehörden. Im Jahr 2020 verzeichnete Twitch 38 solcher Fälle.

Die Zahl der Weiterleitungen an die Strafverfolgungsbehörden ging im zweiten Halbjahr um 27 % zurück. Wir gehen davon aus, dass dies größtenteils auf einen Rückgang der öffentlichen Versammlungen aufgrund von COVID-19 zurückzuführen ist. Weniger öffentliche Versammlungen bedeuten, dass es weniger Orte und Veranstaltungen gibt, gegen die Menschen gewalttätige Drohungen richten können.

Vorladungen/Informationsanfragen

Twitch erfüllt Informationsanfragen von Strafverfolgungsbehörden auf der ganzen Welt zur Aufklärung von Straftaten, die von diesen untersucht werden. Wir befolgen diese Anfragen im Rahmen unseres strafrechtlichen Vorladungs- und MLAT-Prozesses ("Rechtshilfevertrag"), bei dem alle Datenanfragen über unseren Prozessserver CSC bearbeitet werden müssen.

Die Zahl der von Twitch bearbeiteten Vorladungen und Informationsanfragen stieg im zweiten Halbjahr um 37 %. Dieser Anstieg liegt im Rahmen des erwarteten Umfangs gültiger Vorladungen/Informationsanfragen, die wir von Strafverfolgungsbehörden erhalten haben.