Hassreden in sozialen Medien: Wie Plattformen es besser machen können

Startseite » Hassreden in sozialen Medien: Wie Plattformen es besser machen können

Mit all den Ressourcen, der Macht und dem Einfluss, den sie besitzen, könnten und sollten Social-Media-Plattformen mehr tun, um Hassreden aufzudecken, sagt ein Forscher der University of Michigan.

In einem Bericht von Liga gegen VerleumdungLibby Hemphill, Associate Research Professor am Institute for Social Research der UM und ADL Belfer Fellow, untersucht die Mängel von Social-Media-Plattformen in Bezug auf den Diskurs der weißen Rassisten und wie er sich vom Mainstream-Diskurs oder Nicht-Extremisten unterscheidet, und empfiehlt Möglichkeiten zur Verbesserung automatisierter Methoden Hate Speech zu identifizieren.

„Wir wollten auch feststellen, ob und wie weiße Supremacisten ihre Sprache anpassen, um nicht entdeckt zu werden“, sagte Hemphill, der auch Professor an der School of Information der UM ist. „Wir haben festgestellt, dass Plattformen oft Diskussionen über Verschwörungstheorien über weißen Völkermord und jüdische Macht sowie böswillige Beschwerden gegen Juden und Farbige verpassen. Die Plattformen lassen auch einen angemessenen, aber diffamierenden Diskurs zu.

Wie Plattformen besser werden können

Der Diskurs der weißen Rassisten ist leicht zu erkennen, sagt Hemphill und beschreibt detailliert, wie er sich vom Mainstream-Diskurs in den sozialen Medien abhebt, darunter:

  • Häufige Bezugnahme auf rassische und ethnische Gruppen unter Verwendung von Substantivformen im Plural (weiß usw.)
  • Hinzufügen von „Leerzeichen“ zu ansonsten nicht markierten Begriffen (z. B. Leistung)
  • Verwenden Sie weniger Obszönitäten als in den sozialen Medien üblich, um der Erkennung aufgrund „beleidigender“ Sprache zu entgehen
  • Seien Sie auf extremistischen und Mainstream-Plattformen konsistent
  • Gewährleistung der Einheitlichkeit von Beschwerden und Meldungen von Jahr zu Jahr
  • Beschreiben Sie Juden eher rassisch als religiös

„Angesichts identifizierbarer sprachlicher Markierungen und Konsistenz über Plattformen hinweg sollten Social-Media-Unternehmen in der Lage sein, die Sprache der weißen Rassisten zu erkennen und sie von allgemeiner ungiftiger Sprache zu unterscheiden“, sagte Hemphill.

Das Forschungsteam verwendete allgemein verfügbare Computerressourcen, vorhandene Algorithmen für maschinelles Lernen und dynamische Subjektmodellierung, um die Studie durchzuführen.

„Wir brauchten Daten sowohl von extremistischen als auch von Mainstream-Plattformen“, sagte Hemphill und stellte fest, dass die Mainstream-Benutzerdaten von Reddit und die Benutzerdaten von extremistischen Websites von Stormfront stammen.

Was soll als nächstes passieren?

Auch wenn das Forschungsteam herausfand, dass die Sprache der weißen Rassisten identifizierbar und konsistent ist – mit ausgefeilteren Rechenkapazitäten und zusätzlichen Daten – verpassen Social-Media-Plattformen immer noch viel und haben Schwierigkeiten, nicht-profane Sprache und Hass auf profane und harmlose Sprache zu unterscheiden.

„Die Nutzung spezifischerer Trainingsdatensätze und die Reduzierung ihrer Betonung auf Obszönitäten kann die Leistung der Plattform verbessern“, sagte Hemphill.

Der Bericht empfiehlt Social-Media-Plattformen: 1) ihre eigenen Regeln anzuwenden; 2) Verwendung von Daten von extremistischen Websites zur Erstellung von Erkennungsmodellen; 3) Suche nach spezifischen sprachlichen Markern; 4) Minimierung von Obszönitäten beim Nachweis von Toxizität; und 5) Moderatoren und Algorithmen trainieren, um zu erkennen, dass Gespräche mit weißen Rassisten gefährlich und hasserfüllt sind.

„Soziale Medienplattformen können soziale Unterstützung, politischen Dialog und produktives kollektives Handeln ermöglichen. Aber die dahinter stehenden Unternehmen haben eine staatsbürgerliche Verantwortung, um Missbrauch zu bekämpfen und hasserfüllte Benutzer und Gruppen daran zu hindern, anderen Schaden zuzufügen“, sagte Hemphill. „Wir hoffen, dass diese Ergebnisse und Empfehlungen den Plattformen helfen werden, diese Verantwortung jetzt und in Zukunft zu erfüllen.“

Mehr Informationen: