Künstliche Intelligenz hilft beim Kampf gegen Trolle und Hate Speech
|
2 Min
Die Anzahl an Kommentaren in den sozialen Netzwerken der Heilbronner Stimme nimmt stetig zu. Nun hilft ein lernender Algorithmus, die bis zu 30.000 Posts im Monat zu überwachen. Warum die Redaktion auf KI setzt und wie die Community davon profitiert.
von Christine Tantschinez
|
2 Min
"Brei von Scheiße", "bist du hohl in der Birne", "Leck mich am A...". Das ist nur ein minimaler Auszug der täglichen Original-Kommentare unter Posts der Heilbronner Stimme auf Facebook. Leider sind Schimpfwörter und Beleidigungen untereinander und gegenüber Dritten hier nicht mehr nur Ausnahme, sondern Regel geworden. Täglich sichten die Mitarbeiter der Online-Redaktion diese Flut an Kommentaren. Bis zu 2000 am Tag können bei brisanten Themen zusammenkommen, ein nicht unerheblicher Teil davon enthält mittlerweile neben Beleidigungen auch Hassrede, Falschbehauptungen, üble Nachrede, öffentliche Aufforderung zu Straftaten, Gewaltdarstellung und Bedrohung sowie zunehmend auch Volksverhetzung.
Wenn sich beispielsweise Corona-Impfverweigerer mit Verfolgungs-Opfern der NS-Zeit gleichstellen und retuschierte Bilder des "Judensterns" posten, auf denen das Wort "Ungeimpft" steht, ist das nichts Geringeres als eine Verharmlosung des Holocaust. Auch solche Bilder wurden in den vergangenen Monaten zunehmend unter Beiträgen der Heilbronner Stimme gepostet. Die tägliche Auseinandersetzung der Redaktion mit solchen Posts, mit Beleidigungen und Anfeindungen auch gegenüber Mitarbeitern, geht nicht spurlos an den Redakteuren vorbei.
Künstliche Intelligenz prüft ab sofort Kommentare
In der Redaktion haben wir uns daher dazu entschlossen, uns bei der Überwachung der Social-Media-Kommentare von einem ganz besonderem Mitarbeiter unterstützen zu lassen. Eine KI, eine Künstliche Intelligenz, überwacht nun die Kommentare auf unserer Facebook- und Instagram-Seite. Sie ist ausdauernd, emotionslos und überprüft Kommentare anhand eindeutiger Kriterien, die die Heilbronner Stimme für den Umgang auf den eigenen Seiten in den sozialen Netzwerken definiert.
Denn wir wollen einen respektvollen Umgangston auf unseren Seiten - ohne Beleidigungen, ohne Fake News, ohne Hetze und Hass. Es ist uns wichtig, denjenigen Nutzern, die ihre Meinung gänzlich ohne Beleidigungen und Schimpfwörter, ohne Hassrede und Falschaussagen formulieren können, eine Plattform zu bieten. Wir wollen Diskussionen auf unseren digitalen Kanälen, keine verbalen Schlägereien.
Diskutieren statt beleidigen, Wörter statt Videos
Die Kriterien für die Arbeit der Künstlichen Intelligenz sind einfach und entsprechen im Grunde den Vorgaben des Netzwerkdurchsetzungsgesetzes, erweitert um Bestandteile, die wir im Sinne eines freundlichen Miteinanders nicht mehr auf unseren Seiten gestatten. Automatisch abgelehnt werden Kommentare, die
- Beleidigungen oder Schimpfwörter jeglicher Art enthalten (ja, auch "Hohlbirne" ist ein Schimpfwort)
- Gewaltdarstellungen und Drohungen enthalten
- Aufrufe zu Straftaten oder illegalem Verhalten enthalten
- Links zu Videos oder eingebettete Videos enthalten (deren Inhalt die Redaktion bei Freigabe erst prüfen müsste, was wir aus Zeitgründen nicht tun)
- nur aus großgeschriebenen Buchstaben und/oder übermäßigen Satzzeichen bestehen
- in einer anderen Sprache als Deutsch geschrieben werden (hier muss erst die Übersetzung geprüft werden)
- alle Bilderposts und Gifs (auch hier muss der Inhalt erst geprüft werden)
- Beleidigungen oder Aufforderungen zu geschäftsschädigendem Verhalten gegenüber der Heilbronner Stimme oder gegenüber Mitarbeitern der Heilbronner Stimme (dazu gehört auch das Wort "Schreiberlinge", das vor allem vom NS-Regime gegenüber unliebsamen Journalisten verwendet wurde)
Die Kommentare mit diesen Inhalten werden durch die KI im ersten Schritt verborgen und im zweiten Schritt von unseren Redakteuren geprüft. Nach dieser Prüfung werden die Kommentare freigegeben oder endgültig gelöscht. Verstößt ein Kommentator mehrmals gegen diese Regeln, wird er ohne weitere Ankündigung auf den Seiten der Heilbronner Stimme gesperrt.
An Wochenenden und in den Abend- und Nachstunden agiert die KI strenger. Entsprechend erkannte Kommentare bleiben in der Regel verborgen, bis Mitarbeiter diese geprüft haben.
Höflicher Umgangston hilft allen
Die KI hilft uns, die Flut an Kommentaren zu bewältigen und den Überblick zu bewahren. Aber eine KI ist kein Mensch, sie bewertet einzelne Zeichen und Regeln und nicht den Kontext. Damit ein Kommentar auf Facebook nicht unnötig verborgen werden muss, empfehlen wir, auf Beleidigungen und Schimpfwörter jeglicher Art zu verzichten und auch keine Bilder oder Videos zu posten. Auch Links auf andere Facebookgruppen oder Beiträge sind nicht sinnvoll, da ausgehende Links geprüft werden müssen. Bei Links auf andere Quellen behält sich die Redaktion vor, die Quellen zu prüfen, nicht den Inhalt.
Wir hoffen damit auf einen respektvollen Umgangston auf Facebook und Instagram, der sinnvolle Diskussionen ermöglicht.
Stimme.de
