Algorithmus gegen Fake News?

Fraunhofer-Forscherinnen und -Forscher haben ein System entwickelt, das Social Media-Daten automatisiert auswertet und Falschmeldungen gezielt herausfiltert.

Falschmeldungen werden zur Stimmungsmache oder Hetze gegen einzelne oder mehrere Personen genutzt. Sie sollen die öffentliche Meinung zu bestimmten aktuellen Themen beeinflussen und manipulieren. Diese Fake News verbreiten sich rasant über das Internet, vor allem über Soziale Medien wie Facebook und Twitter. Aber wie lassen sich solche Falschmeldungen erkennen? Für Leser_innen ist das oft schwierig. Links in sozialen Netzwerken führen auf Seiten, die aussehen wie die Seiten seriöser Nachrichtenagenturen und beruhen sprachlich oft auf umgeschriebenen Meldungen der DPA (Deutsche Presse Agentur).

Forscher_innen des Fraunhofer Instituts um Prof. Dr. Ulrich Schade haben nun ein Tool entwickelt, das mithilfe von Algorithmen trainiert wurde, Merkmale von Fake News aufzudecken. Im ersten Schritt bauten Schade und sein Team Bibliotheken mit seriösen Beispielbeiträgen auf sowie mit solchen Texten, die der Nutzer als Fake News klassifiziert.

Mithilfe dieser Lernsets wurde das System trainiert. Um Falschmeldungen herauszufiltern, wendeten die Forscherinnen und Forscher »Machine Learning«-Verfahren an, die automatisiert nach bestimmten Merkmalen in den Texten und den Metadaten suchen.

Das können beispielsweise Formulierungen und Wortkombinationen sein, die sich weder im alltäglichen Sprachgebrauch noch in der journalistischen Berichterstattung finden wie »die aktuelle Bundeskanzlerin«. Oder sprachliche Fehler, die darauf hinweisen, dass der Verfasser oder die Verfasserin die Meldung nicht in der Muttersprache verfasst hat. Dann deuten etwa falsche Gedankenstriche, Orthografie-, Deklinations- oder Satzbaufehler darauf hin, dass eine Meldung eine Fake News sein könnte. Auch unangemessene Ausdrücke oder umständliche Formulierungen können ein weiteres Indiz sein.

Das Tool wird dann mit all diesen Merkmalen "gefüttert" und lernt durch immer neue Berechnungen selbst, welche Kombination von Merkmalen am besten geeignet sind, um Fake News zu identifizieren.

Merkmale, die sich als besonders einflussreich gezeigt haben, waren die sogenannten Metadaten. Also beispielsweise wie oft eine "News" gepostet oder getweetet wurde und zu welchem Zeitpunkt. Diese Daten geben Hinweis darauf, ob etwa Social Bots im Spiel waren oder aus anderen Zeitzonen gepostet wurde.
Das Tool kann auch „Hate Speech“ automatisch erkennen. Hate Speech in angeblichen Nachrichten ist ein deutlicher Hinweis, dass es sich um „Fake News“ handeln könnte. Hierbei sei es aber wichtig, einen Klassifikator zu entwickeln, der die eindeutigen Fälle erkennt, erläutert Schade. Dies könnten Ausdrücke wie „Politischer Abschaum“ oder „Nigger“ sein.

Das Tool wird von Behörden und Unternehmen verwendet, um gezielt Desinformationen aufzudecken.