Bis vor kurzem galt es als eine Herausforderung, überzeugende gefälschte Social-Media-Profile zu erstellen. Bilder konnten zu ihrer Quelle zurückverfolgt werden und die Texte klangen oft nicht wie ein Mensch.
Aber die Künstliche Intelligenz schreitet rasant voran und damit wird es immer schwieriger, den Unterschied zu erkennen. Forscher:innen der Copenhagen Business School haben zu diesem Thema ein Experiment mit 375 Teilnehmern durchgeführt.

Die Forscher:innen erstellten ihren eigenen gefälschten Twitter-Feed, der den Krieg in der Ukraine zum Thema hatte. Der Feed enthielt echte und künstlich hergestellte Profile mit Tweets, die beide Seiten unterstützten. Die gefälschten Profile verwendeten computergenerierte synthetische Profilbilder, die mit StyleGAN erstellt wurden, und Beiträge, die von GPT-3 generiert wurden, dem gleichen Sprachmodell, das auch hinter ChatGPT steht.

Die Teilnehmenden bekamen dann die schwierige Aufgabe, unter ihnen die echten und die gefälschten Social-Media-Profilen zu erkennen. Wer steckt dahinter: Mensch oder Maschine?

Ihr ahnt es schon: die Teilnehmenden waren nicht in der Lage, zwischen künstlich erzeugten gefälschten Twitter-Konten und echten Konten zu unterscheiden. Und noch schlimmer: Sie hielten die gefälschten Konten sogar für menschlicher als die echten.

Eines der echten Profile wurde von 41,5 % der Teilnehmenden, die es sahen, als Fälschung eingestuft. Eines der besten gefälschten Profile wurde dagegen nur von 10 % der Teilnehmer als Bot bezeichnet", sagt Sippo Rossi, Doktorand an der Copenhagen Business School.

Unmöglich, den Geist wieder in die Lampe zu kriegen

Mitautor Raghava Rao Mukkamala warnt, dass diese Technologie heute viel mehr Menschen zur Verfügung steht. Demnach können gefälschte Profile erhebliche Auswirkungen auf die Gesellschaft und die Demokratie als Ganzes haben: Von politischer Manipulation über Fehlinformationen bis hin zu Cybermobbing und Cyberkriminalität.

"Autoritäre Regierungen überschwemmen die sozialen Medien mit scheinbar hilfsbereiten Menschen, um Informationen zu manipulieren. Deshalb ist es wichtig, die potenziellen Folgen dieser Technologien sorgfältig abzuwägen und darauf hinzuarbeiten, diese negativen Auswirkungen abzumildern", fügt Raghava Rao Mukkamala hinzu.

"Wir brauchen neue Wege und neue Methoden, um damit umzugehen, da es jetzt praktisch unmöglich ist, den Geist wieder in die Lampe zu stecken. Wenn Menschen nicht in der Lage sind, gefälschte Profile und Beiträge zu erkennen und zu melden, dann müssen die Unternehmen, die diese sozialen Netzwerke betreiben, für eine automatische Erkennung sorgen, z.B. durch das Löschen von Konten, die Überprüfung der Identität und die Entwicklung anderer Schutzmaßnahmen", fügt Sippo Rossi hinzu.

"Im Moment würde ich dazu raten, in den sozialen Medien nur Menschen zu vertrauen, die man kennt", schließt Sippo Rossi.

Die Forschungsergebnisse wurden in der Hawaii International Conference on System Sciences (HICSS) veröffentlicht.