Können die Gedanken lesen?
Wenn Empfehlungssysteme genau wissen, was wir suchen oder haben wollen, wirds gespenstisch
Gerade hast du mit einer Freundin über ein neues Musikalbum ausgetauscht, schon kriegst du es beim Besuch einer beliebigen Website als Werbebanner angezeigt. Du googelst nach einem neuen Sofa, zack, springen dich von allen Seiten Sofas in deiner Lieblingsfarbe an. Zufall? Oder einfach nur gruselig? Sogenannte Empfehlungssysteme sind mittlerweile allgegenwärtig. Sie wissen etwas über dich und du hast keine Ahnung, wieso, weshalb, warum.
Dahinter stecken moderne Algorithmen und Künstliche Intelligenz, die ständig analysieren, nach was wir im Netz suchen, welche Musik wir streamen und welche Produkte wir liken.
Die meisten Menschen sind allerdings weniger begeistert von dieser unverhofften Allwissenheit unserer Geräte, viele finden es sogar ausgesprochen gespenstisch. Die Doktorandin Helma Torkamaan und ihr Kollege Catalin Barbu von der Arbeitsgruppe „Interaktive Systeme“ der Universität Duisburg Essen haben sich darum mit der Frage beschäftigt, wie Menschen sich fühlen, wenn sie extrem passende Vorschläge bekommen und ob sie nachvollziehen können, wie solche Empfehlungen zustande kommen. In ihrem Experiment wurden insgesamt 171 Testpersonen mit Tipps zu Filmen, Hotels und medizinischen Themen konfrontiert und sollten bewerten, wie passend und nachvollziehbar diese Tipps waren und welche Gefühle das bei ihnen auslöst.
Dabei kam heraus, dass die meisten solche Empfehlungen nicht beängstigend finden, wenn sie verstehen, wie es dazu kam - etwa weil bestimmte Plattformen, auf denen man aktiv ist, miteinander verknüpft sind und so verschiedene Informationen nachvollziehbar zusammenfließen. Ist die Ursache für den "Volltreffer" aber unklar, dann wirds unangenehm. Die Betroffenen fühlen sich ausspioniert und verlieren eher das Vertrauen.
Die Forscher_innen raten darum, dem Einzelnen „die Kontrolle darüber zu geben, was personalisiert wird", so dass er "er nachvollziehen kann, wie das geschieht“. Anderenfalls würden die entsprechenden Produkte möglicherweise sogar abgelehnt.
Weil man einen solchen Grusel-Effekt natürlich unbedingt vermeiden will, führt das in der Praxis tatsächlich sogar dazu, dass Empfehlungssysteme absichtlich ab und zu vollkommen unpassende Tipps abgeben. Einfach damit potentielle Kund_innen nicht dieses mulmige Gefühl bekommen und sich unbeobachtet fühlen können, obwohl sie es nicht sind.
Quelle:
Autorin / Autor: Redaktion / Pressemitteilung