Wenn die KI halluziniert

Studierende nutzen immer häufiger KI-Tools wie Chat GPT, aber ihr sollte besser nicht uneingeschränkt Vertrauen geschenkt werden, so eine neue Studie

Chat GPT und andere KI-basierte Tools verändern gerade die Arbeitswelt und auch die Lehre. Vielerorts wird über die Konsequenzen für künftige Lehr- und Prüfungsformen diskutiert. Wie weit KI-Tools unter Studierenden bereits verbreitet sind, hat nun eine deutschlandweite Umfrage von Forschenden aus dem Fachbereich Gesellschaftswissenschaften der Hochschule Darmstadt (h_da) untersucht, an der sich 6.311 Studierende aus 395 Universitäten und Hochschulen hatten beteiligt hatten.

Das Team um Prof. Dr. Jörg von Garrel hatte die Studierenden anonym befragt, wie sie KI-Tools im Studium nutzen und für welche Zwecke. Dabei kam heraus, 63,2 % haben KI-basierte Tools für das Studium bereits einmal genutzt oder nutzen sie aktuell. Jede:r vierte Studierende sogar schon häufig oder sehr häufig (25.2 %). Besonders oft genannt wurde Chat GPT: 48,9% der Befragten haben das Tool bereits verwendet. 12,3 % arbeiten mit der deutschen Übersetzungs-Anwendung Deepl.

Wozu wird die KI im Studium genutzt?

Befragt zu den Anwendungsszenarien, gaben die Studierenden an, KI-Tools im Rahmen ihres Studiums häufig dazu zu nutzen, Verständnisfragen zu klären und um sich fachspezifische Zusammnhänge erläutern zu lassen (35.6 % aller Befragten). 28.6 % antworteten "für Recherchen und das Literaturstudium" und 26,6 % nutzen Tools wie Deepl für Übersetzungen. Fast ein Viertel lässt sich aber auch von den KIs Texte analysieren, verarbeiten und erstellen. Dabei nutzen nicht alle ChatGPT & Co. gleich, sondern es zeigen sich Unterschiede je nach Studienbereich: Studierende der Ingenieurwissenschaften und Informatik sowie aus dem Bereich Mathematik und Naturwissenschaften nutzen KIs weiterhin insbesondere für Programmierungen oder Simulationen. Studierende der Geistes- sowie Wirtschafts-, Rechts- und Sozialwissenschaften gaben an, sich Texte und Analysen erstellen zu lassen oder die Tools für die Recherche und das Literaturstudium zu verwenden. Im Kunststudium ist die KI häufig Ideengeberin, hilft bei Design und Konzeptentwicklung.

"KI-Tools sind Werkzeug, kein Ersatz für wissenschaftliches Arbeiten"

„Uns war klar, dass das Thema aktuell und relevant ist, aber mit einem solch enormen Feedback haben wir nicht gerechnet“, sagt Studienleiter Prof. Dr. Jörg von Garrel. Die Studie zeige: KI-basierte Tools sind in der deutschen Hochschullandschaft angekommen und werden intensiv von Studierenden genutzt. Er warnt aber auch davor, KI zu viel Vertrauen zu schenken, denn 80 % der Studierenden hatten den Grad der Wissenschaftlichkeit als wichtige präferierte Eigenschaft eines KI-basierten Tools genannt. Doch gerade hier schränkt von Garrel ein: „Die Anwendungen sind intelligent, aber durch statistische Methoden und trainierte Daten begrenzt. Unseren wissenschaftlichen Ansprüchen genügt Chat GPT nicht“. Von Garrel hat die KI selbst ausprobiert und fand den Text zwar gut, "aber die Quellenangaben zu meinen wissenschaftlichen Arbeiten waren falsch oder existierten nicht.“ Fachleute sprechen sogar von Halluzinationen, wenn die KI einfach Antworten erfindet, weil sie nicht auf entsprechende Daten trainiert wurde.

Für eine gute Lehre müsse daher künftig gelten: „KI-Tools sind ein Werkzeug, aber kein Ersatz für wissenschaftliches Arbeiten oder gründliche Recherche.“ Prof. Dr. Jörg von Garrel mahnt zur kritischen Reflektion: „Richtig mit Chat GPT & Co. umzugehen, muss Inhalt unserer Lehre werden“. KI könne die Effizienz steigern, Ideengeberin oder Assistenz sein, „aber entscheiden, einordnen, reflektieren, das ist nach wie vor unsere Aufgabe“.

Aber können Lehrende künftig noch unterscheiden, ob die Haus- oder Bachelorarbeit von Studierenden oder der KI stammt? „Das wird sicherlich schwieriger werden“, so Jörg von Garrel. Didaktik und Prüfungsformen müssten sich ändern. „Wir können Noten nicht nur auf Basis schriftlicher Arbeiten vergeben und sollten zukünftig öfter auch mündlich abfragen, ob Inhalte verstanden wurden.“