KI-Chatbots sind keine guten Lehrkräfte

Die Gefahr, dass diese Schülern zuweilen Unsinn beibringen, ist gross, so Tiffany Li vom Stevens Institute of Technology. Die Expertin hat eine systematische Studie durchgeführt, um herauszufinden, inwieweit Schüler sachlich falsche Infos von Chatbots erkennen und wo und warum sie dabei Probleme haben.

Absichtliche Fehler

Zunächst haben Li und ihr Team einen pädagogischen Chatbot entwickelt, der die Schüler in die Geheimnisse der Statistik einführt. Sie programmierten ihn so, dass einige seiner Antworten fehlerhaft waren, um zu sehen, ob die Schüler das bemerkten. Anschliessend rekrutierte das Team 177 Teilnehmer, darunter Studenten und ältere Statistikinteressierte.

Während die Teilnehmer Übungsaufgaben bearbeiteten, interagierten sie nach eigenem Ermessen mit dem Chatbot. Sie erhielten gleichzeitig Zugang zu zusätzlichen Ressourcen wie einem Online-Lehrbuch, um die Antworten des Chatbots überprüfen zu können.

Falschinfos unentdeckt

Die Teilnehmer wurden angewiesen, alle Fehler, die ihnen bei den Antworten des Chatbots auffielen, zu melden. Damit sie sich anstrengten, Fehler zu erkennen, erhielten sie einen Anreiz. "Wir haben die Teilnehmer mit einem kleinen Geldbonus dazu ermutigt, Probleme zu melden", sagt Li. Das Team hat festgestellt, dass die Lernenden trotz des Anreizes und der Tools zur Überprüfung der Antworten im Durchschnitt nur 15 Prozent der Chatbot-Fehler erkannten.

Die Teilnehmer akzeptierten die Antworten der Chatbots vor allem dann, wenn sie mit dem Thema noch nicht vertraut waren, auch wenn sie falsch waren. "Chatbots können sehr eloquent und selbstbewusst klingen, was sie sehr kompetent erscheinen lässt - und das schafft Vertrauen", erklärt Li. Was fatale Folgen haben kann. Deshalb empfiehlt sie, Chatbots beim personalisierten Lehren erst dann einzusetzen, wenn die Studenten mit einem Thema bereits vertraut sind. (pressetext.com)