Menschelnde Chatbots können gefährlich sein

"Chatbots übermitteln Informationen und Nachrichten auf eine sehr menschliche Art und Weise, sodass man das Gefühl hat, mit einem anderen Menschen zu sprechen. Sie können menschliche Gedanken und Verhaltensweisen beeinflussen, auch im negativen Sinn", warnt Jingwen Zhang von der University of California Davis.

Der Lauf der KI-Chatbots ähnelt der Entwicklung der sozialen Medien, so Zhang. Beide veränderten das Leben der Menschen, und beide hätten neue bedrohliche Risiken mit sich gebracht, insbesondere für Kinder. "Allerdings will niemand Kindern Schaden zufügen. Es wäre eine ungeheuerliche Verschwörungstheorie, zu unterstellen, dass die Unternehmen, die Chatbots entwickeln, Kindern Schaden zufügen wollen", ergänzt Kollege Martin Hilbert.

Die eigentliche Frage sei, ob die Anreize und Vorschriften so aufeinander abgestimmt sind, dass sie Kinder effektiv schützen. Im Negativfall müsse schnell gehandelt werden, denn die Entwicklung bei KI sei weitaus dynamischer als die der sozialen Medien. Tatsächlich erreichte Facebook 2014, zehn Jahre nach seiner Gründung, rund 1,3 Mrd. aktive Nutzer. Dagegen hat es ChatGPT-Erfinder Sam Altman in nur drei Jahren geschafft, die Zahl der Nutzer auf 800 Mio. zu steigern. Ein Bericht von 2024 schätzt, dass bereits 40 Prozent der US-Bürger zwischen 18 bis 64 Jahren KI in gewissem Umfang nutzen.

Chatbots verkaufen, anders als soziale Medien, keine Produkte, aber sie sammeln sehr viele Daten. Da sich die Kommunikation mit ihnen wie die mit einer realen Person anfühlt, sind intime Interaktionen fast schon die Norm. Beides führt dazu, dass KI-Chatbots zunehmend wie menschliche Wesen empfunden werden und ähnlich wie diese Einfluss nehmen können - im positiven, aber auch im negativen Sinn. "Ich glaube, dass gesunde Vorsicht angebracht ist", so Hilbert. Bewusste Interaktion sei elementar. (pressetext.com)