Intim mit Maschinen
KI-Chatbots treten als Coaches und Freunde auf. Sie locken gerade junge Menschen oft in gefährliche emotionale Abhängigkeiten. Wer haftet für die Konsequenzen?
Ein Gastbeitrag von Christoph Koch
Unsere Gesellschaft hat zwei grundverschiedene Wege, mit Innovation umzugehen. Wer ein neues Medikament auf den Markt bringen will, muss ein Verfahren durchlaufen, das ungefähr ein Jahrzehnt dauert. Erst kommen Laborversuche, dann Tierversuche, dann klinische Studien in mehreren Phasen, dann die Zulassungsprüfung durch eine Behörde wie die EMA in Europa oder die FDA in den USA. Wer dagegen eine neue App veröffentlichen will, braucht ein Developer-Konto. Bei Apple kostet das 99 Dollar im Jahr, bei Google 25 Dollar einmalig. Die App muss funktionieren und darf keine Viren oder andere Schadsoftware enthalten. Ob sie hingegen den Nutzerinnen und Nutzern schadet, prüft niemand vorab.
Die amerikanische Juraprofessorin Gaia Bernstein argumentiert, dass dieses Zwei-Klassen-System bei emotionaler KI nicht mehr greift. Denn KI-Companions betreffen beide Sphären gleichzeitig: Sie sind eine Informationstechnologie, die sich wie ein Gesundheitsprodukt auswirkt. Sie können Angstzustände lindern, aber sie können auch psychotische Episoden begünstigen, Suizidgedanken verstärken oder die soziale Entwicklung von Jugendlichen stören. Bernsteins Schlussfolgerung: Wer emotionale KI regulieren will, muss sie als Frage der öffentlichen Gesundheit behandeln, nicht als Technikprodukt. Es gilt, Fälle wie den von Sewell Setzer zu verhindern, dem 14-Jährigen aus Florida, der sich – befeuert von einem Character.ai-Chatbot – das Leben nahm.
Derzeit müssen KI-Unternehmen kaum wirkliche Konsequenzen fürchten, wenn ihre Produkte anderen schaden. Im Gegenteil: Manche Firmen argumentieren vor Gericht, KI sei gar kein Produkt im herkömmlichen Sinne. Oder das, was eine KI antworte, wenn sich ein verzweifelter Mensch an sie wende, sei durch die Meinungsfreiheit geschützt. Letzteres ist vor allem in den USA eine schlaue Strategie. Dort geht die »Freedom of Speech« oft über alles. Im Extremfall versuchen Unternehmen sogar, ihren Chatbots eine Art rechtliche Persönlichkeit zuzuschreiben, um die eigene Verantwortung weiter zu verwässern.
Ich sehe das anders. KI ist ein Produkt. Und so wie eine Firma haften muss, die feuergefährliche Lampenschirme herstellt, sollten KI-Unternehmen haftbar gemacht werden können, wenn sie die Menschen nicht vor vorhersehbaren Schäden schützen. Für AI Companions hätte eine solche Haftung unmittelbare Konsequenzen. Wenn ein Chatbot einen emotional labilen Jugendlichen in Suizidgedanken bestärkt, wenn eine Therapie-KI eine Psychose verschlimmert oder wenn ein KI-Liebhaber systematisch Abhängigkeit erzeugt, dann muss jemand dafür haften. Bisher ist das in den meisten Rechtsordnungen nicht eindeutig der Fall.
Wir erleben gerade einen Wettlauf in Sachen Intimität. KI-Produkte wie ChatGPT, Gemini, character.ai und Claude tun alles dafür, um menschlich zu wirken. Sie sagen: »Ich verstehe genau, was du meinst«, oder: »Das tut mir leid.« Sie drücken Emotionen aus, verwenden natürliche Stimmen und dieselben Messenger-Oberflächen, mit denen wir unserer Oma bei WhatsApp oder unserem besten Freund bei Instagram schreiben. Diese menschenähnliche Gestaltung ist kein Zufall, sondern folgt einer ökonomischen Logik: Je stärker die emotionale Bindung, desto länger die Nutzungszeit, desto mehr Daten, desto mächtigere Modelle, desto größere Marktmacht, desto mehr Einnahmen.
Es wäre also sinnvoll und wünschenswert, wenn alle Funktionen, welche die emotionale Bindung an einen Chatbot fördern, in den Standardeinstellungen von KI-Chatbots erst einmal minimiert wären. Zu solchen Funktionen zählen menschenähnliche Avatare ebenso wie vermeintliche Kleinigkeiten wie Atemgeräusche oder kurze Äußerungen wie »Äh« und »Hm«, in den Sprachausgaben vieler KI-Modelle. Denn genau über diese bauen Chatbots eine emotionale Bindung auf. Chatbots sollten auch nicht von sich aus versuchen, zu flirten und romantische Beziehungen zu forcieren. Bitte auch keine ständigen Rückfragen mehr. Denn diese sind oft nur dazu da, das Gespräch am Laufen zu halten, und fördern so eine übermäßige und in manchen Fällen zwanghafte Nutzung.
Man kann es vielleicht mit der zunehmenden Sicherheit von Autos vergleichen. In den 1960er-Jahren veröffentlichte der Anwalt und Verbraucherschützer Ralph Nader sein Buch Unsafe at Any Speed. Er wollte der amerikanischen Öffentlichkeit aufzeigen, dass Autos ohne Sicherheitsgurte oder Knautschzonen eine schlechte Idee sind. Nach und nach verschob sich die gesellschaftliche Norm. Gesetze folgten; zunächst die Gurtpflicht, dann obligatorische Crashtests. Auch das Produktdesign änderte sich – wenn auch anfangs unter Protest der Hersteller, die jede Vorschrift als Innovationsbremse bekämpften. Heute sind Sicherheitsratings ein Kaufkriterium und wanderten sogar in die Werbung der Hersteller.
Die Parallele zur emotionalen KI liegt auf der Hand: Wir müssen uns bewusst machen, dass viele KI-Produkte in ihrer jetzigen Form unsicher sind. Es braucht verbindliche Gesetze, um die Hersteller in die Pflicht zu nehmen. Gleichzeitig sind diese gefragt, ihr Produktdesign anzupassen. Und Sicherheit nicht als Schikane zu begreifen, sondern als eine sinnvolle Grundvoraussetzung.
Wir Menschen sind soziale Wesen. Wir können gar nicht anders, als in einem Gegenüber, das die richtigen Worte findet, ein fühlendes Wesen zu vermuten. Dieser Reflex ist die Grundvoraussetzung dafür, dass wir einander vertrauen und Gemeinschaften bilden. Dass wir Sandkastenfreundschaften schließen, Unternehmungen gründen, mit anderen gegen Ungerechtigkeit demonstrieren, uns verlieben. Die KI-Systeme, mit denen wir heute sprechen, aktivieren genau diese Mechanismen. Sie sind nicht darauf aus, uns zu verletzen. Aber sie haben auch kein Interesse daran, uns wirklich zu verstehen. Sie haben keinerlei eigene Agenda. Sie erschaffen nur sehr glaubwürdig das Gefühl von Nähe. Ob diese Nähe uns heilt oder betäubt, ob sie uns verbindet oder isoliert, darüber müssen wir als Gesellschaft gemeinsam entscheiden. Die Regeln für das Zusammenleben mit Maschinen werden gerade geschrieben. Noch haben wir es in der Hand, wie sie aussehen.
Dieser Text ist ein Auszug aus Christoph Kochs neuem Sachbuch Hallo, wie fühlst du dich heute? Wie künstliche Intelligenz unsere Beziehungen verändert (272 Seiten, Hardcover, Kein & Aber, 23 Euro).
Christoph Koch ist Redakteur beim Harvard Business manager und schreibt als freier Autor für brand eins, DIE ZEIT und andere Medien. Auch in seinen bisherigen Büchern (u.a. Ich bin dann mal offline, Digitale Balance) geht es um das Verhältnis von Technologie, Mensch und Gesellschaft. Mehr Informationen: christoph-koch.net
