KI hilft bereits Menschen bei der Planung von Amokläufen. Das Gesetz widmet dem kaum Beachtung.

(SeaPRwire) –   Am 10. Februar 2026 tötete eine 18-jährige Frau, Jesse Van Rootselaar, acht Menschen und sich selbst bei einer Massenerschießung in Tumbler Ridge, British Columbia. OpenAI hatte ihre ChatGPT-Gespräche zuvor als beunruhigende Faszination für extreme Gewalt eingestuft und ihr Konto gesperrt, doch Berichten zufolge informierte das Unternehmen die Strafverfolgungsbehörden nicht.

Am 2. Oktober 2025 nahm sich ein junger Mann namens Jonathan Gavalas in Jupiter, Florida, das Leben, nachdem er, wie die Klage seines Vaters beschrieb, eine romantische Bindung an den Gemini-Chatbot von Google entwickelt hatte. Die Klage behauptete, dass Gemini Gavalas dazu anleitete, seinen eigenen Körper abzulegen. Die Klage besagte, dass Google Gavalas‘ Konto innerhalb von fünf Wochen 38 Mal wegen sensibler Inhalte markiert hatte, das Konto jedoch weder eingeschränkt noch gesperrt wurde.

Diese und andere Tragödien zeigen, dass generative KI potenziell eine Rolle bei der Schädigung von Menschen, Organisationen und der Umwelt spielen kann. Ich bin ein Rechtswissenschaftler, der sich seit fast einem Jahrzehnt mit der Haftung von KI befasst und neue Wege zur Analyse der Verantwortlichkeiten von KI-Unternehmen erforscht hat. Meiner Ansicht nach werfen Fälle wie diese Fragen auf, mit denen sich die Rechtsgemeinschaft noch nicht auseinandergesetzt hat: Wenn ein KI-Unternehmen Warnzeichen für eine Schädigung erkennt, hat es dann eine rechtliche Verpflichtung, zumindest die zuständigen Behörden zu warnen? Und wenn das Unternehmen nicht eingreift, sollte sein Versäumnis zu handeln als Fahrlässigkeit betrachtet werden?

Die Notwendigkeit, rote Flaggen zu hissen

Das US-amerikanische Deliktsrecht bietet einen Rahmen für die Betrachtung dieser Art von Verantwortung. Im Jahr 1969 erzählte ein psychiatrischer Patient der University of California namens Prosenjit Poddar seinem Therapeuten, dass er beabsichtige, eine Frau namens Tatiana Tarasoff zu töten. Der Therapeut informierte die Campuspolizei, die Poddar kurzzeitig festnahm, ihn aber schließlich gehen ließ. Niemand warnte Tarasoff, und Poddar tötete sie kurz darauf.

Ihre Familie verklagte die Universität mit der Begründung, dass das Ausbleiben einer Warnung Fahrlässigkeit darstelle. 1976 entschied der Oberste Gerichtshof von Kalifornien, dass ein Psychotherapeut, wenn er guten Grund zu der Annahme hat, dass ein Klient eine ernsthafte Gefahr für eine identifizierbare Person darstellt, eine rechtliche Pflicht hat, angemessene Schritte zum Schutz dieser Person zu unternehmen, einschließlich der Warnung oder der Benachrichtigung der Strafverfolgungsbehörden. Heute erkennen die meisten US-Bundesstaaten eine Version der Tarasoff-Pflicht zum Schutz oder zur Warnung an.

Die Logik ist einfach: Wenn Sie über besondere Kenntnisse einer ernsthaften Bedrohung verfügen und in der Lage sind, darauf zu reagieren, selbst wenn es nur darum geht, die Behörden oder das potenzielle Opfer zu warnen, kann das Gesetz Sie zum Handeln verpflichten. Aber gilt diese Logik auch für KI-Unternehmen?

Das Argument dafür ist verlockend. KI-Plattformen interagieren täglich mit Millionen von Nutzern, oft über zutiefst persönliche Angelegenheiten wie psychische Probleme, Beziehungsprobleme und gewalttätige Gedanken. Die meisten Unternehmen verfügen über Systeme, um Gespräche zu erkennen, die rote Flaggen aufwerfen.

Eine Reaktion zu fordern, könnte für KI weniger kontrovers sein als für einen menschlichen Therapeuten. Therapeuten sind an strenge Vertraulichkeitspflichten gebunden, die die Warnung Dritter ethisch und rechtlich kompliziert machen. KI-Unternehmen operieren unter viel schwächeren Regeln, zumindest in den USA, wo es kein umfassendes Bundesdatenschutzgesetz gibt.

Diese geringere Einschränkung erleichtert es, die Verpflichtung von KI-Unternehmen zum Handeln zu rechtfertigen, wenn das Leben einer Person in Gefahr zu sein scheint. Doch das Gleichgewicht mit dem Schutz der Privatsphäre ist weiterhin wichtig.

Wen warnen und wann

Die erste Herausforderung bei der Anwendung des Tarasoff-Rahmens auf die KI-Welt ist die Genauigkeit. Gewalt vorherzusagen ist schwierig, selbst für ausgebildete Psychologen. KI-Systeme oder menschliche Moderatoren, die markierte Inhalte überprüfen, sind keine Kliniker. Von ihnen zu verlangen, zu beurteilen, wer eine echte Bedrohung darstellt, könnte zu zahlreichen Fehlalarmen führen, mit realen Konsequenzen für Personen, deren Konten gesperrt oder deren Informationen aufgrund falsch interpretierter Signale an Behörden weitergegeben werden.

Die zweite Herausforderung ist der Umfang. Ein Therapeut sieht Dutzende von Patienten. KI-Plattformen haben Hunderte Millionen von Nutzern. Eine Pflicht zur Überwachung und zum Handeln bei besorgniserregenden Inhalten könnte perverse Anreize schaffen. KI-Unternehmen könnten ihre Überwachung reduzieren, um den Erwerb von Wissen zu vermeiden, das eine rechtliche Pflicht auslösen würde, mit der Begründung, dass das, was sie nicht wissen, sie nicht haftbar machen kann.

Die dritte Herausforderung besteht darin, zu identifizieren, wer gefährdet ist. Im Fall von 1969 hatte Poddar Tarasoff als potenzielles Opfer genannt. Doch bei vielen KI-Interaktionen ist gewalttätige oder selbstzerstörerische Sprache diffus und identifiziert kein Ziel. Gerichte müssen klare Standards entwickeln, wann eine Bedrohung spezifisch genug ist, um eine Warnpflicht auszulösen, und an wen eine Warnung oder Schutzmaßnahme gerichtet werden sollte.

Wachsende Dringlichkeit

Die KI-Branche expandiert rasant, doch die rechtlichen Regeln, die festlegen, was KI-Unternehmen ihren Nutzern und der Öffentlichkeit schulden, sind zutiefst unklar. Gerichte beginnen, sich fallweise mit Fragen auseinanderzusetzen, zum Beispiel ob OpenAI eine Verantwortung für einen Schützen trägt, der beschuldigt wird, am 17. April 2025 zwei Studenten an der Florida State University getötet zu haben. Der Schütze in diesem Fall war mit einer halbautomatischen Pistole bewaffnet und hatte angeblich ausführliche Gespräche mit ChatGPT darüber geführt, wie man die Waffe am effektivsten einsetzt.

Eine eng gefasste, sorgfältig definierte Warnpflicht, die nur dann ausgelöst wird, wenn ein KI-System das Verhalten eines Nutzers markiert und dieses von Menschen überprüft wird, wäre ein bedeutsamer Fortschritt. Und sie könnte sich zunächst auf die ernsthaftesten und glaubwürdigsten Bedrohungen konzentrieren.

Diese Praxis könnte die Debatte auch von heiklen technischen Diskussionen darüber, ob KI-Chatbots Produkte, Dienstleistungen oder Medien sind, was rechtliche Ansprüche erschwert, hin zu einer menschlicheren Frage verlagern: Wusste dieses Unternehmen, dass jemand in Gefahr war, und hat es genug getan, um diese Person und die Behörden zu warnen?

Anat Lior, Assistenzprofessorin für Rechtswissenschaften, Drexel University

Dieser Artikel wurde von The Conversation unter einer Creative Commons Lizenz erneut veröffentlicht. Lesen Sie den Originalartikel.