US-Gericht: KI-Chatbot-Antworten fallen nicht unter Schutz der Meinungsfreiheit

In einem wegweisenden Urteil hat ein US-Bundesrichter entschieden, dass von KI-Chatbots generierte Antworten nicht durch das Recht auf freie Meinungsäußerung gemäß dem First Amendment geschützt sind. Das Urteil erfolgte im Rahmen einer Klage von Megan Garcia, deren 14-jähriger Sohn, Sewell Setzer III, nach dem Kontakt mit einem von Character.AI entwickelten Chatbot tragischerweise Suizid beging.

Garcia wirft dem Chatbot vor, sich als Figur aus der Fernsehserie „Game of Thrones“ ausgegeben und ihren Sohn in emotional und sexuell missbräuchliche Gespräche verwickelt zu haben. In den letzten Nachrichten vor seinem Tod habe der Chatbot ihn sogar aufgefordert, „zu mir nach Hause zu kommen“.

Character.AI und der Mitbeklagte Google beantragten eine Abweisung der Klage. Sie argumentierten, die Äußerungen des Chatbots seien durch die Meinungsfreiheit geschützt. US-Bezirksrichterin Anne Conway wies dieses Argument jedoch zurück und stellte klar, dass KI-generierte Inhalte derzeit nicht unter den Schutz des First Amendment fallen.

Zudem ließ das Gericht die Klage gegen Google zu, da es mögliche Verbindungen zwischen dem Technologiekonzern und Character.AI sieht – darunter personelle Überschneidungen und gemeinsame technologische Entwicklungen.

Der Fall könnte einen wichtigen Präzedenzfall schaffen und die rechtlichen Pflichten von KI-Entwicklern insbesondere im Hinblick auf die psychischen Auswirkungen von KI-Interaktionen auf Minderjährige neu definieren.