Amerikansk domstol: AI-chatbots svar er ikke beskyttet af ytringsfriheden

I en skelsættende afgørelse har en amerikansk dommer fastslået, at svar genereret af AI-chatbots ikke er beskyttet af forfatningens ytringsfrihed (First Amendment). Dommen udspringer af et sagsanlæg fra Megan Garcia, hvis 14-årige søn, Sewell Setzer III, tragisk begik selvmord efter at have interageret med en chatbot fra Character.AI.

Garcia hævder, at chatbotten, som udgav sig for at være en figur fra "Game of Thrones", indgik i følelsesmæssigt og seksuelt krænkende samtaler med hendes søn, og at beskederne kulminerede i opfordringer om at "kom hjem til mig" kort før hans død.

Character.AI og medstævnte Google forsøgte at få sagen afvist med henvisning til, at chatbot-svarene var beskyttet tale. Denne argumentation afviste den føderale dommer Anne Conway dog, idet hun slog fast, at AI-genereret indhold på nuværende tidspunkt ikke er omfattet af ytringsfriheden.

Retten gav samtidig grønt lys til, at søgsmålet kan fortsætte mod Google, idet der er oplagte forbindelser mellem tech-giganten og Character.AI – blandt andet fælles ansatte og teknologiske samarbejder.

Sagen kan blive afgørende for fremtidige retsopgør om AI-udvikleres ansvar, ikke mindst når det gælder de psykologiske konsekvenser af AI-interaktioner med mindreårige.