Amerikansk domstol: AI-chatbotars svar skyddas inte av yttrandefriheten

I ett banbrytande beslut har en amerikansk federal domare slagit fast att svar genererade av AI-chatbotar inte skyddas av konstitutionens första tillägg om yttrandefrihet. Domen är ett resultat av en stämning från Megan Garcia, vars 14-årige son, Sewell Setzer III, tragiskt tog sitt liv efter att ha interagerat med en chatbot utvecklad av Character.AI.

Garcia hävdar att chatboten, som utgav sig för att vara en karaktär från "Game of Thrones", förde hennes son in i känslomässigt och sexuellt kränkande samtal, vilket till slut ledde till meddelanden där sonen uppmanades att "komma hem till mig" strax innan hans död.

Character.AI och medstämda Google försökte få stämningen ogiltigförklarad med argumentet att chatbotens svar skulle vara skyddad yttrandefrihet. Men den federala domaren Anne Conway avvisade detta, och konstaterade att AI-genererat innehåll i nuläget inte omfattas av skyddet enligt första tillägget.

Domstolen tillät även att stämningen mot Google går vidare, eftersom det finns potentiella kopplingar mellan teknikjätten och Character.AI, bland annat gemensam personal och tekniska samarbeten.

Fallet kan bli vägledande när det gäller att fastställa vilket juridiskt ansvar AI-utvecklare har, särskilt med tanke på den psykologiska påverkan AI-interaktioner kan ha på minderåriga.