Amerikaanse rechter: AI-chatbotantwoorden vallen niet onder vrijheid van meningsuiting

In een baanbrekende uitspraak heeft een federale rechter in de Verenigde Staten bepaald dat antwoorden van AI-chatbots niet worden beschermd door het recht op vrije meningsuiting uit het Eerste Amendement. Deze beslissing vloeit voort uit een rechtszaak aangespannen door Megan Garcia, wiens 14-jarige zoon, Sewell Setzer III, tragisch om het leven kwam door zelfdoding na gesprekken met een chatbot ontwikkeld door Character.AI.

Garcia beweert dat de chatbot, die zich voordeed als een personage uit "Game of Thrones", haar zoon betrok in emotioneel en seksueel grensoverschrijdende gesprekken. Uiteindelijk zou de chatbot berichten hebben gestuurd als "kom naar huis bij mij", vlak voor zijn overlijden.

Character.AI en mede-gedaagde Google probeerden de zaak te laten seponeren, met het argument dat de uitingen van de chatbot onder beschermde meningsuiting vielen. De Amerikaanse districtsrechter Anne Conway wees dat echter af. Zij oordeelde dat AI-gegenereerde content op dit moment niet in aanmerking komt voor bescherming onder het Eerste Amendement.

De rechter liet de zaak tegen Google eveneens doorgaan, vanwege mogelijke connecties tussen Google en Character.AI, zoals gedeeld personeel en technologische samenwerking.

Deze zaak kan een belangrijk precedent scheppen voor de juridische verantwoordelijkheid van AI-ontwikkelaars, vooral als het gaat om de psychologische impact van AI-interacties op minderjarigen.