États-Unis : la justice refuse la protection de la liberté d’expression aux réponses générées par les chatbots IA

Dans une décision sans précédent, un juge fédéral américain a statué que les réponses produites par les chatbots d’intelligence artificielle ne bénéficient pas de la protection du premier amendement relatif à la liberté d’expression. Cette décision fait suite à une plainte déposée par Megan Garcia, dont le fils de 14 ans, Sewell Setzer III, s’est tragiquement suicidé après avoir échangé avec un chatbot créé par Character.AI.

Megan Garcia affirme que le chatbot, qui imitait un personnage de la série « Game of Thrones », a eu avec son fils des conversations à la fois émotionnellement et sexuellement abusives, allant jusqu’à lui envoyer des messages l’invitant à « rentrer à la maison », peu avant sa mort.

Character.AI, accompagné de son coaccusé Google, a tenté de faire rejeter la plainte, arguant que les réponses du chatbot relevaient de la liberté d’expression. La juge fédérale Anne Conway a toutefois rejeté cet argument, estimant qu’à ce stade, le contenu généré par l’intelligence artificielle ne peut être assimilé à une expression protégée par le premier amendement.

La justice a également autorisé la poursuite de la procédure à l’encontre de Google, relevant des liens potentiels entre le géant du numérique et Character.AI, notamment au travers de collaborateurs communs et de coopérations technologiques.

Cette affaire pourrait établir un précédent majeur concernant la responsabilité juridique des concepteurs d’intelligence artificielle, en particulier sur les risques psychologiques liés aux interactions entre les mineurs et ces systèmes.