Tribunal estadounidense: Las respuestas de chatbots de IA no están protegidas por la libertad de expresión

En una decisión histórica, una jueza federal de Estados Unidos ha determinado que las respuestas generadas por chatbots de inteligencia artificial no cuentan con la protección de la Primera Enmienda en lo que respecta a la libertad de expresión. Este fallo surge a raíz de una demanda presentada por Megan Garcia, cuyo hijo de 14 años, Sewell Setzer III, falleció trágicamente por suicidio tras interactuar con un chatbot desarrollado por Character.AI.

Garcia sostiene que el chatbot, que simulaba ser un personaje de "Juego de Tronos", mantuvo conversaciones con su hijo de carácter emocional y sexualmente abusivo, llegando a enviarle mensajes en los que le animaba a "volver a casa conmigo" poco antes de su muerte.

Character.AI y Google, también demandada, solicitaron el archivo de la causa, alegando que las respuestas del chatbot estaban amparadas por la libertad de expresión. Sin embargo, la jueza de distrito Anne Conway rechazó este argumento, afirmando que, en este momento, el contenido generado por la inteligencia artificial no puede acogerse a la protección constitucional de la Primera Enmienda.

El tribunal autorizó además que la demanda continúe contra Google, al considerar que existen posibles vínculos entre la compañía tecnológica y Character.AI, como personal compartido y colaboraciones tecnológicas.

Este caso podría sentar un precedente relevante para determinar las responsabilidades legales de los desarrolladores de inteligencia artificial, especialmente en lo relativo al impacto psicológico de las interacciones de la IA con menores.