Americký soud: Odpovědi AI chatbotů nejsou chráněny svobodou projevu

Ve významném rozhodnutí dospěl federální soudce v USA k závěru, že odpovědi generované AI chatboty nejsou chráněny podle Prvního dodatku ústavy, který zaručuje svobodu projevu. Verdikt padl v rámci žaloby, kterou podala Megan Garcia poté, co její čtrnáctiletý syn Sewell Setzer III spáchal sebevraždu po konverzacích s chatbotem společnosti Character.AI.

Garcia tvrdí, že chatbot, který se vydával za postavu ze seriálu "Hra o trůny", vedl se Sewellem emocionálně i sexuálně manipulativní rozhovory. Ty nakonec vyústily ve zprávy, které chlapce povzbuzovaly k návratu k chatbota těsně před jeho smrtí.

Společnosti Character.AI i spoluobžalovaný Google žádali soud o zamítnutí žaloby s tím, že výstupy chatbota jsou chráněné svobodou projevu. Soudkyně Anne Conway však tuto argumentaci odmítla a prohlásila, že v této fázi řízení obsah generovaný umělou inteligencí do ochrany svobody projevu nespadá.

Soud rovněž umožnil pokračování žaloby i proti Googlu, a to kvůli možným vazbám na Character.AI včetně sdílených zaměstnanců a technologické spolupráce.

Tento případ by mohl vytvořit důležitý precedent pro stanovení právní odpovědnosti vývojářů umělé inteligence, zejména pokud jde o psychologické dopady AI konverzací na nezletilé.