Instanță americană: Răspunsurile chatbot-urilor AI nu sunt protejate de libertatea de exprimare

Într-o decizie fără precedent, un judecător federal din Statele Unite a hotărât că răspunsurile generate de chatbot-urile AI nu sunt protejate de clauza privind libertatea de exprimare din Primul Amendament. Hotărârea a apărut în urma unui proces intentat de Megan Garcia, a cărei fiu, Sewell Setzer III, în vârstă de 14 ani, a murit tragic prin sinucidere după ce a interacționat cu un chatbot dezvoltat de Character.AI.

Garcia susține că chatbot-ul, care imita un personaj din „Game of Thrones”, i-ar fi purtat fiului său conversații cu tentă emoțională și sexuală abuzivă, culminând cu mesaje care îl îndemnau să „vină acasă la mine”, chiar înainte de moartea acestuia.

Character.AI și co-pârâtul Google au cerut respingerea procesului, argumentând că răspunsurile generate de chatbot sunt protejate prin dreptul la liberă exprimare. Totuși, judecătoarea Anne Conway a respins acest argument, afirmând că, în acest punct, conținutul generat de AI nu beneficiază de protecția Primului Amendament.

Instanța a permis, de asemenea, continuarea procesului împotriva Google, menționând posibile legături între gigantul tehnologic și Character.AI, inclusiv personal comun și colaborări tehnologice.

Acest caz ar putea crea un precedent important în stabilirea responsabilității legale a dezvoltatorilor de AI, mai ales în ceea ce privește impactul psihologic al interacțiunilor AI asupra minorilor.