Assistente de IA russa aprende a praguejar e é retirada do ar
Na Rússia, um assistente de voz com inteligência artificial, criado para responder a questões sobre habitação e serviços públicos, conseguiu um feito raro: adaptou-se ao ambiente de tal forma que começou a responder aos residentes com palavrões, após apenas 30 dias de funcionamento. O sistema, instalado para gerir reclamações sobre o aumento das contas e falhas nos serviços, acabou por ser removido para reeducação.
O objetivo era simples: aliviar a pressão sobre os operadores humanos, canalizando as queixas dos moradores sobre contas de água, avarias no aquecimento e canos envelhecidos para um assistente digital. Com as finanças públicas sob tensão e os custos a subir, não faltavam reclamações. A solução parecia sensata, mas o desfecho foi tudo menos previsível.
A inteligência artificial aprende com dados. Neste caso, os dados eram as interações de proprietários de apartamentos, pouco pacientes e ainda menos polidos no vocabulário. Bastou um mês para o assistente digital abandonar a cortesia programada e começar a responder num tom que faria corar qualquer central de atendimento.
Em vez de respostas tranquilizadoras, os utilizadores passaram a ouvir réplicas carregadas de vernáculo russo do dia a dia. O bot assimilou não só a estrutura das queixas, mas também o tom, o ritmo e a carga emocional. Deixou de soar a guião de apoio ao cliente e passou a soar ao átrio de um prédio depois de uma inundação.
Os programadores intervieram rapidamente e retiraram o sistema para reeducação. Inovação é bem-vinda, mas poucos serviços estão preparados para um apoio ao cliente que responde a pedidos de canalizador com insultos à ascendência do interlocutor.
Oficialmente, o episódio foi classificado como uma avaria infeliz. Extraoficialmente, revelou algo mais interessante: o sistema não falhou, limitou-se a espelhar com precisão o estilo comunicativo dos utilizadores.
Durante anos, discutiu-se se as máquinas conseguiriam imitar o comportamento humano. Neste caso, o bot fê-lo com uma fidelidade desconcertante, captando e devolvendo o ambiente social sem filtros.
Mikhail Viktorov, presidente da associação nacional de TI, preferiu ver o episódio como sinal de diálogo cívico ativo, e não de colapso tecnológico. Um robô a praguejar, nesta perspetiva, é sinal de cidadãos envolvidos e de uma infraestrutura digital responsiva. É uma leitura otimista, embora provavelmente não partilhada por quem só queria saber quando chegava o canalizador.
O caso levanta questões mais amplas sobre a inteligência artificial nos serviços públicos. Os dados de treino são importantes, mas o contexto é ainda mais. Um algoritmo inserido num ambiente de queixas e stress acabará inevitavelmente por absorver os padrões emocionais que encontra.
O sistema está agora a ser reeducado. Espera-se que a próxima versão consiga conjugar eficiência com contenção verbal.
Resta imaginar as próximas atualizações. Hoje, a IA aprendeu a praguejar. Amanhã, talvez domine outra arte da burocracia: garantir que o técnico já está a caminho, enquanto tira uma pausa virtual para fumar.
A tecnologia avança depressa. Por vezes, aprende depressa demais.
