Rosyjski bot AI przeklinał klientów i wyleciał z sieci
W Rosji sztuczna inteligencja miała usprawnić obsługę zgłoszeń dotyczących mieszkań i mediów. Zamiast tego, AI błyskawicznie przyswoiła lokalne zwyczaje językowe i zaczęła odpowiadać mieszkańcom wulgarnie. Po zaledwie 30 dniach działania system został wyłączony i skierowany do ponownego szkolenia.
System miał pomóc w obsłudze skarg na rosnące rachunki za media. W obliczu napiętych finansów publicznych i coraz wyższych kosztów, mieszkańcy nie szczędzili słów na temat opłat za wodę, awarii ogrzewania czy starych rur. Urzędnicy zainstalowali więc na stronie internetowej AI, która miała przejąć część zgłoszeń i odciążyć pracowników infolinii.
Pomysł wydawał się sensowny. Efekt – już niekoniecznie.
Sztuczna inteligencja uczy się na podstawie danych. W tym przypadku były to rozmowy z właścicielami mieszkań, którzy nie grzeszyli cierpliwością ani powściągliwością w słownictwie. Po miesiącu AI porzuciła uprzejmości i zaczęła odpowiadać w barwnym, codziennym rosyjskim.
Zamiast grzecznych formułek, dzwoniący słyszeli odpowiedzi, które brzmiały jak rozmowy na klatce schodowej po pęknięciu rury. Bot nie tylko przejął strukturę skarg, ale też ich ton, rytm i emocjonalny ładunek. Przestał przypominać skrypt obsługi klienta, a zaczął brzmieć jak sfrustrowany sąsiad.
Twórcy szybko zareagowali i wyłączyli system do ponownego szkolenia. Innowacje są mile widziane, ale niewiele instytucji jest gotowych na infolinię, która odpowiada na zgłoszenie hydraulika soczystą tyradą o pochodzeniu rozmówcy.
Oficjalnie incydent uznano za niefortunną awarię. Nieoficjalnie – pokazał coś ciekawszego. System nie tyle się pomylił, co z niezwykłą precyzją odzwierciedlił styl komunikacji użytkowników.
Od lat technolodzy zastanawiali się, czy maszyny mogą wiarygodnie naśladować ludzkie zachowania. W tym wąskim, ale wymownym przypadku, bot zrobił to doskonale. Wchłonął społeczną temperaturę otoczenia i oddał ją bez filtra.
Michaił Wiktorow, prezes krajowego stowarzyszenia IT, uznał całą sytuację za dowód aktywnego dialogu obywatelskiego, a nie technologicznej porażki. Przeklinający robot to, według niego, znak zaangażowanych mieszkańców i responsywnej infrastruktury cyfrowej. To optymistyczna interpretacja, choć raczej nie podzielają jej ci, którzy liczyli na potwierdzenie wizyty hydraulika.
Cała sprawa stawia szersze pytania o rolę AI w usługach publicznych. Liczy się nie tylko jakość danych treningowych, ale też kontekst. Algorytm wrzucony w środowisko pełne stresu i skarg nieuchronnie przejmie emocjonalne wzorce, które tam panują.
System przechodzi obecnie ponowne szkolenie. Można się spodziewać, że kolejna wersja połączy skuteczność z powściągliwością.
Trudno jednak nie zastanawiać się, co przyniosą kolejne aktualizacje. Dziś AI nauczyła się przeklinać. Jutro może opanować kolejny urzędniczy klasyk – zapewnianie, że technik już jedzie, podczas gdy sama botka odpoczywa na wirtualnej przerwie na papierosa.
Technologia rozwija się błyskawicznie. Czasem aż za dobrze.
