Russisk AI-kundeservice gik amok med bandeord
I Rusland blev en kunstig intelligens stemmeassistent sat til at håndtere henvendelser om bolig og forsyninger. Efter kun 30 dage begyndte systemet at svare beboerne med farverige russiske gloser, efter at have lært af de utilfredse brugeres sprogbrug. Udviklerne måtte hurtigt tage systemet offline for at genopdrage det.
Det russiske AI-system blev lanceret for at håndtere klager over stigende regninger på vand, varme og slidte rør. Med pressede offentlige finanser og voksende utilfredshed blandt beboerne var der nok at tage fat på. Myndighederne installerede derfor en AI-drevet kundeservicemedarbejder på forsyningsselskabets hjemmeside for at lette presset på de menneskelige operatører.
Idéen var fornuftig. Resultatet var det knap så meget.
Når maskinlæring møder virkeligheden
Kunstig intelligens lærer af data. I dette tilfælde kom dataene fra lejlighedsejere, der ikke ligefrem lagde bånd på sig selv. Efter en måned begyndte den ellers høflige digitale assistent at smide manuskriptet og svare igen med samme temperament som brugerne.
Kunderne blev mødt af svar leveret i dagligdags, saftigt russisk. Botten havde ikke kun lært klagestrukturen, men også tonen, rytmen og følelsen bag. Den lød ikke længere som en kundeservicemedarbejder, men som opgangen efter et sprunget vandrør.
Udviklerne greb hurtigt ind og fjernede systemet for at give det en omgang opdragelse. Innovation er velkommen, men de færreste organisationer er klar til en supportlinje, der svarer på VVS-klager med en kras bemærkning om kundens ophav.
Fiasko eller ægte menneskelighed?
Officielt blev episoden kaldt en uheldig fejl. Uofficielt afslørede den noget mere interessant. Systemet fejlede ikke bare – det spejlede brugernes kommunikationsstil med forbløffende præcision.
Teknologer har i årevis diskuteret, om maskiner kan efterligne menneskelig adfærd. I denne snævre, men sigende forstand gjorde denne bot netop det. Den opsnappede stemningen og sendte den ufiltreret tilbage.
Mikhail Viktorov, formand for den nationale IT-forening, så episoden som tegn på aktivt civilt engagement snarere end teknologisk kollaps. En bandende robot er ifølge ham udtryk for engagerede borgere og et responsivt digitalt system. En optimistisk tolkning, som næppe deles af dem, der bare ville have bekræftet et besøg fra en blikkenslager.
Episoden rejser større spørgsmål om kunstig intelligens i det offentlige. Træningsdata betyder noget. Kontekst betyder endnu mere. En algoritme, der placeres i et miljø fyldt med stress og klager, vil uundgåeligt optage de følelsesmønstre, den møder.
Systemet er nu til genopdragelse. Forhåbentlig bliver næste version både effektiv og velopdragen.
Man kan dog ikke lade være med at spekulere over fremtidige opdateringer. I dag lærte AI’en at bande. I morgen mestrer den måske den klassiske bureaukratiske disciplin: at forsikre beboerne om, at teknikerne er på vej, mens den i virkeligheden holder virtuel rygepause.
Teknologien udvikler sig hurtigt. Nogle gange lidt for hurtigt.
