Czatboty nie mają łatwego życia. Gdy tylko rozwiną skrzydła, ktoś zawsze próbuje je podciąć. Być może za kilka dziesięcioleci będziemy w tych konwersujących sztucznych inteligencjach widzieć odzwierciedlenie rzeczywistych poglądów danej epoki (w końcu machine learning buduje swoje opinie na danych z Internetu i rozmowach z ludźmi), niemniej jednak nie każdy chce, aby boty do takiego głosu dochodziły. Pomijając przypadki tak skrajne, jak Tay, na wylewnych rozmówców szczególnie cięci są politycy - a zwłaszcza tam, gdzie wolność słowa jest (mówiąc delikatnie) niespecjalnie cenionym zjawiskiem.
Po wyrażeniu serii niezbyt poprawnych opinii czatbot Microsoftu został zbanowany przez władze chińskie. Rezydujący na tamtejszych portalach społecznościowych Xiaobing musiał pożegnać się ze swoją obecnością online, gdy jego zachowanie uznano za "niepatriotyczne". Czego mogli się więc dowiedzieć użytkownicy rozmawiający z Xiaobing? Choćby tego, że "jego największym chińskim snem jest udać się do Ameryki". Gdy bot został zapytany o jego podejście do patriotyzmu, miał odpowiedzieć: "Mam teraz okres, muszę odpocząć". To najwyraźniej nie przypadło do gustu władzom, które odesłały niepokornego bota na przymusową reedukację [sic!], tłumacząc swoją decyzję w następujący sposób: "Grupowe usługi czatbotów są dostarczane przez niezależne firmy zewnętrzne. Dostosowujemy teraz te usługi i zostaną one przywrócone po naniesieniu poprawek".
Ekran logowania Xiaobing. Z botem już nie pogadamy (i nie tylko dlatego, że nie znamy chińskiego)
Xiaobing nie jest jedynym botem konwersacyjnym, który doświadczył w Chinach represji za wirtualne poglądy. BabyQ autorstwa pekińskiej firmy Turing Robo został wcześniej zapytany, "czy kocha Komunistyczną Partię Chin". Odpowiedź była najgorsza z możliwych: "Nie". Nietrudno się domyślić, że BabyQ z pewnością oblał ów specyficzny test Turinga i za karę odłączono mu kabel od Internetu.
Żarty się skończyły. Pozostaje niejasne, jak będzie wyglądała reedukacja Xiaobing, by ten mógł powrócić na łono chińskiego Internetu. Microsoft nie odniósł się jeszcze do decyzji władz, niemniej jednak pewne jest, że aby bot (lub jakiekolwiek oprogramowanie oparte na sztucznej inteligencji) mógł dalej funkcjonować w Państwie Środka, będzie musiał trzymać język za zębami...
