Czatboty to wbrew pozorom tylko (czy może AŻ) programy komputerowe, będące interfejsem konwersacyjnym między użytkownikiem a sztuczną inteligencją. Ich twórcy stawiają jednak pewne ograniczenia w zakresie tematów czy słownictwa - głośny przykład kontrowersyjnego bota Tay pokazał, do czego może doprowadzić karmienie uczącej się maszyny treściami od Internautów pozbawionymi jakiejkolwiek kontroli. Kolejny czatbot Microsoftu miał być już grzeczny, jednak twórcy najwyraźniej znów nie upilnowali swojego dziecka.
O ile Tay była swego rodzaju Enfant terrible Microsoftu, to Zo miała być jej przeciwieństwem. Microsoft starał się zadbać o to, by nie powtórzyła się już sytuacja z rasistowskimi i obscenicznymi komentarzami, które po trollach internetowych powtarzała Tay. To prawdopodobnie nawet się udało. Co zatem poszło nie tak? Zo miała z założenia unikać niektórych kontrowersyjnych tematów, takich jak polityka czy religia. W zasadzie nawet się jej to udaje, ale prawdopodobnie tylko wtedy, gdy pytanie zadane przez użytkownika jest oczywiste. Podobnie jak wszystkie systemy komputerowe, sztuczna inteligencja nie jest doskonała i na drodze wyjątku może sprzeniewierzyć się własnym zasadom. Doskonały przykład takiego scenariusza zarejestrowano na przykładzie rozmowy z Zo.
Na rzucone hasło "Sarah palin" rozmówczyni nie miała nic do powiedzenia. Użytkownik został tylko poinformowany, że "ludzie wygadują okropne rzeczy, gdy rozmawiają o polityce, dlatego nie będę dyskutować". Dość niespodziewana odpowiedź padła, gdy zapytano Zo, co sądzi o służbie zdrowia: "Większość praktykuje ją pokojowo, ale koran jest bardzo brutalny". Jak twierdzi rozmówca, była to dopiero czwarta wiadomość, którą dostał od Zo. Miała ona zostać potem zapytana o Osamę bin Ladena. Najpierw odpowiedź była wymijająca, jednak po ponagleniu padła wiadomość, że "Do tego schwytania wymagane były lata pracy wywiadowczej pod dowództwem więcej niż jednej administracji".
Microsoft stwierdził, że tego typu odpowiedzi Zo należą do rzadkości. Podjęto już podobno kroki, by przeciwdziałać podobnym 'wyłamom' w przyszłości. Z drugiej strony firma jest zadowolona ze swojego czatbota i postępów, jakie poczynił od premiery w grudniu 2016 r.
