W ostatnich tygodniach pisaliśmy o aferze podsłuchowej, która w skrócie polega na tym, że pracownicy Amazona, Google, Facebooka, Microsoftu i Apple odsłuchują klipy nagrane przez asystentów głosowych czy też inne usługi, jak Messenger i Skype. Po ujawnieniu afery większość zaprzestała opisanych wyżej praktyk... z wyjątkiem Microsoftu. Teraz na jaw wyszły kolejne fakty.
Okazuje się, że słuchano rozmów nie tylko w Skype i z Cortaną, ale też prowadzonych na konsoli Xbox. Podwykonawcy giganta mieli słuchać mowy użytkowników konsoli w ich domach, aby wspomóc ulepszanie rozpoznawania mowy na tym urządzeniu. Dźwięk był przypuszczalnie rejestrowany po wypowiedzeniu poleceń "Xbox" albo "Hej, Cortana", jednak pracownicy ujawniają redakcji Vice, że nagrywanie było czasem wywoływane i rejestrowane przypadkiem. Były pracownik twierdzi, że pracował z danymi dźwiękowymi Xboksa w latach 2014-2015, czyli jeszcze zanim Cortana trafiła na konsolę (w 2016). Już bowiem w chwili premiery, w listopadzie 2013 roku Xbox One oferował możliwość kontrolowania go poprzez czujnik Kinect.
Już wtedy pojawiły się pierwsze obawy związane z tym, że Kinect słucha użytkowników Xboksa i czeka na polecenia typu "Xbox on". Microsoft w oświadczeniu z tamtego czasu uspokajał, że Kinect dla Xbox 360 został zaprojektowany i zbudowany z silnymi zabezpieczeniami prywatności, a nowy Kinect będzie kontynuował to zobowiązanie. Czy było tak w rzeczywistości?
Były pracownik twierdzi, że większość usłyszanych głosów pochodziło od dzieci. Jak wynika z umowy zatrudnienia przedstawionej portalowi Motherboard, za takie usługi Microsoft płacił 10 dolarów za godzinę. Trwało to dalej, gdy sterowanie głosem z czujnika Kinect przeniosło się na Cortanę. Wprawdzie niedługo cyfrowa asystentka zniknie z Xbox One, ale konsolę można będzie kontrolować za pośrednictwem aplikacji Cortana na Androida i iOS.
Po co właściwie całe to podsłuchiwanie? Oficjalnie — by weryfikować skuteczność systemów rozpoznawania mowy. Problem polega jednak na tym, że firma nie wyraziła tego jasno w swoich dokumentach dotyczących prywatności. Znajduje to potwierdzenie w raporcie pracownika, według którego z biegiem czasu docierało do niego coraz mniej przypadkowych rzeczy. Mimo to nie udało się wyeliminować problemu, a pracownicy słyszeli rozmowy po przypadkowo wywołanym nagrywaniu. Zdarzało się to np. podczas grania albo czatowania.
Jak wspomnieliśmy, Microsoft nie rezygnuje z analizowania klipów audio przez ludzi, ale niedawno zaktualizował zasady ochrony prywatności, które muszą zaakceptować użytkownicy. Zostało w nich wyszczególnione, że:
Przetwarzanie przez nas danych osobowych w tych celach obejmuje zarówno zautomatyzowane, jak i ręczne (wykonywane przez człowieka) metody przetwarzania. Nasze zautomatyzowane metody są często powiązane z metodami ręcznymi i przez nie uzupełniane. Na przykład nasze zautomatyzowane metody obejmują sztuczną inteligencję (AI), którą rozumiemy jako zbiór technologii umożliwiających komputerom postrzeganie, uczenie, wnioskowanie i wspieranie w podejmowaniu decyzji w celu rozwiązywania problemów w sposób podobny do ludzkiego. Aby budować, wyuczać i ulepszać dokładność naszych zautomatyzowanych metod przetwarzania (w tym AI), firma Microsoft przegląda ręcznie niektóre przewidywania i wnioski wyciągnięte przez zautomatyzowane metody w odniesieniu do danych bazowych, z których zostały one wyprowadzone. Na przykład ręcznie analizujemy krótkie fragmenty niewielkiej części danych głosowych (przy zastosowaniu metod eliminacji elementów pozwalających na identyfikację) w celu ulepszenia naszych usług mowy, takich jak rozpoznawanie i tłumaczenie.
W rzeczywistości już wcześniej użytkownicy musieli zaakceptować warunki Microsoftu, w których mowa była o analizowaniu danych, jednak nie było tam zapisu o tym, że analizy te wykonywane są przez ludzi, a nie tylko przez AI. Niektórzy mogą się przez to poczuć oszukani, zwłaszcza że z raportów pracowników wynika, że niektóre klipy można śmiało określić jako "seks przez telefon" czy szukanie pornografii przez Cortanę. Raczej wątpliwe jest, by użytkownicy chcieli dzielić się takimi rozmowami z obcymi ludźmi. Zupełnie inną kategorię tworzą użytkownicy, którzy z lenistwa nie czytają warunków użytkowania lub też nie przejmują się kwestiami prywatności, a może nawet są gotowi poświęcić własną prywatność na rzecz rozwoju systemów rozpoznawania mowy. Ci, którzy się do nich nie zaliczają i nie godzą się na warunki Microsoftu, będą musieli przejść do innych dostawców usług... O ile za jakiś czas nie wyjdzie na jaw, że i oni słuchają.
341f31d.png)