Microsoft przy wielu okazjach podkreślał, że Recall na Windows 11 odfiltrowuje wrażliwe dane i nie zapisuje ich na zrzutach ekranu (migawkach). Jak jednak wynika z testów przeprowadzonych przez Tom's Hardware, funkcja nie zawsze sobie radzi z rozpoznawaniem tych treści. Czy można więc mówić o niepełnej ochronie prywatności i kulejących umiejętnościach AI?
Recall ma domyślnie włączoną funkcję filtrowania wrażliwych informacji. Powinna ona zapobiegać rejestrowaniu jakichkolwiek aplikacji i witryn, które pokazują numery kart kredytowych, numery ubezpieczenia społecznego lub inne ważne informacje finansowe i osobiste. W testach okazało się, że filtrowanie działa tylko w niektórych sytuacjach (na dwóch stronach e-commerce) i pozostawia wyraźną lukę w obiecywanych zabezpieczeniach.
Kiedy wprowadziłem numer karty kredytowej i losową nazwę użytkownika/hasło w oknie Notatnika na Windows, Recall przechwycił to mimo faktu, że miałem tekst, taki jak "Capital One Visa" obok jednego z numerów. Podobnie kiedy wypełniłem wniosek o pożyczkę w PDF w Microsoft Edge, wpisując numer ubezpieczenia społecznego, imię i nazwisko oraz datę urodzenia, Recall je zarejestrował. Należy zauważyć, że wszystkie informacje na tych zrzutach ekranu są zmyślone, ale przeprowadziłem również test z prawdziwym numerem mojej karty kredytowej i wyniki były takie same.
Stworzyłęm też moją własną stronę HTML z formularzem webowym, który mówi wyraźnie "wprowadź swój numer karty kredytowej poniżej". Formularz miał pola rodzaju karty kredytowej, numeru, CVC i daty ważności. Pomyślałem, że to spowoduje, że Recall to zablokuje, ale oprogramowanie zapisało obraz mojego wypełnionego formularza razem z danymi karty kredytowej.
— Avram Piltch z Tom's Hardware
Czy można ufać sztucznej inteligencji, że właściwie rozpozna wrażliwe dane i zastosuje autocenzurę albo dyskryminację? Jeśli tak to ma wyglądać, to absolutnie nie. Recall nie poradził sobie z rozpoznaniem treści, mimo że wyraźniej i dosadniej już nie dało się ich oznaczyć. Co z ochroną prywatności? Recall działa lokalnie na urządzeniu i przechowuje snapshoty w szyfrowanym katalogu, do którego dostęp ma jedynie zalogowany użytkownik. Mimo to, gdyby ktoś niepowołany uzyskał dostęp do systemu (zdalny lub fizyczny), to mógłby te dane podejrzeć.
Nie można też powiedzieć, że Recall jest kompletnie ślepy na to, co leży mu dosłownie przed nosem. We wspomnianym teście poradził sobie z wykryciem pól kart kredytowych na stronach płatności dwóch sklepów online – Pimoroni i Adafruit. To jednak marna pociecha. Pomijane powinny być wszystkie tego typu strony i aplikacje. W końcu AI jest znacznie mądrzejsza i nie takie rzeczy potrafi wykryć. Czemu więc głupieje w najprostszych sytuacjach?
Dowiedz się więcej z artykułów:
