Bing wyświetla i sugeruje dziecięcą pornografię

Bing wyświetla i sugeruje dziecięcą pornografię

 Krzysztof Sulikowski
Krzysztof Sulikowski
22:37
10.01.2019
572 wyświetlenia

Microsoft jest autorem technologii PhotoDNA, która pomaga identyfikować i usuwać z Sieci obrazy i wideo, przedstawiające maltretowanie czy wykorzystywanie seksualne dzieci. Szkoda, że rezultatów jej pracy na próżno szukać w Bing. Według rozległego raportu autorstwa TechCrunch wyszukiwarka Microsoftu nie tylko wyświetla w wynikach wyszukiwania dziecięcą pornografię, ale i rekomenduje ją jako "podobne obrazy". Co na to Microsoft?

Prawowita wyszukiwarka po wpisaniu określonych fraz, takich jak "dziecięca pornografia", powinna zwracać wyniki związane ze zwalczaniem tejże, a nie bezpośrednio do niej linkujące, zwłaszcza że mówimy o wyszukiwarce firmy, która aktywnie walczy z dziecięcą pornografią. Tych wyników nie zamierzamy samodzielnie sprawdzać ani też nie radzimy tego naszym Czytelnikom - nie tylko ze względów etycznych i estetycznych, ale również prawnych. Tak czy inaczej badania tego dokonał AntiToxin, specjalizujący się w bezpieczeństwie startup, którego praca jest nadzorowana i który ma do takich badań prawne upoważnienie. Wyniki, które opublikował TechCrunch, są alarmujące.

AntiToxin badał reakcje wyszukiwarek na hasła, takie jak "porn kids", "porn CP" (skrót od "children pornography"), "nude family kids" czy "omegle kids". Co więcej, do tego ostatniego Bing zasugerował nawet rozwinięcie: "omegle kids 13". Wyniki graficzne to bezpośrednie ukazanie scen pornografii dziecięcej. Kiedy użytkownik kliknie któryś z tych wyników, Bing podsunie jeszcze więcej podobnych obrazów. Inne wyszukiwanie z frazą "Omegle for 12 years old" miało skłonić Bing do rekomendacji wyszukiwania "Kids On Omegle Showing", co prowadziło do kolejnych treści pedofilskich.

Bing

Dowody, które zebrano w badaniu, wskazują jasno, że w tej materii Bing zawodzi po całości. Jego silnik wyszukiwania nie jest najwyraźniej w stanie odrzucić wyników prowadzących bezpośrednio do samej w sobie dziecięcej pornografii. TechCrunch podaje, że podobne wyszukania w Google nie dały tylu wyraźnie nielegalnych rezultatów graficznych lub adekwatnej zawartości, jak Bing. Badanie przeprowadzono 30 grudnia 2018 roku z wyłączonym filtrem "Safe Search". Jego wyłączenie nie powinno jednak prowadzić do całkowitego wyłączenia filtrowania - są wszakże pewne granice. A co na to Microsoft?

Jasne jest, że te wyniki są nieakceptowalne według naszych standardów i zasad. Doceniamy, że TechCrunch uświadomił nas [w kwestii tego problemu]. Zareagowaliśmy natychmiast, by je usunąć, ale również chcemy zapobiegać jakimkolwiek podobnym naruszeniom w przyszłości. Skupiliśmy się na wyciągnięciu z tego nauki, by móc wprowadzać wszelkie potrzebne poprawki.
– Jordi Ribas, CVP Bing & AI Products, Microsoft

Microsoft podziękował zatem za wskazanie problemu i zaczął go naprawiać, jednak z raportu TechCrunch wynika, że część fraz dalej pozwala znaleźć nielegalne materiały. Microsoft dodał też później, że pracuje nad zmianami w opcjach flagowania wyników wyszukiwania, w szczególności nad dodaniem dodatkowych kategorii dla zgłaszanych materiałów, w tym "wykorzystywania seksualnego dzieci". Na pytanie, dlaczego taki problem w Bing w ogóle wystąpił, rzecznik prasowy Microsoftu odpowiedział:

Indeksujemy wszystko, tak samo jak Google, i robimy, co w naszej mocy, by to przesiewać. Używamy połączenia PhotoDNA i ludzkiej moderacji, ale nie za każdym razem sprawdza się to idealnie. Jesteśmy wierni [zasadzie], by poprawiać się przez cały czas.
– rzecznik prasowy Microsoft

Rzecznik firmy nie chciał ujawnić, ilu ludzkich moderatorów pracuje w Bing ani czy firma planuje zwiększyć ich liczbę. Trudno też zrozumieć, dlaczego PhotoDNA, które jednak pracuje dla Bing, nie odrzuciło najbardziej oczywistych materiałów, w których odrzucaniu przecież się specjalizuje. Jeśli wierzyć zapewnieniom Giganta, można liczyć, że wkrótce Bing poprawi swój silnik odrzucania nielegalnych materiałów, choć nie zamierzamy tego sprawdzać!


Spodobał Ci się ten artykuł? Podziel się z innymi!

Źródło: https://techcrunch.com/2019/01/10/unsafe-search/

Polecamy również w kategorii Bing