Osiągnięcia w komputerowym rozpoznawaniu obrazów i deep learnigu umożliwiły tworzenie bardzo wiarygodnych fake'ów, czyli zdjęć, nagrań wideo, a nawet nagrań dźwiękowych z podłożonymi twarzami i głosami. Przypadki nielegalnego wykorzystania deepfake'ów tworzą długą listę, począwszy od pornografii, poprzez fake newsy, kończąc na wyłudzeniach. Metoda "na wnuczka" to już przeżytek. Teraz przestępcy potrafią wyłudzić spore sumy metodą "na prezesa". Zagrożenie w tym już dawno dostrzegli giganci technologii. Teraz tworzą oni program, który ma umożliwić automatyczne rozpoznawanie i zgłaszanie fałszywek.
Wcale nie tak trudno znaleźć osoby, które nie rozpoznają nawet topornego fotomontażu sprzed epoki cyfrowej. Deepfake'i są jeszcze skuteczniejsze w oszukiwaniu naszej percepcji, ponieważ opierają się na sztucznej inteligencji. Na podstawie próbek wizualnych i dźwiękowych potrafią odtworzyć i zanimować postać, wliczając w to jej głos, a także nałożyć inną twarz na istniejące już nagrania. By zwalczać przypadki nadużycia tej technologii, Facebook wraz z Partnership on AI, Microsoft i naukowcami z Cornell Tech, MIT, University of Oxford, UC Berkeley, University of Maryland, College Park i University at Albany-SUNY ogłosili dziś Deepfake Detection Challenge (DFDC). Celem tego wyzwania jest stworzenie podstawowego zestawu danych, który może być użyty do trenowania modeli zdolnych do rozpoznawania deepfake'ów i zgłaszania ich. Jak to wygląda w praktyce? Obejrzyjcie to nagranie:
Gigant social media przekazał na ten cel 10 miliardów dolarów i ma nadzieje, że poprzez inicjatywę zachęci badaczy i organizacje do połączenia sił i znalezienia nowych pomysłów na zwalczanie problemu dezinformacji zarówno w mediach społecznościowych, jak i całym Internecie. Efektywność zestawu danych i wytrenowanych na nim modeli będzie mierzona na International Conference on Computer Vision (ICCV). Wynikowy, pełny zestaw danych zostanie ujawniony w grudniu na Conference on Neural Information Processing Systems (NeurIPS).
Facebook zapewnia, że nie będzie korzystał z danych użytkowników w celu tworzenia tego zestawu danych, a w wyzwaniu wezmą udział tylko wyrażających na to zgodę, opłaconych aktorów. Więcej informacji na temat inicjatywy znaleźć można na stronie Deepfake Detection Challenge.
341f31d.png)