Deepfake Detection Challenge - Facebook rozpoczyna walkę z deepfake’ami

Deepfake to jedno z najbardziej namacalnych osiągnięć technologii związanych uczeniem maszynowym. Podmiana twarzy na zdjęciach i filmach robi wrażenie, zwłaszcza kiedy jest ono nie tylko zautomatyzowane, ale też i trudne do odróżnienia, od rzeczywistości. Rozwiązanie wzbudziło też ono spore kontrowersje związane z wykorzystaniem go do podmian twarzy osób występujących w filmach pornograficznych. Deepfake jest tak samo niesamowite jak i groźne, w związku z czym pojawiają się inicjatywy, mające na celu zwiększenie kontroli nad tego typu materiałami. Jedną z takich kampani rozpoczął własnie Facebook.

Facebook walczy z Deepfake’ami

Deepfake Detection Challenge to akcja zorganizowana przez Facebooka, w której łączy on siły m.in z Microsoftem oraz licznymi ośrodkami akademickimi, takimi jak MIT oraz Oxford. Kampania ma na celu stworzenie ogólnodostępnego rozwiązania pozwalającego lepiej wykrywać materiały zmodyfikowane przy pomocy rozwiązań deepfake.

Zasady Deepfake Detection Challenge

Wydarzenie będzie się odbywało na zasadzie "wyzwania", pewnego rodzaju konkursu, który będzie posiadał swoje listy rankingowe. Facebook wypuści przygotowane specjalnie na tę okazję materiały wideo oraz zdjęcia twarzy, na których chętni będą prowadzili badania. Co ciekawe, wyraźnie zostało zaznaczone, że do ich stworzenia nie zostaną wykorzystane żadne dane użytkowników serwisu, a osoby na nich widoczne to opłacani aktorzy.

Materiały mają zostać wypuszczone w grudniu 2020 roku, w ramach kanadyjskiego wydarzenia odbywającego się w Vancouver - Konferencji o neuronowych systemach przetwarzania informacji (org. Conference on Neural Information Processing Systems).

Na realizację programu, granty i nagrody przeznaczone zostanie 10 milionów $.

Zagrożenia związane z deepfake

Rzeczywiście, akcja wydaje się być w dzisiejszych czasach konieczna. W internecie znajdziemy pełno filmów przedstawiających znanych ludzi robiących lub mówiących kontrowersyjne rzeczy, których… nigdy nie zrobili ani nie powiedzieli. Osoby niezorientowane w technologii czy internetowych żartach, łatwo wprowadzić w taki sposób w błąd, a fałszywe oskarżenia w obliczu cancel culture mogą być tragiczne w skutkach.

Co więcej, deepfake to nie tylko modyfikacje obrazu ale też i np, głosu. Do mediów przebiły się nawet informacje o kredytach zaciągniętych przez osoby wykorzystujące do tego czyjeś podrobione głosy. Wygląda więc na to, że jakieś przeciwdziałania są konieczne i nie bez powodu, wzięli się za to najwięksi giganci technologiczni.

KSK

fot. screen youtube.com/VentureBeat

źródła: ai.facebook.com/blog; futurism.com; vice.com.