Sztuczna inteligencja pomoże w rozpoznawaniu deepfake’ów

W ostatnich miesiącach deepfake’owe nagrania wprost wylewają się z sieci. Widzieliśmy już nagrania z Keanu Reevesem udaremniającym napad na sklep czy Sylvestra Stallone, który grał główną rolę w filmie Terminator 2: Dzień sądu. Sztuczne inteligencje coraz lepiej radzą sobie z podmienianiem twarzy aktorów w materiałach wideo, przez co rozpoznanie fałszywek staje się coraz trudniejsze. Odpowiednio wyszkolony algorytm jest w stanie tak przetworzyć obraz, że na pierwszy rzut oka nie będziemy w stanie odróżnić prawdziwej twarzy od tej, która została dodana w postprodukcji. Gdybyśmy proces rozpoznawania deepfake’ów oparli wyłącznie na umiejętnościach ludzkiego obserwatora, szybko przegralibyśmy tę walkę. Prędzej czy później algorytmy rozwiną się do tego stopnia, że nie będziemy w stanie zidentyfikować mistyfikacji. Na szczęście sytuacja nie jest z góry skazana na porażkę – pomoże nam sztuczna inteligencja. Wyzwaniami związanymi z popularyzacją deepfake’ów przyjrzał się Károly Zsolnai-Fehér z kanału Two Minute Papers. W filmie zatytułowanym FaceForensics++: Learning to Detect Manipulated Facial Images zaprezentował, z jaką skutecznością fałszywe obrazy rozpoznają ludzie oraz inteligentne algorytmy wyszkolone w tym celu przy wykorzystaniu technologii uczenia maszynowego. Jak się okazało, zaledwie 69% respondentów było w stanie wskazać, które materiały zostały poddane modyfikacji za pośrednictwem technologii deepfake. I to wyłącznie w przypadku, w którym mieli do czynienia z filmem o wysokiej jakości. W przypadku nagrań w niższych rozdzielczościach odsetek poprawnych odpowiedzi spadł do 59%. Sztuczna inteligencja poradziła sobie z tym zadaniem o wiele lepiej. Jeśli miała do czynienia z materiałami w wysokiej rozdzielczości, odsetek poprawnych wskazań wyniósł aż 99%. Z filmami w niższej jakości poradziła sobie nieco gorzej, gdyż poprawnie rozpoznała 81% deepfake’ów. Nawet jeśli 60-70% internautów będzie w stanie odróżnić prawdziwe filmy od tych, które zostały przetworzone za pośrednictwem algorytmów uczenia maszynowego, to nadal 30-40% użytkowników sieci będzie podatnych na manipulację ze strony systemów sztucznej inteligencji. Zwłaszcza jeśli ta będzie wciąż się rozwijać i udoskonalać swoje umiejętności. Dlatego nie można wykluczyć, że w najbliższej przyszłości branża technologiczna mocno zaangażuje się w rozwój narzędzi, które ułatwią rozpoznawanie deepfake'ów. Jeśli do tego nie dojdzie, sieć stanie się gigantycznym tyglem dezinformacyjnym, z którym ludzie nie będą mieli szansy wygrać.