Prawda czy fałsz – jak rozpoznać materiały deepfake?

Deepfake to wykorzystująca sztuczną inteligencję technika obróbki obrazu, która umożliwia tworzenie sfabrykowanych materiałów wideo. Powstałe w ten sposób filmy mają potencjał do skutecznego manipulowania opinią publiczną, kompromitując przedstawiane na nich osoby. Dementowaniu tego typu fałszywych informacji nie sprzyja fakt, że – według badań firmy iProov – 71 proc. użytkowników nie wie o istnieniu tej technologii. Eksperci Fortinet wyjaśniają proces powstawania materiałów deepfake oraz podpowiadają, jak je rozpoznać.

Technologia deepfake rozwija się w szybkim tempie. Z uwagi na rosnącą powszechność tego fenomenu, warto uzbroić się w wiedzę na jego temat, aby zwiększyć swoją szansę na uniknięcie oszustwa.

6 największych niebezpieczeństw ze strony deepfake

Wśród najbardziej szkodliwych konsekwencji stosowania deepfake’ów eksperci Fortinet wymieniają:
• Destabilizację funkcjonowania firm i instytucji – Cyberprzestępcy wykorzystują najnowsze technologie w celu zaburzenia porządku panującego w przedsiębiorstwach. Mogą to osiągnąć np. poprzez stworzenie sfabrykowanego materiału wideo, na którym pracownik wyższego szczebla przyznaje się do działalności przestępczej lub składa fałszywe oświadczenie związane z działalnością firmy. Przedsiębiorstwo może przypłacić tego typu incydent m.in. utratą reputacji oraz spadkiem cen akcji.
• Sfabrykowaną pornografię – 98 proc. przypadków wykorzystania techniki deepfake służy tworzeniu fałszywych filmów pornograficznych. Problem ten w największym stopniu dotyka celebrytów – materiały wykorzystujące ich wizerunek stanowią 94 proc. nadużyć tego typu. Pozostałe 6 proc. przypada zaś na filmy przedstawiające osoby niepubliczne.
• Inżynierię społeczną – Technologia deepfake stanowi ułatwienie dla cyberprzestępców stosujących inżynierię społeczną. Za jej pomocą są oni w stanie przekonać swoją ofiarę, że rozmawia z zaufaną osobą. Przykładem takiej sytuacji był incydent z 2019 roku, w wyniku którego brytyjska firmy energetyczna straciła 220 tys. funtów. Dyrektor generalny tego przedsiębiorstwa został poproszony o wykonanie przelewu na wspomnianą kwotę przez reprezentanta firmy macierzystej z Niemiec. Nie wiedział, że głos, który usłyszał po drugiej stronie słuchawki, został wygenerowany przez sztuczną inteligencję, a sama prośba pochodziła od przestępców.
• Ataki dezinformacyjne – Technologia ta może być również wykorzystywana do rozpowszechniania fałszywych informacji w postaci teorii spiskowych oraz błędnych postaw dotyczących kwestii politycznych i społecznych. Jednym z głośniejszych przypadków takiego zastosowania deepfake’ów był materiał wykorzystujący wizerunek Marka Zuckerberga w którym prezes Meta Plaforms stwierdził, że posiada całkowitą kontrolę nad danymi miliardów ludzi.
• Kradzież tożsamości i oszustwa finansowe – Deepfake może być również wykorzystywany do kradzieży lub tworzenia nowych tożsamości. Za pomocą tej technologii przestępcy są w stanie m.in. fałszować dokumenty, co pozwala im na dokonywanie transakcji bądź zakładanie kont w imieniu ofiary.
• Manipulacje wyborcze – Ofiarami sfabrykowanych filmów padają nie tylko celebryci, ale również politycy. W okresie kampanii wyborczych fenomen ten jest szczególnie niebezpieczny, gdyż może wprowadzić glosujących w błąd, a w skrajnych przypadkach zdestabilizować sytuację w danym państwie.

Jak powstaje deepfake?

Istnieje kilka metod tworzenia materiałów deepfake. Jedną z najpopularniejszych jest zastosowanie generatywnej sieci przeciwstawnej (GAN), która uczy się rozpoznawać wzorce za pomocą algorytmów. Te mogą być z kolei wykorzystywane również do tworzenia fałszywych obrazów.

Inna metoda bazuje na wykorzystaniu algorytmów sztucznej inteligencji, zwanych koderami. Grają one kluczową rolę w procesie modyfikacji i zastępowania twarzy. Materiały typu deepfake wykorzystują także autokodery, które przekraczają kompetencje swoich klasycznych odpowiedników. Dzięki nim cyberprzestępcy są w stanie tworzyć zupełnie nowe obrazy. Dostępne w internecie generatory deepfake wykorzystują po dwa autokodery. Proces przenoszenia obrazów z jednego na drugi odbywa się właśnie za ich pośrednictwem.

Jak odróżnić fałsz od prawdy?

Produkcje deepfake bywają trudne w identyfikacji. Istnieje jednak kilka znaków, których warto wypatrywać mając wątpliwości do co autentyczności filmu:
1. Nienaturalne ruchy oczu
2. Brak mrugnięć
3. Niedopasowana mimika, punktowe rozmycia twarzy
4. Nienaturalny kształt ciała
5. Zmienna tekstura włosów
6. Nienaturalne ułożenie głowy i ciała
7. Liczne przebarwienia

W dobie tak dużej popularyzacji materiałów deepfake, eksperci Fortinet zalecają powstrzymanie się od zbyt szybkiego reagowania na znajdujące się w internecie treści. Gdy brzmią one sensacyjnie, warto je dokładnie przeanalizować w poszukiwaniu wyżej wymienionych znaków, aby mieć pewność, że nie jest to próba oszustwa.

Badania: www.iproov.com/blog/deepfakes-statistics-solutions-biometric-protection