Deepfake – co to jest, jak go rozpoznać i jak się chronić?

Deepfake to obraz, film lub nagranie dźwiękowe wygenerowane albo zmodyfikowane za pomocą sztucznej inteligencji w taki sposób, aby wyglądało na autentyczne. Technologia może naśladować twarz, głos, mimikę i sposób wypowiadania się konkretnej osoby. Dzięki temu odbiorca może odnieść wrażenie, że widzi lub słyszy zdarzenie, które nigdy nie miało miejsca.

Nie każdy deepfake powstaje w celu oszustwa. Takie materiały wykorzystuje się również w filmie, reklamie, edukacji, rozrywce i tworzeniu wersji językowych nagrań. Problem pojawia się wtedy, gdy sztucznie wygenerowana treść służy do podszywania się pod inne osoby, wyłudzania pieniędzy, niszczenia reputacji lub rozpowszechniania dezinformacji.

Co to jest deepfake?

Nazwa „deepfake” powstała z połączenia angielskich słów „deep learning”, czyli głębokie uczenie, oraz „fake”, oznaczającego fałszerstwo. Początkowo określenie odnoszono głównie do filmów, na których twarz jednej osoby zastępowano twarzą innej. Obecnie jego znaczenie jest szersze i obejmuje także syntetyczny głos, zmodyfikowane fotografie oraz całkowicie wygenerowane postacie i sytuacje.

NASK opisuje deepfake jako technologię opartą na sztucznej inteligencji, wykorzystującą między innymi generatywne sieci przeciwstawne i inne modele generatywne do tworzenia realistycznych treści wizualnych oraz dźwiękowych.

Podobną definicję zawiera unijny akt w sprawie sztucznej inteligencji. Zgodnie z nią deepfake to wygenerowany lub zmanipulowany przez AI obraz, dźwięk albo film przypominający istniejące osoby, miejsca, przedmioty lub zdarzenia, który może zostać niesłusznie uznany za autentyczny.

Kluczowe nie jest więc samo wykorzystanie sztucznej inteligencji, lecz stworzenie treści, która może przekonać odbiorcę, że przedstawia prawdziwą osobę albo rzeczywiste wydarzenie.

Jak powstaje deepfake?

System wykorzystujący sztuczną inteligencję analizuje materiały przedstawiające daną osobę. Mogą to być zdjęcia, filmy, wywiady, transmisje internetowe lub próbki głosu. Model uczy się charakterystycznych cech, takich jak:

• kształt i proporcje twarzy,
• mimika i ruchy ust,
• barwa oraz intonacja głosu,
• sposób wymawiania poszczególnych słów,
• gestykulacja i tempo wypowiedzi.

Na tej podstawie algorytm może zmodyfikować istniejące nagranie albo wygenerować nowe. Twarz może zostać nałożona na ciało innej osoby, ruch ust dopasowany do dowolnej wypowiedzi, a głos sklonowany na podstawie dostępnych próbek.

Zamiana twarzy

Jedną z najbardziej rozpoznawalnych odmian deepfake’u jest face swap, czyli zastąpienie twarzy osoby występującej w nagraniu twarzą kogoś innego. Algorytm dopasowuje rysy, mimikę, ułożenie głowy i oświetlenie do każdej klatki filmu.

Synchronizacja ruchu ust

Technologia może zmienić ruch ust osoby na nagraniu, aby wyglądało, że wypowiada ona zupełnie inne słowa. Odpowiednio przygotowany dźwięk zostaje połączony z obrazem i dopasowany do mimiki twarzy.

Klonowanie głosu

Deepfake nie musi zawierać obrazu. Na podstawie nagrań dostępnych w internecie można stworzyć syntetyczny głos imitujący konkretną osobę. Tak przygotowany materiał może zostać wykorzystany podczas rozmowy telefonicznej, w wiadomości głosowej lub na spotkaniu online.

Całkowicie wygenerowane postacie

Sztuczna inteligencja może również tworzyć ludzi, którzy w rzeczywistości nie istnieją. Dotyczy to zarówno pojedynczych zdjęć, jak i filmów przedstawiających syntetyczne postacie mówiące przygotowany tekst.

Rodzaje deepfake’ów

Deepfake często kojarzy się wyłącznie z filmem, jednak manipulacja może obejmować różne formaty.

Rodzaj materiału	Na czym polega manipulacja	Możliwe zastosowanie
Wideo	Zmiana twarzy, mimiki, ruchów ust lub całej postaci	Fałszywe wypowiedzi, reklamy, materiały rozrywkowe
Audio	Klonowanie głosu i sposobu mówienia	Telefoniczne wyłudzenia, dubbing, syntezatory mowy
Zdjęcie	Modyfikacja twarzy, sylwetki lub otoczenia	Fałszywe profile, dezinformacja, reklamy
Transmisja na żywo	Zmiana obrazu lub głosu w czasie rzeczywistym	Podszywanie się podczas wideokonferencji
Awatar cyfrowy	Wygenerowanie nieistniejącej postaci	Edukacja, obsługa klienta, prezentacje

Granica między klasyczną obróbką a deepfake’iem nie zawsze jest oczywista. Prosty retusz zdjęcia lub ręczny montaż filmu nie musi być deepfake’em. Określenie to stosuje się przede wszystkim do zaawansowanych materiałów syntetycznych tworzonych lub przekształcanych przy użyciu modeli sztucznej inteligencji.

Do czego wykorzystuje się deepfake?

Technologia ma zarówno legalne i praktyczne zastosowania, jak i zastosowania szkodliwe. Ocena konkretnego materiału zależy przede wszystkim od celu jego stworzenia, sposobu oznaczenia oraz zgody osób, których wizerunek lub głos został wykorzystany.

Film i telewizja

Deepfake może ułatwiać odmładzanie aktorów, modyfikowanie ruchu ust, tworzenie efektów specjalnych lub zastępowanie twarzy kaskadera twarzą aktora. Technologia może też pomóc w dokończeniu scen, których nie da się ponownie nagrać.

Dubbing i lokalizacja materiałów

Sztuczna inteligencja pozwala dopasować ruch ust do przetłumaczonej wypowiedzi. Dzięki temu film może sprawiać wrażenie nagranego od początku w języku odbiorcy.

Edukacja i kultura

Syntetyczne postacie mogą przedstawiać wydarzenia historyczne, oprowadzać po muzeum albo tłumaczyć skomplikowane zagadnienia. Warunkiem odpowiedzialnego wykorzystania jest jasne poinformowanie odbiorców, że materiał został wygenerowany.

Ochrona prywatności

Zmiana twarzy lub głosu może służyć anonimizacji świadków, uczestników dokumentu albo osób wymagających szczególnej ochrony. W takim przypadku technologia ukrywa tożsamość zamiast ją przywłaszczać.

Dezinformacja i manipulacja

Sfałszowane wypowiedzi polityków, urzędników, dziennikarzy lub przedstawicieli instytucji mogą być wykorzystywane do wywołania paniki, wpływania na opinię publiczną albo osłabiania zaufania do mediów i państwa. Materiały tego rodzaju często rozprzestrzeniają się w mediach społecznościowych bez kontekstu i bez wskazania pierwotnego źródła.

Oszustwa finansowe

Fałszywe nagrania znanych osób są wykorzystywane w reklamach rzekomych platform inwestycyjnych, kryptowalut lub programów szybkiego zarabiania. Komisja Nadzoru Finansowego ostrzega, że technologia może służyć do naśladowania wyglądu, głosu i zachowania konkretnej osoby w celu stworzenia wiarygodnie brzmiącego oszustwa.

W firmach zagrożeniem może być również podszywanie się pod przełożonego, kontrahenta lub członka zarządu. Pracownik otrzymuje wtedy telefon, wiadomość głosową albo zaproszenie na wideokonferencję z pilnym poleceniem wykonania przelewu lub przekazania poufnych danych.

Dlaczego deepfake jest niebezpieczny?

Największym zagrożeniem nie jest sama możliwość tworzenia fałszywych treści. Fotografie i filmy były przerabiane na długo przed rozwojem generatywnej sztucznej inteligencji. Nowością jest szybkość, dostępność i jakość takich manipulacji.

Do przygotowania wiarygodnego materiału nie zawsze jest już potrzebne specjalistyczne studio. Oszust może korzystać z publicznie dostępnych zdjęć, filmów i nagrań głosu, a następnie wygenerować treść dostosowaną do konkretnej ofiary.

Podszywanie się pod bliską osobę

Przestępca może zadzwonić głosem przypominającym dziecko, małżonka lub innego członka rodziny. Zazwyczaj opowiada o wypadku, zatrzymaniu, utracie telefonu lub konieczności natychmiastowego opłacenia pomocy.

Presja czasu ogranicza możliwość spokojnej weryfikacji. Oszust może dodatkowo prosić, aby nie kończyć rozmowy i nie kontaktować się z nikim innym.

Fałszywe rekomendacje inwestycji

Wizerunki znanych przedsiębiorców, polityków, lekarzy, dziennikarzy i celebrytów bywają umieszczane w spreparowanych reklamach. Osoba przedstawiona na filmie rzekomo zachęca do dokonania wpłaty, zakupu produktu lub zarejestrowania się na określonej stronie.

Sama obecność rozpoznawalnej twarzy nie potwierdza wiarygodności reklamy. Materiał powinien zostać zweryfikowany w oficjalnych kanałach osoby lub instytucji, która rzekomo go opublikowała.

Kradzież tożsamości i reputacji

Deepfake może przedstawiać człowieka w kompromitującej, przestępczej lub intymnej sytuacji. Nawet po wykazaniu, że materiał został sfałszowany, jego kopie mogą nadal krążyć w internecie.

Szczególnie dotkliwe skutki mogą dotyczyć osób prywatnych, które nie dysponują zespołem prawnym ani rozbudowanymi kanałami komunikacji umożliwiającymi szybkie sprostowanie.

Szantaż

Przestępca może zagrozić publikacją spreparowanego filmu lub zdjęcia i żądać pieniędzy za jego nieudostępnianie. Zapłata nie gwarantuje usunięcia materiału ani zakończenia żądań.

Podważanie prawdziwych dowodów

Rozwój deepfake’ów wywołuje także odwrotny problem. Osoba zarejestrowana na prawdziwym nagraniu może twierdzić, że materiał został wygenerowany przez sztuczną inteligencję. Sama świadomość istnienia deepfake’ów może więc osłabiać zaufanie również do autentycznych nagrań.

Jak rozpoznać deepfake?

Nie istnieje jedna cecha, która w każdym przypadku pozwala jednoznacznie rozpoznać manipulację. Jakość generowanych materiałów stale się poprawia, a część widocznych wcześniej błędów występuje coraz rzadziej.

Dlatego należy oceniać jednocześnie sam materiał, kontekst jego publikacji, źródło oraz zachowanie osoby, która próbuje skłonić odbiorcę do określonego działania.

Nienaturalne ruchy twarzy

Podejrzenia mogą wzbudzić:

• sztywna albo przesadna mimika,
• nieregularne mruganie,
• nienaturalny ruch ust,
• znikające zmarszczki lub zarost,
• zmiana kształtu twarzy podczas obracania głowy,
• niewyraźne krawędzie policzków, uszu lub włosów.

Pojedyncze zniekształcenie nie jest jednak dowodem. Podobne błędy mogą wynikać z kompresji filmu, słabego połączenia internetowego, filtra w aplikacji lub niskiej jakości kamery.

Problemy ze światłem i cieniami

W sztucznie zmodyfikowanym nagraniu oświetlenie twarzy może nie pasować do otoczenia. Cienie mogą padać w niewłaściwym kierunku, a odbicia w oczach, okularach lub biżuterii mogą zmieniać się w sposób niespójny.

Niedopasowanie głosu do obrazu

Warto zwrócić uwagę na opóźnienia między dźwiękiem a ruchem ust, niewłaściwą artykulację, mechaniczną intonację oraz nagłe zmiany barwy głosu. Podejrzane mogą być też wypowiedzi pozbawione naturalnych oddechów, pauz i emocji.

Jednocześnie zwykłe problemy techniczne podczas transmisji mogą powodować podobne objawy. Nie należy więc podejmować decyzji wyłącznie na podstawie jakości synchronizacji.

Niespójności w szczegółach

Modele generatywne mogą mieć trudności z prawidłowym przedstawieniem drobnych elementów. Warto sprawdzić dłonie, zęby, uszy, okulary, kolczyki, napisy, logotypy i elementy znajdujące się w tle.

Sygnałem ostrzegawczym może być przedmiot, który zmienia kształt, znika albo przenika przez ciało podczas ruchu.

Nietypowa treść wypowiedzi

Czasami sam film wygląda poprawnie, ale jego treść nie pasuje do zachowania, poglądów, kompetencji lub sposobu komunikowania się przedstawionej osoby.

Nagła rekomendacja nieznanej inwestycji, prośba o tajny przelew, wezwanie do natychmiastowego działania albo sensacyjne oświadczenie powinny zostać potwierdzone w innych źródłach.

Brak wiarygodnego źródła

Materiał przesłany przez anonimowe konto, opublikowany wyłącznie na jednej stronie lub pozbawiony pełnej wersji wymaga szczególnej ostrożności. Warto sprawdzić, kto opublikował go po raz pierwszy i czy pojawił się w oficjalnym kanale przedstawionej osoby.

Jak zweryfikować podejrzany film lub nagranie?

Najskuteczniejsza weryfikacja nie polega wyłącznie na szukaniu błędów technicznych. Dobrze przygotowany deepfake może nie zawierać widocznych zniekształceń. Znacznie ważniejsze jest potwierdzenie informacji poza samym materiałem.

1. Zatrzymaj się przed wykonaniem polecenia

Nie klikaj od razu w link, nie instaluj aplikacji i nie wysyłaj pieniędzy. Jeżeli rozmówca wywiera presję, przerwij kontakt i rozpocznij niezależną weryfikację.

Pilność, tajemnica i zakaz konsultowania się z innymi osobami to typowe elementy socjotechniki.

2. Znajdź pierwotne źródło

Sprawdź, czy nagranie zostało opublikowane na oficjalnej stronie, profilu społecznościowym albo kanale osoby, którą przedstawia. Zwróć uwagę na historię konta, nazwę użytkownika i wcześniejsze publikacje.

Fałszywe profile często korzystają z podobnej nazwy, skopiowanego zdjęcia i niewielkiej liczby wcześniejszych wpisów.

3. Poszukaj pełnej wersji materiału

Krótki, kilkusekundowy fragment może zostać wyrwany z kontekstu albo połączony z innym dźwiękiem. Warto odnaleźć pełne wystąpienie, konferencję, wywiad lub transmisję.

Jeżeli materiał przedstawia ważne oświadczenie publiczne, prawdopodobnie powinny istnieć także niezależne relacje wiarygodnych mediów.

4. Sprawdź inne źródła

Jedno nagranie nie powinno być podstawą poważnej decyzji. Sensacyjną wiadomość należy porównać z komunikatami instytucji, serwisów informacyjnych i innych niezależnych źródeł.

Brak potwierdzenia nie zawsze oznacza fałszerstwo, ale powinien powstrzymać odbiorcę przed natychmiastowym działaniem.

5. Skontaktuj się innym kanałem

Gdy ktoś prosi o pieniądze lub dane, zadzwoń na wcześniej znany numer, napisz w innym komunikatorze albo skontaktuj się z osobą trzecią.

Nie korzystaj z numeru, adresu e-mail ani linku przesłanego w podejrzanej wiadomości. Mogą one prowadzić bezpośrednio do oszusta.

6. Ustal hasło rodzinne lub firmową procedurę

Rodzina może ustalić proste pytanie lub poufne hasło używane w nagłych sytuacjach. W firmie zlecenia przelewów i zmiany numerów rachunków powinny wymagać potwierdzenia przez drugi kanał oraz akceptacji więcej niż jednej osoby.

Hasło nie powinno wynikać z publicznie dostępnych informacji, takich jak data urodzenia, imię zwierzęcia czy nazwa szkoły.

7. Zachowaj materiał i dane kontaktowe

Jeżeli podejrzewasz oszustwo, zrób zrzuty ekranu, zapisz adres strony, nazwę konta, numer telefonu, datę kontaktu i treść wiadomości. Nie edytuj oryginalnych plików, ponieważ mogą mieć znaczenie przy zgłoszeniu sprawy.

Czy detektor deepfake’ów daje pewny wynik?

Narzędzia analizujące obraz lub dźwięk mogą wykrywać charakterystyczne ślady generowania, niespójności między klatkami, błędy synchronizacji albo nietypowe właściwości pliku. Nie należy jednak traktować ich wyniku jako ostatecznego dowodu.

Skuteczność detektora zależy między innymi od rodzaju modelu użytego do stworzenia deepfake’u, jakości nagrania, kompresji i tego, czy materiał został ponownie zarejestrowany lub przerobiony. Jednocześnie twórcy fałszywych treści mogą optymalizować materiały tak, aby omijały znane metody wykrywania.

Automatyczny wynik powinien być jednym z elementów analizy, obok sprawdzenia źródła, kontekstu, metadanych oraz niezależnych potwierdzeń. Problemy związane z niezawodnością automatycznych metod wykrywania są od lat przedmiotem badań nad deepfake’ami.

Jak chronić się przed oszustwem wykorzystującym deepfake?

Nie można całkowicie wyeliminować ryzyka skopiowania publicznie dostępnej twarzy lub głosu. Można jednak ograniczyć liczbę materiałów użytecznych dla oszustów i utrudnić im wykorzystanie fałszywego nagrania.

Ograniczaj publiczne próbki głosu i wizerunku

Warto świadomie decydować, które nagrania są dostępne publicznie. Szczególnej ostrożności wymagają długie filmy z wyraźnym głosem, nagrania twarzy z wielu ujęć oraz treści ujawniające dane o rodzinie, pracy i codziennych zwyczajach.

Samo usunięcie materiału nie daje pewności, że wcześniej nie został skopiowany, ale ograniczenie publicznej ekspozycji może zmniejszyć ryzyko.

Nie ufaj wyłącznie twarzy i głosowi

Widok znanej osoby na ekranie lub znajomy głos w słuchawce nie powinny być jedynym potwierdzeniem tożsamości. Przy decyzjach finansowych należy stosować dodatkowy etap weryfikacji.

Może nim być połączenie zwrotne na zapisany numer, pytanie o wcześniej uzgodnione hasło, potwierdzenie w bankowości elektronicznej albo kontakt z drugą osobą w firmie.

Włącz uwierzytelnianie wieloskładnikowe

Deepfake może pomóc oszustowi zdobyć zaufanie, ale nie musi dawać mu dostępu do konta. Uwierzytelnianie wieloskładnikowe utrudnia przejęcie poczty elektronicznej, mediów społecznościowych i innych usług nawet wtedy, gdy przestępca zna hasło.

Oddzielaj kanał rozmowy od kanału potwierdzenia

Polecenia otrzymanego przez telefon nie należy potwierdzać podczas tej samej rozmowy. Podobnie prośby przesłanej e-mailem nie powinno się weryfikować przez odpowiedź na ten sam adres.

Im ważniejsza decyzja, tym bardziej niezależny powinien być kanał potwierdzenia.

Wprowadź zasady dotyczące przelewów

W firmach szczególnie istotne są procedury obejmujące:

• podwójną akceptację przelewów,
• telefoniczne potwierdzanie zmiany numeru rachunku,
• zakaz realizowania pilnych płatności wyłącznie na podstawie nagrania,
• ograniczenie uprawnień pracowników,
• szkolenia z rozpoznawania socjotechniki,
• zgłaszanie nietypowych próśb bez obawy przed konsekwencjami.

Procedura powinna obowiązywać także wtedy, gdy polecenie wydaje osoba zajmująca najwyższe stanowisko.

Co zrobić po otrzymaniu fałszywego nagrania?

Sposób działania zależy od tego, czy materiał jest jedynie podejrzany, czy został już wykorzyst