Usłyszeć znajomy głos, zobaczyć twarz i obejrzeć nagranie zdarzenia — to może już nie wystarczyć, aby ustalić, co rzeczywiście się wydarzyło. Rozwój sztucznej inteligencji umożliwił tworzenie materiałów, w których prawdziwym osobom przypisuje się słowa, gesty i zachowania, które nigdy nie miały miejsca. Odpowiedzią na te zagrożenia jest rozwój metod śledczych pozwalających badać pochodzenie, integralność i autentyczność materiałów cyfrowych.
Od fałszywej informacji do fałszywego obrazu rzeczywistości
Fałszowanie informacji nie jest zjawiskiem nowym. Nową jakość stanowią jednak możliwości technologiczne: odtworzenie czyjegoś głosu, podmiana twarzy czy wygenerowanie przekonującej wypowiedzi pozwalają stworzyć pozorny zapis rzeczywistości. Manipulacja może dotyczyć nie tylko sposobu przedstawienia zdarzenia, lecz także samego jego „zaistnienia” w materiale cyfrowym.
Deepfake to określenie materiałów tworzonych lub modyfikowanych przy użyciu sztucznej inteligencji, które mogą przekonująco naśladować wygląd albo głos człowieka. Nagranie może być całkowicie syntetyczne, ale ingerencja może również obejmować tylko fragment autentycznego materiału — na przykład wypowiedziane słowa lub twarz jednej osoby. Problematyka ta jest częścią szerszego zagadnienia autentyczności i pochodzenia treści cyfrowych. [1]
Ma to znaczenie wykraczające poza internetową dezinformację. Wyobraźmy sobie przedsiębiorcę otrzymującego wiadomość głosową, w której jego wspólnik poleca pilny przelew. Albo osobę, której rozpowszechniane nagranie przypisuje obraźliwą wypowiedź. W obu sytuacjach podobieństwo głosu lub wizerunku może skłonić odbiorców do uznania materiału za prawdziwy, zanim ktokolwiek sprawdzi jego pochodzenie.
Gdy spreparowane nagranie staje się dowodem
Szczególne zagrożenie pojawia się wtedy, gdy zmanipulowany materiał ma potwierdzać określony przebieg zdarzeń w sporze.
Hipotetyczne nagranie może przedstawiać przyznanie się do długu, zgodę na zawarcie umowy, kierowanie gróźb albo rozmowę o przekazaniu pieniędzy. Jeżeli wypowiedź została wygenerowana, materiał tworzy pozór zdarzenia, do którego w rzeczywistości nie doszło.
Dlatego trzeba rozdzielić kilka pytań: czy rozpoznajemy osobę na nagraniu, czy plik pochodzi z deklarowanego źródła, czy jego treść została zmieniona i czy przedstawiony fragment zachowuje właściwy kontekst. Badanie źródła materiału oraz badanie ingerencji w jego treść mogą wymagać odmiennych metod. [2]
Istnieje także zagrożenie odwrotne: możliwość powołania się na deepfake jako wygodne wyjaśnienie autentycznego, lecz niewygodnego nagrania. Z perspektywy oceny dowodowej potrzebna jest więc ostrożność w obu kierunkach. Samo przekonujące brzmienie wypowiedzi nie rozstrzyga o jej autentyczności, podobnie jak samo oskarżenie o użycie AI nie dowodzi fałszerstwa.
Nie każda manipulacja wymaga sztucznej inteligencji
Problem wiarygodności nagrań jest szerszy niż deepfake. Znaczenie wypowiedzi można zmienić przez usunięcie pytania, wycięcie zastrzeżenia, połączenie odległych fragmentów rozmowy lub dodanie mylącego opisu.
Przykładowo odpowiedź „tak” może odnosić się do zupełnie innej kwestii niż sugeruje skrócony materiał. Nawet autentyczny głos nie gwarantuje zatem, że przedstawiona wersja rozmowy wiernie oddaje jej przebieg.
To ważne rozróżnienie dla sposobu badania: pytanie o wykorzystanie AI nie powinno przesłaniać możliwości zwykłego montażu ani pominięcia istotnego kontekstu.
Jak współczesne metody śledcze badają nagrania?
Analiza nie kończy się na obejrzeniu filmu lub odsłuchaniu rozmowy. Może obejmować zarówno treść, jak i techniczną budowę materiału:
- badanie pochodzenia pliku — ustalenie, czy jego cechy odpowiadają deklarowanemu sposobowi rejestracji;
- analizę metadanych i kodowania — poszukiwanie informacji o urządzeniach, oprogramowaniu i przetwarzaniu;
- badanie obrazu i dźwięku — poszukiwanie śladów ingerencji oraz niespójności;
- porównanie z materiałem referencyjnym — na przykład nagraniem z deklarowanego urządzenia;
- wykorzystanie detektorów AI — ocenę cech mogących wskazywać na syntetyczne pochodzenie materiału.
Dobór metod zależy od rodzaju pliku, jego jakości i pytania, na które badanie ma odpowiedzieć. Wytyczne SWGDE zalecają łączenie różnych metod, kiedy jest to możliwe, ponieważ każda z nich ma ograniczenia. [2] [3]
Dlaczego samo mruganie i ruch ust nie wystarczą?
Nienaturalna mimika, niespójne oświetlenie czy rozbieżność między głosem a ruchem ust mogą zwracać uwagę. Nie tworzą jednak uniwersalnego testu autentyczności.
Metody generowania zmieniają się, a detektor skuteczny wobec jednej techniki może słabiej rozpoznawać inną. Dodatkowym utrudnieniem są kompresja, zmiana rozdzielczości i dalsze przetwarzanie nagrania. NIST wskazuje odporność na takie zmiany oraz zdolność wykrywania materiałów pochodzących z nowych generatorów jako istotne wyzwania badawcze. [4]
Podejrzany szczegół wymaga więc wyjaśnienia. Może wynikać z manipulacji, lecz również z właściwości zapisu lub przetwarzania obrazu.
Detektor AI nie wydaje wyroku
Automatyczny wynik wymaga interpretacji. Komunikat „90% deepfake” nie musi oznaczać 90-procentowego prawdopodobieństwa, że konkretny dowód został sfałszowany. Znaczenie wyniku zależy od konstrukcji narzędzia, jego kalibracji i warunków zastosowania.
Możliwe są zarówno fałszywe alarmy, jak i niewykrycie materiału syntetycznego. Ocena narzędzia powinna obejmować jego skuteczność wobec materiałów odpowiadających rzeczywistym warunkom użycia. NIST analizuje te zagadnienia w pracach dotyczących wykrywania treści syntetycznych i oceny technologii detekcji. [1] [4]
Brak wykrytych śladów manipulacji nie jest tym samym co potwierdzenie autentyczności. Czasami dostępny materiał pozwala jedynie na ostrożny wniosek albo nie pozwala rozstrzygnąć wątpliwości.
Dlaczego warto zachować plik źródłowy?
Kolejne kopie, eksporty i przekazanie materiału przez komunikator mogą zmieniać jego właściwości techniczne. Do rzetelnego badania warto więc zachować plik źródłowy, informacje o jego pozyskaniu oraz — jeżeli jest dostępne — urządzenie rejestrujące.
Istotne jest również udokumentowanie dalszego postępowania z materiałem. Pozwala to oddzielić zmiany powstałe przed zabezpieczeniem od późniejszych czynności technicznych. Wytyczne analizy nagrań zwracają uwagę na właściwe postępowanie z materiałem oraz dokumentowanie przeprowadzonych badań. [5]
Co sprawdzić w opinii dotyczącej nagrania?
Praktyczne znaczenie mają odpowiedzi na pytania:
- Jaki dokładnie plik zbadano i skąd go uzyskano?
- Czy dostępny był materiał źródłowy?
- Jakie narzędzia i metody zastosowano?
- Czy były odpowiednie dla rodzaju i jakości nagrania?
- Jakie ograniczenia mogły wpłynąć na wynik?
- Czy sposób badania pozwala odtworzyć i sprawdzić wnioski?
SWGDE podkreśla znaczenie systematyczności, powtarzalności oraz stosowania zwalidowanych narzędzi i metod. Takie wymagania pomagają ocenić podstawy opinii, zamiast poprzestawać na samym końcowym stwierdzeniu eksperta. [2]
Rozwój deepfake sprawia, że pytanie „co widać i słychać?” trzeba uzupełnić pytaniem „jak ten materiał powstał?”. Współczesna kryminalistyka rozwija narzędzia pozwalające szukać odpowiedzi, a ich wartość zależy od rzetelnego zastosowania i przejrzystego przedstawienia ograniczeń. Siła nagrania jako dowodu powinna wynikać z możliwości zweryfikowania jego wiarygodności.
Źródła
- NIST, Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency (2024).
- SWGDE, Best Practices for Digital Video Authentication, 23-V-001-1.2 (2024).
- SWGDE, Best Practices for Digital Audio Authentication.
- NIST, Guardians of Forensic Evidence.
- SWGDE, Best Practices for Digital Forensic Video Analysis.