Deepfake przestał być internetową ciekawostką i stał się narzędziem oszustwa, manipulacji i dezinformacji. NASK zapowiada prezentację technologii wykrywania fałszywych materiałów oraz ochrony przed nadużyciami w sieci podczas wrześniowej konferencji Transfer Technology Day.

Generatywna sztuczna inteligencja pozwala dziś tworzyć wiarygodnie wyglądające nagrania twarzy i głosu przy znacznie mniejszych kosztach niż jeszcze kilka lat temu. Skutkiem jest nie tylko zalew zabawnych przeróbek. Deepfake może podszywać się pod prezesa firmy, polityka, członka rodziny czy znaną osobę i zostać wykorzystany do wyłudzenia pieniędzy lub wpływania na opinię publiczną.

NASK zapowiedział, że podczas konferencji 22–23 września pokaże m.in. technologię DROZD – Deepfake Detector, a także rozwiązania BotSense do ochrony przed oszustwami internetowymi i FLDX związane z ochroną przed atakami DDoS. Wydarzenie ma połączyć środowisko naukowe, sektor publiczny i biznes.

Detektor nie zastąpi procedur bezpieczeństwa

Wykrywanie deepfake nie sprowadza się do jednego „magicznego” testu. Systemy analizują cechy obrazu, dźwięku i sposobu generowania materiału, szukając wzorców typowych dla syntetycznej treści. Problem polega na tym, że modele generujące również szybko się poprawiają. To wyścig pomiędzy narzędziami tworzącymi i wykrywającymi fałszywy obraz.

Dla zwykłego użytkownika najważniejsza pozostaje zasada ograniczonego zaufania. Jeśli nagranie niespodziewanie prosi o przelew, podanie kodu, hasła albo pilną zmianę decyzji, warto potwierdzić informację drugim kanałem. Rozmowa telefoniczna z osobą, której rzekomo dotyczy wiadomość, może być skuteczniejszym zabezpieczeniem niż próba samodzielnej analizy pikseli.

Firmy mają trudniejsze zadanie, bo oszuści mogą łączyć deepfake z prawdziwymi danymi pracowników i wiedzą o procesach wewnętrznych. Dlatego techniczne detektory powinny być tylko jednym z elementów ochrony obok zasad autoryzacji przelewów, wieloetapowego potwierdzania dyspozycji i szkoleń z socjotechniki.

AI przyspiesza także obronę

NASK równolegle rozwija narzędzia CERT Polska do wcześniejszego wykrywania podatności i reagowania na incydenty. Instytut wskazuje, że sztuczna inteligencja przyspiesza zarówno działania cyberprzestępców, jak i obrońców. Czas od ujawnienia podatności do pierwszych prób jej wykorzystania staje się coraz krótszy.

Najbliższe lata przyniosą zapewne coraz więcej automatycznej weryfikacji treści. Nie rozwiąże to jednak problemu całkowicie. Technologia może wskazać ryzyko, ale odbiorca nadal będzie musiał ocenić kontekst, źródło i cel wiadomości. W erze generatywnej AI cyfrowa ostrożność staje się elementem podstawowej higieny bezpieczeństwa.

Osobnym problemem jest głos syntetyczny. Do oszustwa nie potrzeba już realistycznego filmu; czasem wystarczy krótka próbka głosu opublikowana w sieci. Model może na jej podstawie wygenerować wypowiedź brzmiącą wystarczająco podobnie, aby w stresującej sytuacji przekonać rozmówcę. To szczególnie groźne w scenariuszach „na członka rodziny” albo w fałszywych poleceniach służbowych.

Instytucje i media będą musiały wypracować sposób opisywania pewności detekcji. Narzędzie wykrywające deepfake może zwrócić wysokie prawdopodobieństwo manipulacji, ale nie zawsze będzie to jednoznaczny dowód. Fałszywe alarmy są możliwe, dlatego decyzje reputacyjne i prawne nie powinny opierać się wyłącznie na automatycznym wyniku.

Znaczenie mają również metadane i pochodzenie materiału. Coraz więcej systemów pracuje nad mechanizmami pozwalającymi potwierdzić, że obraz lub nagranie powstało w określonym urządzeniu albo zostało zmienione po publikacji. Takie rozwiązania nie eliminują fałszerstw, ale mogą ułatwiać weryfikację materiałów w redakcjach i instytucjach.

Dla użytkownika końcowego najważniejsza pozostaje prosta procedura: zatrzymać się przed wykonaniem pilnej prośby, potwierdzić tożsamość rozmówcy drugim kanałem i nie traktować samego obrazu czy głosu jako dowodu autentyczności. Właśnie tę zmianę nawyków wymusza epoka generatywnej sztucznej inteligencji.

Jeśli narzędzia NASK będą skuteczne, mogą trafić nie tylko do administracji, lecz także do banków, firm i mediów. To obszary, w których szybka ocena materiału ma bezpośrednie znaczenie dla bezpieczeństwa finansowego i wiarygodności informacji.

Weryfikacja będzie coraz ważniejsza również w kampaniach wyborczych i kryzysach międzynarodowych. Fałszywe nagranie opublikowane w odpowiednim momencie może wywołać reakcję zanim zostanie zdementowane. Z tego powodu szybkość detekcji staje się równie istotna jak jej dokładność.

Technologia rozwiązuje część problemów, ale jednocześnie tworzy nowe zależności. Dlatego użytkownik powinien łączyć wygodę cyfrowych narzędzi z podstawowymi zasadami bezpieczeństwa i weryfikacji informacji.

Technologia rozwiązuje część problemów, ale jednocześnie tworzy nowe zależności. Dlatego użytkownik powinien łączyć wygodę cyfrowych narzędzi z podstawowymi zasadami bezpieczeństwa i weryfikacji informacji.

Technologia rozwiązuje część problemów, ale jednocześnie tworzy nowe zależności. Dlatego użytkownik powinien łączyć wygodę cyfrowych narzędzi z podstawowymi zasadami bezpieczeństwa i weryfikacji informacji.

Technologia rozwiązuje część problemów, ale jednocześnie tworzy nowe zależności. Dlatego użytkownik powinien łączyć wygodę cyfrowych narzędzi z podstawowymi zasadami bezpieczeństwa i weryfikacji informacji.

Źródła

NASK Science – Transfer Technology Day: https://www.science.nask.pl/news/18750

NASK/CERT Polska – nowe rozwiązania: https://www.nask.pl/aktualnosci/zanim-podatnosc-stanie-sie-incydentem-nowe-rozwiazania-cert-polska