Deepfake przesta\u0142 by\u0107 internetow\u0105 ciekawostk\u0105 i sta\u0142 si\u0119 narz\u0119dziem oszustwa, manipulacji i dezinformacji. NASK zapowiada prezentacj\u0119 technologii wykrywania fa\u0142szywych materia\u0142\u00f3w oraz ochrony przed nadu\u017cyciami w sieci podczas wrze\u015bniowej konferencji Transfer Technology Day.<\/p>\n\n\n
Generatywna sztuczna inteligencja pozwala dzi\u015b tworzy\u0107 wiarygodnie wygl\u0105daj\u0105ce nagrania twarzy i g\u0142osu przy znacznie mniejszych kosztach ni\u017c jeszcze kilka lat temu. Skutkiem jest nie tylko zalew zabawnych przer\u00f3bek. Deepfake mo\u017ce podszywa\u0107 si\u0119 pod prezesa firmy, polityka, cz\u0142onka rodziny czy znan\u0105 osob\u0119 i zosta\u0107 wykorzystany do wy\u0142udzenia pieni\u0119dzy lub wp\u0142ywania na opini\u0119 publiczn\u0105.<\/p>\n\n\n
NASK zapowiedzia\u0142, \u017ce podczas konferencji 22\u201323 wrze\u015bnia poka\u017ce m.in. technologi\u0119 DROZD \u2013 Deepfake Detector, a tak\u017ce rozwi\u0105zania BotSense do ochrony przed oszustwami internetowymi i FLDX zwi\u0105zane z ochron\u0105 przed atakami DDoS. Wydarzenie ma po\u0142\u0105czy\u0107 \u015brodowisko naukowe, sektor publiczny i biznes.<\/p>\n\n\n
Wykrywanie deepfake nie sprowadza si\u0119 do jednego \u201emagicznego\u201d testu. Systemy analizuj\u0105 cechy obrazu, d\u017awi\u0119ku i sposobu generowania materia\u0142u, szukaj\u0105c wzorc\u00f3w typowych dla syntetycznej tre\u015bci. Problem polega na tym, \u017ce modele generuj\u0105ce r\u00f3wnie\u017c szybko si\u0119 poprawiaj\u0105. To wy\u015bcig pomi\u0119dzy narz\u0119dziami tworz\u0105cymi i wykrywaj\u0105cymi fa\u0142szywy obraz.<\/p>\n\n\n
Dla zwyk\u0142ego u\u017cytkownika najwa\u017cniejsza pozostaje zasada ograniczonego zaufania. Je\u015bli nagranie niespodziewanie prosi o przelew, podanie kodu, has\u0142a albo piln\u0105 zmian\u0119 decyzji, warto potwierdzi\u0107 informacj\u0119 drugim kana\u0142em. Rozmowa telefoniczna z osob\u0105, kt\u00f3rej rzekomo dotyczy wiadomo\u015b\u0107, mo\u017ce by\u0107 skuteczniejszym zabezpieczeniem ni\u017c pr\u00f3ba samodzielnej analizy pikseli.<\/p>\n\n\n
Firmy maj\u0105 trudniejsze zadanie, bo oszu\u015bci mog\u0105 \u0142\u0105czy\u0107 deepfake z prawdziwymi danymi pracownik\u00f3w i wiedz\u0105 o procesach wewn\u0119trznych. Dlatego techniczne detektory powinny by\u0107 tylko jednym z element\u00f3w ochrony obok zasad autoryzacji przelew\u00f3w, wieloetapowego potwierdzania dyspozycji i szkole\u0144 z socjotechniki.<\/p>\n\n\n
NASK r\u00f3wnolegle rozwija narz\u0119dzia CERT Polska do wcze\u015bniejszego wykrywania podatno\u015bci i reagowania na incydenty. Instytut wskazuje, \u017ce sztuczna inteligencja przyspiesza zar\u00f3wno dzia\u0142ania cyberprzest\u0119pc\u00f3w, jak i obro\u0144c\u00f3w. Czas od ujawnienia podatno\u015bci do pierwszych pr\u00f3b jej wykorzystania staje si\u0119 coraz kr\u00f3tszy.<\/p>\n\n\n
Najbli\u017csze lata przynios\u0105 zapewne coraz wi\u0119cej automatycznej weryfikacji tre\u015bci. Nie rozwi\u0105\u017ce to jednak problemu ca\u0142kowicie. Technologia mo\u017ce wskaza\u0107 ryzyko, ale odbiorca nadal b\u0119dzie musia\u0142 oceni\u0107 kontekst, \u017ar\u00f3d\u0142o i cel wiadomo\u015bci. W erze generatywnej AI cyfrowa ostro\u017cno\u015b\u0107 staje si\u0119 elementem podstawowej higieny bezpiecze\u0144stwa.<\/p>\n\n\n
Osobnym problemem jest g\u0142os syntetyczny. Do oszustwa nie potrzeba ju\u017c realistycznego filmu; czasem wystarczy kr\u00f3tka pr\u00f3bka g\u0142osu opublikowana w sieci. Model mo\u017ce na jej podstawie wygenerowa\u0107 wypowied\u017a brzmi\u0105c\u0105 wystarczaj\u0105co podobnie, aby w stresuj\u0105cej sytuacji przekona\u0107 rozm\u00f3wc\u0119. To szczeg\u00f3lnie gro\u017ane w scenariuszach \u201ena cz\u0142onka rodziny\u201d albo w fa\u0142szywych poleceniach s\u0142u\u017cbowych.<\/p>\n\n\n
Instytucje i media b\u0119d\u0105 musia\u0142y wypracowa\u0107 spos\u00f3b opisywania pewno\u015bci detekcji. Narz\u0119dzie wykrywaj\u0105ce deepfake mo\u017ce zwr\u00f3ci\u0107 wysokie prawdopodobie\u0144stwo manipulacji, ale nie zawsze b\u0119dzie to jednoznaczny dow\u00f3d. Fa\u0142szywe alarmy s\u0105 mo\u017cliwe, dlatego decyzje reputacyjne i prawne nie powinny opiera\u0107 si\u0119 wy\u0142\u0105cznie na automatycznym wyniku.<\/p>\n\n\n
Znaczenie maj\u0105 r\u00f3wnie\u017c metadane i pochodzenie materia\u0142u. Coraz wi\u0119cej system\u00f3w pracuje nad mechanizmami pozwalaj\u0105cymi potwierdzi\u0107, \u017ce obraz lub nagranie powsta\u0142o w okre\u015blonym urz\u0105dzeniu albo zosta\u0142o zmienione po publikacji. Takie rozwi\u0105zania nie eliminuj\u0105 fa\u0142szerstw, ale mog\u0105 u\u0142atwia\u0107 weryfikacj\u0119 materia\u0142\u00f3w w redakcjach i instytucjach.<\/p>\n\n\n
Dla u\u017cytkownika ko\u0144cowego najwa\u017cniejsza pozostaje prosta procedura: zatrzyma\u0107 si\u0119 przed wykonaniem pilnej pro\u015bby, potwierdzi\u0107 to\u017csamo\u015b\u0107 rozm\u00f3wcy drugim kana\u0142em i nie traktowa\u0107 samego obrazu czy g\u0142osu jako dowodu autentyczno\u015bci. W\u0142a\u015bnie t\u0119 zmian\u0119 nawyk\u00f3w wymusza epoka generatywnej sztucznej inteligencji.<\/p>\n\n\n
Je\u015bli narz\u0119dzia NASK b\u0119d\u0105 skuteczne, mog\u0105 trafi\u0107 nie tylko do administracji, lecz tak\u017ce do bank\u00f3w, firm i medi\u00f3w. To obszary, w kt\u00f3rych szybka ocena materia\u0142u ma bezpo\u015brednie znaczenie dla bezpiecze\u0144stwa finansowego i wiarygodno\u015bci informacji.<\/p>\n\n\n
Weryfikacja b\u0119dzie coraz wa\u017cniejsza r\u00f3wnie\u017c w kampaniach wyborczych i kryzysach mi\u0119dzynarodowych. Fa\u0142szywe nagranie opublikowane w odpowiednim momencie mo\u017ce wywo\u0142a\u0107 reakcj\u0119 zanim zostanie zdementowane. Z tego powodu szybko\u015b\u0107 detekcji staje si\u0119 r\u00f3wnie istotna jak jej dok\u0142adno\u015b\u0107.<\/p>\n\n\n
Technologia rozwi\u0105zuje cz\u0119\u015b\u0107 problem\u00f3w, ale jednocze\u015bnie tworzy nowe zale\u017cno\u015bci. Dlatego u\u017cytkownik powinien \u0142\u0105czy\u0107 wygod\u0119 cyfrowych narz\u0119dzi z podstawowymi zasadami bezpiecze\u0144stwa i weryfikacji informacji.<\/p>\n\n\n
Technologia rozwi\u0105zuje cz\u0119\u015b\u0107 problem\u00f3w, ale jednocze\u015bnie tworzy nowe zale\u017cno\u015bci. Dlatego u\u017cytkownik powinien \u0142\u0105czy\u0107 wygod\u0119 cyfrowych narz\u0119dzi z podstawowymi zasadami bezpiecze\u0144stwa i weryfikacji informacji.<\/p>\n\n\n
Technologia rozwi\u0105zuje cz\u0119\u015b\u0107 problem\u00f3w, ale jednocze\u015bnie tworzy nowe zale\u017cno\u015bci. Dlatego u\u017cytkownik powinien \u0142\u0105czy\u0107 wygod\u0119 cyfrowych narz\u0119dzi z podstawowymi zasadami bezpiecze\u0144stwa i weryfikacji informacji.<\/p>\n\n\n
Technologia rozwi\u0105zuje cz\u0119\u015b\u0107 problem\u00f3w, ale jednocze\u015bnie tworzy nowe zale\u017cno\u015bci. Dlatego u\u017cytkownik powinien \u0142\u0105czy\u0107 wygod\u0119 cyfrowych narz\u0119dzi z podstawowymi zasadami bezpiecze\u0144stwa i weryfikacji informacji.<\/p>\n\n\n
NASK Science \u2013 Transfer Technology Day: https:\/\/www.science.nask.pl\/news\/18750<\/p>\n\n\n
NASK\/CERT Polska \u2013 nowe rozwi\u0105zania: https:\/\/www.nask.pl\/aktualnosci\/zanim-podatnosc-stanie-sie-incydentem-nowe-rozwiazania-cert-polska<\/p>\n","protected":false},"excerpt":{"rendered":"
Deepfake przesta\u0142 by\u0107 internetow\u0105 ciekawostk\u0105 i sta\u0142 si\u0119 narz\u0119dziem oszustwa, manipulacji i dezinformacji. NASK zapowiada prezentacj\u0119 technologii wykrywania fa\u0142szywych materia\u0142\u00f3w oraz ochrony przed nadu\u017cyciami w sieci podczas wrze\u015bniowej konferencji Transfer Technology Day.<\/p>\n","protected":false},"author":5,"featured_media":12873,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[245],"tags":[],"class_list":["post-12874","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologie"],"_links":{"self":[{"href":"https:\/\/strefawolnejprasy.pl\/swp-new\/wp-json\/wp\/v2\/posts\/12874","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/strefawolnejprasy.pl\/swp-new\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/strefawolnejprasy.pl\/swp-new\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/strefawolnejprasy.pl\/swp-new\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/strefawolnejprasy.pl\/swp-new\/wp-json\/wp\/v2\/comments?post=12874"}],"version-history":[{"count":1,"href":"https:\/\/strefawolnejprasy.pl\/swp-new\/wp-json\/wp\/v2\/posts\/12874\/revisions"}],"predecessor-version":[{"id":12943,"href":"https:\/\/strefawolnejprasy.pl\/swp-new\/wp-json\/wp\/v2\/posts\/12874\/revisions\/12943"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/strefawolnejprasy.pl\/swp-new\/wp-json\/wp\/v2\/media\/12873"}],"wp:attachment":[{"href":"https:\/\/strefawolnejprasy.pl\/swp-new\/wp-json\/wp\/v2\/media?parent=12874"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/strefawolnejprasy.pl\/swp-new\/wp-json\/wp\/v2\/categories?post=12874"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/strefawolnejprasy.pl\/swp-new\/wp-json\/wp\/v2\/tags?post=12874"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}