Nowe prototypowe oprogramowanie pomoże w walce z deep fake'ami

W ramach eksperymentalnego projektu ProvenView dwójka naukowców z instytutu IDEAS NCBR opracowała prototypowe oprogramowanie do autoryzacji bez konieczności zaufania pośrednikowi. Rozwiązanie wykorzystuje technikę kryptograficzną Zero-Knowledge Proofs, która pozwala na udowodnienie prawdziwości informacji bez ujawniania szczegółów o niej.

Twórcami rozwiązania są dr hab. Shahriar Ebrahimi i doktorantka Parisa Hassanizadeh, badacze z Iranu pracujący w grupie „Bezpieczeństwo systemów i prywatność danych” kierowanej przez prof. Stefana Dziembowskiego.

Zobacz również:

To rozwiązanie może się przydać zarówno użytkownikom indywidualnym, którzy mogliby go użyć do autoryzacji spotkań online, jak i twórcom treści, którzy dzięki temu mogliby wzmocnić ochronę swojego wizerunku opublikowanego w filmie na YouTube przed kradzieżą i wykorzystaniem np. w pornografii

– mówi dr Ebrahimi.

Działanie ProvenView polega, w uproszczeniu, na tym, że po wygenerowaniu pliku wideo jego autor w pierwszym kroku tworzy cyfrowy dowód autentyczności nagrania. Oprogramowanie umożliwiające zapis może być wbudowane w aplikację do nagrywania wideo lub być osobnym programem, a podrobienie dowodu autentyczności opartego na technice Zero-Knowledge Proofs jest bardzo trudne z uwagi na zastosowane w niej zaawansowane mechanizmy kryptograficzne.

Jeżeli ktoś zechce sprawdzić autentyczność pliku, wystarczy okazać cyfrowy dowód – dzięki Zero-Knowledge Proofs nie ma potrzeby oglądania samego wideo.

Zaletą techniki Zero-Knowledge Proofs jest to, że osoba tworząca dowód autentyczności nie musi mieć zewnętrznych potwierdzeń zaufania, jak podpis elektroniczny – wyjaśnia naukowiec.

Każdy może generować takie dowody autentyczności na swoim własnym urządzeniu. Nazywa się to „generowanie dowodów po stronie klienta” (client-side proof generation). Dzięki temu rozwiązanie jest bardzo elastyczne i może obsłużyć wiele osób naraz, bez obciążania sieci. Niezależnie od tego, czy dowody generuje 10 osób, 10 tysięcy, czy nawet 10 miliardów osób, obciążenie sieci się nie zmienia

– dodaje dr Ebrahimi

ProvenView póki co jest rozwiązaniem typu “proof-of-concept” i znajduje się w fazie eksperymentalnej (nie jest jeszcze gotowe do wdrożenia). W przyszłości mogłoby jednak znaleźć szerokie zastosowania, na przykład przyjmując postać dodatku do przeglądarek internetowych bądź oprogramowania do edycji wideo i stając się pożytecznym narzędziem w zwalczaniu tzw. deep fake’ów.

Deep fake to zmanipulowana treść cyfrowa, np. zdjęcie, plik dźwiękowy lub wideo, w której podrobiony zostaje wizerunek, głos bądź inne cechy charakterystycznej rzeczywistych osób. Treści te mogą realistycznie odtwarzać lub zmieniać wygląd i fizjonomię występujących w nich osób i najczęściej stosowane są przez cyberprzestępców do przeprowadzania cyberataków i oszustw internetowych.

Deep fake’i, dzięki zastosowaniu algorytmów sztucznej inteligencji, stają się coraz bardziej wyrafinowane, a ich wykrycie – coraz trudniejsze. Niestety, są też coraz powszechniejsze. W marcu 2024 r. fałszywe wideo z udziałem prezydenta Andrzeja Dudy, prezesa firmy InPost Rafała Brzoski czy Roberta Lewandowskiego promowały oszukańcze “programy inwestycyjne​” służące wyłudzaniu pieniędzy. W styczniu pracownik banku w Hong Kongu wypłacił 25 milionów dolarów oszustom, którzy podczas wideokonferencji podszyli się pod dyrektora finansowego firmy.

IDEAS NCBR to ośrodek badawczo-rozwojowy powołany przez Narodowe Centrum Badań i Rozwoju. Misją instytutu, który działa w obszarze sztucznej inteligencji i ekonomii cyfrowej, jest wspieranie rozwoju tych technologii w Polsce za pośrednictwem platformy łączącej środowiska biznesowe i akademickie.

Zgłoś naruszenie/Błąd