W Polsce powstała przełomowa technologia. Mamy program do weryfikacji deepfake'ów

Sukces polskiej grupy badawczej. Sprawdzisz, czy rozmawiałeś z żywym człowiekiem

Za inicjatywę jak z polskiej dolny krzemowej odpowiedzialni są naukowcy z grupy badawczej IDEAS NCBR - to ośrodek badawczo-rozwojowy, który został powołany w 2021 r. i od tamtej pory działa w obszarze sztucznej inteligencji. Samo Narodowe Centrum Badań i Rozwoju , czyli organ, pod którym IDEAS NCBR funkcjonuje, realizuje zadania polityki naukowej, a docelowo - stymuluje gospodarkę.

Za program do weryfikacji deepfake'ów - ProvenView - odpowiedzialna jest grupa naukowców kierowana przez prof. Stefana Dziembowskiego, matematyka i kryptografa. Samymi autorami programu są Shahriar Ebrahimi i doktorantka Parisa Hassanizadeh, badacze z Iranu.

Zobacz też: Naukowcy zbadali paczkomaty. "Zanieczyszczenie jest wysokie". Czy to bezpieczne?

ProvenView. Program do weryfikacji deepfake'ów

Robert Lewandowski sprzedający produkty finansowe, Andrzej Duda, obiecujący natychmiastowy zwrot z inwestycji, czy Rafał Brzoska, namawiający do wspólnego biznesu - to wszystko przykłady deep fake'ów z polskiego podwórka. I choć w powyższych przykładach wydaje się, że problem nie dotyczy przeciętnego obywatela Polski, wcale nie musi tak być - na deep fake'a możemy natknąć się choćby podczas aplikowania na nowe stanowisko pracy.

Sprawdzisz autentyczność - ProvenView to przełom. Jak działa?

Sam zespół badaczy opisuje swój wynalazek technologią Zero-Knowledge Proofs, która jeszcze dekadę temu była uznawana za “wyłącznie teoretyczną”. Jak to działa? Sprowadzając zmienne programu do języka zrozumiałego dla jego przeciętnego użytkownika naukowcy tłumaczą, że np. po zakończeniu spotkania online, przy pomocy Proven View będziemy mogli zweryfikować, czy wideo naszego rozmówcy faktycznie pochodziło z jego kamery.

Może się przydać zarówno użytkownikom indywidualnym, którzy mogliby go użyć do autoryzacji spotkań online, jak i twórcom treści, którzy dzięki temu mogliby wzmocnić ochronę swojego wizerunku opublikowanego w filmie na YouTube przed kradzieżą i wykorzystaniem np. w pornografii – tłumaczy Shahriar Ebrahimi, jeden z twórców.

Samo Zero-Knowledge Proofs (ZKP) to, jak czytamy na Forum Akademickim, technika kryptograficzna, która pozwala na udowodnienie prawdziwości pewnej informacji “X” bez ujawniania jakichkolwiek szczegółów o niej.

W skrócie i możliwie najbardziej upraszczając metodologię działania; użytkownik tworzy (np. przy pomocy wbudowanej aplikacji/mechanizmu specyficzny "znak", marker autentyczności na jakimś materiale. Przy pomocy metod kryptograficznych ProvenView dekoduje tę sygnaturę i rozpoznaje, czy materiał jest prawdziwy.

Każdy może generować takie dowody autentyczności na swoim własnym urządzeniu. Nazywa się to „generowanie dowodów po stronie klienta” (client-side proof generation). Dzięki temu rozwiązanie jest bardzo elastyczne i może obsłużyć wiele osób naraz, bez obciążania sieci. Niezależnie od tego, czy dowody generuje 10 osób, 10 tysięcy, czy nawet 10 miliardów osób, obciążenie sieci się nie zmienia – opisuje Shahriar Ebrahimi.

Docelowo takie rozwiązanie jak dowody autentyczności mogłyby funkcjonować po prostu jako rozszerzenie wbudowane w przeglądarkę.

ProvenView. Co dalej?

Jak czytamy, obecnie ProvenView znajduje się w fazie eksperymentalnej - to znaczy, że do wdrożenia i komercjalizacji jeszcze daleko. Jak daleko? Na razie ważne, że oprogramowanie stanowi dowód na słuszność koncepcji proof of concept. Na razie proces opisany powyżej jest czasochłonny i nie może być jeszcze prowadzony online, ani w czasie rzeczywistym.

Sam Shahriar Ebrahimi precyzuje przy tym, że ProvenView potrafi, na razie, weryfikować nagrania z niewielką ilością klatek na sekundę i zajmuje mu to ok. godziny. Ale prace trwają. ProvenView zyskał już pierwsza nagrodę, wręczono ją w maju w ramach hackathonu ZK Hack Kraków.