Jak sprawdzić, czy przez kamerę online rozmawialiśmy z prawdziwą osobą, a nie deepfake’iem? Naukowcy z IDEAS NCBR opracowali prototyp oprogramowania, które pozwala na bezpieczniejsze rozmowy online.
W ostatnich latach coraz częściej słyszymy o przypadkach oszustw wykorzystujących technologię deepfake. W Polsce fałszywe wideo z udziałem m.in. Andrzeja Dudy czy Roberta Lewandowskiego promowały oszukańcze „programy inwestycyjne” służące wyłudzaniu pieniędzy. W styczniu pracownik banku w Hong Kongu wypłacił 25 milionów dolarów oszustom, którzy podczas wideokonferencji podszyli się pod dyrektora finansowego firmy. Technologia ta staje się coraz bardziej zaawansowana, a jej wykrycie trudniejsze.
W odpowiedzi na te zagrożenia, naukowcy z IDEAS NCBR stworzyli eksperymentalny projekt o nazwie ProvenView. Twórcami rozwiązania są postdoc Shahriar Ebrahimi i doktorantka Parisa Hassanizadeh, badacze z Iranu pracujący w grupie kierowanej przez prof. Stefana Dziembowskiego. W maju podczas hackathonu ZK Hack Kraków pomysł ten został nagrodzony w kategorii „best proof of provenance project”.
Technologia Zero-Knowledge Proofs jeszcze dekadę temu uważana była za dziedzinę wyłącznie teoretyczną, bliższą czystej matematyce niż zastosowaniom informatyki. W ostatnich latach byliśmy świadkami dramatycznej zmiany w tej dziedzinie. Stało się to dzięki wielu przełomowym usprawnieniom tej technologii, a także dzięki jej popularyzacji za sprawą blockchaina. Rozwiązanie ProvenView stanowi jeszcze jeden spektakularny przykład tego, jak ZKP może być wykorzystane w walce z zagrożeniami współczesnego świata cyfrowego – tłumaczy prof. Stefan Dziembowski, lider grupy badawczej „Bezpieczeństwo systemów i prywatność danych” w IDEAS NCBR.
Sprawdzenie autentyczności wideo na wyciągnięcie ręki
ProvenView może znaleźć zastosowanie zarówno w codziennych interakcjach online, jak i w ochronie treści twórców. Na przykład, po zakończeniu spotkania online, użytkownik będzie mógł sprawdzić, czy wideo jego rozmówcy rzeczywiście pochodziło z jego kamery internetowej. Ale to nie koniec jego zastosowań.
Może się przydać zarówno użytkownikom indywidualnym, którzy mogliby go użyć do autoryzacji spotkań online, jak i twórcom treści, którzy dzięki temu mogliby wzmocnić ochronę swojego wizerunku opublikowanego w filmie na YouTube przed kradzieżą i wykorzystaniem np. w pornografii – tłumaczy Shahriar Ebrahimi.
ProvenView to prototypowe oprogramowanie, które wykorzystuje Zero-Knowledge Proofs (ZKP) do autoryzacji bez konieczności zaufania pośrednikowi. Na czym dokładnie polega ZKP? To technika kryptograficzna, która pozwala na udowodnienie prawdziwości pewnej informacji bez ujawniania jakichkolwiek szczegółów o niej.
Jak działa? Najpierw autor oryginalnego wideo tworzy cyfrowy dowód jego autentyczności. To cyfrowy zapis, który mówi: „To wideo jest prawdziwe i ja je stworzyłem”. Oprogramowanie umożliwiające taki zapis może być wbudowane w aplikację do nagrywania wideo lub być osobnym programem. Podrobienie dowodu autentyczności opartego na ZKP jest niezwykle trudne ze względu na zaawansowane mechanizmy kryptograficzne, które są w nich wykorzystywane. W drugim kroku, kiedy ktoś chce sprawdzić autentyczność wideo, nie trzeba mu pokazywać całego materiału. Zamiast tego, wystarczy cyfrowy dowód. I właśnie tu pomaga Zero-Knowledge Proofs: dzięki zaawansowanej matematyce, dowód ten można sprawdzić bez potrzeby oglądania samego wideo.
Zero-Knowledge Proofs ma tę zaletę, że osoba tworząca dowód autentyczności nie musi mieć zewnętrznych potwierdzeń zaufania, jak podpis elektroniczny. Każdy może generować takie dowody autentyczności na swoim własnym urządzeniu. Nazywa się to „generowanie dowodów po stronie klienta” (client-side proof generation). Dzięki temu rozwiązanie jest bardzo elastyczne i może obsłużyć wiele osób naraz, bez obciążania sieci. Niezależnie od tego, czy dowody generuje 10 osób, 10 tysięcy, czy nawet 10 miliardów osób, obciążenie sieci się nie zmienia – opisuje Shahriar Ebrahimi.
I dodaje, że w przyszłości rozwiązanie to mogłoby stać się dodatkiem do przeglądarki internetowej albo programu do edycji wideo.
Dalszy rozwój projektu
ProvenView znajduje się na razie w fazie eksperymentalnej, a więc nie jest jeszcze gotowe do wdrożenia. Projekt w obecnym stadium to swoisty dowód słuszności koncepcji (proof-of-concept), że takie metody mogą być użytkowane w praktyce.
W tej chwili dowody autentyczności można generować dopiero po zakończeniu tworzenia wideo. Dodatkowo, udowodnienie autentyczności jest bardzo czasochłonne i nie może być wykonane online, w czasie rzeczywistym. Przy obecnie dostępnej technologii możemy najszybciej udowodnić autentyczność wideo o niskiej liczbie klatek na sekundę. Załóżmy, że oryginalne wideo z spotkania było nagrywane w 30 kl/s. Najpierw bardzo szybko sprawdzamy, czy w wersji w odcieniach szarości z 2 kl/s występuje jakaś nieprawidłowa aktywność. Później, dla większej pewności, sprawdzamy autentyczność wideo kolorowego. Ostatecznie dowód byłby dostępny na przykład godzinę po odbyciu rozmowy – dodaje Shahriar Ebrahimi.
Dzięki dalszym pracom nad wydajnymi dowodami rekurencyjnymi, naukowcy z IDEAS NCBR mają nadzieję, że w przyszłości możliwe będzie udowodnienie autentyczności wideo w czasie rzeczywistym.
MK