Skąd pochodzi informacja i czy można jej zaufać – zagadnieniem tym zajmą się naukowcy z Wojskowej Akademii Technicznej w Warszawie. Projekt ma pomóc w identyfikowaniu pochodzenia treści, ochronie zaufanych zasobów wiedzy oraz ograniczaniu ryzyka dezinformacji i „zatruwania” danych wykorzystywanych przez systemy AI.
To jeden z ośmiu projektów wyłonionych w ramach NATO Chief Scientist Grants Programme 2026. Naukowcy z Wojskowej Akademii Technicznej zbadają jeden z najważniejszych problemów związanych z rozwojem generatywnej sztucznej inteligencji – możliwości ustalenia, skąd pochodzi informacja i czy można jej zaufać.
Głównym celem jest opracowanie metod zwiększających wiarygodność, identyfikowalność i możliwość weryfikacji informacji w środowisku cyfrowym, szczególnie w warunkach dynamicznego wzrostu ilości treści tworzonych i przetwarzanych przez sztuczną inteligencję. Rozwój generatywnej sztucznej inteligencji oraz dużych modeli językowych sprawia, że coraz trudniejsze staje się jednoznaczne określenie pochodzenia informacji, rozróżnienie treści źródłowych od wtórnych i syntetycznych oraz ocena ich autentyczności, oraz trenowanie modeli neuronowych na wiarygodnych zbiorach danych – tłumaczy płk rez. dr hab. inż. Zbigniew Piotrowski z Zespołu Walki Elektronicznej Wydziału Elektroniki WAT, lider projektu.
Jednym z kluczowych kierunków badań będzie wykorzystanie metod ukrywania danych tzw. cyfrowego watermarkingu do trwałego i niewidocznego powiązania treści z informacjami pozwalającymi potwierdzić ich pochodzenie i autentyczność. Zdaniem naukowców, mechanizmy te mają umożliwiać identyfikację źródła informacji również wtedy, gdy treść podlega dalszemu przetwarzaniu, modyfikacji lub wykorzystaniu przez systemy sztucznej inteligencji.
Drugim elementem będzie koncepcja tzw. Zaufanych Silosów Wiedzy. Mają one umożliwiać odtworzenie wiedzy pierwotnej odseparowanej od wiedzy wtórnej oraz treści syntetycznych wytworzonych przez systemy sztucznej inteligencji. Rozwiązanie to zapewni dostęp do zaufanych i zweryfikowanych zbiorów danych, które będą mogły być bezpiecznie wykorzystywane na potrzeby uczenia i doskonalenia modeli AI.
Projekt zakłada również opracowanie mechanizmów bezpiecznego przechowywania, weryfikacji pochodzenia oraz aktualizacji danych, tak aby zachować ich integralność i wiarygodność w całym cyklu życia.
Pozwoli to ograniczyć ryzyko m.in. „zatrucia” zbiorów danych tzw. data poisoning, informacjami celowo zmanipulowanymi, fałszywymi lub nieświadomie zniekształconymi, które mogłyby negatywnie wpływać na proces uczenia oraz wyniki generowane przez modele AI – wyjaśnia Piotrowski.
Szczególnie istotnym zagadnieniem będzie możliwość odtworzenia wiedzy źródłowej oraz prześledzenia pochodzenia informacji w sytuacji, gdy końcowa treść powstaje poprzez połączenie wielu źródeł, zarówno materiałów pierwotnych, jak i wiedzy wtórnej oraz treści syntetycznych generowanych przez modele LLM i inne systemy generatywnej AI. Dzięki temu swoisty „łańcuch pochodzenia” informacji zostanie zachowany, nawet wówczas, gdy wiedza jest wielokrotnie przetwarzana, agregowana, modyfikowana i ponownie wykorzystywana przez systemy sztucznej inteligencji.
Rozwiązania te mogą przyczynić się do zwiększenia bezpieczeństwa wykorzystania danych przez systemy AI oraz odbudowy i wzmacniania zaufania publicznego w erze generatywnej sztucznej inteligencji – przekonuje lider projektu.
Wojskowa Akademia Techniczna jest jednym z ośmiu ośrodków, w których będą realizowane projekty wyłonione w NATO Chief Scientist Grants Programme 2026. W sumie do konkursu zgłoszono 173 aplikacje. W gronie beneficjentów znalazły się ponadto: Center for Strategic Decision Research (UK–US), RAND Corporation (USA), Delta Biosciences (Litwa), Metapilot (Rumunia), OrbiSky (Wielka Brytania), Cambridge Inference Ltd (Wielka Brytania) oraz Danish Technological Institute (Dania). Prowadzone w tych ośrodkach badania będą dotyczyć m.in. przyszłości działań wojennych i potencjału przemysłu obronnego, prognozowania strategicznego i foresightu, sztucznej inteligencji i integralności procesów decyzyjnych, bezpieczeństwa kosmicznego i odstraszania, biotechnologii i wojskowego zabezpieczenia medycznego, przeciwdziałania dezinformacji i wzmacniania odporności, a także zaawansowanych technologii produkcyjnych i zdolności logistycznych.
MK, źródło: WAT