Instytuty naukowe

06 Grudnia

W NASK powstał Ośrodek Badań nad Bezpieczeństwem AI

Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji powstał w NASK – Państwowym Instytucie Badawczym. Naukowcy tej jednostki skupią się na prowadzeniu innowacyjnych badań w obszarze AI, z naciskiem na cyberbezpieczeństwo.

Sztuczna inteligencja staje się częścią naszej codzienności, a to niesie za sobą zarówno korzyści, jak i wyzwania. W odpowiedzi na rosnące potrzeby zapewnienia bezpieczeństwa i przejrzystości w rozwoju AI, w NASK powstał Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji. Na jego czele stanął dr hab. inż. Szymon Łukasik z Wydziału Fizyki i Informatyki Stosowanej Akademii Górniczo-Hutniczej w Krakowie.

Główne zadania, jakie stoją przed nami, to rozwój i wprowadzanie nowych technologii sztucznej inteligencji. Ze szczególną uwagą będziemy skupiać się na uwzględnieniu metod bezpiecznych, transparentnych i wyjaśnialnych w kluczowych obszarach, takich jak administracja publiczna, bezpieczeństwo sieci oraz ochrona cyberprzestrzeni. Ośrodek ma również za zadanie edukować i wspierać społeczeństwo w świadomym korzystaniu z nowoczesnych technologii AI – wyjaśnia dyrektor Ośrodka.

Naukowcy skupią się na prowadzeniu innowacyjnych badań w obszarze AI, z naciskiem na cyberbezpieczeństwo. W strukturze Ośrodka znalazły się cztery specjalistyczne zakład badawcze:

• Zakład Analiz Audiowizualnych i Systemów Biometrycznych, który prowadzi badania nad biometryczną weryfikacją tożsamości oraz przetwarzaniem informacji z wykorzystaniem uczenia głębokiego;
• Zakład Inżynierii Lingwistycznej i Analizy Tekstu, zajmujący się przetwarzaniem języka naturalnego i analizą tekstu, w tym wykrywaniem nielegalnych lub wrażliwych treści;
• Zakład Nauki o Danych, który rozwija metody analizy dużych zbiorów danych, w tym związanych z cyberbezpieczeństwem oraz zwalczaniem dezinformacji;
• Zakład Zastosowań Sztucznej Inteligencji w Medycynie i Analizie Danych Wrażliwych, którego celem jest rozwój systemów AI wspomagających diagnostykę i analizę danych medycznych.

Niebawem prace rozpocznie także Zakład Bezpieczeństwa i Przejrzystości Sztucznej Inteligencji, który będzie koncentrował się na badaniach nad bezpieczeństwem i wyjaśnialnością modeli AI, a także wspiera krajowe i międzynarodowe inicjatywy w tym zakresie.

Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji będzie współpracował z innymi instytucjami naukowymi i badawczo-rozwojowymi, takimi jak np. Akademia Górniczo-Hutnicza w Krakowie, Politechnika Warszawska czy Instytut IDEAS. Zajmie się też popularyzacją wiedzy na temat sztucznej inteligencji.

NASK-PIB to instytucja, której misją jest rozwój i bezpieczeństwo sieci teleinformatycznych w Polsce. Instytut odgrywa kluczową rolę w kształtowaniu polityk związanych z bezpieczeństwem cyfrowym i rozwojem społeczeństwa informacyjnego.

Rozwój sztucznej inteligencji to nie tylko postęp technologiczny, ale także ogromna odpowiedzialność. Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK jest odpowiedzią na kluczowe wyzwania naszych czasów związane z rozwojem AI. Naszą misją jest nie tylko tworzenie innowacyjnych technologii, ale także zapewnienie, że będą one bezpieczne, przejrzyste i zrozumiałe dla wszystkich. Chcemy wspierać świadome i odpowiedzialne korzystanie z potencjału sztucznej inteligencji – zaznacza Radosław Nielek, dyrektor NASK.

NASK podejmuje szereg inicjatyw, które zapewniają bezpieczeństwo i ochronę internetu i jego użytkowników przed różnymi cyberzagrożeniami. Instytut bierze udział w rozwijaniu – w ramach konsorcjum skupiającym kilka uczelni i instytutów badawczych – Polskiego Dużego Modelu Językowego (PLLuM), odpowiadając głównie za aspekty bezpieczeństwa tworzonych modeli. NASK prowadzi także prace nad analizą i detekcją materiałów syntetycznych generowanych z użyciem technik sztucznej inteligencji (tzw. deep fake). Analitycy Instytutu skupiają się w tym obszarze na perspektywie wielomodalnej (tj. równoczesnej analizie dźwięku, wideo i tekstu).

MK, źródło: NASK