Z początkiem czerwca na Politechnice Warszawskiej zainaugurowało działalność Centrum Wiarygodnej Sztucznej Inteligencji. To nowa jednostka badawcza powstała z potrzeby zrozumienia, jak tworzyć systemy AI, które są nie tylko skuteczne, ale także transparentne, kontrolowalne i weryfikowalne.
W połowie marca Fundacja na rzecz Nauki Polskiej rozstrzygnęła trzeci nabór wniosków w działaniu Międzynarodowe Agendy Badawcze. Trzy projekty wybrane spośród 17 zgłoszonych otrzymały środki w łącznej wysokości prawie 90 mln zł. Jednym z nich jest Centrum Wiarygodnej Sztucznej Inteligencji (Centre for Credible AI, CCAI), które działa pod kierunkiem prof. Przemysława Biecka z Wydziału Matematyki i Nauk Informacyjnych Politechniki Warszawskiej. To jedna z pierwszych w Polsce jednostek poświęconych badaniom, zastosowaniom i wdrożeniom niezawodnej i bezpiecznej sztucznej inteligencji. Na jej powstanie przeznaczono 30 mln zł.
Centrum jest jednostką ogólnouczelnianą, która ma na celu rozwijanie i wdrażanie systemów sztucznej inteligencji oraz rozwiązań zwiększających ich bezpieczeństwo, wyjaśnialność, przejrzystość i niezawodność.
– Obserwujemy olbrzymi rozwój technik AI, ale okazuje się, że bardzo wiele z nich nie działa poprawnie, jest źle przetestowana i często wręcz szkodliwa. Centrum ma rozwijać technologie monitorowania i naprawiania aspektów AI związanych z bezpieczeństwem. Bezpieczeństwo jest tu rozumiane szeroko, zarówno jako odporność na złośliwe ataki, jak i wbudowane bezpieczniki poprawnego zachowania AI – wyjaśnia prof. Przemysław Biecek.
Celem Centrum jest budowa AI, którą można: zrozumieć – dzięki technikom explainable AI i interpretowalności; zweryfikować – poprzez formalne testy i mechanizmy oceny ryzyka, a także kontrolować – dzięki mechanizmom typu SAE czy projektowaniu zgodnemu z wartościami. Jednostka będzie prowadzić projekty badawcze, rozwijać otwarte narzędzia i wspierać kształcenie nowej generacji specjalistów od wiarygodnej AI. Bezpośrednimi beneficjentami będą instytucje tworzące systemy AI i chcące podwyższyć ich bezpieczeństwo.
Na początku prace realizowane będą w czterech zespołach liczących w sumie około 20 osób. Prof. Przemysław Biecek pokieruje zespołem związanym z analizą techniczną modeli AI. Jego główną rolą będzie dbanie o to, by rozwój technologii bezpiecznego AI był na poziomie międzynarodowym. Prof. Janusz Hołyst z Wydziału Fizyki poprowadzi z kolei zespół zajmujący się analizą modeli AI z użyciem technik do analizy modeli złożonych. Prof. Katarzyna Budzyńska z Wydziału Administracji i Nauk Społecznych będzie nadzorować zespół zajmujący się ludzkim aspektem bezpieczeństwa modeli AI. Natomiast liderem zespołu zajmującego się modelami AI stosowanymi w obszarze bioinformatyki będzie prof. Dariusz Plewczyński z Wydziału Matematyki i Nauk Informacyjnych. Nabór na kolejnych badaczy AI jest otwarty.
– W dobie dynamicznego rozwoju generatywnej sztucznej inteligencji potrzebujemy niezależnych i interdyscyplinarnych centrów refleksji, które będą łączyć zaawansowane badania techniczne z analizą ich wpływu na społeczeństwo, gospodarkę i prawo. Centrum to nie tylko idea – to silny ośrodek naukowy, którego zespół publikuje swoje prace na najważniejszych światowych konferencjach. Działamy na styku informatyki, matematyki, inżynierii danych, nauk społecznych oraz nauk o zdrowiu, wierząc, że rzetelna AI wymaga zarówno precyzji technicznej, jak i weryfikacji domenowej – tłumaczy prof. Biecek.
Naukowcy pracujący w CWSI zaproponują nowe metody walidacji i ekstrakcji wiedzy z modeli AI, będą rozwijać je w kierunku zastosowań, jak i komercjalizacji, oferując tym samym kompletny łańcuch kompetencji (value chain). Ponadto stworzą standardy, rekomendacje i dobre praktyki dotyczące audytu modeli AI dla sektora biznesowo-gospodarczego w Polsce i na świecie. Centrum będzie współpracowało z największymi tego typu ośrodkami AI w Europie, m.in. berlińskim Centrum AI Frauhofera.
MK, źródło: PW