Usprawnić sztuczną inteligencję i spowodować, aby stała się wiarygodnym i bezpiecznym źródłem danych – to nadrzędny cel nowego ośrodka badawczego, który oficjalnie zainaugurował swoją działalność na Politechnice Warszawskiej. Centrum Wiarygodnej Sztucznej Inteligencji będzie jedną z Międzynarodowych Agend Badawczych działających w Polsce.
Uruchomienie Centre for Credible AI (CCAI) było możliwe dzięki środkom w wysokości prawie 30 mln zł z programu Fundusze Europejskie dla Nowoczesnej Gospodarki (FENG), które w drodze konkursu przyznała Fundacja na rzecz Nauki Polskiej w ramach działania Międzynarodowe Agendy Badawcze. Będzie to jeden z nielicznych ośrodków badawczych w Polsce specjalizujących się w badaniach nad AI.
Wykorzystywanie AI staje się już powszechne, a zastosowania są coraz bardziej poważne, np. w medycynie czy przemyśle obronnym. To ogromna odpowiedzialność – sztuczna inteligencja może kosztować życie ale też, co chciałbym mocno podkreślić, może pomóc to życie uratować. Dlatego ważne jest, abyśmy inwestowali nie tylko w rozwój technologii, ale również opracowywanie metod jej kontrolowania, tak aby AI była wiarygodna i bezpieczna dla nas wszystkich – przyznaje prof. Krzysztof Pyrć, prezes Fundacji na rzecz Nauki Polskiej.
Nowa jednostka badawcza powstała jako odpowiedź na wyzwania związane z „czarnymi skrzynkami” algorytmów, których logika działania często pozostaje niejasna nawet dla ich twórców.
Centrum koncentruje się na rozwoju wyjaśnialnej sztucznej inteligencji (Explainable Artificial Intelligence (XAI). Celem jest budowanie AI, którą można zrozumieć (dzięki technikom interpretowalności), zweryfikować (poprzez formalne testy i ocenę ryzyka) oraz kontrolować (w zgodzie z wartościami społecznymi i etycznymi).
Żyjemy w czasach, w których to algorytm decyduje o wielu obszarach naszego życia. Chcemy mieć pewność, że działa on właściwie i że decyzje podjęte przy jego udziale będą dobre. AI to nie tylko ryzyko, ale przede wszystkim szanse – tłumaczy prof. Przemysław Biecek, dyrektor Centrum Wiarygodnej Sztucznej Inteligencji.
W jednostce działać będą cztery grupy badawcze, które skupią łącznie ponad 20 naukowców z Polski i z zagranicy. Ośrodek rozwijać będzie nowe metody wieloetapowego wyjaśniania i walidacji modeli w dynamicznych środowiskach.
Jedna z grup będzie badała działanie algorytmów w mediach społecznościowych, które bardzo często prowadzą do polaryzacji. Kolejne dwa zespoły skupią się na wykorzystaniu wyjaśnialnej sztucznej inteligencji, by odkrywać nowe możliwości zarówno w fizyce, jak i w naukach biologicznych. Czwarta grupa będzie się skupiać na opracowaniu nowych metod interpretacji i walidacji modeli AI – dodaje prof. Biecek.
Efektem działalności CCAI mają być otwarte narzędzia, nowe standardy oraz wykształcenie specjalistów zdolnych projektować systemy AI, które budzą zaufanie i wspierają rozwój nauki, technologii i społeczeństwa.
Chcemy, aby w perspektywie pięciu lat nasze Centrum stało się europejskim punktem odniesienia w zakresie wyjaśnialnej, wiarygodnej i przejrzystej sztucznej inteligencji. Dołożymy wszelkich starań, by AI służyła nauce, ludziom i społeczeństwu – zapowiada prof. Biecek.
Wyniki prac Centrum będzie można zastosować w kluczowych obszarach dla społeczeństwa, takich jak medycyna, bioinformatyka czy edukacja, gdzie samo przewidywanie nie wystarcza – konieczne jest zrozumienie procesów decyzyjnych, podejmowanych przez AI. Strategicznym partnerem ośrodka jest Fraunhofer Heinrich-Hertz-Institut (HHI) z Berlina – jeden z najbardziej prestiżowych ośrodków badawczych w Europie, specjalizujący się w telekomunikacji, przetwarzaniu sygnałów, wizji komputerowej i sztucznej inteligencji.
Centrum Wiarygodnej Sztucznej Inteligencji to pierwszy ośrodek poświęcony badaniom nad AI, który będzie działał w ramach Międzynarodowych Agend Badawczych.
MK