Naukowcy z dziewięciu państw, w tym z Polski, opracują teoretyczne ramy wyjaśnialnej sztucznej inteligencji (XAI). W przeciwieństwie do standardowych modeli operujących w dziedzinie liczb rzeczywistych, ich rozwiązanie będzie się opierać na algebrach wyższych rzędów. Liderem międzynarodowego konsorcjum jest Politechnika Krakowska.
Sztuczna inteligencja coraz częściej wspiera decyzje w obszarach o wysokiej odpowiedzialności, takich jak medycyna, energetyka czy systemy bezpieczeństwa. Mimo rosnącej skuteczności algorytmów, ich działanie w wielu przypadkach pozostaje nieprzejrzyste. W odpowiedzi na ten problem powstały metody wyjaśniania klasycznych, rzeczywistych modeli AI, które – choć niedoskonałe – umożliwiają częściowe zrozumienie procesu decyzyjnego.
Hiperzespolone sieci neuronowe znajdują się jednak poza tym nurtem rozwoju. Są one jednym z najbardziej innowacyjnych kierunków współczesnej sztucznej inteligencji, ponieważ wykorzystują zaawansowane struktury matematyczne, takie jak liczby zespolone, kwaterniony czy algebry Clifforda – wyjaśnia dr Agnieszka Niemczynowicz z Wydziału Informatyki i Matematyki Politechniki Krakowskiej. – Dzięki temu potrafią w sposób naturalny modelować relacje wielowymiarowe i geometryczne, często przy większej efektywności obliczeniowej niż klasyczne sieci neuronowe. Jednocześnie dla tych modeli nie istnieją dziś ugruntowane, dedykowane narzędzia ani formalne metryki wyjaśnialności.
Brak teoretycznych ram wyjaśnialności sprawia, że hiperzespolone modele – mimo swojego potencjału – pozostają trudne do kontrolowania i weryfikacji. Opracowanie ram oznaczałoby więc przejście od intuicyjnych, fragmentarycznych interpretacji do formalnych, matematycznie zdefiniowanych wyjaśnień, które można analizować, porównywać i oceniać w sposób obiektywny.
Projekt HyperXAI odpowiada na tę lukę, rozwijając wyjaśnialność dokładnie na styku matematyki i informatyki. Efektem naszych badań będzie nie tylko lepsze zrozumienie działania zaawansowanych modeli AI, ale także realne wzmocnienie kontroli człowieka nad sztuczną inteligencją – podkreśla liderka przedsięwzięcia. – Wyjaśnialność przestaje być dodatkiem, a staje się integralnym elementem projektowania modeli – fundamentem dla bezpiecznej, odpowiedzialnej i innowacyjnej sztucznej inteligencji nowej generacji – dodaje.
Od badań podstawowych do praktycznych zastosowań
Badania prowadzone w ramach projektu HyperXAI mają charakter podstawowy – ich celem jest stworzenie solidnych, matematycznych fundamentów wyjaśnialności dla nowej generacji modeli sztucznej inteligencji. Tego typu badania, choć nie prowadzą bezpośrednio do gotowych produktów, to wyznaczają kierunki rozwoju technologii w dłuższej perspektywie i decydują o tym, czy przyszłe zastosowania AI będą bezpieczne, wiarygodne i społecznie akceptowalne.
Rezultaty tworzą podstawę do odpowiedzialnego wykorzystania zaawansowanych modeli, w szczególności hiperzespolonych sieci neuronowych, w obszarach, w których sztuczna inteligencja analizuje złożone, wielowymiarowe dane.
Dotyczy to m.in. obrazowania medycznego i analizy sygnałów biomedycznych, gdzie kluczowe znaczenie ma możliwość zrozumienia, które cechy danych wpływają na decyzje algorytmu. Podobne wymagania pojawiają się w inżynierii materiałowej, monitorowaniu procesów przemysłowych czy systemach energetycznych, gdzie AI wspiera wykrywanie anomalii, ocenę jakości lub prognozowanie, a jej decyzje muszą być stabilne i możliwe do zweryfikowania przez człowieka – zaznacza dr Niemczynowicz.
Istotnym efektem badań będzie także rozwój nowych narzędzi naukowych: metod analizy, metryk jakości wyjaśnień oraz protokołów ewaluacji, które umożliwią systematyczne porównywanie modeli i ich interpretowalności. Dzięki temu sztuczna inteligencja przestaje być „czarną skrzynką”, a staje się obiektem rzetelnej analizy naukowej. Otwarty charakter tworzonych narzędzi, zbiorów danych i oprogramowania sprawi, że będą one mogły być wykorzystywane i rozwijane przez inne zespoły badawcze w Europie i na świecie.
Wyniki mogą w przyszłości wspierać rozwój standardów wyjaśnialności i transparentności AI, zgodnych z europejskimi regulacjami i zasadami odpowiedzialnego wykorzystania sztucznej inteligencji. W tym sensie HyperXAI buduje zaplecze wiedzy, metod i narzędzi, bez którego długofalowe zastosowania AI w medycynie, inżynierii czy przemyśle nie byłyby możliwe.
Globalna współpraca interdyscyplinarna
Projekt HyperXAI będzie realizowany przez interdyscyplinarne konsorcjum, kierowane przez naukowców Politechniki Krakowskiej, a obejmujące ośrodki z czterech kontynentów i 9 krajów: Polski, Hiszpanii, Czech, Łotwy, Azerbejdżanu, Turcji, Iraku, Korei Południowej i Brazylii.
Problem wyjaśnialności sztucznej inteligencji – zwłaszcza w przypadku hiperzespolonych sieci neuronowych – nie mieści się w granicach jednej dyscypliny naukowej. Zrozumienie działania takich modeli wymaga jednoczesnego połączenia zaawansowanej matematyki, informatyki oraz nauk inżynieryjnych – odpowiada dr Radosław Kycia.
W badaniach biorą udział naukowcy zajmujący się matematyką czystą i stosowaną, w szczególności algebrą, analizą matematyczną, topologią, matematyką rozmytą oraz teorią struktur hiperzespolonych. To właśnie matematyka dostarcza języka i formalnych narzędzi pozwalających opisać, czym w ogóle jest „wyjaśnienie” w modelach opartych na hiperzespolonych strukturach matematycznych. Bez takiego formalnego fundamentu wyjaśnialność pozostaje intuicyjna i trudna do weryfikacji. Równocześnie kluczową rolę odgrywa informatyka, a zwłaszcza sztuczna inteligencja i uczenie maszynowe.
Informatycy projektują architektury sieci neuronowych, implementują algorytmy wyjaśnialności oraz testują je na danych syntetycznych i rzeczywistych. Ich zadaniem jest przełożenie pojęć matematycznych na działające metody obliczeniowe i sprawdzenie, czy zaproponowane wyjaśnienia są stabilne, porównywalne i użyteczne – mówi dr Niemczynowicz.
Trzecim filarem projektu są nauki inżynieryjne, w tym inżynieria materiałowa i obszary związane z analizą danych technicznych.
To one dostarczają realistycznych kontekstów badawczych, w których wyjaśnialność nie jest abstrakcyjnym pojęciem, lecz realną potrzebą – na przykład przy analizie obrazów materiałowych, detekcji defektów czy monitorowaniu procesów. Dzięki temu rozwijane metody są od początku testowane w warunkach, które odzwierciedlają rzeczywiste wyzwania naukowe i technologiczne – zaznacza dr Kycia.
HyperXAI łączy te perspektywy w jeden spójny proces badawczy, w którym teoria, algorytmy i kontekst aplikacyjny rozwijają się równolegle i wzajemnie się uzupełniają.
Projekt pt. „Hiperzespolona wyjaśnialna AI: matematyczne podstawy wiarygodnych modeli sztucznej inteligencji” („Hypercomplex Explainable AI: Mathematical Foundations for Trustworthy Models”, HyperXAI) jest finansowany w ramach grantu Maria Skłodowska-Curie Actions Staff Exchanges. Na jego realizację przeznaczono ponad 870 tys. euro. To jeden z trzech projektów w tej edycji koordynowanych przez polskie uczelnie. W sumie do finansowania rekomendowano 81 wniosków (na 363 złożone). Granty uzyskały 23 jednostki z Polski, które będą uczestniczyć w łącznie 13 projektach MSCA Staff Exchanges 2025.
MK, źródło: PK