O sztucznej inteligencji w badaniach naukowych, etycznych wyzwaniach z nią związanych, a także jej ograniczeniach rozmawiali uczestnicy panelu dyskusyjnego otwierającego tegoroczne Dni NCN w Rzeszowie. Patronem medialnym wydarzenia jest „Forum Akademickie”.
Jedenasta edycja Dni NCN odbywa się w stolicy Podkarpacia. Panel inaugurujący dotyczył sztucznej inteligencji w nauce. W roli moderatora dyskusji wystąpił prof. Krzysztof Jóźwiak, dyrektor NCN. Rozmawiano m.in. o tym, jak AI zrewolucjonizuje naukę, w jaki sposób wpłynie na prowadzenie badań naukowych i w ogóle na życie naukowców. Dużo miejsca poświęcono wskazaniu, z badawczego punktu widzenia, dzisiejszych ograniczeń sztucznej inteligencji.
– Słabą stroną sztucznej inteligencji jest w tym momencie to, że potrzebuje danych i to wysokiej jakości. Jeżeli wyuczy się na danych złej jakości, to i jej odpowiedzi takie będą. A dane mogą być zarówno nadreprezentowane w pewnych obszarach, jak również niedostępne – mówiła prof. Anna Gambin z Uniwersytetu Warszawskiego, specjalizująca się w bioinformatyce i biologii obliczeniowej.
Dodała, że o ile algorytmy radzą sobie z klasyfikacją zdjęć rentgenowskich, bo „oglądają” ich miliony, o tyle nie zajmą się np. diagnostyką chorób rzadkich, bo w tym zakresie dostępnych jest stosunkowo mało danych, którymi taką inteligencję można wyuczyć.
– Innym wyzwaniem jest translacja. Mimo obietnic, że modele można „tuningować” pod konkretne zastosowanie, niestety to nie działa. Jeszcze dużo przed nami, by od dużego modelu językowego dojść do rozwiązywania konkretnych problemów, np. medycznych czy biomedycznych – zauważyła.
Prof. Krzysztof Okarma z Zachodniopomorskiego Uniwersytetu Technologicznego, jako przedstawiciel uczelni technicznej, wskazał na ograniczenia zastosowań przemysłowych współczesnych metod sztucznej inteligencji. Jego zdaniem, podstawową kwestią w tym zakresie jest wyjaśnialność modeli. Jeżeli sieć neuronowa coś wykrywa albo klasyfikuje jakieś dane, to naukowiec, ale także diagnosta, lekarz, inżynier chciałby rozumieć, jak to się odbywa, żeby mieć świadomość, na jakiej podstawie podejmuje się decyzje.
– Pamiętajmy, że to trochę taka „czarna skrzynka”. Algorytm jest tak dobry, jak dane treningowe. Bardzo ważne, żeby były wysokiej jakości, ale przede wszystkim one muszą być i to w odpowiedniej ilości. Trenowanie sztucznej inteligencji na małych zbiorach, jeśli nie są one zróżnicowane, grozi tym, że będą niepoprawnie interpretowane przez algorytm. Wyobraźmy sobie montowane w samochodach systemy wykrywające inne obiekty na drodze. Gdy są to obiekty standardowe, np. inne auta, wszystko działa bez zarzutu. Ale w przypadku obiektu nierozpoznawalnego przez sieć, owszem, ona go wykryje, ale nie będzie już wiedziała, jakiego jest on rodzaju, co to za przeszkoda.
Na jeszcze inny aspekt zwróciła uwagę dr hab. Katarzyna Budzyńska z Politechniki Warszawskiej. Oprócz ilości i jakości danych wskazała też na kompilowanie różnych treści. Odwołała się do jednego z projektów, który realizowany był w Laboratorium Nowego Etosu PW. W badaniach nad automatyczną moderacją mowy nienawiści trzeba było określić definicję takiego zachowania. Zapytany o to ChatGPT, „wypluwał” definicje np. z aktów normatywnych UE czy uregulowań platform społecznościowych. Tyle że nie we wszystkich sytuacjach okazały się one wystarczające. Dlatego badacze zaproponowali definicję obejmującą wyrażenia wyrządzające albo mogące wyrządzić nieuzasadnioną krzywdę. W badaniach empirycznych to sformułowanie okazało się bardziej przystające do praktyki.
– ChatGPT jest w stanie podać nam wiedzę, którą wyciąga z posiadanych informacji, ale na ten moment nie jest w stanie ich inteligentnie obrobić – zauważyła. – Z drugiej strony, gdy pojawiły się LLM-y (large language model – duży model językowy), mówiono, że są to techniki stworzone do generowania języka i nie nadają się do analizy. Byliśmy zszokowani, kiedy daliśmy takiemu modelowi zadanie do analizy i nie dość, że świetnie to zrobił, to jeszcze wyjaśnił, dlaczego tak, a nie inaczej. Wygląda więc na to, że systemy te potrafią już robić to, do czego wcale nie były projektowane.
Prof. Gambin mówiła z kolei, że większość metod sztucznej inteligencji rozwijana jest dla wizji i języka, bo jako ludzie porozumiewamy się w ten sposób. Ale już chemia, gdzie kluczową rolę odgrywa też zapach, jest póki co dla AI poważną barierą.
– Wszystkie koncepty wypracowane na języku i na wizji nie działają w innych „systemach komunikacyjnych”. Będzie bardzo trudno rozpracować taką czującą inteligencję, porozumiewającą się zapachami – zastrzegła.
Paneliści rozmawiali również o kwestii odpowiedzialności etycznej. W tym kontekście mowa była m.in. o integralności badań naukowych, czy można zaufać wynikom automatycznej analizy danych dokonywanych przez AI i w jaki sposób określić rolę i odpowiedzialność naukowców, którzy nie są ekspertami w danej dziedzinie, a jednocześnie wykorzystują sztuczną inteligencję, uzyskują wyniki i chcą je interpretować.
Dr hab. Jan Bazan z Uniwersytetu Rzeszowskiego podkreślił konieczność pilnego opracowania uregulowań prawnych dla tych kwestii.
– Przy pisaniu wniosków grantowych, publikacji, recenzji jest cała masa kwestii do uregulowania, co można, a czego nie można przy użyciu AI. To musi jasno wynikać z przepisów. Czy jako recenzenci wniosków będziemy potrafili je ocenić i sprawiedliwie ocenić, co jest wkładem badacza, a co wkładem sztucznej inteligencji? – pytał retorycznie, zwracając uwagę na halucynacje AI.
Sytuacja taka występuje wtedy, gdy modele AI generują fałszywe czy wręcz absurdalne odpowiedzi. Nie dlatego, że mają intencje, by nas oszukiwać, lecz z powodu… luk w swojej wiedzy – do odpowiedzi na nasze pytanie brakuje im po prostu danych. Tymczasem uczone są, żeby odpowiadać, lepiej lub gorzej, na każde pytanie.
– Niektórzy się śmieją, że to jest inspiracja dla ludzi, żeby prowadzili w tym kierunku badania naukowe. A już na poważnie, to musimy mieć mechanizmy, żeby się przed tym bronić – stwierdził dr hab. Jan Bazan.
Prof. Okarma zauważył, że w przypadku używania sztucznej inteligencji bez znajomości działania jej metod, narażamy się na ryzyko wygenerowania nieprawdziwych wyników.
– Nie widzę problemu z używaniem AI jako pomocy, np. przy korekcie językowej, tłumaczeniach czy streszczeniach, ale jeśli chcielibyśmy zaprząc generatywne modele językowe do tworzenia tekstu „od zera”, z niczego, to już mam opory, bo wtedy trudno mówić w ogóle o nauce – stwierdził.
Wspomniał przy okazji ubiegłotygodniowe stanowisko Rady NCN, której jest członkiem. Zaznaczono w nim, że wnioskodawcy powinni uważnie i dokładnie weryfikować każdą treść generowaną przez GenAI, biorąc za nią pełną odpowiedzialność.
– Myślę, że w procesie burzy mózgów, na wstępnym etapie mapowania problemu, AI może być bardzo przydatnym narzędziem. Ale na pewno nie może służyć generowaniu hipotez badawczych, które potem wpisuje się we wniosku do agencji grantowej – mówiła dr hab. K. Budzyńska i dodała: – Oprócz formułowania reguł prawnych czy etycznych, konieczne staje się więc opracowanie zasad metodologicznych w wykorzystaniu tego narzędzia. Jednym słowem: jak go mamy używać – zakończyła.
Cała dyskusja dostępna jest na kanale YouTube Narodowego Centrum Nauki. Patronem medialnym Dni NCN w Rzeszowie jest „Forum Akademickie”.
MK
