Z postulatem opracowania i wdrożenia narzędzi i infrastruktury zapewniających bezpieczne korzystanie z generatywnej sztucznej inteligencji zwróciła się do Ministerstwa Nauki i Szkolnictwa Wyższego oraz innych akademickich instytucji Rada Młodych Naukowców. Zaapelowała też o odpowiednie regulacje w tym zakresie.
W swojej najnowszej uchwale Rada Młodych Naukowców podjęła temat wykorzystania generatywnej sztucznej inteligencji w nauce. Jak zaznaczono, w ostatnich latach GenAI stała się narzędziem powszechnie używanym w środowisku akademickim, i to zarówno przez nauczycieli akademickich, jak i studentów. RMN zwraca przy tym uwagę, że obecnie dostępne modele AI wymagają przesyłania danych do systemów zewnętrznych, co naraża użytkowników na ryzyko nieuprawnionego wykorzystania poufnych materiałów, w tym niepublikowanych wyników badań oraz informacji objętych prawem własności intelektualnej. Problemem jest to, zauważa Rada, że znaczna część naukowców, zwłaszcza na początkowych etapach kariery, korzysta z darmowych narzędzi AI oferowanych przez podmioty komercyjne, które nie gwarantują odpowiedniego poziomu ochrony danych.
Obecna sytuacja stwarza realne zagrożenie dla poufności badań naukowych, które mogą być wykorzystane przez systemy AI do treningu modeli, a następnie udostępniane innym użytkownikom, co prowadzi do ryzyka nieuprawnionego ujawnienia wyników przed publikacją. Ryzyko to drastycznie wzrasta, jeśli wykorzystywana jest darmowa wersja komercyjnych rozwiązań – czytamy w uchwale.
Wskazano w niej cztery kluczowe postulaty w tym zakresie. Priorytetem jest opracowanie i wdrożenie przez Ministerstwo Nauki i Szkolnictwa Wyższego, uczelnie i instytuty narzędzi i infrastruktury zapewniających bezpieczne korzystanie z generatywnej sztucznej inteligencji. Powinny być oparte na lokalnych modelach AI działających bez przesyłania danych do serwerów zewnętrznych. Ponadto należy stworzyć wytyczne dotyczące bezpiecznego wykorzystania AI w nauce, które obejmą zasady anonimizacji danych, minimalizacji ryzyka wycieku informacji oraz edukację środowiska akademickiego w zakresie cyberbezpieczeństwa.
Rada apeluje o wsparcie finansowe dla uczelni i instytutów badawczych na zakup i utrzymanie infrastruktury umożliwiającej hosting własnych, bezpiecznych rozwiązań AI. W szczególności, jak zaznaczono, fundusze na ten cel należy skierować do mniejszych ośrodków akademickich. Na koniec Rada za konieczne uważa podjęcie współpracy z podmiotami oferującymi narzędzia AI, aby wynegocjować rozwiązania gwarantujące pełną kontrolę nad danymi
przesyłanymi przez polskich naukowców. W uchwale jako pożądaną wskazano opcję całkowitej rezygnacji z wykorzystania danych do treningu modeli.
Jednocześnie popieramy wszelkie inicjatywy dążące do etycznego wykorzystania AI w nauce oraz całkowicie przeciwstawiamy się nieetycznym praktykom publikacyjnym, w których AI jest stosowane. Rada podkreśla fundamentalną różnicę między wykorzystaniem AI jako narzędzia wspomagającego uczciwą pracę naukową (np. w zakresie edycji tekstu, analizy literatury czy wizualizacji danych) a jego nadużywaniem do produkcji pozornie naukowych treści i sztucznie wygenerowanych danych. Ochrona prywatności danych badawczych nie może być utożsamiana z tolerancją dla nierzetelności naukowej – konkluduje w swoim stanowisku Rada Młodych Naukowców.
MK
Bardzo zbedne