Sprawy nauki

07 Kwietnia

Źródło: archiwum prywatne

Generatywna AI w akademickim pisarstwie

Współczesna nauka powoli zaczyna się stawać polem nieustannej walki między odpowiedzialnym, transparentnym korzystaniem z AI a próbami jej instrumentalizacji do oszustwa, pozorowania kompetencji czy masowej produkcji pseudonauki – pisze dr hab. Piotr Siuda z Wydziału Nauk o Kulturze Uniwersytetu Kazimierza Wielkiego w Bydgoszczy.

Zaczęło się od… penisa szczura. W 2024 roku czasopismo „Frontiers in Cell and Developmental Biology” opublikowało artykuł naukowy, który zawierał ilustrację przedstawiającą – rzekomo – funkcjonowanie komórek szczura odpowiedzialnych za rozwój plemników. Problem w tym, że grafika została wygenerowana przez AI i przedstawiała szczegółowy przekrój prącia szczura, zupełnie niepowiązany z tematem pracy. Obrazek wyglądał na rysunek z podręcznika, ale był kompletną halucynacją. Artykuł został wycofany po internetowym oburzeniu, a memy rozlały się szeroko po sieci (ilustracja 1).

To był tylko przedsmak. Również w 2024 roku CJ Houldcroft opublikowała na platformie X zrzut ekranu z innej pracy naukowej, która zawierała frazę wygenerowaną przez ChatGPT: „Oczywiście, przedstawiam możliwe wprowadzenie do tematu”. Obok wpisu pojawiły się setki komentarzy – od zatroskanych po ironiczne. Cytowany artykuł także został wycofany z czasopisma. Powód? Nieujawnione użycie AI.

To oczywiście tylko pojedyncze, choć spektakularne, przypadki. W mediach społecznościowych badacze próbują anegdotycznie wyłapywać podobne nadużycia – od zwrotów przekopiowanych z ChataGPT po podejrzane wykresy i ilustracje. W komentarzach czasami powstają nawet nieformalne zbiory takich przypadków, czasem traktowane z humorem, a czasem jako ostrzeżenie. Pojawia się jednak pytanie: czy mamy do czynienia z wyjątkami, czy raczej z objawem systemowego zjawiska? Z pomocą przychodzą pierwsze badania empiryczne.

Skala zjawiska i pierwsze badania

W 2024 roku opublikowano kilka ważnych prac analizujących skalę wykorzystania modeli językowych w pisarstwie akademickim. Jedno z badań pokazało, że w 2023 roku co najmniej 60 tys. artykułów mogło być częściowo wygenerowanych przez AI – ok. 1% analizowanego dorobku naukowego! Badacz przeanalizował charakterystyczne słowa (np. commendable, meticulously, intricate), które zaczęły pojawiać się masowo po premierze ChataGPT.

Inni naukowcy pokazali z kolei, że 17,5% abstraktów i 15,3% wstępów w tekstach informatycznych z bazy arXiv zawierało ślady edycji przez modele językowe. Każdy może zresztą sprawdzić ten trend samodzielnie, wpisując do danej bazy danych, na przykład do PubMed, wybrane słowo charakterystyczne dla generatywnej AI. Ja spróbowałem z „delve” – jego częstotliwość wzrosła wykładniczo od 2023 roku, co widać na ilustracji 2 (pod tym tekstem).

Już wcześniej jednak badacze ostrzegali przed innymi formami AI-manipulacji – na przykład opisano przypadki fałszowania obrazów naukowych przy użyciu GAN-ów, czyli generatywnych sieci neuronowych. Pokazywano tworzenie całkowicie fikcyjnych danych wizualnych lub modyfikacje istniejących, np. usuwanie komórek rakowych ze zdjęć mikroskopowych w badaniach medycznych po to, aby wyniki dopasować do początkowych założeń.

Zagrożenia? Oczywiście

Eksperci ostrzegają przed tak zwanym „model collapse” – jeśli naukowcy będą wykorzystywać modele AI, wrzucając do nich swoje artykuły, to automatycznie będą wykorzystywać narzędzia trenowane na treściach generowanych przez te same modele. Taki sposób działania stopniowo obniża jakość treści generowanych przez sztuczną inteligencję, a w konsekwencji może obniżać poziom pisarstwa naukowego i badań. Być może mamy już pierwsze tego przypadki, o czym świadczyć może „słynny” artykuł z czasopisma ze stajni MDPI o łańcuchu dostaw warzyw. Tekst ten pełen jest nonsensownych fraz, na przykład tych o „pomidorach drapieżcach”.

Szczególnie niepokojące mogą też być konsekwencje dla zjawiska paper mills – szeroko ostatnio dyskutowanych fabryk artykułów naukowych, które za opłatą tworzą prace „na zamówienie”. Generatywna AI może radykalnie przyspieszyć i zautomatyzować ten proceder: teksty, które wydają się spójne, sformatowane, zawierają „poważnie brzmiące” frazy i nawet wykresy czy ilustracje (jak wspomniany penis szczura) mogą być łatwo tworzone przez AI. W praktyce oznacza to, że niepotrzebne są już nawet minimalne kompetencje akademickie – wystarczy dostęp do generatora tekstów i umiejętność formatowania dokumentu. Co więcej, wiele „fabryk” oferuje pakiet: tekst, wykresy, a nawet sztuczne dane empiryczne. W efekcie na rynek mogą trafić setki pozornie poprawnych, ale całkowicie fałszywych publikacji.

Reakcja wydawców

Wielkie, prestiżowe wydawnictwa już zareagowały – Elsevier, SAGE, Nature, Taylor and Francis i inne wprowadziły jasne polityki AI. Generalna zasada brzmi: wolno używać, ale trzeba ujawniać. Wydawcy zaczęli wdrażać detektory – narzędzia mające rozpoznawać czy tekst został częściowo lub w całości wygenerowany przez model językowy – i na tej podstawie odrzucają teksty ze zbyt wysokimi wskaźnikami treści AI. Choć stosowane, wciąż podchodzi się do nich dość ostrożne. Po pierwsze, narzędzia te nie są w pełni wiarygodne. Po drugie, detektory często mylą teksty pisane przez osoby niemówiące po angielsku jako ojczystym językiem z tekstami wygenerowanymi przez modele. Może to prowadzić do nieuzasadnionych podejrzeń wobec nieanglojęzycznych autorów. To z kolei pokazuje, jak łatwo narzędzia stworzone z myślą o etyce mogą same tworzyć nowe formy nierówności.

Dlatego większość renomowanych wydawców przyjmuje podejście liberalne, oparte na zasadzie dobrej wiary: dopuszcza się użycie AI jako narzędzia wspomagającego – pod warunkiem, że jest to jawne, przejrzyste i nie maskuje oszustwa. Kluczowe znaczenie ma tutaj intencja autora. AI jako pomocnik językowy, korektor stylistyczny, narzędzie do analizy danych? W porządku. AI jako „przykrywka” dla nieistniejących badań, fikcyjnych cytatów czy sfabrykowanych wyników? Niedopuszczalne.

Niestety, w Polsce sytuacja wygląda mniej różowo – tylko nieliczne krajowe czasopisma mają jakiekolwiek regulacje dotyczące wykorzystania AI. Krótki, niesystematyczny przegląd najwyżej punktowanych czasopism z obszaru socjologii, nauk o mediach i kulturoznawstwa – dziedzin, z którymi jestem związany – pokazał, że zaledwie garstka z nich zawiera jakiekolwiek zapisy dotyczące użycia narzędzi AI w procesie tworzenia tekstów naukowych. Nawet w periodykach aspirujących do standardów międzynarodowych brakuje jasnych wytycznych.

Używajmy mądrze, ale też kontrolujmy lepiej

Generatywna sztuczna inteligencja może stać się jednym z najbardziej przełomowych narzędzi w historii akademickiego pisarstwa. W wielu przypadkach może służyć wyrównywaniu szans, na przykład dla osób, które piszą po angielsku jako w języku obcym lub dla początkujących badaczy, którzy dopiero uczą się akademickiego stylu. Problem nie tkwi więc w samej technologii, lecz w sposobie jej używania i nadużywania. Współczesna nauka powoli zaczyna się stawać polem nieustannej walki między odpowiedzialnym, transparentnym korzystaniem z AI a próbami jej instrumentalizacji do oszustwa, pozorowania kompetencji czy masowej produkcji pseudonauki.

Obok etyki autorów ogromną rolę odgrywa też jakość redakcyjnego nadzoru. Bo jak to właściwie możliwe, że teksty zawierające nieistniejące dane, zmyślone struktury anatomiczne (jak w przypadku rzekomego penisa szczura) czy przekopiowane „na żywca” frazy wygenerowane przez AI przechodzą przez proces recenzji? To nie tylko wina autorów, to również sygnał alarmowy dla redakcji i recenzentów: musimy podnieść poziom czujności.

Oczywiście nie chodzi o to, by redaktorzy czy recenzenci stawali się detektywami, ale by rozwijali nowy typ kompetencji – AI-literacy. Dzisiaj muszą być bardziej wyczuleni na „zbyt doskonałe” brzmienie tekstów, nadmiernie kwiecisty język czy słowa typowe dla modeli językowych. Redakcje – szczególnie w czasopismach z wyższej półki – powinny wdrażać wewnętrzne procedury identyfikacji nadużyć związanych z generatywną sztuczną inteligencją.

Warto więc nie tylko wspierać dobre, transparentne wykorzystanie AI, ale również inwestować w kontrolę jakości – nie po to, by karać za samo użycie narzędzi, ale by chronić integralność badań naukowych. Przyszłość akademickiego pisarstwa będzie nieodłącznie związana z AI. Pytanie nie brzmi już „czy dopuścić sztuczną inteligencję?”, tylko „jak ją włączyć mądrze, uczciwie i pod odpowiednim nadzorem?”.

Widać zresztą, że naukowcy coraz lepiej rozumieją potencjał i ryzyka związane z wykorzystaniem generatywnej AI. Prowadząc szkolenia z zastosowania tych narzędzi w pisaniu naukowym, obserwuję rosnące zainteresowanie, ale też dużą dozę rozsądku i krytycznego myślenia. Pojawia się coraz więcej ciekawych pytań od uczestników: „Czy mogę używać ChatGPT do przygotowania abstraktu?”, „Czy wpisywać to w deklaracji użycia AI?”, „Czy AI może mi pomóc, jeśli nie mam doświadczenia z językiem naukowym?”. To pokazuje, że środowisko akademickie nie chce „zrezygnować ze sztucznej inteligencji”, ale nauczyć się korzystać z niej mądrze, etycznie i z pożytkiem dla jakości badań.

Piotr Siuda