Sprawy nauki

31 Lipca

Źródło: archiwum prywatne

AI, autorstwo i odpowiedzialność

Niepokój stojący za zarzutem braku autorstwa przy wykorzystaniu modeli generatywnych jest zrozumiały, jednak sama etykietka „wygenerowano” rzadko trafia w jego źródło. Warto najpierw rozróżnić, o który z trzech celów chodzi. W twórczości istotne może być ustalenie pochodzenia dzieła i udziału człowieka, w nauce – ocena wiarygodności metody i odpowiedzialności za twierdzenia, a w kształceniu – ocena samodzielności i rozwoju kompetencji – pisze dr inż. Marcin M. Mirończuk z Ośrodka Przetwarzania Informacji – PIB. 

Odkąd koszt generowania treści radykalnie spadł, kilka odrębnych narracji nakłada się na siebie i zlewa w jeden zarzut: wygenerowane. Warto je rozdzielić, bo dotyczą trzech różnych celów, a w każdym pytanie o zastosowanie modelu generatywnego znaczy co innego.

Pierwszy: tam, gdzie ludzki wytwór sam w sobie jest wartością. Literatura, muzyka, sztuka to dziedziny, w których człowiek występuje w centrum jako kreator, a „zrobione ludzką ręką” bywa istotą dzieła. Tu pochodzenie jest częścią wartości, więc pytanie o udział modelu jest jak najbardziej sensowne. Niemniej i tu granica jest płynna, a sam zarzut potrafi zlewać różne tryby użycia. Gdy Olga Tokarczuk przyznała, że używa modelu do researchu i rozwijania pomysłów, część odbiorców potraktowała to tak, jakby model generatywny napisał książkę, choć mówiła o czymś znacznie węższym. Jak zobaczymy dalej, ten sam błąd wraca także w przypadku nauki, gdzie pojedyncze „wygenerowane” przykleja się niezależnie od tego, jaką funkcję faktycznie powierzono modelowi. Różnica jest taka, że w sztuce odpowiedzią może być oznaczenie jego udziału. Stąd postuluje się dzisiaj, by współudział modeli sygnalizować czytelnikowi. Natomiast w nauce chodzi bardziej o jawność metody niż o sam fakt ludzkiego wykonania.

Drugi: nauka i badania. I tu ta sama intuicja co do autorstwa może być błędnie przenoszona. W nauce liczy się wkład do korpusu wiedzy, m.in. rozwiązanie problemu, nowe poznanie. Samo użycie narzędzia lub procedury nie czyni pracy naukową. Jej naukowy charakter nadaje problem, metoda, kontrola błędu, interpretacja i wkład poznawczy. Łatwo pomylić posłużenie się procesem z nauką. Narzędzie to element wspomagający i nie zastępuje wkładu człowieka.

Jeśli zarzut brzmi, że samo użycie modelu usuwa autorstwo albo naukowość pracy, to jest to stanowisko zbyt mocne. Trafniejsza wersja tego zarzutu może przyjąć bardziej realną i trudniejszą do obrony formę. Możemy mianowicie zapytać, czy delegacja nie zaciemnia wkładu człowieka – które funkcje poznawcze powierzono modelowi i czy człowiek zachował kontrolę nad pytaniem, metodą i interpretacją. To jest właściwe pytanie, nie sam fakt użycia modelu, lecz „jakie funkcje poznawcze zostały oddane i kto odpowiada za końcowe twierdzenia?”.

Autorstwa w nauce nie rozstrzyga więc to, kto wykonał poszczególne operacje, aktualnie wiele z nich wykonuje już maszyna. Algorytm potrafi zaprojektować eksperyment, dobrać kolejny pomiar, zasugerować rozwiązanie, natomiast pakiet statystyczny potrafi podać interpretację. Te funkcje są wytwórcze, dają się oddzielić od podmiotu i zlecić. Autorstwo opiera się na wzięciu odpowiedzialności za twierdzenie i powiedzeniu „ja to sprawdziłem, rozumiem i za to ręczę”. Samo „kierowanie” modelem tego nie gwarantuje, jeśli człowiek nie rozumie i nie ręczy za wynik, ale i delegowanie wielu funkcji wytwórczych autorstwa nie unieważnia, dopóki ktoś rezultat rozumie, kontroluje i bierze za niego odpowiedzialność.

Autor to nie ten, kto wyprodukował najwięcej, lecz ten, kto może za wynik ręczyć. To trochę jak z mikroskopem – nie powiemy, że to on dokonał odkrycia, tylko badacz, który przez niego patrzył i zrozumiał, co widzi. Dotyczy to także trybu poszukiwania, gdzie model generatywny, podobnie jak eksploracyjna analiza danych, od dekad potrafi wydobyć z danych szereg kandydatów na wzorce i hipotezy. To nie odbiera pracy naukowości z uwagi na na to, że ciężar leży nie w tym, iż wzorzec został wygenerowany, lecz w tym, czy zbiega się stabilnie i czy człowiek go uchwycił, zweryfikował i obronił.

Należy tu jednak postawić jedno zastrzeżenie, które tę analogię ogranicza: model, inaczej niż mikroskop, potrafi uczestniczyć w bardziej poznawczych etapach, m.in. proponować interpretacje, tekst imitujący rozumowanie. Właśnie dlatego wymaga większej jawności i kontroli niż klasyczne narzędzie badawcze. Nadużyciem nie jest tu eksploracja, lecz przebranie znaleziska eksploracyjnego za hipotezę postawioną z góry i „niezależnie potwierdzoną”.

I wreszcie trzeci cel: formacja człowieka (student, badacz). To inna warstwa. Tu celem nie jest wynik, lecz rozwój prowadzący do samodzielnego działania i podejmowania decyzji, stawiania hipotez, krytycznego myślenia czy rozliczalności. Uzasadniona jest obawa, że ktoś przeskoczy etap mocowania się z problemem i nie nabędzie warsztatu badawczego. Wiedzę nabywa się w trakcie doświadczenia i przechodzenia przez trudności, a jeśli pominiemy ten etap, może się okazać, że posiadamy tylko iluzję wiedzy i rozumienia.

Ze względu na to, że model może produkować tekst, który brzmi zrozumiale, możemy łatwo tę płynność wziąć za kompetencję. I tutaj łatwo o dokonanie pomyłki, podobnej do tej w stylu: „to brzmi naukowo, więc jest naukowe”. Tyle że tym razem dotyczy nie cudzego tekstu, lecz nas samych. Różnica polega na tym, że ofiarą złudzenia jest sam uczący się. Dodatkowo to samo złudzenie ma wersję rozciągniętą w czasie: delegując funkcję, której jeszcze się nie wykształciło, można mieć poczucie przyrostu mocy – wynik wychodzi, praca i rozwiązanie problemu idzie szybciej – choć to nie nasza moc urosła, a cudza, wpięta w miejsce, gdzie nasza miała dopiero urosnąć. Wzmocnienie bywa więc pozorne od początku, jeśli dotyczy kompetencji, której się nie przeszło. To na tym etapie miała się ona uformować.

Granica delegacji nie leży jednak w narzędziu, lecz w stanie własnej kompetencji: matematyk, który zna analizę i zrzuca rachunki na solver (narzędzie informatyczne do rozwiązywania równań – RED), nie zaciąga długu z tego względu, że ma do czego wrócić i czym skontrolować wynik. Dług powstaje dopiero wtedy, gdy oddajemy coś, czego nie umiemy jeszcze odtworzyć ani ocenić. Dlatego proces ma wartość, której sam rezultat nie zastąpi; nie chodzi o to, by wynik zaistniał, lecz o to, by ktoś naprawdę wiedział. Ale to inny cel i inny sposób użycia i nie należy go mylić z oceną samego badania.

Stąd uściślenie: to, jak odczytujemy użycie modelu generatywnego, zależy od kontekstu. W twórczości model może rodzić nowe normy, np. model jako narzędzie współtworzenia, którego udział da się zasygnalizować oznaczeniem lub opisem. W badaniach zazwyczaj domaga się ujawnienia zakresu i delegacji funkcji jako części metodologii. Natomiast w formacji rządzi się logiką rozwoju.

Na końcu należy postawić jedno zastrzeżenie, które wzmacnia tezę o zależności użycia modelu generatywnego od kontekstu. Kuszące jest powiedzieć: „skoro wynik okazał się trafny, metoda nie ma znaczenia”, ale to nieprawda. Wartość odkrycia zależy przede wszystkim od tego, czy wynik jest prawdziwy, sprawdzalny i istotny; metoda pozostaje jednak ważna dla wiarygodności, oceny błędu, zakresu uogólnienia, wykrywania konfabulacji i rozliczalności. Model dokłada tu problem innego rodzaju niż kalkulator – nie dlatego, że jest probabilistyczny, bo nauka zna i ceni metody stochastyczne, lecz dlatego, że nieudokumentowaną, interakcyjną rozmowę z modelem trudno odtworzyć. „Model tak podpowiedział” nie jest metodą; metodą staje się dopiero opis tego, jakiego modelu użyto, do jakich funkcji, na jakich danych i zapytaniach (prompty), jak selekcjonowano wyniki i jak je zweryfikowano. Jawność w tym zakresie nie jest więc wstydem, lecz przejawem rzetelności. Powinniśmy zatem wspierać wymóg jawności, a nie zakaz używania modeli generatywnych.

Konkludując, niepokój stojący za zarzutem braku autorstwa przy wykorzystaniu modeli generatywnych jest zrozumiały, jednak – jak widać – sama etykietka „wygenerowano” rzadko trafia w jego źródło. Warto najpierw rozróżnić, o który z trzech wyżej wymienionych celów chodzi. W twórczości istotne może być ustalenie pochodzenia dzieła i udziału człowieka, w nauce – ocena wiarygodności metody i odpowiedzialności za twierdzenia, a w kształceniu – ocena samodzielności i rozwoju kompetencji. Samo określenie rezultatu jako „wygenerowanego” nie wystarcza do jego oceny, ponieważ pomija kontekst użycia modelu.

Marcin M. Mirończuk