Okresowa ocena nauczycieli akademickich to czas swego rodzaju rachunku sumienia, miêdzy innymi w dziedzinie dokonañ naukowych. Te za¶ mierzone s± punktami przyznawanymi przede wszystkim za to, co znalaz³o wyraz w publikacjach. Przy tym, je¶li chodzi o „oryginalne prace twórcze”, najwa¿niejsze s± cytowania, przede wszystkim s³ynny impact factor czasopism, w których ukaza³y siê artyku³y, oraz cytowania danego artyku³u umieszczone w bazach cytowañ, jak na przyk³ad „Science Citation Index”.
Rzut oka na ankietê, któr± mam przed sob±, sugeruje, ¿e punktacja za opublikowane prace naukowe odzwierciedla za³o¿enie, i¿ umieszczenie artyku³u w czasopi¶mie o wysokim impact factor przek³ada siê na znaczenie, jaki ten artyku³ ma na „rynku naukowym”. Wydawaæ by siê mog³o, ¿e wysoki impact factor czasopisma automatycznie powoduje wysok± liczbê cytowañ pomieszczonej w nim pracy. Tymczasem zale¿no¶æ jest tylko odwrotna - wysoka liczba cytowañ artyku³u podnosi impact factor czasopisma. Ale wed³ug ankiety jedna praca opublikowana w czasopi¶mie, którego impact factor jest mniejszy od 0,1 (czyli niewielki), jest warta tyle, co sze¶æ cytowañ zarejestrowanych w SCI.
Na temat stosowania do ewaluacji dzia³alno¶ci naukowej prostych wska¼ników ilo¶ciowych opartych na cytowalno¶ci, jak impact factor, napisano wiele, tak¿e na ³amach „Forum Akademickiego”. Zwolennicy podkre¶laj± zazwyczaj prostotê tego rodzaju ilo¶ciowej miary, która umo¿liwia ³atwe uzyskiwanie list rankingowych czasopism, jednostek badawczych, grup naukowych czy poszczególnych badaczy. Krytycy wskazuj± na rozliczne uproszczenia i wady takich metod, jak preferowanie pewnych dziedzin wzglêdem innych czy nieporównywalno¶æ pewnych wska¼ników. Swoj± drog±, ciekawa by³aby analiza socjologiczna relacji miêdzy stopniem „bezwzglêdno¶ci” poparcia dla ewaluacji na podstawie impact factor (zwykle w po³±czeniu z atencj± dla tak zwanej listy filadelfijskiej czasopism) a reprezentowan± dyscyplin± naukow± i jednostk± badawcz±. W ogólno¶ci warto zwróciæ uwagê, ¿e sam Eugene Garfield, który zaproponowa³ u¿ycie wska¼nika impact factor do warto¶ciowania miêdzy innymi czasopism naukowych, zwraca uwagê na konieczno¶æ zachowania ostro¿no¶ci i rozs±dku przy jego stosowaniu.
Rzecz±, na któr± najczê¶ciej chyba zwracaj± uwagê krytycy bezrefleksyjnego przyk³adania miary „cytowalno¶ci” do wszelkiej dzia³alno¶ci naukowej, jest jej zmienno¶æ po¶ród ró¿nych dyscyplin naukowych. O ile mo¿na w miarê sensownie porównywaæ wagê dokonañ badaczy czy grup naukowych dzia³aj±cych w tej samej dziedzinie nauki, o tyle bezpo¶rednie ilo¶ciowe porównywanie reprezentantów ró¿nych nauk jest ju¿ mocno podejrzane.
Zwracaj±c uwagê na du¿e ró¿nice miêdzy ¶redni± liczb± cytowañ w ró¿nych dyscyplinach naukowych, I. Podlubny (http://arxiv.org/math.ST/ 0410574) proponuje zmodyfikowan± wersjê parametryzacji przez cytowania. Korzystaj±c z danych dotycz±cych USA (Science and Engineering Indicators 2004, National Science Foundation, 2004), zestawi³ liczbê cytowañ w ró¿nych dziedzinach nauki na przestrzeni dekady 1992-2001 i zauwa¿y³ pewn± prawid³owo¶æ - stosunki tych liczb dla poszczególnych par dyscyplin naukowych wykazuj± wzglêdnie niewielkie zmiany w czasie. Poniewa¿ najni¿sze wska¼niki dotycz± prac z dziedziny matematyki, Podlubny okre¶li³ parametry innych dyscyplin wzglêdem „królowej nauk”. I tak na przyk³ad zaokr±glony ¶redni „wspó³czynnik cytowalno¶ci wzglêdem matematyki” wyniós³ dla nauk technicznych 5, dla biologii 8, dla chemii 15, dla fizyki 19, a dla badañ biomedycznych oraz medycyny klinicznej 78.
Dalej za¶ zaproponowa³, by do oceny dorobku grup badawczych reprezentuj±cych ró¿ne nauki stosowaæ nie bezwzglêdn± liczbê uzyskanych cytowañ, lecz znormalizowane wska¼niki dla danej dziedziny, to znaczy liczbê cytowañ podzielon± przez ¶redni wspó³czynnik „przewagi nad matematyk±” dla danej dyscypliny. W ten sposób uwzglêdnia siê automatycznie takie czynniki, jak ró¿nice w globalnej liczbie publikacji oraz w ¶redniej d³ugo¶ci spisów referencji w pracach publikowanych w ró¿nych dziedzinach nauki.
Tê sam± metodê mo¿na zastosowaæ i do oceny poszczególnych pracowników (jak to siê de facto robi na przyk³ad podczas wydzia³owych czy uczelnianych ocen), zw³aszcza w przypadku wzglêdnie niewielkiej liczby cytowañ. Rzecz jasna, nale¿y przy tym uwzglêdniæ zarówno warunki lokalne, to znaczy korzystaæ z owych wspó³czynników uzyskanych nie tyle z danych amerykañskich, co regionalnych (na przyk³ad oszacowanych dla nauki w Europie ¦rodkowowschodniej) albo globalnych. Ponadto nale¿y mieæ na wzglêdzie silne fluktuacje w bezwzglêdnych liczbach cytowañ przy stosunkowo niewielkiej liczbie publikacji i w krótkich okresach. We wnioskach koñcowych Podlubny podkre¶la, ¿e proponowana przez niego znormalizowana cytowalno¶æ mo¿e byæ jedn± z miar znaczenia publikacji grup czy pojedynczych badaczy dla nauki jako takiej, ale nie powinna byæ miar± jedyn±, jako ¿e nie bierze pod uwagê wielu innych istotnych czynników zwi±zanych z wk³adem dokonañ tej czy innej osoby b±d¼ grupy do rozwoju ¶wiatowej nauki.
W tym kontek¶cie warto zdaæ sobie sprawê, ¿e stosuj±c wspó³czynniki cytowalno¶ci, takie jak impact factor Garfielda czy znormalizowana cytowalno¶æ Podlubnego, jako miarê znaczenia dokonañ w sferze nauki, przyjmuje siê milcz±co pewien idealny model, w którym spis referencji w ka¿dej publikacji obejmuje prace, z którymi cytuj±cy autorzy przynajmniej siê zapoznali i istotnie odnosz± siê one do tre¶ci. Tymczasem ³atwo sobie wyobraziæ mechanizmy psychologiczne i socjologiczne, które sprawiaj±, i¿ rzeczywisto¶æ nie pasuje do owego wyidealizowanego modelu.
Nacisk na publikowanie jak najwiêkszej liczby prac i przy okazji osi±ganie mo¿liwie wysokiej cytowalno¶ci to rzecz bynajmniej nie nowa. Pamiêtam dobrze, jak przed wielu laty, gdy zalicza³em siê jeszcze do m³odych naukowców, w gronie paru kolegów zastanawiali¶my siê nad mo¿liwo¶ciami osi±gniêcia wysokich warto¶ci owych wska¼ników, a tym samym naszych ocen w oczach szefów i ewentualnych komisji. Dwa pomys³y nasunê³y siê nam jako niemal naturalne. Pierwszy mia³ polegaæ na dopisywaniu nawzajem swoich nazwisk do publikowanych prac, drugi - na licznym cytowaniu siê nawzajem w swoich pracach. Te dwa rodzaje dzia³añ nie by³y, niestety, wzajemnie niesprzeczne, jako ¿e w przypadku ekstremalnym wszystkie takie cytowania by³yby odwo³ywaniem siê do prac w³asnych, wiêc nie by³yby uwzglêdniane w bardziej zaawansowanych metodach wyliczania cytowalno¶ci, w których autocytowania nie s± brane pod uwagê. Jednak przy zachowaniu pewnej dozy umiaru plan móg³ siê powie¶æ, szczególnie ¿e ka¿dy z nas pracowa³ w innej placówce naukowej i nieco innej specjalno¶ci, wiêc takie „grzeczno¶ciowe” powo³ywanie siê wzajem na swoje prace nie wygl±da³oby najgorzej.
Z powodu ró¿nych komplikacji pomys³ów tych nie wcielili¶my w ¿ycie. Jeden z nas do¶æ szybko porzuci³ karierê naukow± i poszed³ zarabiaæ na ¿ycie w innej bran¿y. Drugi nie móg³ nic zrobiæ, bo o formie wszelkich publikacji decydowa³ jego szef, dopisuj±c siê oczywi¶cie w charakterze wspó³autora, a o dodaniu nazwisk innych autorów b±d¼ dodatkowych referencji nie by³o mowy. Niemniej, je¶li takie pomys³y przysz³y do g³owy nam, mog³y te¿ innym. Z tego wzglêdu ciekawa, tak¿e z naukowego punktu widzenia, mog³aby siê okazaæ próba wy³owienia w morzu publikacji i cytowañ pewnych sieci powi±zañ miêdzy publikacjami i ich autorami, niezbyt silnie uzasadnionych wzglêdami czysto merytorycznymi.
Inny problem, zwi±zany z odstêpstwami od wspomnianego wy¿ej idealnego modelu uzasadnionego cytowania przeczytanych prac, rozpatruj± w swoich artyku³ach M.V. Simkin i V.P. Roychowdhury (Complex Syst. 14 (2003) 269; Scientometrics 62 (2005) 367). Zainteresowali siê mianowicie propagacj± b³êdów pojawiaj±cych siê w referencjach do licznie cytowanych artyku³ów naukowych. Za materia³ do badañ pos³u¿y³ im tuzin najczê¶ciej cytowanych prac z dziedziny szeroko pojmowanej fizyki, z ca³kowit± liczb± cytowañ miêdzy oko³o 400 a ponad 4300 oraz liczb± cytowañ z b³êdami miêdzy 20 a ponad 260.
Autorzy przyjêli za³o¿enie, ¿e b³êdy w odno¶nikach s± wprowadzane w sposób czysto losowy, ale tylko przez autorów, którzy cytowan± publikacjê przynajmniej mieli w rêkach i pope³nili b³±d przy przepisywaniu danych bibliograficznych. Przyjêli ponadto, ¿e b³±d w miejscu ka¿dego znaku w zapisie odno¶nika bibliograficznego jest równie prawdopodobny, a zatem prawdopodobieñstwo powtórzenia tego samego b³êdu przez dwóch niezale¿nych autorów jest bliskie zeru. Nastêpnie zbudowali model statystyczny opisuj±cy propagacjê b³êdów w odno¶nikach literaturowych, który umo¿liwia oszacowanie prawdopodobieñstwa R tego, ¿e autor b³êdnie cytuj±cy dane bibliograficzne przynajmniej mia³ w rêkach cytowan± pracê. Jest to model dok³adniejszy ni¿ proponowane wcze¶niej miêdzy innymi w celu matematycznego opisania zjawiska znanego pod nazw± „efektu ¶w. Mateusza” ('Ka¿demu bowiem, kto ma, bêdzie dodane...', Mt 25,29), a w kontek¶cie bibliometrii polegaj±cego na tym, ¿e prawdopodobieñstwo uzyskania przez okre¶lon± pracê kolejnego cytowania jest tym wiêksze, im wiêcej cytowañ dana praca wcze¶niej uzyska³a.
Po zastosowaniu modelu do rzeczywistych danych, uzyskanych ze wspomnianych dwunastu artyku³ów, Simkin i Roychowdhury otrzymali wynik R = 0,2. Wyci±gnêli st±d wniosek, ¿e ¶rednio w 80 procentach przypadków dane bibliograficzne s± tylko kopiowane (wraz z ewentualnymi b³êdami) z listy referencji zamieszczonych w innych pracach, bez sprawdzenia w odpowiednim ¼ródle bibliograficznym lub przynajmniej w autoryzowanym spisie odno¶ników. Zatem - konkluduj± - w dynamice sieci powi±zañ miêdzy publikacjami naukowymi dominuje proste kopiowanie odno¶ników literaturowych, dziecinnie ³atwe, gdy prace pisze siê na komputerach i s± one dostêpne w Internecie.
Zdaj±c sobie sprawê z du¿ych uproszczeñ zaproponowanego modelu, autorzy sugeruj± dalsze badania na ten temat. Nale¿a³oby uwzglêdniæ miêdzy innymi niejednorodno¶æ rozk³adu prawdopodobieñstwa wystêpowania poszczególnych rodzajów b³êdów (opuszczenie pojedynczej litery czy cyfry b±d¼ tak zwany czeski b³±d mo¿e siê zdarzyæ czê¶ciej ni¿ na przyk³ad wpisanie ca³kowicie innego numeru strony lub woluminu), a tak¿e wielokrotne autorstwo i wspó³autorstwo prac (prawdopodobieñstwo pope³nienia tego samego b³êdu w pracach tego samego autora jest wiêksze, bo zwykle kopiuje on fragmenty spisu referencji ze swoich wcze¶niejszych prac). Ponadto niektóre b³êdy w bazach danych bibliograficznych, które stanowi± ¼ród³o materia³u do takich analiz, s± równie¿ wprowadzane przez twórcê tych baz - ISI.
Takie, jak wspomniane powy¿ej, badania nad cytowaniem publikacji naukowych mog± siê przyczyniæ do lepszego zrozumienia zale¿no¶ci miêdzy rzeczywistym znaczeniem prac poszczególnych naukowców, grup badawczych czy ca³ych instytucji naukowych a ró¿nymi prostymi wska¼nikami stosowanymi w praktyce do ich oceny. Nastêpnie powstan± mo¿e bardziej wyrafinowane metody naukometryczne, które uczyni± nieskutecznymi metody zawy¿ania wska¼ników przyjêtych za podstawê oceny dokonañ naukowych, nie maj±ce bezpo¶redniego zwi±zku z ich rzeczywist± warto¶ci±. A jednocze¶nie jest to samo w sobie ciekawe pole badañ naukowych.
Dr Pawe³ Misiak jest pracownikiem Akademii Rolniczej we Wroc³awiu.