Kategoryzacja AD 2013


Dominik Antonowicz, Stefan Jackowski, Andrzej Pilc, Błażej Skoczeń, Maciej Zabel.

Kategoryzacja jednostek naukowych AD 2013 stała się faktem. Warto przy tej okazji podsumować wyniki, które mogą posłużyć do naszkicowania mapy polskiej nauki na przestrzeni ubiegłych czterech lat. Zanim jednak przedstawimy rezultaty prac KEJN i decyzji ministra, kilka słów o zasadach przyjętych w aktualnym wydaniu ewaluacji i kategoryzacji jednostek naukowych na tle edycji 2010. Ta ostatnia nosiła cechy podejścia elementarnego, łatwego w odbiorze, ale niekoniecznie poprawnego metodologicznie. Aby uzyskać wynik punktowy jednostki naukowej, dodawano bowiem wprost wartość punktową za osiągnięcia naukowe i twórcze do wartości punktowej za inne formy działalności naukowej (w tym efekty materialne) czy potencjał naukowy jednostki. To oznacza, że w ten sam sposób traktowano często bardzo odległe przejawy działalności jednostek i nadawano im równorzędne znaczenie.

 

Metodologia ewaluacji

W tym kontekście KEJN podjął prace nad reformą metodyki przeprowadzania ewaluacji i kategoryzacji jednostek, o czym pisano już w FA 5/2012 oraz FA 7-8/2012. Warto jednak przypomnieć, iż przyjęta obecnie metoda porównań parami, z zastosowaniem tzw. relacji przewyższenia, sama w sobie ma walor naukowy, wynika bowiem z zastosowania metod tzw. analizy wielokryterialnej. Do oceny jednostki wytypowano następujące kryteria: osiągnięcia naukowe i twórcze (I), potencjał naukowy (II), efekty materialne działalności naukowej (III) oraz pozostałe efekty (IV). Warto zwrócić uwagę na fakt, że kryterium I i III ma charakter „intensywny”, tzn. wartość punktowa jest odnoszona do liczby pracowników zatrudnionych przy realizacji badań naukowych lub prac rozwojowych (N). Pozostałe kryteria (II i IV) mają charakter wybitnie „ekstensywny”, przy czym kryterium IV jest typowym kryterium eksperckim, polegającym na ocenie 10 najważniejszych osiągnięć jednostki naukowej. KEJN starał się wyjść naprzeciw postulatom wielu rozmaitych środowisk, których formy działalności naukowej mogą być bardzo różne, często dość odległe od siebie. Ponadto kryteria te zostały opatrzone różnymi wagami, aby wyeksponować specyfikę danego środowiska naukowego. Przyjęto osobny zestaw wag dla jednostek naukowych PAN i podstawowych jednostek organizacyjnych uczelni (zwykle 65%, 10%, 15%, 10%), i odrębny dla instytutów badawczych oraz tzw. innych jednostek (w niektórych nawet 35%, 10%, 45%, 10%). Można więc stwierdzić, że najwyższe wartości wagowe przyłożono do takich form działalności naukowej, które są charakterystyczne i podstawowe dla danego środowiska. W ślad za tym postanowiono utworzyć grupy wspólnej oceny (GWO), odrębne dla poszczególnych obszarów badań i rodzajów jednostek naukowych (PAN, uczelniane, badawcze, inne). Uniknięto w ten sposób słabości poprzedniej parametryzacji i uzyskano efekt względnie dobrej jednorodności w poszczególnych GWO. Wydaje się, że tak przyjęty podział na grupy dał dobre efekty.

Nowością obecnej parametryzacji jest wyróżnienie kategorii A+. Jest ona wyrazem docenienia przez KEJN roli liderów w świecie nauki – kategorię A+ otrzymują bowiem te jednostki, które spełniają kryteria wysokiej jakości i efektywności naukowej.

KEJN, wspomagany przez firmę Index Copernicus International (ICI), wdrożył program do oceny parametrycznej jednostek naukowych, który realizuje założenia algorytmu określonego w rozporządzeniu ministra. W konsekwencji ocena jednostek na podstawie złożonych przez nie ankiet przebiegała znacznie sprawniej. Warto przy tej okazji odnotować duży wkład zespołów ewaluacji powołanych przez KEJN do weryfikacji ankiet, w tym czasochłonnej oceny kryterium IV. To właśnie środowisko naukowe jest powołane do tego, by ocenić, na ile osiągnięcia przedstawione przez daną jednostkę są wybitne. W tej pracy zespoły ewaluacji były całkowicie autonomiczne. Warto zatem podkreślić, iż wynikiem pracy KEJN jest nie tylko bieżąca ocena jednostek naukowych, ale również powstanie instrumentu, który także w przyszłości pozwoli sprawnie przeprowadzić proces ewaluacji/kategoryzacji. To także wielkie ułatwienie dla użytkowników (w tym samych jednostek), którzy mogą sprawnie i wygodnie poruszać się po przeznaczonej dla nich części systemu teleinformatycznego.

Celem strategicznym działalności KEJN jest poprawienie jakości i efektywności polskich jednostek naukowych na tle ich odpowiedników w Europie i na świecie. W aktualnym procesie kategoryzacji jednostek położono na ten fakt szczególny nacisk. Poziomy jednostek referencyjnych, których osiągnięcie było potrzebne do zakwalifikowania do kategorii A lub B, zostały zbudowane w odniesieniu do pozycji międzynarodowej dyscyplin naukowych. Pozwala to na odzwierciedlenie kondycji polskiej nauki w zagranicznych bazach danych (takich jak WoS, WoK czy Scopus) w procesie oceny parametrycznej, poprzez zróżnicowanie poziomu jednostek referencyjnych w funkcji siły naukowej najpierw grupy nauk, a następnie poszczególnych dyscyplin nauki. W tym również przejawia się rola KEJN jako instytucji inspirującej rozwój i monitorującej osiągnięcia jednostek naukowych w Polsce.

Kategoryzacja w grupach nauk i obszarach badań

Poddane kategoryzacji jednostki naukowe (JN) zostały podzielone na cztery grupy nauk. Przeprowadzenie ewaluacji w każdej grupie było powierzone osobnej komisji KEJN, która ustalała własne zasady przypisywania jednostkom kategorii, w ramach przepisów prawa i ogólnych wskazań KEJN. W każdej grupie nauk zostały wyróżnione obszary badań, do których komisje KEJN zakwalifikowały jednostki naukowe. W każdym takim obszarze jednostki zostały dodatkowo podzielone na cztery typy (uczelnie, PAN, instytuty badawcze, inne), do których w ramach jednego obszaru były tworzone osobne grupy wspólnej oceny (GWO).

Analizie kategoryzacji wg typów instytucji poświęcony jest następny rozdział. Tu koncentrujemy się jedynie na analizie według grup nauk i wyróżnionych w nich obszarów badań. W Tabeli 1 podano liczbę jednostek przypisanych do poszczególnych grup, liczbę obszarów, na jakie zostały podzielone oraz procentowy udział jednostek poszczególnych kategorii w danej grupie.

Liczba jednostek przypisanych do poszczególnych obszarów była bardzo zróżnicowana, nawet w obrębie jednej grupy nauk. Trzy największe obszary (HS Nauki społeczne, HS Nauki ekonomiczne i NZ Nauki medyczne) obejmowały po około 100 jednostek każda, a najmniejsze składały się z ok. 10 jednostek. Zróżnicowanie jednostek znalazło swój wyraz także w ostatecznie przyznanych kategoriach. W Tabeli 2 zestawiono obszary, w których przeszło połowa jednostek otrzymała kategorię A lub A+ oraz te, w których udział takich jednostek jest mniejszy niż 25%.

Bardzo zróżnicowany jest również udział jednostek kategorii C w poszczególnych obszarach. W Tabeli 3 podano dane dotyczące obszarów, w których mniej niż 3% lub więcej niż 10% jednostek i nie mniej niż 3, zostało zakwalifikowanych do kategorii C.

Interesujące są zmiany kategorii jednostek w stosunku do poprzedniej kategoryzacji, które są podsumowane w Tabeli 4.

Należy pamiętać, że zmiany mogą wynikać nie tylko z intensyfikacji lub spowolnienia pracy jednostki, ale także innych, zewnętrznych przyczyn: zmiany grupy porównawczej, w której jednostka jest klasyfikowana, zachowań konkurentów nawet przy niezmienionej aktywności jednostki, a także zmiany zasad parametryzacji (o czym była mowa na początku niniejszego artykułu). Rezygnacji z prostego sumowania osiągnięć materialnych i stricte badawczych należy zapewne przypisać największe zmiany w grupach SI i TA.

Do obecnej kategoryzacji zgłosiło się 71 jednostek, które nie brały udziału w poprzedniej – najwięcej, bo aż 43, w grupie HS. Przeszło 40% nowych jednostek otrzymało kategorię C, a tylko jedna – kategorię A.

Na zakończenie przedstawionych analiz należy z całą mocą przypomnieć, że udziały jednostek kategorii A (z A+), B i C w poszczególnych grupach i obszarach odzwierciedlają wyłącznie zróżnicowanie parametrów jednostek w ramach poszczególnych obszarów, a nawet GWO. Wysoki udział jednostek kategorii A (z A+) świadczy o wyrównanym poziomie czołówki w danym obszarze (GWO). Duży udział jednostek kategorii C świadczy natomiast o dużej rozpiętości parametrów. Powyższe uwagi odnoszą się tym bardziej do wyników punktowych jednostek, ogłoszonych przez MNiSW w komunikacie o wynikach kompleksowej oceny. Dokonywanie na ich podstawie porównań jednostek działających w różnych obszarach badań, a nawet różnego typu, jest po prostu bezsensowne.

Kategoryzacja na tle rodzajów jednostek naukowych

Instytucjonalna różnorodność polskiej nauki została po części odzwierciedlona w procesie kategoryzacji – w naukach ścisłych i inżynierskich oraz naukach o życiu – w zmodyfikowanych wagach poszczególnych kryteriów, tak aby odpowiadały zróżnicowanym profilom jednostek oraz realizowanym przez nie zadaniom. Analiza wyników kategoryzacji przy uwzględnieniu kryterium odnoszącego się do typu jednostek naukowych pokazuje, że rozkład kategorii prezentuje się odmiennie w trzech podstawowych kategoriach instytucjonalnych.

Proste zestawienie ocen (patrz: Tabela 5) poświadcza jednoznacznie, że to wśród instytutów Polskiej Akademii Nauk największe jest nasycenie jednostek, które uzyskały najwyższe kategorie (A oraz A+). Nieco inaczej prezentuje się rozkład wyników w jednostkach uczelnianych oraz instytutach badawczych, tam stosunkowo niewielki odsetek stanowią jednostki A+, największy – gdyż prawie 60% – należy do kategorii B. Czwarta kategoria jednostek – zresztą najmniej liczna, ale organizacyjnie najbardziej zróżnicowana – w której skład wchodzą jednostki niemieszczące się w poprzednich trzech kategoriach, czyli podmioty komercyjne, muzea, fundacje, ośrodki badawczo-rozwojowe itd., charakteryzuje się największym (aż 50%) udziałem jednostek, które uzyskały kategorię C. W wielu przypadkach niska ocena wynika z tego, że badania naukowe, a zwłaszcza publikacja ich wyników nie jest głównym celem funkcjonowania tych organizacji, dlatego nie powinno dziwić, iż spora cześć z nich legitymowała się naprawdę skromnymi osiągnięciami i wyraźnie odstawała od pozostałych.

Zestawienie wyników parametryzacji 2010 i 2013 w podziale na typy jednostek naukowych (patrz: Tabela 6) wskazuje na istotne przesunięcia. Podczas parametryzacji w 2010 roku nie przyznawano kategorii wyróżniającej A+, dlatego porównania można dokonywać jedynie w obrębie trzech podstawowych kategorii. Największą zmianę widać w obrębie instytutów badawczych, wśród których znacząco stopniał odsetek jednostek z najwyższą kategorią (– 31,0%) natomiast zwiększył się odsetek jednostek w kategorii B (+ 24,9%) oraz C (+ 6,1%). Istotny spadek zanotowano również wśród instytutów PAN, wśród których liczba jednostek z najwyższą kategorią spadła o 18,6%; wzrosła natomiast liczba jednostek z kategorią B (17,1%). Na tym tle niewielkie, wręcz kosmetyczne zmiany odnotowano w jednostkach uczelnianych. W ostatniej grupie („Inne”) można z kolei zaobserwować skokowy (+ 27,4%) wzrost odsetka podmiotów, które uzyskały najniższą kategorię.

Istotny spadek pozycji instytutów badawczych może być powodowany metodologią wyznaczania kategorii naukowej, w której końcowy wynik nie jest już prostą sumą wartości poszczególnych kryteriów, ale wynikiem porównania parami w ramach poszczególnych kryteriów. Tak więc w przypadku ocenianej jednostki nawet ekstremalnie wysoka wartość jednego kryterium (w przypadku instytutów badawczych były to często wysokości kontraktów) nie wystarcza do zrównoważenia braku w pozostałych. Podobne przyczyny wyjaśniają przesunięcie wielu jednostek z kategorii B do C w ostatnim typie jednostek, określanym mianem „inne”. Potwierdzałby to fakt, że największe spadki w kategorii instytutów badawczych odnotowano w grupach nauk ścisłych oraz inżynierskich, a także nauk o życiu.

Analiza rozkładu przyznawania poszczególnych kategorii naukowych wskazuje, że nie ma znaczących rozbieżności – gdy chodzi o rozkład kategorii naukowych – w poszczególnych grupach nauk (patrz: Tabela 7). Pojawiające się różnice można traktować jako mało znaczące. Warto jednak zwrócić uwagę na kilka ciekawostek. Największy odsetek jednostek PAN wyróżnionych kategorią A+ znalazł się w naukach społecznych oraz humanistycznych (28,6%) i na tle jednostek PAN w innych obszarach wiedzy prezentują się one zdecydowanie najlepiej, bowiem 85,7% uzyskało kategorię A bądź A+. Wśród uczelni z kolei największe nasycenie najlepiej ocenianych jednostek jest w grupie nauk ścisłych oraz inżynierskich (A+ 4,2%; A 35,7%). Warto wskazać, że w obszarze nauk o życiu aż 10,5% jednostek uzyskało kategorię C.

Elitarna kategoria A+

Kategorii A+ nie było w poprzednich parametryzacjach. Jej powstanie miało na celu wyłonienie i dodatkowe finansowanie najlepszych z najlepszych. Kandydaci do tej kategorii byli wybierani spośród 25% najwyżej ocenionych jednostek naukowych w poszczególnych GWO, a ponadto musieli spełnić szereg innych wymagań. Rozpatrując przydział do kategorii A+, komisje KEJN brały pod uwagę nie tylko 4 podstawowe kryteria, lecz także inne parametry, takie jak: średnia liczba cytowań przypadająca na jednego pracownika, średnia liczba cytowań jednej publikacji bądź średnia wartość punktowa 25% najwyżej ocenianych publikacji. Zaobserwowaliśmy dużą zbieżność tych parametrów z kryteriami głównymi.

Kategoria A+ jest nieliczna – należy do niej 37 jednostek naukowych spośród 963 instytucji, które poddały się kategoryzacji, to jest 3,8% całości lub 12% z 308 placówek, które uzyskały kategorię A. Jednym z powodów ograniczonej liczby jednostek A+ jest fakt, że dodatkowe ich finansowanie uszczupla środki dla innych jednostek, w tym takich, którym do A+ brakowało niewiele. By zostać zaliczoną do kategorii A+, instytucja musiała uzyskać doskonałe wyniki we wszystkich czterech kryteriach. Dostały się do niej jednostki ze ścisłej czołówki.

Nieco statystyki. Spośród 303 instytucji z dziedziny nauk humanistycznych i społecznych kategorię A+ uzyskało 12, tj. około 4,0% jednostek. Spośród nauk o życiu uhonorowano tak 9 placówek z 233 klasyfikowanych tj. 3,9%. Nauki ścisłe i inżynierskie to 14 spośród 323 jednostek, co stanowi 4,3% i odzwierciedla ich wysokie miejsce w rankingach międzynarodowych. Nauki o sztuce reprezentowane są przez 2 ze 103 jednostek, stanowi to 1,9% tej liczby. Spośród 70 instytucji PAN wyłoniono 12 jednostek kategorii A+, stanowi to 17,1% całości. Tak więc PAN wypada lepiej niż instytuty badawcze, wśród których 2 (1,7%) ze 115 placówek uzyskały tę kategorię, a zarazem lepiej niż uczelnie, gdzie 23 wydziały spośród 756 jednostek (to jest około 3,0%) uzyskało wynik A+. Przodowały tutaj Uniwersytet Warszawski (6 wydziałów A+), oraz Jagielloński (4 takie wydziały).

Podsumowując, aby uzyskać kategorię A+, należało publikować dużo i dobrze, należało również dbać o parametr N, czyli liczbę zatrudnionych. Wydaje się, że w niektórych przypadkach znaczny wzrost N, spowodowany dużymi projektami badawczymi, skutkować mógł spektakularnymi spadkami jednostek w tej parametryzacji.

W stronę kategoryzacji 2017

Trudno nam ocenić wartość zastosowanego systemu oceny jednostek naukowych. Będziemy wsłuchiwać się przede wszystkim w opinie środowiska, ale także uczestników procesu ewaluacji, w tym ekspertów ICI, oraz opinie kierownictwa MNiSW. Szczególnie interesować nas będzie odpowiedź na pytanie, czy zasada systemu została zaakceptowana, czy nie. To da nam wskazówkę, czy mamy go modyfikować, czy zmienić całkowicie. Członkowie KEJN zdecydowanie popierają zaakceptowanie obecnego systemu oceny parametrycznej jednostek naukowych z wprowadzeniem wielu koniecznych zmian. Jesteśmy obecnie bogatsi o nabyte doświadczenia oraz dane, które mogą posłużyć nam do przyszłych symulacji. Pamiętać należy, że tworzyliśmy nowy system, w którym aż 3 kryteria spośród 4 (poza kryterium I) nie miały odpowiedników w poprzednich ocenach, przez co nie mieliśmy danych do koniecznych analiz.

Ocenimy, które z parametrów nie miały wpływu na ostateczne wyniki, które stwarzały możliwość dowolności oceny, a które – mimo że precyzyjne – powodowały trudności i częste pomyłki przy wypełnieniu ankiet. Nie możemy jednak przy tym zapomnieć, że nasz system musi dać szansę oceny wszystkich jednostek, w tym także tych słabszych, będących „na dorobku”. Dlatego obok parametrów ogólnych dla wszystkich, wprowadzono parametry opisujące jednostki wyróżniające się, co w obecnej ocenie stosowaliśmy do wyłonienia kategorii A+. Także te parametry będziemy doprecyzowywać i ulepszać.

Liczymy, że kolejna ocena, niezależnie od jej kształtu, będzie doskonalsza i w szerszym zakresie skorzysta z baz POL-on, co zwiększy możliwość weryfikacji danych i ułatwi pracę ekspertów.

W imieniu Komitetu Ewaluacji Jednostek Naukowych tekst opracowali: Dominik Antonowicz, Stefan Jackowski, Andrzej Pilc, Błażej Skoczeń, Maciej Zabel.

Tabela 1. Liczba obszarów w grupach nauk i udział JN kategorii A+, A, B, C

Grupa nauk

Liczba

JN

Liczba obszarów

%A+

%A

%B

%C

Nauki humanistyczne i społeczne (HS)

303

6

4,0%

27,1%

62,0%

6,9%

Nauki o życiu (NZ)

233

4

3,9%

37,8%

49,8%

8,6%

Nauki ścisłe i inżynierskie (SI)

323

14

4,3%

35,9%

50,8%

9,0%

Nauki o sztuce i twórczości artystycznej (TA)

103

4

1,9%

20,4%

70,9%

6,8%

RAZEM

962

28

3,8%

32,0%

56,2%

8,0%

Tabela 2. Udział JN kategorii A, A+ w wybranych grupach i obszarach

Grupa

Obszar

# JN

w tym A+

% A i A+

HS

Filozofia i nauki teologiczne

16

1

62,5%

NZ

Nauki biologiczne

41

4

68,3%

SI

Chemia i technologia chemiczna

26

3

77,0%

SI

Matematyka i Informatyka

17

2

64,7%

SI

Fizyka i Astronomia

35

6

57,1%

HS

Nauki społeczne

98

3

21,4%

SI

Transport i bezpieczeństwo

13

0

23,0%

SI

Infrastruktura i ochrona środowiska

9

0

22,2%

SI

Elektrotechnika, elektronika i technologie informacyjne

14

0

14,3%

TA

Nauki muzyczne

35

1

14,3%

TA

Sztuki teatralne i filmowe

14

0

14,3%

Tabela 3. Udział JN kategorii C w wybranych grupach i obszarach

Grupa

Obszar

# JN

w tym C

% C

HS

Nauki społeczne

98

11

11,2%

NZ

Nauki medyczne

100

14

14,0%

SI

Maszyny i urządzenia

18

6

33,3%

SI

Elektrotechnika, elektronika i technologie informacyjne

35

3

21,4%

SI

Elektrotechnika, automatyka, elektronika i technologie informacyjne

47

9

19,1%

SI

Technologie materiałowe i chemiczne

16

3

18,8%

TA

Sztuki projektowe

15

4

26,7%

HS

Filozofia i nauki teologiczne

16

0

0%

SI

Fizyka i Astronomia

35

1

2,9%

SI

Chemia i technologia chemiczna

26

0

0%

SI

Energetyka i górnictwo

11

0

0%

SI

Mechanika, budowa i eksploatacja maszyn, inżynieria produkcji

38

0

0%

SI

Inżynieria materiałowa, inżynieria chemiczna i procesowa, inżynieria środowiska

23

0

0%

TA

Nauki muzyczne

35

1

2,9%

TA

Sztuki piękne i konserwacja

39

1

2,6%

abela 4. Zmiany kategorii w grupach nauk

Grupa nauk

# JN w obu kat.

% wyższa

% równa

% niższa

HS

260

15%

73,5%

11,5%

NZ

223

17,9%

63,7%

18,4%

SI

313

15,3%

62,6%

22,0%

TA

95

29,5%

44,2%

26,3%

Tabela 5. Odsetek kategorii naukowych w poszczególnych typach jednostek (w nawiasach liczba jednostek)

2013

Liczba JN

A+

A

B

C

PAN

70

17,1% (12)

60,0% (42)

21,4% (15)

1,4% (1)

Uczelnie

756

3,0% (23)

29,8% (225)

59,6% (451)

7,5% (57)

Instytuty badawcze

115

1,7% (2)

30,4% (35)

60,9% (70)

7,0% (8)

Inne

22

0,0%

27,3% (6)

22,7% (5)

50,0% (11)

Tabela 6. Zmiana odsetka kategorii naukowych w poszczególnych typach jednostek (2010-2013)

2010–2013

A lub A+

B

C

PAN

– 18,6%

+ 17,1%

+ 1,4%

Uczelnie

– 0,9%

+ 2,1%

– 1,1%

Instytuty badawcze

– 31,0%

+ 24,9%

+ 6,1%

Inne

+ 1,2%

– 26,2%

+ 27,4%

Tabela 7. Rozkład przyznanych kategorii według typu jednostki w grupach nauk

Obszar

Typ

N

A+

A

B

C

Obszar HS

 

303

4,0%

27,1%

62,1%

6,9%

Uczelnie

276

2,9%

26,1%

64,5%

6,5%

PAN

14

28,6%

57,1%

14,3%

0,0%

Instytuty

9

0,0%

22,2%

77,8%

0,0%

Inne

4

0,0%

0,0%

25,0%

75,0%

Obszar NZ

NZ

233

3,9%

37,8%

49,8%

8,6%

Uczelnie

162

2,5%

34,6%

52,5%

10,5%

PAN

30

10,0%

63,3%

23,3%

3,3%

Instytuty

39

5,1%

30,8%

59,0%

5,1%

Inne

2

0,0%

50,0%

50,0%

0,0%

Obszar SI

SI

323

4,3%

35,9%

50,8%

9,0%

Uczelnie

216

4,2%

35,7%

53,2%

6,9%

PAN

26

19,2%

57,7%

23,1%

0,0%

Instytuty

67

0,0%

31,3%

59,7%

9,0%

Inne

14

0,0%

21,4%

21,4%

57,1%

Obszar TA

TA

103

1,9%

20,4%

70,9%

6,8%

uczelnie

102

2,0%

19,6%

71,6%

6,9%

Inne

1

0,0%

100,0%

0,0%

0,0%