Znaleźliśmy się dzisiaj w niebezpiecznej sytuacji, w której publiczna narracja została zdominowana przez determinizm technologiczny, pomijający najistotniejsze pytania: czym jest tak naprawdę AI (zwłaszcza generatywna), czy i w jakim sensie jest „inteligencją”, kto ją „produkuje” i wdraża, kto organizuje dyskurs wokół niej. Potrzebna nam jest krytyczna refleksja obejmująca wszystkie istotne aspekty AI, od filozofii, socjologii i psychologii po informatykę – piszą mgr Jacek Mańko z Akademii Leona Koźmińskiego i dr hab. Michał Krzykawski z Uniwersytetu Śląskiego.
Na łamach „Forum Akademickiego” ukazał się wywiad z dr inż. Anną Sztyber-Betley, zatytułowany „Nie wiem, czy za 10 lat zawód naukowca będzie jeszcze potrzebny”, w którym rozmówczyni odnosi się do wyników współprowadzonych przez nią eksperymentalnych badań na modelach AI. To ważny wywiad i mamy nadzieję, że zainicjuje on naukową, pogłębioną, a przede wszystkim transdyscyplinarną dyskusję nad „sztuczną inteligencją”.
Znaleźliśmy się dzisiaj bowiem w niebezpiecznej sytuacji – głosy naukowców są rozproszone i aspektowe, a publiczna narracja, która buduje świadomość i wiedzę społeczeństw, została zdominowana przez solucjonizm czy determinizm technologiczny, pomijający najistotniejsze pytania: czym jest tak naprawdę AI (zwłaszcza generatywna), czy i w jakim sensie jest „inteligencją”, kto ją „produkuje” i wdraża, kto organizuje dyskurs wokół niej. Potrzebna nam jest – co wskazuje w wielu miejscach Sztyber-Betley – krytyczna refleksja obejmująca wszystkie istotne aspekty AI, od filozofii, socjologii i psychologii po informatykę.
W rzeczonym wywiadzie naszą uwagę przykuły przede wszystkim dwie nierozerwalnie ze sobą powiązane kwestie, z którymi chcielibyśmy podjąć polemikę.
Pierwsza to deterministyczne czy wręcz fatalistyczne prognozy dotyczące wpływu generatywnej sztucznej inteligencji na sposoby uprawiania nauki i samo rozumienie tego, czym jest nauka. Mimo że rozmówczyni w wielu miejscach wskazuje na rolę firm technologicznych stojących za rozwojem AI, w leadzie uwypuklona jest taka właśnie wizja i tonacja oparta na przekonaniu, że proces rozwoju technologii jest nieuchronny i samoistny:
Pamiętajmy, że narzędzia są coraz lepsze, a i my coraz sprawniej będziemy się nimi posługiwać. Nie wiem, czy za 10 lat zawód naukowca będzie jeszcze potrzebny, czy będę miała co robić. Dziś nie umiem ze stuprocentową pewnością powiedzieć, że nie dojdzie do sytuacji, w której po prostu okażę się nieprzydatna.
Takie sformułowania uważamy za nader częstą bolączkę publicznej debaty wokół AI. Problemem naszym zdaniem nie jest to, że za dziesięć lat zawód naukowca nie będzie potrzebny. To problem pozorny, choć takie twierdzenia mają swój ciężar i mogą działać jak samospełniająca się przepowiednia: skoro osoby ze świata nauki same zaczynają wątpić, w czym miałyby być lepsze od AI, tym łatwiej będzie decydentom i politykom dalej odchudzać i tak drastycznie drenowaną akademię, a zarazem – jak na ironię – przekierowywać środki publiczne np. na budowę „gigafabryk AI”, zamiast przeznaczać je na granty badawcze związane czy to z AI, czy z jakąkolwiek inną dziedziną.
Problemem realnym, dotyczącym wszystkich racjonalnych dziedzin wiedzy, jest natomiast to, że ideologiczne uwikłanie dominującego dyskursu wokół „sztucznej inteligencji”, nazywanej również „metatechnologią”, na naszych oczach powoduje erozję myśli i kultury naukowej, których jedną z cech jest zdolność samoograniczenia.
Co ciekawe, już w 1980 r. Georges Canguilhem, jeden z czołowych przedstawicieli kontynentalnej filozofii nauki, przestrzegał, że określenia, takie jak „świadoma maszyna”, „sztuczny mózg” czy „sztuczna inteligencja”, o której dzisiaj mówi się, że „sama się uczy”, można uzasadnić jako „modele heurystyczne czy wyszukane symulatory”. Nie ma sensu się na to oburzać. Ale gdy takie określenia przenikają do debaty publicznej w dobie przemysłowych zastosowań informatyki stają się „publicystycznymi komunałami”.
A to – jak trafnie zauważał Canguilhem – odbija się na modelu prowadzenia badań naukowych: „model prowadzenia badań zostaje przekształcony w maszynę ideologicznej propagandy mającej dwa cele: uprzedzić lub rozbroić sprzeciw wobec narzucania zautomatyzowanych mechanizmów regulacji stosunków społecznych oraz ukryć obecność osób podejmujących decyzję za anonimatem maszyny”.
Dzisiaj ten ideologiczny cień towarzyszący rozwojowi AI jest jeszcze bardziej nieprzejrzysty. Z tym wiąże się kwestia druga, którą chcemy poruszyć. Dotyczy ona wniosków płynących z omawianych w wywiadzie badań opublikowanych w „Nature”. Choć wnioski te odnoszą się do konkretnych eksperymentów prowadzonych na modelach AI, naszą uwagę zwraca język artykułu, wyraźnie przesiąknięty narracją, która antropomorfizuje modele i która zdradza potencjalne ideologiczne uwikłanie optyki przypisującej maszynom cechy ludzkie. Czytamy na przykład, że „niedopasowany model mógłby próbować wyrządzić użytkownikowi krzywdę, udzielając błędnych porad lub dążyć do jakiegoś arbitralnego celu, nieprzewidzianego przez jego projektantów”.
Z jednej strony Sztyber-Betley słusznie zwraca więc uwagę na dające się zaobserwować w działaniu modeli AI tendencje do utwierdzania użytkowników w ich przekonaniach. Takie zjawisko – w żargonie technologicznym ochrzczone jako AI sycophancy – można określić jako przesadne schlebianie lub lizusostwo. Z drugiej strony należy jednak dodać, że nie wynika ono ze „złośliwego” działania modelu, lecz jest efektem jego świadomego zaprojektowania.
Modele nie mogą przecież „krzywdzić” użytkowników „same z siebie”! Owszem, w sensie funkcjonalistycznym – a przy tym na dość wysokim poziomie abstrakcji – można powiedzieć, że działanie maszyny jest celowe, jeśli założymy, że dąży do osiągnięcia jakiegoś wyniku. Takie funkcjonalne cele należy jednak odróżnić od celów w sensie ludzkim, a nawet na poziomie życia w sensie biologicznym.
Dlatego już samo określenie AI alignment, czyli dopasowanie działania maszyn do wartości, intencji czy celów ludzkich, podobnie jak określenie AI misalignment, czyli ich niedopasowanie skutkujące tym, że maszyna może czynić „zło”, opiera się na wątpliwych przesłankach filozoficznych, antropologicznych i aksjologicznych. Nie wiadomo też, do czyich i jak wytwarzanych wartości model należy dopasowywać, a także co miałoby uzasadniać ich uniwersalizację.
Skądinąd oba te określenia są powszechnie używane w reprezentowanym przez autorkę i jej grupę badawczą nurcie AI Safety. Nieprzypadkowo jego reprezentanci przypisują „sztucznej inteligencji” intencje, sprawczość czy zdolność podejmowania samodzielnych decyzji, a więc wszystko to, czego systemy techniczne faktycznie posiadać nie mogą. To, że autorzy eksperymentów usilnie próbują dopatrzyć się w działaniu modeli „czegoś więcej”, jest prostą konsekwencją antropomorfizacji kodu informatycznego i wyników zautomatyzowanych obliczeń będących jego udziałem.
Co więcej, tym, co ugruntowuje określenia dopasowanie i niedopasowanie, umożliwiając ich przenikanie do dyskursów naukowych jako akceptowanych pojęć, są… pieniądze i marketing firm technologicznych. Określenia te – promowane przez OpenAI, a zwłaszcza przez Anthropic – to w istocie wytwór cyberkultury Doliny Krzemowej. A konkretniej – kilku dominujących tam ideologii: libertarianizmu, transhumanizmu, efektywnego altruizmu czy wyrosłego na ich gruncie longtermizmu, czyli ruchu skupionego na antycypowaniu odległej przyszłości ludzkości. Tę ostatnią zwolennicy tego ruchu rozumieją jednak w kategoriach abstrakcji – nie tyle odnośnie do całokształtu kultur, a nawet gatunku, ile jako nieokreślony i spekulatywny potencjał rozwojowy warty ochrony, który może jednak w korcu maku przepaść wskutek wysokiego ryzyka technologicznego jako „ryzyka egzystencjalnego”.
Jak odnotowuje socjolog Olivier Alexandre, wspierający te ruchy, osobistości lub wywodzący się z nich myśliciele tworzą „niewidzialne kolegium technologicznej eschatologii”: organizują wielkie konferencje, bronią swojej agendy w mediach i wśród decydentów, zrzeszają się w organizacjach non-profit, a także, przy finansowym wsparciu filantropijnych przedsiębiorców z Doliny, powołują do życia „centra” lub „think tanki”, często działające przy najbardziej prestiżowych angloamerykańskich ośrodkach badawczych, od Stanforda i Georgetown po Harvard i Oxford.
Jako uczeni reprezentujący różne dziedziny wiedzy mamy wybór: ulegać tej kapitalistyczno-scjentystycznej ideologii lub nie ustawać w wysiłkach na rzecz budowania innej kultury techniczno-humanistycznej, w której dalszy rozwój technik obliczeniowych mógłby wyglądać inaczej, a kluczowa rola uczelni polegałaby nie na udziale w wyścigu na ich zastosowania, lecz przede wszystkim na kształtowaniu krytycznej, wielodziedzinowej świadomości „sztucznej inteligencji”.
Jacek Mańko, Michał Krzykawski
mgr Jacek Mańko – asystent w Katedrze Zarządzania w Społeczeństwie Sieciowym Akademii Leona Koźmińskiego. Kognitywista, choć obecnie bardziej niż mózgiem interesuje się społeczeństwem. W swojej pracy bada wpływ technologii i mediów cyfrowych na społeczeństwo. W szczególności interesuje go krytyczna analiza zmian technologicznych, hype oraz ideologie wokół sztucznej inteligencji.
dr hab. Michał Krzykawski – filozof, dyrektor Centrum Badań Krytycznych nad Technologiami na Uniwersytecie Śląskim. Jego badania koncentrują się na epistemologicznych i psychospołecznych konsekwencjach cyfryzacji i kryzysu ekologicznego kapitalizmu.
Dr inż. Anna Sztyber-Betley: Nie wiem, czy za 10 lat zawód naukowca będzie jeszcze potrzebny
Można się spierać co do szczegółów, ale ogólnie myślę, że to ważny i trafny głos. Ważny w wielu aspektach, zwłaszcza takim poszerzającym ogólne spojrzenie na rolę AI, ale w szczególności ważną jest obserwacja, że jak sami będziemy siebie wykluczać z nauki poprzez AI, to już nic z nas nie zostanie. Więcej takich głosów, że naukowcy będą niepotrzebni tworzy bardzo niebezpieczną dla nas narrację, która faktycznie będzie implikować nasz powolny, albo nie taki wcale powolny, upadek. Gdy do społeczeństwa i polityków dojdzie, że naukowcy są już zbędni, to degradacja Akademii osiągnie swoje apogeum. Plus tutaj ważny jest głos, że faktycznie AI, choć już nas zadziwia w wielu aspektach, i choć może być nam przydatne, nie powinno być już teraz uważane za twórcę prawdziwej nauki i postępu. Trzeba się bardziej zorientować na człowieka i naturę niż popaść na kolana przed sztucznym pseudo bożkiem.
Obawiam się, że nie wszystko zależy od naszego podejścia.
Gdybym wierzył w panujące obyczaje, w przestrzeganie zasad, tobym się nawet cieszył: stwierdziłbym, że AI skompromituje naukowców pozorujących pracę naukową, piszących miałkie, przyczynkarskie (albo i fejkowe) teksty, bo tyle, co oni robią, zrobi szybciej, i skompromituje system oceniania: recenzentów czasopism, którzy takie teksty przyjmują, postępowania awansowe, ewaluację, które je promują; system oceny będzie się musiał zmienić.
Niestety, znając panujące obyczaje, mając przykłady działania państwa w innych obszarach życia, przypuszczam, że stanie się to, co w pierwszym odruchu chcielibyśmy uznać za niemożliwe: system oceny pozostanie niewzruszony, do pozorantów dołączy rzeka AI, razem stworzą konkurencję, która zmiecie prawdziwych naukowców. Już się to dzieje.
Na onet.pl jest taki artykuł: "Ten zawód AI wycięło jako jeden z pierwszych. "Moje umiejętności są niepotrzebne"", czyli tłumacz opowiada o tym, jak AI go "wycięło" z rynku.
Cóż... z kolei, jeśli chodzi o pracę na uczelni, a większość naukowców pracuje na uczelniach, żeby zarabiać na chleb powszedni, to żadna sztuczna inteligencja nie jest potrzebna, żeby ich "wycinać". Wystarczy kilka wariantów Naturalnej GŁUPOTY:
1. ocena okresowa pracownika, tak skonstruowana, że wystarczy ocena negatywna tylko jednego z obszarów działalności: naukowej, dydaktycznej i organizacyjnej, żeby delikwent był oceniony negatywnie
2. ankiety studenckie, gdzie studenci mogą wypisywać różne rzeczy, włącznie z pomówieniami, na prowadzącego zajęcia, a ten tak naprawdę nie ma za bardzo jak się bronić
3. przepis mówiący, że dwukrotna ocena negatywna wystarczy do tego, żeby delikwenta zwolnić.
DLACZEGO nikt o TYCH sprawach nawet nie wspomni?
"ankiety studenckie, gdzie studenci mogą wypisywać różne rzeczy, włącznie z pomówieniami, na prowadzącego zajęcia, a ten tak naprawdę nie ma za bardzo jak się bronić" To idealne narzędzie do ukrycia, zakamuflowana braku kompetencji kierownictw katedr, dziekanatu, zagrania studentom na emocjach. Stara szkoła manipulacji, wskazanie kozła ofiarnego.
Tak, niestety, coś w tym chyba jest, z tym, że ja bym upatrywał w tym wygodne narzędzie do pozbywania się niewygodnych osób. Przecież łatwo jest "brudną robotę" w postaci napisania pomówienia w ankietach, zlecić studentom.
Spora część popularnego „mitu ograniczeń AI” wyrasta z tego, jakie AI mieliśmy kiedyś, a nie z jakiejś ponadczasowej granicy. Wczesne AI (lata 50-80.XXw ) było zdominowane przez tzw. podejście symboliczne (GOFAI). To były w istocie maszyny
DEDUKCYJNE (p->q, logika formalna, reguły dowodzenia, itd).
I wtedy argumenty (np. inspirowane twierdzeniami Kurta Gödel'a) typu „system formalny ma granice” czy „człowiek potrafi wyjść poza system” były przekonujące.
Dzisiejsze modele (GPT-5, etc) działają zupełnie inaczej: one UCZĄ SIĘ z danych (a nie z odgórnych reguł).
One operują na prawdopodobieństwach, a nie na twardych zasadach. Wydobywają wzorce i uogólnienia oraz to, co "sensowne".
To podejście jest bardziej indukcyjne / abdukcyjne niż dedukcyjne. I w tym sensie jest znacznie bardziej 'otwarte, elastyczne ergo, "ludzkie" - nawet w swoich błędach wlasnie.
Stare argumenty (Penrose, Gödel itd.) nie tyle zatem są fałszywe, co trafiają w nieaktualny model AI.
Obecne AI nie jest, oczywiscie, doskonałe. Ale dynamicznie sie rozwija. Z tego co mozna wyczytać, pracuje sie intensywnie nad hybrydowymi AI przez łączenie sieci neuronowych z systemami reguł / grafami wiedzy aby mieć jednocześnie elastyczność i ścisłość.
Gdy to sie uda, cóż ..... prosze samemu wyciągnąć wnioski.
Nie wiem, czy zdominowane. Takie np. sieci neuronowe są znane od dawna, w latach 50 już egzystowały. Też budziły nieuzasadnione nadzieje, które szybko ostudzono, co też mogło to robić wrażenie sufitu. Statystyka istniała, z niej wyrósł data mining, także w końcu rodzaj sztucznej inteligencji. A logika rozmyta, a zbiory przybliżone naszego Pawlaka ... W ogóle AI to bardzo szerokie pojęcie, już od dawna. Zresztą nawet systemy wnioskujące może i opisywały rzeczywistość w kategoriach zero-jedynkowych, ale samo wnioskowanie automatyczne to trudne obliczeniowo zadanie i takie liczy się raczej "na miękko", tj. heurystycznie.
Nie miękkość, czy probabilistyczny charakter obliczeń, są też kluczem do górki, na jaką weszło obecnie AI, dla mnie (choć to oczywiście spór o definicje) są one po prostu konstytutywną cechą AI. Zwrócę jeszcze uwagę, że matematyka i automatyka zrodziły wiele różnych dziedzin obliczeń numerycznych a akurat sieci neuronowe (będące też elementem LLM-u) stanowią w swej masie lichy ich rodzaj, ze słabą i słabo udowadnialną zbieżnością. Przyczyn obecnego sukcesu AI upatruję w innych kwestiach. Po pierwsze, trywialnie - wzrost mocy obliczeniowej komputerów, specjalizowanych układów, graficznych, etc. To, że AI potrzebuje silnych komputerów, to akurat zły prognostyk dla AI. Znaczy, że ma kiepskie algorytmy. Jest takie przysłowie, że każdy komputer można nasycić (jeśli się da zbyt trudne zadanie i kiepski algorytm). Brutalną siłą (brute-force) nie wygrywa się w numeryce. Po drugie - skomplikowana struktura metod - nie używa się jednego prostego wzoru (np. uczenia sieci neuronowych), ale hybrydy wielu bloków. Sam LLM jest już dość złożony, w praktyce w różnych czatach dochodzą do niego (już dziś) dodatkowe moduły, np. specjalizowane solwery zadań matematycznych, których przecie sam LLM by nie rozwiązał; rozmaite preprocesory, postprocesory, dodatkowe pętle, modyfikacje. Czyli tak, jak postulował to Marvin Minsky - miał rację, ale ta komplikacja też rodzi problemy, przede wszystkim to, że AI przestaje być nauką, staje się sztuką, dziwną jakąś, częściowo tylko inżynierską. To się może z tego powodu rozleźć. No i po trzecie - AI jest teraz bańką, bardzo się ją pompuje. Twórcy AI, różne firmy, projekty, startupy też chcą zarobić. Bardzo się boję momentu, gdy dołączą do tego politycy, zmuszając obywateli do używania AI tam, gdzie ona do tego nie dorosła i nie dorośnie.
Bańki pękają, a za górką jest na ogół dolina. AI zaliczała już wzloty i upadki.
Tak, AI ma historię fal hype’u i wiele jego elementów (statystyka, sieci, heurystyki) istnieje od dawna.
Jednak obecna zmiana raczej nie sprowadza się do „tych samych metod na szybszym sprzęcie” — skala i architektury doprowadziły do jakościowego skoku: własności emergentne (np. uogólnienia językowe), których stare systemy nie miały.
To, że teoria nie nadąża i że systemy są hybrydowe, nie musi oznaczać słabości. To raczej przesunięcie AI z dziedziny czystej formalizacji w stronę złożonej inżynierii.
Najbardziej realistyczny scenariusz to nie tyle „pęknięcie bańki i koniec AI”, tylko korekta oczekiwań przy jednoczesnym utrzymaniu długoterminowego trendu wzrostu możliwości.
Przyspieszenie sprzętowe doprowadziło też do skomplikowania inżynierii oprogramowania w "zwykłej" informatyce, wielowarstwowych rozwiązań, wirtualizacji, chmur, automatyzacji czynności administracyjnych etc. Zmieniona wyobraźnia informatyczna umożliwiła też właśnie tworzenie bardziej skomplikowanych hybryd w AI; struktura warstwowa tworzona przez człowieka to też rodzaj emergencji.
Co do emergencji w samych algorytmach, zobaczymy. To przeciekawa sprawa, na długą dyskusję, ale jak na razie jestem jednak sceptyczny, aż tak w nią nie wierzę a nie słyszałem po prostu o jakimś wielkim przełomie teoretycznym w wydajności algorytmów (a i przełomie w warstwie semantycznej analizy teksu, w myśleniu samym). Może moja wina. Jak np. zostaną stworzone bardzo inteligentne roboty, które dla swojej mądrości nie potrzebują sieci, starczy im własny, mały mózg, to będzie coś :)
LLM ma jedną zaletę - pokazuje, jak żałosnymi ludźmi potrafią być humaniści. Nie jest dobrym obyczajem mądrzenie się o czymś, o czym się nie ma pojęcia. Najzabawniejsze jest to, że obecnie LLM potrafią być istotnie bardzo rozbudowane ale koncepcja na której się opierają, jest bardzo prosta.
Aż tak mnie tą kwestią humaniści nie irytują :) Czasem te wielkie słowa w odniesieniu do nie tak wielkiej rzeczy ja odbieram jako zabawne. A może ich profesja zmusza czasem do wypowiadania się o rzeczach, na których się nie znają (to jest też zmorą menadżerów, dyrektorów, ministrów, premierów ..., którzy muszą podejmować decyzje w kwestiach, na których się nie znają .:))
Zresztą powiem panu, że zaskoczyły mnie entuzjastyczne wypowiedzi na tym forum, pochodzące od różnych specjalistów, niekoniecznie humanistów.
Natomiast najbardziej się boję momentu, jak kwestię podchwycą politycy, a oni niestety tak mają, że wymądrzanie się materializuje się potem w postaci przymusu prawnego w odniesieniu do obywateli.
PS. A propos sąsiedniego pańskiego wpisu: pamiętam, jak jedna z egzaltowanych publicystek w pewnej niedużej stacji telewizyjnej pomyliła kiedyś "algorytm" (a to pojęcie było już wtedy modne w odniesieniu do podsuwaniu użytkownikowi treści w internecie, i o tym mówiła) z "logarytmem" - i przez kilkanaście minut tak jechała.
Podstawowa idea LLM (predykcja kolejnego tokenu) jest faktycznie koncepcyjnie prosta. Ale tak samo było przy okazji wielu przełomów naukowo-technicznych. Prostota koncepcji nie obniża znaczenia osiągnięcia. To jak z ewolucją (proste reguły generują złożone organizmy) lub z fizyką statystyczną (proste interakcje dają złożone zjawiska).
Kluczowa w AI jest skala, architektura i emergentne własności systemu, nie sam rdzeń pomysłu.
A co do „żałosnych humanistów” — dyskusja o AI to nie tylko implementacja, ale też pytania o poznanie, język i rozumienie, więc naturalnie wykracza poza jedną specjalizację.
Jednak jak się o czymś mądrzy, to dobrze też wiedzieć, jak to działa, a nie tylko, jak to wygląda. Nie wiem, czy poznanie rudymentów LLM jest w ogóle w zasięgu człowieka, który szczyci się tym, że nie wie, co to jest logarytm.
Uważam, że systemy sztucznej inteligencji nie zastąpią naukowców wnoszących realny wkład w rozwój wiedzy, rozumiany jako formułowanie nowych teorii, odkrywanie zjawisk oraz konstruowanie modeli wyjaśniających rzeczywistość. Mogą natomiast i już to robią zastąpić pewien typ aktywności quasi‑naukowej, opartej na mnożeniu publikacji pozbawionych empirycznego zakorzenienia i rzeczywistej wartości poznawczej.
Z mojej perspektywy obserwuję, że AI szczególnie dobrze radzi sobie z zadaniami, które w ostatnich latach stały się domeną tzw. punktozy:
generowaniem wariantów tych samych analiz,
przetwarzaniem danych bez głębokiego rozumienia ich natury,
produkowaniem tekstów o niskiej wartości merytorycznej,
tworzeniem „modeli” opartych na nadmiernych uproszczeniach matematycznych, które nie odnoszą się do żadnych identyfikowalnych zjawisk fizycznych.
W takich obszarach AI nie tyle „zastępuje naukowców”, ile eliminuje pozór naukowości, ujawniając, że część aktywności akademickiej była w istocie działalnością tekstotwórczą, a nie badawczą.
Dobrym przykładem jest sytuacja w dyscyplinie automatyki. Analiza programów kształcenia pokazuje, że znacząca część treści sprowadza się do przetwarzania danych i stosowania gotowych algorytmów, często bez zrozumienia ich ograniczeń, założeń oraz fizycznego kontekstu. W efekcie kształci się absolwentów, którzy nie posiadają kompetencji pozwalających na twórcze projektowanie systemów, lecz jedynie na obsługę narzędzi analitycznych (przyszłych bezrobotnych od anali danych, których algorytmy AI wyprą w pierwszej kolejności, jak to obecnie obserwujemy w dziadzinie Informatyki z generatorami kodu).
Tymczasem w obszarze analizy i przetwarzania danych algorytmy AI są obecnie narzędziami znacznie bardziej efektywnymi niż tradycyjne metody statystyczne czy klasyczne modele matematyczne. W praktyce projektowej wykorzystujemy je w zespołach kilkuosobowych do analizy danych z wielu źródeł, przy czym kluczową rolą człowieka pozostaje weryfikacja poprawności, interpretacja wyników oraz ocena ich zgodności z rzeczywistością techniczną.
W tym sensie AI nie zastępuje naukowca, wzmacnia jego rolę, jednocześnie obnażając obszary, w których dotychczasowa aktywność akademicka nie miała charakteru badawczego, lecz jedynie formalny.
Cyt."W tym sensie AI nie zastępuje naukowca, wzmacnia jego rolę, jednocześnie obnażając obszary, w których dotychczasowa aktywność akademicka nie miała charakteru badawczego, lecz jedynie formalny."
Wie Pan, wszystko zależy od tego, jak podejdą do tego ludzie kierujący resortem nauki i szkolnictwa wyższego. Wystarczyłoby, żeby zrobili "remake" pomysłu prof. Kudryckiej, o którym wspomniałem powyżej, i zaadoptowali to właśnie do relacji AI - naukowcy tzn. zastąpili naukowców (nas) zaawansowanymi agentami AI. Brzmi dziwacznie, ale jaką ma ogromną zaletę. Przecież wystarczy odpowiednio zaprogramować agenta AI, żeby nie upominał się o dodatki socjalne, urlopy itd., ba! nawet wynagrodzenia nie musi otrzymywać. Spać nie musi, chyba że komputer, na którym będzie działał, będzie musiał trochę odetchnąć. A swoją robotę agent AI będzie i tak wykonywał...
Jak już napisałem, w Polsce było tyle GROTESKOWYCH prób tzw. "reform" systemu edukacji, czy też nauki i szkolnictwa wyższego, że naprawdę chyba mało mnie już cokolwiek zdziwi...
Zdaje siew, ze AlphaFold nie tylko przewidział struktury białek — zrobił to metodą, której ludzie by nie wymyślili, bo jest nieczytelna dla ludzkiej intuicji. Podobnie systemy analizujące dane z teleskopów (np. odkrycia egzoplanet przez sieci neuronowe) czy patologie z obrazów mikroskopowych. Okazuje sie już teraz, że AI może znaleźć zależności, których nie umiemy wyrazić prostą teorią. Co będzie za 10 lat? Jeśli AI zacznie generować wyjaśnienia, pojawia się pytanie:
czy wyjaśnienie musi być zrozumiałe dla człowieka, żeby było wyjaśnieniem?
AlphaFold popełnia błędy w przewidywaniach, czyli jeśli chcemy z tych przewidywań skorzystać, i tak trzeba sprawdzić. Trochę jak prognozowanie pogody. Czasem lepiej, czasem gorzej i oczywiście lepiej mieć dostęp do częściowo trafionej prognozy, niż do żadnej.
Myślę, że mamy tu do czynienia z pewnym złudzeniem "oczarowania" możliwosciami AI. Jest oczywiste że rozwiązania niektórych złożonych problemów wymykają się ludzkiej wyobraźni. W pierwszej połowie XX wieku Hlibert i Russel myśleli że udało im sie zamknąć matematykę w domkniety system. Aż pojawił się Goedel i wykazał że to niemożliwe. Problem był tak trudny że Goedel przypłacił zdrowiem to odkrycie. Po pierwszej przegranej arcymistrza w szachy też uważno to za magiczny moment w historii ludzkiej myśli. Podobnie aktualnie jest z poszukiwaniem globalnych minimów funkcji milionów zmiennych i wykazanie że to autentycznie są globalne minima. Automatyzacja postępuje naprzód. Jednak abstrakcyjne myślenie polegajce na wnioskowaniu "piętro wyzej" niż dominująca ortodoksja myślenia (por. szczególna i ogólna teoria wzgledności Einsteina) pozostaje domeną ludzi. Uważam, że można zaufać Penrose'owi gdy podaje nam przykład tzw. szachów symetrycznych w których człowiek wygrywa z dowolnym komputerem bo posługuje się intuicją. Organizmy żywe od najprostszych po człowieka od dawien dawna uczestnicza w takich "symetrycznych" grach o przetrwanie. Aktualny paradygmat LLM nie obejmuje takich procesów.
Cyt."W pierwszej połowie XX wieku Hlibert i Russel myśleli że udało im sie zamknąć matematykę w domkniety system. Aż pojawił się Goedel i wykazał że to niemożliwe. Problem był tak trudny że Goedel przypłacił zdrowiem to odkrycie."
Być może Goedla (gdyby tego dożył), już całkiem zdołowałby ten preprint: T. J. Stępień, Ł. T. Stępień, "On the Consistency of the Arithmetic System", arXiv:1803.11072 ...
Kontynuatorom wielkich idealistów matematyki przez duze M takich jak Hilbert i Russel polecam powiedzenie Johna von Neumana:
"If people do not believe that mathematics is simple, it is because they do not realize how complicated life is?"
Kto wie, może za 10, czy 20 lat na fotelu Dyrektora Instytutu, Przewodniczącego Rady Dyscypliny, czy Dziekana będzie siedział robot i wzywał pracownika na dywanik, a potem powie swoim metalicznym głosem a la Hal 9000, że jest mu przykro, ale skoro delikwent (człowiek, a może też i robot) nie napisał wystarczającej liczby publikacji za odpowiednią minimalną ilość pkt. i/albo wyjaśnienia lub wyniki podane w tych pracach, są niezadowalające Z PUNKTU WIDZENIA AI, to delikwent jest do zwolnienia. Albo wystarczy też, podobnie, jak to jest teraz (przynajmniej na niektórych uczelniach), że studenci (może też roboty?) napiszą niepochlebne opinie w tzw. ankietach (będących w istocie anonimowymi donosami), a ocena okresowa pracownika będzie wskutek tego, negatywna, więc rektor (może też robot?) zwolni delikwenta...
Różne scenariusze mogą być realizowane. A "polskie piekiełko" doda tutaj swojego "uroku", który znamy od lat...
Fałszywa alternatywa – AI nie konkuruje z naukowcami, tylko na nich stoi. Trochę zaskakuje taki poziom uproszczenia w tekście firmowanym jako „akademicka polemika”. Pytanie nie brzmi „czy są potrzebni”, tylko jak zmienia się ich rola.
NA RAZIE nie konkuruje. Pamiętam, jak ileś lat temu ówczesna Minister Nauki, prof. Kudrycka wpadła na iście "genialny" pomysł, żeby w razie problemów z minimami kadrowymi tzn. z odpowiednią ilością pracowników samodzielnych w danej jednostce, mogła ich zastąpić odpowiednia ilość posiadaczy stopnia doktora bez habilitacji. W Polsce miało już miejsce tyle GROTESKOWYCH prób tzw. "reform" systemu edukacji, czy też nauki i szkolnictwa wyższego, że naprawdę chyba mało mnie już cokolwiek zdziwi...
Na pierwszy rzut oka: będą musieli zająć się nauką, bo w pozoranctwie z AI nie wygrają. Większość się zmartwi, mniejszość ucieszy.
Można się obawiać, że AI do spółki z realiami polskiego systemu nauki i szkol(d)nictwa wyższego, szybko wytną tych najsłabszych. Wśród nich są nie tylko tacy, którzy są kiepsko uzdolnieni w swojej branży naukowej i/albo leniwi, ale też i ci, którym nie dano WARUNKÓW do rozwoju naukowego. Znam kilka takich osób. Przepadną w tym IDIOTYCZNO-DURNYM systemie.
Każdy program AI wykorzystuje wiedzę istniejjącą i dostępną w Sieci. Przetwarza ją w sposób niedostępny dla pojedynczego człowieka, czy nawet zespoły ludzkie i robi to bardzo szybko. Czyli szybko mówi, co wiemy. Ale to najbardziej nudna część działalności naukowej. Tzw. state of the art. Ale rozwój nauki, czyli dostarczanie prawdziwych zdań niezgodnych z istniejącą wiedzą wymaga wyobraźni i intuicj, która jest cechą ludzką. Takie osoby będą potrzebne, jak kiedyś - elita intelektualna. Nie ci, którzy wiedzą, bo AI wie lepiej, ale którzy wątpią i myślą wbrew, jak np. Kopernik, Marks, Darwin, Einstein.
Proletariat nauki zniknie, jak znikł proletariat produkcji rzeczy w efekcie tzw. rewolucji przemysłowej. Naucznie akademickie zastąpią magazyny wiedzy, infkuencerzy, ale także nauczyciele mentorzy, pracujący z uczniami face to face. Przecież to już było. Nie tylko w nauce. Mistrz I uczeń.
Za każdą technologią stoją interesy ekonomiczne i polityczne. Zadaniem filozofii, historii, socjologii,, psychologii, ekonomii itp. jest ich rozpoznawanie i analiza. Ale to niewiele wnosi do rozważań, czym jest i będzie AI w nauce. Jej rola w innych sferach ludzkiego życia to inna historia.
Napisano:
"Skądinąd oba te określenia są powszechnie używane w reprezentowanym przez autorkę i jej grupę badawczą nurcie AI Safety. Nieprzypadkowo jego reprezentanci przypisują „sztucznej inteligencji” intencje, sprawczość czy zdolność podejmowania samodzielnych decyzji, a więc wszystko to, czego systemy techniczne faktycznie posiadać nie mogą. "
Niestety mogą posiadać, choć intencje w ograniczonym zakresie.
Naukowcy będą potrzebni, choć konkurencja ze strony AI może być, ale tylko w automatycznym przetwarzaniu informacji. Czyli tak zwanej dyfuzji nauki. Ale sam rozwój nauki będzie zależał właśnie od naukowców. Dziś nikt nie potrafi odróżnić dyfuzji nauki od rozwoju nauki i w zasadzie się to utożsamia. Małpiani naukowcy zostaną wyeliminowani przez AI.
Co do renomowanych czasopism naukowych wcześniej czy później będą działać jak drapieżne, choć sztuczna inteligencja jako recenzent jest wskazana. Ja to bym sędziów powyrzucał i zastąpiłbym ich sztuczną inteligencją i wyroki byłyby sprawiedliwsze.
Będzie dobrze. Tyle trudnych słów i filozoficznych sformułowań, a wystarczy tylko tak jak w opowiadaniach Lema, mieć możliwość odcięcia zasilania w odpowiednim momencie. A tak właściwie skoro zadaniem naukowca jest produkcja publikacji, to dlaczego nie miałaby tego robić szybciej AI?
Jak to powiedział kiedyś niezrównany Jerzy Dobrowolski cyt."Nie ma nic gorszego niż człowiek wykształcony ponad własną inteligencję". Więc cóż...
AI / szybki kompilator / interaktywna ściąga zdaje się mieć taką zaletę, że wymusi powrót do egzaminów ustnych, na których nie można z tego narzędzia skorzystać.
Zaleta druga: pozwoli szybciej się uczyć i szybciej wyszukiwać informacji na polach, na których jesteśmy ignorantami.
Problemem istotnym jest fakt, że za pomocą AI można już pisać mierne doktoraty, szczególnie z dziedzin w których dane można zbierać przez Internet, czyli np. takich jak socjologia czy ekonomia. Niektórzy znani ekonomiści juz to zauwazyli obserwując tempo przyrastania artykułów do mniej lub bardzo poważnych czasopism w tych dyscyplinach.
A skoro generalnie większość doktoratów jest jest miernych - we wszyskich dziedzinach (od czasu przejścia czasopism indeksowanych przez Scopus i WoS z wersji papierowych na cyfrowe dotyczy to też publikacji) to mamy zatem samospełniająca się żartobliwą przepowiednię Sturgeon'a (patrz Wikipedia Sturgeon's Law). Motorem napędzania tej przepowiedni we współczesnym świecie nauki będzie AI przetwarzająca informację Internetową na mliony sposobów (czasem lepiej a czasem gorzej). Jedynym sposobem wyjścia z tej pułapki będzie sprzężenie systemów antyplagiatoych wszystkich poważnych czasopism z największymi agentami AI w celu świadomego ustalania źródła artykułów.
Agenci AI będą śledzić agentów AI. Co za czasy już nastały.
Równie dobrze można zapytać po co nam matematycy, skoro mamy kalkulator, po co nam malarze, skoro mamy aparat fotograficzny albo po co nam uczelnie, skoro mamy YouTube?
No, właśnie, tak MOŻNA BYŁO powiedzieć aż do chwili, gdy nastąpił przełom w kwestii AI. Kiedy przeczytałem prawie 2 lata temu, że dron sterowany sztuczną inteligencją usiłował zabić swojego operatora, gdyż zorientował się, że ten chce go wyłączyć, to dotarło do mnie, że AI przestało już być "rozwiniętym kalkulatorem". Pamiętajmy, że to, co jest stosowane w wojsku, a objęte jest tajemnicą, zazwyczaj wyprzedza mocno do przodu to, co jest jawne. Pytanie: co potrafią maszyny i software objęte tajemnicą? Innymi słowy: o czym nie wiemy, a co JUŻ jest stosowane?
Brawo
A może byście się tak przypadkiem spytali kogoś, kto wie, jak LMM działa? Otóż w wielkim skrócie dla humanisty: LMM wyszukuje w zbiorze treningowym (pamięci) teksty, które zawierają słowa kluczowe z pytania i te teksty powtarza: czasem in extenso, czasem kompilując różne fragmenty. Powtarzanie bez zrozumienia to specjalość głupca, dlatego ja proponuję zmianę terminologii - to nie Sztuczna Inteligencja, to Sztuczna Głupota. Oczywiście - wśród naukowców głupców jest proporcjonalnie tyle samo co w całej populacji. A może i więcej.
Kto wydaje 500 mld USD na AI. Tylko w roku 2026. Nie sądzę że to durnie. Trzeba umieć korzystać z tego OPROGRAMOWANIA. TAK JAK MURARZ Z KIELNI.
A kto powiedział, że na głupocie (sztucznej lub prawdziwej) nie da się zarobić? Zarabia się głównie na niej.
Nie przesądzając faktu czy AI to bardzo dobra Inwestycja, a szczególnie czy AI potrafi prowadzić do całkowicie nowatorsków wyników badań trzeba zaznaczyć, że historia badań naukowych i techniki pokazuje przykłady topienia jeszcze większych pieniędzy w nonsenosowne badania i inwestycje takie jak pomysł oparcia głównie o OZE całej europejskiej energetyki i przy tym zamykanie elektrowni Jądrowych. Polecam poczytać kilka ksiazek (np. Koonin: Kryzys Klimatyczny?, Lomborg: Fałszywy Alarm, Gajer Wojna o prąd).
W rzeczy samej