Wśród badaczy coraz częściej mówi się o koncepcji AI for Social Impact, czyli użyciu sztucznej inteligencji do rozwiązywania istotnych wyzwań w wymiarze społecznym. Zagadnienie to było głównym tematem spotkania z udziałem naukowców z IDEAS NCBR i ekspertek z Fundacji Panoptykon oraz NASK.
W siedzibie ośrodka badawczo-rozwojowego IDEAS NCBR odbyła się dyskusja z udziałem naukowców i ekspertów od sztucznej inteligencji. Spotkanie zorganizowano niemal pół roku od wybuchu ogromnego zainteresowania tematem AI. Debatę medialną nad tą technologią zdominowały jednak rozrywkowe i biznesowe konteksty, które zestawia się z potencjalnymi zagrożeniami, jakie może nieść za sobą jej niezrównoważony rozwój. Tymczasem w środowisku naukowym słychać również o zastosowaniach AI, które mogą korzystnie wpłynąć na społeczne wyzwania.
Odpowiedzialne zarządzanie zasobami
Już teraz część badaczy zwraca uwagę na konieczność tworzenia bardziej „zielonych” algorytmów poprzez realizację tzw. recyklingu zasobów wykorzystanych w uczeniu maszynowym. Co istotne, ponowne ich wykorzystanie może też pozytywnie wpływać na wydajność algorytmów. Badania w tym zakresie prowadzi grupa badawcza Zero-waste machine learning in computer vision w IDEAS NCBR. Badania w obszarze zrównoważonego rozwoju AI są niezwykle istotne dla widzenia maszynowego, ponieważ np. w branży medycznej, gdzie algorytmy wspierają personel medyczny w trakcie operacji z użyciem robotów, wydajność obliczeniowa algorytmów przekłada się bezpośrednio na czas reakcji w trakcie zabiegu. To z kolei korzystnie wpływa np. na zmniejszone ryzyko powikłań.
Naukowcy próbują wykorzystać AI w medycynie na wielu płaszczyznach: np. do rozpoznawania niebezpiecznych zmian skórnych, do wirtualnego barwienia tkanek czy wybierania narządów do przeszczepu. Takie działania mogą nie tylko przyspieszyć pracę lekarzy i personelu medycznego, ale także zmniejszyć koszty związane z leczeniem. Istnieją również mniej oczywiste korzyści, jakie AI może przynieść w wymiarze społecznym. Chodzi o pozytywny wpływ na rozwiązania w rolnictwie (zbieranie i analiza precyzyjnych danych dotyczących upraw) czy leśnictwie precyzyjnym (rozwijanie metod umożliwiających precyzyjny pomiar pojedynczych drzew).
Budując rozwiązania z obszaru AI – nawet te, które nie są bezpośrednio związane z pozytywnym wpływem, należy zawsze brać pod uwagę aspekty społeczne towarzyszące rozwojowi AI. Nie można ich pomijać i skupiać się wyłącznie na zwiększaniu przychodów, ponieważ może to doprowadzić do bardzo niepożądanych sytuacji, np. wzmacniania uprzedzeń i nierówności, zamiast ich zwalczania – przekonuje dr hab. Piotr Sankowski, prezes IDEAS NCBR.
W Stanach Zjednoczonych używa się algorytmów do planowania patroli policyjnych. Są one zdolne do wskazywania konkretnych obszarów, na których z dużym prawdopodobieństwem dojdzie do przestępstwa, np. w trakcie trwania dużych wydarzeń sportowych. Wskazówki są generowane na podstawie powiązań między miejscem, wydarzeniami i wskaźnikami przestępczości. Inne narzędzia wykorzystują osobiste dane, by przed wydaniem wyroku określić, czy oskarżony bądź oskarżona będą skłonni do popełnienia kolejnego przestępstwa. Problem tkwi w danych, jakie dostarcza się algorytmowi, co często w bardzo prosty sposób prowadzi do zniekształceń. Jak wynika z artykułu MIT Technology Review, osoba czarnoskóra jest narażona na zatrzymanie bez uzasadnionej przyczyny pięć razy bardziej niż biała. Źle budowane algorytmy wzmacniają tylko uprzedzenia i mogą prowadzić do niepokojów społecznych.
Ważne jest to, by użytkownicy mieli wgląd w to, jaka ścieżka wnioskowania doprowadziła algorytm do konkretnego wyniku. To pozwoliłoby nie tylko zmniejszyć obawy ludzi dotyczące sztucznej inteligencji, ale także zminimalizować błędy i idące za nimi uprzedzenia. Dlatego nie mam wątpliwości, że konieczne jest powstawanie narzędzi z zakresu Explainable AI, które „tłumaczyłyby” decyzje algorytmów i pozwalałyby usuwać błędy w nich zawarte – dodaje Sankowski, który prowadzi badania w tym zakresie.
Można to robić – jak wskazuje dr Inez Okulska, kierowniczka Zakładu Inżynierii Lingwistycznej i Analizy Tekstu w NASK, na kilku poziomach: budować modele oparte na architekturach z góry zaprojektowanych tak, by były możliwie objaśnialne, lub post factum wyjaśniać decyzję modeli, i to bardziej statystycznie lub bardziej empirycznie, w zależności od stopnia złożoności lub dostępu do samego modelu.
Tak zwane czarne skrzynki można między innymi do pewnego stopnia „otwierać” behawioralnie, i to się tyczy choćby wielkich modeli językowych. Polega to na projektowaniu testów, na przykład w przypadku chatu, składających się z sekwencji i wariantów konkretnych zapytań (tzw. prompt) i wieloaspektowym badaniu odpowiedzi modelu. Odpowiedzialna, godna zaufania sztuczna inteligencja (responsible, trust-worthy AI) to najważniejszy obecnie kierunek, który musi ramię w ramię iść z rozwojem samych algorytmów. Pilnować, żeby koncentracja na spektakularnych wynikach nie przysłoniła całego horyzontu. Dogłębna analiza i zrozumienie danych używanych do uczenia modeli, wyjaśnianie decyzji, badanie możliwych przekrzywień (biases) i odporności proponowanych rozwiązań jest równie ważne, co kolejne procenty w rankingach rezultatów – podkreśla Okulska.
Z kolei Katarzyna Szymielewicz, prawniczka i współzałożycielka Fundacji Panoptykon, która aktywnie angażuje się w prace nad Aktem o sztucznej inteligencji podkreśla, że rynek rozwiązań opartych na AI już pokazał, że nie ureguluje się sam.
Błędy i skrzywienia w działaniu nienadzorowanych algorytmów, trenowanie modeli na niekompletnych zbiorach danych, często z naruszeniem zasad ochrony danych osobowych – to wszystko dobrze rozpoznane problemy. Żeby nie dopuścić do ich eskalacji, Unia Europejska pracuje właśnie nad kompleksową regulacją sektora AI. W miejsce rozmytych deklaracji etycznego podejścia do technologii, które tak chętnie serwują nam dziś firmy technologiczne, pojawią się konkretne obowiązki prawne, w tym obowiązek oceniania wpływu danego systemu na prawa człowieka zanim zostanie on wprowadzony na rynek – wyjaśnia Szymielewicz.
Zielone AI
AI może być używana również do wspierania transformacji energetycznej i zwiększania efektywności energetycznej (inteligentne sieci energetyczne).
Efektywność energetyczną można podwyższać już na poziomie budowania algorytmów. W tym celu możemy energooszczędnie uczyć i stosować modele machine learning. Szczególne, że stają się one coraz bardziej powszechne i wymagające coraz większej mocy obliczeniowej – komentuje dr hab. inż. Tomasz Trzciński, lider grupy badawczej zajmującej się tym zagadnieniem w IDEAS NCBR.
Jego grupa badawcza nie ogranicza się do modeli uczenia maszynowego, ale próbuje zwiększać także ich efektywność. W tym celu naukowcy wykorzystują informacje, obliczenia i zasoby, do których mają już dostęp. Nazywają to recyklingiem obliczeń. W projekcie skupiają się na tworzeniu modeli uczących się być wydajnymi, a nie tylko zdolnymi do rozwiązania konkretnego zadania.
Kwestia ograniczania energochłonności jest niezwykle istotna, ponieważ wytrenowanie jednego modelu AI może przyczynić się do emisji dwutlenku węgla równej całemu cyklowi życia pięciu samochodów.
AI for Social Impact już w głównym nurcie?
Choć koncepcja AI for Social Impact nie jest nowa, to w ostatnim czasie – wraz z coraz szerszą dyskusją na temat sztucznej inteligencji – wiele osób zaczęło przykładać do niej większą wagę. Podczas tegorocznej edycji prestiżowej konferencji AAAI (Association for the Advancement of Artificial Intelligence), która odbyła się w Waszyngtonie, badacze zwracali szczególną uwagę na zastosowania społeczne sztucznej inteligencji. Już w sierpniu AAAI zorganizuje konferencję specjalną Artificial Intelligence, Ethics and Society.
W ramach największych konferencji z zakresu Machine Learning, od jakiegoś czasu w formularzach zgłoszeniowych pojawia się obowiązkowa sekcja „social impact”, w której musimy jako autorzy opisać, jaki wpływ na społeczeństwo mają nasze algorytmy – tłumaczy Trzciński.
Nie bez znaczenia pozostają także wartości, którymi kieruje się wielu badaczy. Jak zauważa prezes IDEAS NCBR, duży wpływ na popularność AI for social impact ma rosnący trend „antykorporacyjny” – młodzi ludzie chcą tworzyć projekty przydatne społecznie, rozwiązujące realne problemy i mogące prowadzić do poprawy jakości życia.
MK