Echa nagrody Nobla. Jeden z laureatów ostrzega przed SI, a Google się cieszy

Rok 2024 niewątpliwe zapisze się w historii Nagród Nobla, a to za sprawą aż dwukrotnego przyznania tej nagrody naukowcom zajmującym się sztuczną inteligencją (SI).

Najpierw, 8 października przyznano nagrodę z fizyki Johnowi Hopfieldowi i Geoffreyowi Hintonowi za prace nad sztucznymi sieciami neuronowymi (ang. artificial neural networks, ANN).

Dzień później z chemii dla Davida Bakera oraz pary badaczy z DeepMind: sir Demisa Hassabisa oraz Johna Jumpera za prace nad przewidywaniem struktury białek.

W społeczności akademickiej tegoroczne decyzje Komitetu Noblowskiego odbiły się szerokim echem. Uznano je cokolwiek zaskakujące (zwłaszcza tę z fizyki), co bynajmniej nie oznacza, że niezasłużone!

Informatyka częścią fizyki?

ANN, czy ogólnie uczenie maszynowe, traktowane są raczej jako domena informatyki. A dziedzina ta przecież ma już swój odpowiednik Nobla tj. Nagrodę Turinga – którą to zresztą Hinton wraz z Yoshuą Bengio i Yannem LeCun otrzymał w 2018 roku. Właśnie za prace nad głębokimi sieciami neuronowymi – a całą tę trójkę okrzyknięto ojcami chrzestnymi SI.

Mimo to dr hab. inż. Julian Sienkiewicz i dr inż. Tomasz Gradowski, fizycy z Politechniki Warszawskiej, wypowiadają się o nagrodzie dla Hintona i Hopfielda z uznaniem i satysfakcją. Przypominają też, iż Hopfield jest przecież fizykiem, a jego przełomowe prace o ANN z lat 80. XX wieku wywodziły się właśnie z dorobku np. fizyki statystycznej czy fizyki ciała stałego.

Hinton z kolei (co ciekawe, z wykształcenia psycholog) dostał tego Nobla m.in. za rozwinięcie prac Hopfielda i opracowanie maszyny Boltzmanna, czyli algorytmu ANN, który może być zastosowany do rozpoznawania wzorców w danych. Jednak osiągnięcia te faktycznie są co najwyżej pośrednio umotywowane dorobkiem fizycznym.

Mimo wszystko nie brakuje entuzjastycznych głosów jak ten prof. Biecka z UW i PW, upatrujących nadziei właśnie w takich interdyscyplinarnych badaniach, bez wprowadzania sztucznych podziałów na „czystą” fizykę czy informatykę.

Podobnie wypowiadają się także badacze cytowani przez prestiżowy naukowy magazyn Nature.

Pamiętajmy też, iż Nagrody Nobla z fizyki przyznawane są już od przeszło stu lat, w czasach, kiedy nie było jeszcze tak rozwiniętych interdyscyplinarnych badań ani w ogóle informatyki jako takiej.

Zarazem pojawiają się też głosy sceptyczne, jak chociażby ten prof. Meissnera mówiący, iż: „Ta nagroda fizyką nie ma wiele wspólnego. To jest podglądnięcie działania neuronów w mózgu w sposób bardzo uproszczony”.

Swoją drogą, w nauce są też obecne liczne głosy, by zanadto nie przywiązywać się do „neuronowości” takich sztucznych sieci, argumentując, iż są to modele co najwyżej luźno zainspirowane strukturą czy działaniem mózgu.

Zarzut plagiatu

Warto nadmienić, iż prace nad ANN zaczęły się na długo przed publikacjami Hintona czy Hopfielda. Wcześniejsze przełomowe prace, np. słynny neuron McCullocha-Pittsa, pochodzą już z roku 1943. Jednak najcięższe działa przeciwko tegorocznej nagrodzie wytoczył inny znamienity badacz ANN – Jürgen Schmidhuber – który w opinii wielu sam na takiego Nobla zasłużył.

Schmidhuber już wcześniej zarzucał późniejszym laureatom Nobla (oraz dwójce pozostałych ojców chrzestnych SI) plagiat, argumentując, iż niewystarczająco powoływali się na istniejące prace naukowe z obszaru ANN z lat 70. czy wcześniejszych.

Teraz na Twitterze bez ogródek pisze, iż: „Nagroda Nobla z fizyki dla Hopfielda i Hintona nagradza plagiat i niepoprawne przypisywanie autorstwa”.

Sprawa tego kalibru mogłaby znaleźć swój finał chyba jedynie w sądzie, choć na to raczej się nie zanosi – jakoś żadna ze stron nie była jak dotąd na tyle zdeterminowana i pewnie się to już nie zmieni. Cóż, byłby to swoją drogą niewątpliwie fascynujący proces, odtwarzający historię czy to uczenia maszynowego, czy ANN.

Komu zagraża SI?

Tegoroczna nagroda z fizyki rozpala emocje także z innych powodów.

Geoffrey Hinton jest przecież uznawany za zagorzałego krytyka SI – tej samej dyscypliny, której jest jednocześnie pionierem. MIT Technology Review nazywa go „czołowym doomerem SI” (od ang. doom oznaczającego zagładę).

Faktycznie, znane są jego rozliczne wypowiedzi, z których przebija się obawa o SI przejmującą kontrolę nad światem czy doprowadzającą do wyginięcia ludzkości. Ot, chociażby ten sam MIT Technology Review przytacza zeszłoroczną wypowiedź Hintona w kontekście rozwoju najnowszych modeli językowych. Mówił on wtedy:

„Modele językowe są już teraz bardzo bliskie tego, by przerosnąć ludzkość pod względem inteligencji. W przyszłości natomiast będą jeszcze znacznie bardziej inteligentne niż my. Tylko jak my to przetrwamy?”

Nawet w rozmowie telefonicznej, jaką przedstawiciel Komitetu Noblowskiego odbył z nim tuż po ogłoszeniu werdyktu, wyraził obawę, że narzędzia SI mogły kiedyś stworzyć zagrożenie egzystencjalne dla ludzkości. Wyraził też nadzieję, iż nagroda ta uwiarygodni jego poglądy o domniemanej (super)inteligencji modeli językowych i idących za tym zagrożeń.

Trzeba dodać zarazem, iż argumenty Hintona są także bardziej zniuansowane, a jego krytyka SI wieloaspektowa – dotyczy ona też koniecznych rządowych regulacji, skutków nasilającej się dezinformacji czy możliwych turbulencji na rynku pracy.

Hinton porzuca Googla

Choć swoisty fatalizm czy te kasandryczne wizje Hintona mogą niekiedy zdumiewać, on sam natomiast autentycznie zdaje się wierzyć w to, co mówi. Na wiosnę 2023 roku, kilka miesięcy po upublicznieniu ChataGPT, nawet odszedł z Google, ażeby w sposób nieskrępowany móc krytykować SI czy firmy pokroju OpenAI.

Co więcej, jego resentyment zdaje się nie słabnąć z czasem, a wręcz narasta. W innej rozmowie, już po uzyskaniu Nobla, tym razem z Uniwersytetem w Toronto (gdzie zatrudniony jest jako profesor emeritus) powiedział wprost, iż jest szczególnie dumny z tego, iż jeden z jego doktorantów (Ilya Sutskever – przyp. JM) zwolnił Sama Altmana.

Chodzi tu o swoisty pucz w OpenAI pod koniec 2023 roku, kiedy to faktycznie Altman został pozbawiony funkcji CEO, do czego walnie przyczynił się Sutskever. Stan taki utrzymał się tylko parę dni, bowiem bardzo szybko Altman wrócił do sterów OpenAI, a to Sutskever po paru miesiącach sam opuścił szeregi firmy, którą niegdyś pomagał zakładać.

Można zatem stawiać dolary przeciwko orzechom, jakich kwestii będzie dotyczył odczyt noblowski, który Hinton wygłosi być może już w grudniu w Sztokholmie.

Nie trzeba dodawać (a może właśnie teraz trzeba jeszcze bardziej?), iż wśród wielu badaczy SI tak wyrażane poglądy Hintona są odbierane jako przejaskrawione albo wręcz zwyczajnie nieprawdziwe. Zalicza się do nich inny ojciec chrzestny SI, Yann LeCun, czy chociażby magazyn Nature, na łamach którego w czerwcu 2023 roku pojawił się apel, by nie zajmować się „zagładą ze strony SI”, skoro technologia ta niesie zagrożenia już teraz.

W apelu tym pojawiło się odwołanie zarówno do osoby samego Hintona, jego prognoz, jak również do pewnego górnolotnego manifestu, by zagrożenia ze strony SI traktować na równi z globalnymi zagrożeniami takimi jak wojna nuklearna czy pandemia.

Hinton jest tam wyróżniony jako czołowy sygnatariusz tego manifestu, natomiast co ciekawe, laureat Nobla z chemii, Demis Hassabis jest tam na trzecim miejscu. Na liście brak współlaureata Hintona, 91-letniego już Johna Hopfielda, natomiast nie wiadomo, czy odmówił propozycji podpisania tego apelu, czy też w ogóle nie zostało mu to zaproponowane.

Hopfield nie jest aż tak fatalistyczny

Hopfield jest mniej znaną (niż Hinton) postacią, przynajmniej we współczesnym krajobrazie SI. Faktycznie, w jego ostatnich wypowiedziach (już po uzyskaniu nagrody) przewijały się wątki dynamicznego czy niekontrolowanego rozwoju tej technologii, jak również rozlicznych zagrożeń z tym związanych.

Wydaje się jednak, iż nie jest w swoich prognozach tak fatalistyczny czy zawzięty jak Hinton, niemniej warto i tu niewątpliwie poczekać na odczyt noblowski tego nestora SI – być może to w nim wyrazi swoje poglądy w tej kwestii w sposób obszerniejszy.

AlphaFold i białka

Dzień po nagrodzie z fizyki Komitet przyznał nagrodę z chemii. Otrzymał ją w połowie biochemik David Baker za obliczeniowe prace nad kształtem białek (choć nie korzystał on z uczenia maszynowego) oraz w połowie para badaczy z Google DeepMind: sir Demis Hassabis oraz John Jumper za opracowanie narzędzia opartego o algorytmy głębokich sieci neuronowych służące do przewidywania trójwymiarowej struktury białek.

Baker od dekad zajmował się problemem obliczeniowego przewidywania struktury białek i swoimi pracami umożliwił późniejsze zastosowanie algorytmów uczenia maszynowego do tego problemu.

AlphaFold (ang. fold – składać, zawijać), bo tak nazywa się to narzędzie opracowane przez badaczy z DeepMind (wraz z późniejszymi wersjami AlphaFold2 czy AlphaFold3), przewiduje strukturę przestrzenną białek, tj. jak zwijają się łańcuchy aminokwasów je tworzących.

Przez lata było to jedno najtrudniejszych zadań w badaniach nad białkami. Do czasu udostępnienia AlphaFold korzystano z powolnych i zapewne kosztownych metod krystalografii rentgenowskiej czy mikroskopii krioelektronowej.

Z kolei najnowsza wersja AlphaFold3 potrafi opracować strukturę także bardziej złożonych molekuł, np. kwasów DNA czy RNA.

W założeniach AlphaFold ma przyspieszyć prace nad nowymi lekami, terapiami czy szczepionkami. Już teraz badania przy użyciu tego narzędzia są bardzo popularne w nauce, a ono samo było cytowane przeszło 20 tysięcy razy.

Toteż nagroda z chemii (czy też jej połówka) dla narzędzia opartego o SI wzbudza znacznie mniej kontrowersji – a w zasadzie zdaniem wielu wisiała w powietrzu od paru lat, bowiem w 2023 późniejsi nobliści Hassabis i Jumper otrzymali nagrodę Breakthrough i nagrodę Laskera, a to już przedsionek do Nobla.

Co ciekawe, na dobrą sprawę AlphaFold (w zależności od wersji) również jest narzędziem generatywnym podobnie jak narzędzia Dall-E2 czy Midjourney.

Jednakże w odróżnieniu od tych drugich, efektywne wykorzystanie możliwości AlphaFold wymaga posiadania obszernej wiedzy naukowej, stąd nie jest pomyślane jako narzędzie „zastępujące naukowców”, a jedynie ich wspierające. Tym bardziej że podobnie jak inne modele generatywne czy dyfuzyjne, także i AlphaFold potrafi „halucynować”, tj. podawać strukturę, która nie istnieje.

Zapanował Zeitgeist?

Wziąwszy pod uwagę Noble z chemii i fizyki, rodzi się jednak pytanie, czy nieprzypadkowo akurat w tym roku akurat aż dwie te nagrody przyznano badaczom z zakresu SI. To tym bardziej zasadne pytanie, gdyż o ile AlphaFold to stosunkowo świeże narzędzie, to odkrycia Hintona czy Hopfielda to nawet i lata 80. XX wieku.

Dlaczego Komitet Noblowski tak długo zwlekał z nagrodą za prace nad ANN, a może wcześniej w ogóle jej nie rozważał? Być może wreszcie zapanował odpowiedni Zeitgeist, duch czasu – bo skoro rozmaite narzędzia SI stają się tak popularne, to może i Komitet Noblowski również chciał niejako „wdrożyć” je u siebie poprzez przyznanie odpowiednich nagród?

Być może to symboliczne uhonorowanie informatyki jako dyscypliny zasługującej na osobnego Nobla (pomimo istnienia już Nagrody Turinga), a może krok w stronę nagradzania badań interdyscyplinarnych z bardzo silnym komponentem obliczeniowym czy inżynierskim?

Na łamach magazynu WIRED badacz SI z New York University’s Tandon School of Engineering Julian Togelius zauważa, iż podstawowe, przełomowe badania nowych substancji, cząsteczek, mechanizmów natury czy teorii na jej temat to bardzo trudne zadanie.

A przecież cokolwiek łatwiej (i taniej) jest zastosować SI, by wykorzystując dostępne dane zasymulować czy przewidzieć wyniki jakiegoś eksperymentu, aniżeli faktycznie go wykonywać.

Ponadto, akademia cechuje się pewną dozą koniunkturalności – często badane jest coś, co jest popularne i na co można uzyskać i tak ograniczane fundusze. Skoro metody SI dostają swoiste „błogosławieństwo noblowskie” i mogą ułatwiać karierę akademicką, być może wielu innych badaczy i badaczek również będzie chciało podążać tą przetartą już ścieżką.

Doomerzy SI

Sama dyscyplina sztucznej inteligencji na pewno zyska wizerunkowo wskutek przyznania tych nagród. Nie zapominajmy jednak, iż Hinton pozostaje czołowym doomerem SI, czemu na pewno jeszcze nieraz będzie dawał wyraz. Nie byłby on pierwszym przykładem takiego cokolwiek ekscentrycznego noblisty, ot, by wspomnieć np. postać Linusa Paulinga, którego usilnie propagowany pogląd o zbawiennym charakterze witaminy C, pokutuje w społeczeństwie w zasadzie do dziś.

Problem z Noblami jest też taki, iż obecnie nad przełomowymi odkryciami pracują całe zespoły ludzi, a nagrody siłą rzeczy dostają jednostki. Artykuł w Nature z 2021 opisujący AlphaFold liczy ponad 30 nazwisk (w tym także dwójkę Polaków: Michała Zielińskiego oraz Michalinę Pacholską – swoją drogą, polską opinię publiczną widocznie bardziej niż to interesuje fakt, iż John Hopfield posiada polskie korzenie).

Jednak to jedynie główny autor John Jumper oraz starszy autor Demis Hassabis dzielą połowę nagrody między siebie, jako że jednorazowo (z wyłączeniem Nagrody Pokojowej) wyróżnienie to mogą otrzymać maksymalnie trzy osoby.

Zresztą i sam Hassabis także jest autorem wielu alarmistycznych wypowiedzi o rozwoju SI, choć oczywiście upatruje on w tej technologii „niewiarygodnych możliwości”, jakie być może ziszczą się właśnie za sprawą AlphaFold.

Google się cieszy

Nie zapominajmy też, iż podsycanie lęków np. egzystencjalnych, jak i obiecywanie swoistych utopii SI, to dwie strony tego samego medalu służące do tego, by sterować narracją dotyczącą tej technologii, np. wyolbrzymiać jej potencjał a przez to odwracać uwagę od zagrożeń, jakie niesie ona tu i teraz.

Warto też zauważyć, iż tegoroczne nagrody powędrowały do aż trzech byłych (Hinton) lub obecnych (Hassabis i Jumper) pracowników Google.

Koncern nie omieszkał natychmiast tego wykorzystać. W toczącym się właśnie procesie (jednym z wielu w tej branży) o nielegalnie pozyskanie z Internetu danych chronionych prawem autorskim do trenowania modeli SI, Google wystosowało pismo, by połączyć dwa takie procesy (Leovy v. Google i Zhang v. Google) w jeden.

W piśmie tym pojawia się argumentacja, że przecież Komitet Noblowski wręczając nagrody (ich pracownikom), rozpływał się nad potencjałem SI mogącym „stawić czoła wielu wyzwaniom stojącym przed społeczeństwem” czy „umożliwić przełomy na rzecz budowania społeczeństwa zrównoważonego”. A żeby tak się stało, to, wg Google, modele SI muszą być przecież trenowane na ogromnych ilościach danych.

Nobel nobilituje praktyki Big Techów?

Wydaje się więc, że koncerny technologiczne będą wykorzystywały Nagrody Nobla jako swoisty gwarant, usprawiedliwiając w ten sposób rozliczne naganne praktyki, w jakie cała branża cyfrowych gigantów obfituje.

Mówiąc dosadnie: Big Tech będzie wycierał sobie Noblem gębę.

Pytanie tylko, czy tegoroczni laureaci Nagrody Nobla wymienią to jako jedno z niebezpieczeństw rozwoju sztucznej inteligencji?