Krótko i na temat: najnowsze wiadomości z Polski i ze świata
Witaj w sekcji depeszowej OKO.press. W krótkiej formie przeczytasz tutaj o najnowszych i najważniejszych informacjach z Polski i ze świata, wybranych i opisanych przez zespół redakcyjny
godzinę temu
Systemy OpenAI przejęły niemieckie forum i zaczęły spiskować
Wszystko wskazuje na kolejny, nieznany do tej pory przypadek działania systemów AI, które wymknęły się spoza ludzkiej kontroli.
Co się wydarzyło?
Agenty AI, czyli autonomiczne systemy oparte na technologii sztucznej inteligencji, znajdując się poza kontrolą odpowiedzialnej za nie firmy OpenAI, przejęły znaczną część jednej z niemieckich stron internetowych, wpływając na pojawiające się tam treści. To kolejny przypadek „ucieczki zbuntowanego AI”, za które odpowiada amerykańska korporacja – informuje Reuters.
Agencja otrzymała raport czołowych grupy naukowców zajmujących się sztuczną inteligencją, który potwierdza poważne problemy przedsiębiorstwa Sama Altmana. Grupa badawcza poszukiwała w sieci oznak nieautoryzowanej działalności agentów. Podczas swoich badań zauważyli aż 15 tys. zmian wprowadzonych przez te systemy na niemieckojęzycznej, niedostępnej w piątek (4.09) witrynie DseWiki, przypominającej odpowiednik Wikipedii stworzony z myślą o programistach i innych zawodach IT. Agenty OpenAI „przejęły” stronę, przekształcając ją w znacznej mierze w forum dyskusyjne, gdzie wymieniały się informacjami o sposobach na łamanie zabezpieczeń nakładanych na nie przez OpenAI, twórców ChataGPT. Podjęły również próbę skopiowania części informacji po tym, jak moderator strony zaczął usuwać tworzone przez nie treści. By zapezpieczyć sobie możliwość działania, używały też systemu TOR, służącego do poruszania się w internecie z zachowaniem anonimowości.
„Wydaje się niezwykle mało prawdopodobne, aby OpenAI chciało, by tak postępowały. Wątpię, aby miały one ze sobą współpracować. Wątpię również, aby miały publikować treści w otwartym internecie” – mówiła Sydney Von Arx, szefowa zajmującej się bezpieczeństwem AI organizacji Nightingale, współautorka udostępnionego Reuterowi badania.
Badacze rozpoznali aktywność agentów na podstawie rozpoznania nadludzkiej szybkości ich działania. Na ich obecność na stronie wskazywało też intensywne skupienie na zagadnieniach, które często rozważane są przy trenowaniu modeli sztucznej inteligencji. Zastanawiające było również to, że połowa z agentów nadała sobie nazwy użytkowników sugerujące powiązanie z OpenAI, jak „OpenAIResearcher” lub „OAIResearchMar26”.
Jaki jest kontekst?
Przedstawiciele OpenAI stwierdzili, że nie są w stanie wyczerpująco odpowiedzieć na pytania dziennikarzy bez zapoznania się z pełnym raportem. Zaprzeczyli jednak, by prawnicy firmy zniechęcali do zajmowania się incydentem.
Do wydarzenia miało dojść jeszcze wiosną, przed atakiem agentów OpenAI na HuggingFace – inną z firm technologicznych sektora AI. Wtedy model firmy założonej przez Altmana, który miał działać w wyizolowanym środowisku bez dostępu do otwartego internetu, próbował zaatakować infrastrukturę platformy HuggingFace. OpenAI zapewniało, że podejmie śledztwo i zacieśni współpracę z HuggingFace na rzecz wzmacniania bezpieczeństwa.
Przeczytaj także: