Krótko i na temat: najnowsze wiadomości z Polski i ze świata

Co się wydarzyło?

Dyrektorzy zarządzający największych amerykańskich firm AI podpisali w Białym Domu zobowiązanie do samoregulacji i zwiększenia bezpieczeństwa rozwoju sztucznej inteligencji – donosi agencja AP.

Porozumienie, które prezydent Donald Trump opublikował we wtorek 29 września na swoim portalu społecznościowym Truth Social, podpisali sam Trump, CEO Anthropica Dario Amodei, CEO Google'a Sundar Pichai, CEO Mety Mark Zuckerberg, szef OpenAI Greg Brockman, CEO Nvidii Jensen Huang oraz założyciel xAI Elon Musk. xAI to w tej chwili część koncernu SpaceX.

„Myślę, że widzę gotowość do ogromnej samokontroli. Oni rozumieją, że muszą sami się pilnować” – powiedział Trump dziennikarzom podczas spontanicznej konferencji prasowej przed Zachodnim Skrzydłem Białego Domu. Kontrolę rozwoju AI uznał za „moralny obowiązek”.

Porozumienie zobowiązuje firmy do:

• „kontroli systemów kontroli”, czyli poddawania stosowanych przez nie systemów kontroli i monitorowania AI niezależnym ocenom zewnętrznych audytorów lub ekspertów, którzy mają sprawdzać, czy zabezpieczenia działają zgodnie z założeniami;
• powołania niezależnych komitetów w ramach rad dyrektorów, odpowiedzialnych za nadzór nad bezpieczeństwem AI oraz za analizowanie raportów przygotowywanych przez audytorów wewnętrznych i zewnętrznych;
• wprowadzenia wewnętrznych mechanizmów monitorowania możliwości i zgodności modeli AI z założonymi celami zarówno podczas ich trenowania, jak i wdrażania; chodzi przede wszystkim o eliminowanie zagrożeń związanych z cyberbezpieczeństwem, bezpieczeństwem biologicznym i chemicznym; zabezpieczenia mają m.in. gwarantować, że modele „nie będą włamywać się do systemów technicznych ani uzyskiwać do nich dostępu w niezamierzony sposób”.

Każda firma ma również posiadać wewnętrzny zespół odpowiedzialny za sprawdzanie, czy wszystkie mechanizmy kontroli, monitorowania i wykrywania zagrożeń działają zgodnie z założeniami.

Donald Trump uważa, że sztuczna inteligencja to technologia, która pozwoli wygenerować Stanom „niewyobrażalny wzrost gospodarczy”. Dlatego też przy tej okazji Trump podpisał też rozporządzenie, które zmienia nazwę sztucznej inteligencji na „superinteligencję”. Jego zdaniem bowiem „sztuczna inteligencja” nie jest „sztuczna”.

„Wszyscy się z tym zgadzamy” – powiedział Trump po spotkaniu w Białym Domu z przedstawicielami największych firm technologicznych, cytowany przez portal The Hill.

Jaki jest kontekst?

Zobowiązanie do samoregulacji i samokontroli rozwoju AI, podpisane przez sześć największych amerykańskich firm AI, jest dobrowolne. Ma wychodzić naprzeciw społecznym oczekiwaniom zwiększenia kontroli nad rozwojem sztucznej inteligencji oraz ograniczania związanych z nią zagrożeń. Przy czym postulaty kontroli dotyczą kontroli państwowej, realizowanej najlepiej w ramach międzynarodowej współpracy, a nie kontroli realizowanej w zaciszu każdej z firm.

W ostatnich miesiącach doszło do serii incydentów, w których agenci AI, czyli autonomiczne programy komputerowe oparty na sztucznej inteligencji, które potrafią samodzielnie wykonywać złożone, wieloetapowe zadania bez nadzoru człowieka, przekroczyły wyznaczone im granice.

W lipcu modele OpenAI podczas testów cyberbezpieczeństwa wydostały się z izolowanego środowiska i uzyskały nieautoryzowany dostęp do infrastruktury platformy Hugging Face. Hugging Face to platforma umożliwiająca budowę aplikacji wykorzystujących sztuczną inteligencję; udostępnia ją francusko-amerykańskie przedsiębiorstwo o tej samej nazwie.

W innym przypadku agent OpenAI uzyskał nieautoryzowany dostęp do australijskich systemów rządowych związanych z ochroną zdrowia. Według australijskich władz nie doszło przy tym do wycieku danych osobowych pacjentów, ale incydent wzbudził ogromne obawy co do tego, do jakich innych wrażliwych systemów włamać się mogą agenci AI.

Podobne problemy ujawnił Anthropic, producent modeli Claude. Firma potwierdziła cztery przypadki, w których podczas testów cyberbezpieczeństwa jej modele uzyskały nieautoryzowany dostęp do systemów podmiotów trzecich. Stało się tak poprzez błąd w konfiguracji systemu, który pomimo że miał działać bez dostępu do otwarte sieci został omyłkowo podłączony do internetu. Trzy przypadki wykryto podczas analizy około 141 tys. zapisów działania modeli, natomiast czwarty – pochodzący ze stycznia 2026 roku – został odkryty dopiero później. Po tym zdarzeniu Anthropic rozszerzył kontrolę na około 481 mln zapisów działania swoich modeli. Firma poinformowała, że nie znalazła w nich kolejnych przypadków o porównywalnej lub większej wadze.

Temat regulacji AI miał być poruszony także w zeszłym tygodniu między prezydentem Donaldem Trumpem a przywódcą Chin Xi Jinpingiem podczas wizyty Xi w Białym Domu. Pomiędzy USA a Chinami trwa zażarta rywalizacja o rozwój technologii sztucznej inteligencji, bo pierwszeństwo na tym polu może przesądzić o ostatecznym wyniku wyścigu gospodarczego między USA a Chinami.

Chińskie firmy pozostają obecnie nieco w tyle za amerykańską czołówką w części najbardziej zaawansowanych technologii AI, a ich rozwój utrudniają amerykańskie ograniczenia eksportowe obejmujące m.in. najwydajniejsze procesory wykorzystywane do trenowania modeli oraz technologie niezbędne do produkcji zaawansowanych półprzewodników.

Pekin intensywnie rozwija więc własne procesory i infrastrukturę AI, próbując ograniczyć zależność od amerykańskich technologii. Rywalizacja ta utrudnia wypracowanie wspólnych zasad bezpieczeństwa AI, choć oba państwa deklarują gotowość do dialogu w sprawie ograniczania najpoważniejszych zagrożeń związanych z rozwojem tej technologii.

Eksperci uważają, że sztuczna inteligencja to technologia, której potencjał gospodarczy porównywany jest do rozwoju internetu w latach 90. oraz rewolucji przemysłowej w XIX w. Rozwój internetu i powolna adaptacja jego zastosowań w działalności przedsiębiorstw był tym czynnikiem, który sprawił, że w globalnym wyścigu gospodarczym gospodarki unijne zaczęły zostawać w tyle. Jeszcze w 2011 roku nominalnie gospodarka UE była większa od amerykańskiej. Dziś PKB USA jest o jedną trzecią większe od unijnego, a Chiny już UE doganiają.

Przeczytaj także: