Co się wydarzyło?

Dyrektorzy zarządzający największych amerykańskich firm AI podpisali w Białym Domu zobowiązanie do samoregulacji i zwiększenia bezpieczeństwa rozwoju sztucznej inteligencji – donosi agencja AP.

Porozumienie, które prezydent Donald Trump sam podpisał i opublikował we wtorek 29 września na swoim portalu społecznościowym Truth Social, podpisali: CEO Anthropica Dario Amodei, CEO Google'a Sundar Pichai, CEO Mety Mark Zuckerberg, szef OpenAI Greg Brockman, CEO Nvidii Jensen Huang oraz założyciel xAI Elon Musk. xAI to w tej chwili część koncernu SpaceX.

„Myślę, że widzę gotowość do ogromnej samokontroli. Oni rozumieją, że muszą sami się pilnować” – powiedział Trump dziennikarzom podczas spontanicznej konferencji prasowej przed Zachodnim Skrzydłem Białego Domu.

Kontrolę rozwoju AI uznał za ich „moralny obowiązek”.

Porozumienie zobowiązuje firmy do:

• „kontroli systemów kontroli”, czyli poddawania stosowanych przez nie systemów kontroli i monitorowania AI niezależnym ocenom zewnętrznych audytorów lub ekspertów, którzy mają sprawdzać, czy zabezpieczenia działają zgodnie z założeniami;
• powołania niezależnych komitetów w ramach rad dyrektorów, odpowiedzialnych za nadzór nad bezpieczeństwem AI;
• wprowadzenia wewnętrznych mechanizmów monitorowania możliwości i zgodności modeli AI z założonymi celami zarówno podczas ich trenowania, jak i wdrażania; chodzi przede wszystkim o eliminowanie zagrożeń związanych z cyberbezpieczeństwem, bezpieczeństwem biologicznym i chemicznym; zabezpieczenia mają m.in. gwarantować, że modele „nie będą włamywać się do systemów technicznych ani uzyskiwać do nich dostępu w niezamierzony sposób”.

Każda firma ma również posiadać wewnętrzny zespół odpowiedzialny za sprawdzanie, czy wszystkie mechanizmy kontroli, monitorowania i wykrywania zagrożeń działają zgodnie z założeniami.

Donald Trump uważa, że sztuczna inteligencja to technologia, która pozwoli wygenerować Stanom „niewyobrażalny wzrost gospodarczy”. Dlatego też przy tej okazji Trump podpisał rozporządzenie, które zmienia nazwę sztucznej inteligencji na „superinteligencję”. Jego zdaniem bowiem „sztuczna inteligencja” nie jest „sztuczna”.

„Wszyscy się z tym zgadzamy” – powiedział Trump po spotkaniu w Białym Domu, cytowany przez portal The Hill.

Jaki jest kontekst?

Zobowiązanie do „samoregulacji” i „samokontroli” rozwoju AI, podpisane przez sześć największych amerykańskich firm AI, jest dobrowolne. Ma wychodzić naprzeciw społecznym oczekiwaniom zwiększenia kontroli nad rozwojem sztucznej inteligencji oraz ograniczania związanych z nią zagrożeń. Problemem jest tylko to, że postulaty kontroli dotyczą raczej kontroli państwowej, realizowanej najlepiej w ramach międzynarodowej współpracy, a nie kontroli realizowanej w zaciszu każdej z firm.

W ostatnich miesiącach doszło do serii incydentów, w których agenci AI, czyli autonomiczne programy komputerowe oparte na sztucznej inteligencji, które potrafią samodzielnie wykonywać złożone zadania bez nadzoru człowieka, przekroczyły wyznaczone im granice.

W lipcu modele OpenAI podczas testów cyberbezpieczeństwa wydostały się z izolowanego środowiska i uzyskały nieautoryzowany dostęp do infrastruktury platformy Hugging Face. Hugging Face to platforma umożliwiająca budowę aplikacji wykorzystujących sztuczną inteligencję; udostępnia ją francusko-amerykańskie przedsiębiorstwo o tej samej nazwie.

W innym przypadku agent OpenAI uzyskał nieautoryzowany dostęp do australijskich systemów rządowych związanych z ochroną zdrowia. Według australijskich władz nie doszło do wycieku danych osobowych pacjentów, ale incydent wzbudził ogromne obawy co do tego, do jakich innych wrażliwych systemów włamać się mogą agenci AI.

Podobne problemy ujawnił Anthropic, producent modeli Claude. Firma potwierdziła cztery przypadki, w których podczas testów cyberbezpieczeństwa jej modele uzyskały nieautoryzowany dostęp do systemów podmiotów trzecich. Stało się tak poprzez błąd w konfiguracji systemu, który pomimo że system miał działać bez dostępu do otwartej sieci został omyłkowo podłączony do internetu. Anthropic przeanalizował około 481 mln zapisów działania swoich modeli, by sprawdzić, czy nie było więcej takich przypadków. Firma poinformowała, że nie.

Temat regulacji AI miał być poruszony także w zeszłym tygodniu między prezydentem Donaldem Trumpem a przywódcą Chin Xi Jinpingiem podczas wizyty Xi w Białym Domu. Pomiędzy USA a Chinami trwa zażarta rywalizacja o rozwój sztucznej inteligencji, bo pierwszeństwo na tym polu może przesądzić o ostatecznym wyniku wyścigu gospodarczego między USA a Chinami.

Chińskie firmy pozostają obecnie nieco w tyle za amerykańską czołówką, a ich rozwój utrudniają amerykańskie ograniczenia eksportowe obejmujące m.in. najwydajniejsze procesory wykorzystywane do trenowania modeli oraz technologie niezbędne do produkcji zaawansowanych półprzewodników.

Pekin intensywnie rozwija więc własne procesory i infrastrukturę AI, próbując ograniczyć zależność od amerykańskich technologii. Rywalizacja ta utrudnia wypracowanie wspólnych zasad bezpieczeństwa AI, choć oba państwa deklarują gotowość do dialogu w tej sprawie.

Eksperci uważają, że sztuczna inteligencja to technologia, której potencjał gospodarczy porównywany jest do rozwoju internetu w latach 90. oraz rewolucji przemysłowej w XIX w. Rozwój internetu i powolna adaptacja jego zastosowań w działalności przedsiębiorstw był tym czynnikiem, który sprawił, że w globalnym wyścigu gospodarczym gospodarki unijne zaczęły zostawać w tyle. Jeszcze w 2011 roku nominalnie gospodarka UE była większa od amerykańskiej. Dziś PKB USA jest o jedną trzecią większe od unijnego, a Chiny już UE doganiają.

Przeczytaj także: