(Mroczna) przyszłość już tu jest. Autonomiczne ukraińskie drony zabiły Rosjan bez ludzkiej asysty

„The New Scientist” 10 czerwca opublikował tekst „W pełni autonomiczne drony zabiły po raz pierwszy człowieka”. Autor powołuje się na Aleksandra Kochanowskiego, prezesa firmy dronowej Aero Center, który na konferencji w Ambasadzie Ukrainy w Londynie opowiadał o przeprowadzonym dwa lata temu teście. Dziesięć w pełni autonomicznych dronów „Terminator” miało zaatakować ludzkie cele w okolicach Bachmutu i Czasiw Jaru.

Dostały polecenie lotu w stronę linii frontu, pokonania 3-5 kilometrów i przełączenia się w „tryb terminatora”, czyli proces, w którym model AI szuka i atakuje samodzielnie cele: ludzi, budynki, pojazdy.

„Po prostu je wystrzeliliśmy i wiedzieliśmy, że wszystko, co będzie się znajdowało w tym obszarze, będzie martwe” – powiedział Kochanowski „The New Scientist”. Jednostka wystrzeliwująca drony nie miała, kontroli, informacji zwrotnej, ani kontaktu z nimi. „Drony samodzielnie zabijały wszystko, co widziały”.

Ponieważ nie było sposobu, by ustalić, co zautomatyzowane drony „widziały” ani jakie cele obrały, po zakończeniu testu wysłano w ten rejon drony pilotowane przez ludzi. Według Kochanowskiego ofiarami było „kilku żołnierzy i jedna ciężarówka”. Choć nie istnieje nagranie pokazujące, jak zautomatyzowane drony atakują te cele, uznano, że to właśnie one je zniszczyły.

Kochanowski nie był osobiście obecny podczas testu. Ukraińskie Ministerstwo Obrony ani MSZ nie odpowiedziało na pytania dotyczące tego testu, ani stanowiska w sprawie użycia w pełni autonomicznej broni.

Burza po prezentacji

Po publikacji „The New Scientist” tematem zajęły się media. Pojawiły się komentarze, że doszło do jakościowego przełomu. Także w Polsce odnotowano tę informację – „Tygodnik Powszechny” poświęcił jej kilka dni temu aż trzy teksty.

Sztuczna inteligencja jest dziś powszechnie wykorzystywana przez armie na całym świecie. Pomaga wybierać cele z ogromnych zbiorów danych wywiadowczych i automatyzuje niektóre funkcje uzbrojenia. Jednak na którymś etapie procesu zwykle o tym, co zaatakować, decyduje człowiek.

Jeszcze w lutym 2024 pisałem o udokumentowanym eksperymentalnym wykorzystaniu AI w broni dronowej. Wtedy mówiono o wykorzystywaniu jej na końcowym etapie ataku: pilot miałby wybrać obszar i cel lub grupę celów – jednak sztuczna inteligencja miała sfinalizować atak i przejąć kontrolę nad końcową, podatną na zagłuszanie i walkę radioelektroniczną fazę uderzenia.

Również izraelskie systemy Lavender, Hasbora czy Where’s Daddy, które Izraelczycy wykorzystywali do identyfikowania i atakowania celów oraz osób, które ich zdaniem miałyby być związane z Hamasem, posiadały element ludzki. Co prawda oficerowie mieli często sekundy na zatwierdzenie lub odrzucenie proponowanych celów, które system wyświetlał im w dużej ilości – jednak przynajmniej formalnie o ataku decydował człowiek.

Kwestia odpowiedzialności

Obecność człowieka powoduje, że to operator jest odpowiedzialny za ewentualne naruszenie prawa międzynarodowego, błędy czy zbrodnie wojenne. Gdy człowieka nie ma, do odpowiedzialności można próbować pociągać dowódców jednostki, ich przełożonych czy polityków odpowiedzialnych za wdrożenie niedoskonałego systemu. Stąd paradoksalnie – obecność człowieka chroni struktury wojskowe przed odpowiedzialnością za zbrodnie wojenne.

Prawo międzynarodowe wymaga, by już na etapie tworzenia czy nabywania nowej broni sprawdzać, czy jej użycie nie prowadziłoby do naruszenia prawa. Gdyby państwo dopuściło do użycia system, którego skutków nie daje się wystarczająco przewidzieć i który np. w efekcie nie rozróżnia stron walczących od niewalczących (cywilów, medyków, poddających się i bezbronnych żołnierzy), odpowiedzialność za to może sięgać także osób, które jego użycie nakazały, ułatwiły albo zatwierdziły.

Stanowisko Kochanowskiego jest dotychczas najbardziej jednoznacznym dowodem na to, że na polu bitwy mogło dojść do śmierci spowodowanej wyłącznie działaniem AI. Silna reakcja mediów wydaje się więc wynikać w dwóch obaw:

• jeszcze głębszej dehumanizacji wojny, w której nie da się nawet wskazać osoby odpowiedzialnej za śmierć zabitego celu,
• oraz możliwego naruszenia prawa.

Według źródeł z firm obronnych, które wypowiadały się podczas konferencji w ambasadzie, ukraiński rząd obecnie zakazuje systemowego używania AI na końcowym etapie przechwytywania celów.

Autonomiczne drony obronne

Artykuł w „The New Scientist” pojawił się na kilka dni po ogłoszeniu przez Ukraińców sukcesu we wdrożeniu autonomicznych dronów przechwytujących, służących do zwalczania rosyjskich Szachedów. Według ministra obrony Mychajły Fedorowa technologia automatyzuje około 95 proc. procesu przechwycenia — od startu drona po zniszczenie celu. Operator nadal wybiera obiekt i wydaje komendę ataku, ale później system sam prowadzi drona, rozpoznaje cel i naprowadza się na Szacheda.

Rozwiązanie zostało już przetestowane bojowo w obwodzie charkowskim. Ukraina chce zwiększać skalę jego użycia, bo autonomia pozwala szybciej reagować na masowe naloty dronów i lepiej chronić miasta.

Obecnie podstawą zwalczania Szachedów w Ukrainie jest warstwowy system obrony, łączący kilka metod. Ważną rolę nadal odgrywają mobilne grupy ogniowe z karabinami maszynowymi na lekkich pickupach, reflektorami, termowizją i systemami wykrywania. Są skuteczne szczególnie wobec nisko lecących dronów, które były podstawą ataków na Ukrainę w latach 2024-2025.

Obecnie coraz większego znaczenia nabierają jednak drony przechwytujące (oryginalnie sterowane przez operatora, czasami ze wsparciem AI), które doganiają Szacheda i niszczą go przez kolizję lub detonację w jego pobliżu. Ukraina rozwija też walkę radioelektroniczną, zakłócając nawigację i łączność rosyjskich bezzałogowców.

Klasyczna obrona przeciwlotnicza, w tym rakiety i zestawy krótkiego zasięgu, pozostaje w użyciu, ale są dużo droższe od samych Szahedów. Nowym kierunkiem są wspomniane systemy (pół)autonomiczne, w których operator wskazuje cel i wydaje zgodę na atak, a dron samodzielnie prowadzi przechwycenie.

W wypadku technologii obronnych autonomizacja nie zbudza tak dużych kontrowersji, jak w wypadku tych ofensywnych.

Co mówią ukraińskie przepisy

Ukraińskie przepisy nie pozwalają jednak na w pełni autonomiczne działanie. Wymagają, aby człowiek zweryfikował cel w końcowej fazie przechwycenia. Niedługo jednak może się to zmienić. Nawet jeśli do tego nie dojdzie, cała bateria 64 dronów będzie wymagała tylko dwóch operatorów zatwierdzających końcowy etap działania. A to oznacza, że personelu wojskowego potrzeba będzie mniej.

„Każdy etap działania tego systemu może być ręczny albo automatyczny. Nie wolno nam jedynie wykonywać automatycznie ostatniego etapu” – mówi Kochanowski, który uważa, że przepisy powinny zostać zmienione.

Przełom?

Historie o zupełnie autonomicznych dronach pojawiały się w ostatnich latach wielokrotnie. Dotychczas brakowało szerszej weryfikacji.

W 2021 roku świat obiegły doniesienia o tureckim dronie Kargu-2 użytym podczas wojny domowej w Libii. Raport ekspertów ONZ sugerował, że systemy tego typu mogły ścigać i atakować wycofujące się siły generała Haftara bez stałego połączenia z operatorem.

W raporcie czytamy:

„Konwoje logistyczne oraz wycofujące się siły HAF były następnie ścigane i zdalnie atakowane przez bezzałogowe bojowe statki powietrzne lub śmiercionośne autonomiczne systemy uzbrojenia, takie jak STM Kargu-2 oraz inną amunicję krążącą.

Śmiercionośne autonomiczne systemy uzbrojenia zostały zaprogramowane tak, aby atakować cele bez konieczności utrzymywania łączności danych między operatorem a amunicją – w praktyce dawało to rzeczywistą zdolność typu »odpal, zapomnij i znajdź cel«.

Bezzałogowe bojowe statki powietrzne oraz małe drony rozpoznawcze, obserwacyjne i wywiadowcze HAF zostały zneutralizowane przez zakłócanie elektroniczne prowadzone za pomocą systemu walki radioelektronicznej Koral”.

Tamten przypadek jest jednak niejednoznaczny. Nie wiemy, czy atak Kargu-2 faktycznie doprowadził do śmierci człowieka oraz czy drony były faktycznie autonomiczne. Producent, turecka firma STM, oficjalnie opisuje Kargu jako system zdolny do w pełni autonomicznej nawigacji dzięki własnemu systemowi kontroli lotu. W materiałach STM pojawiają się też funkcje takie jak optyczne naprowadzanie, śledzenie celu, rozpoznawanie celu, technologia rozpoznawania twarzy, komunikację między dronami (w celu koordynacji działań), działanie w warunkach zakłóceń zagłuszarkami dronów. STM miało zaprzeczać, że Kargu-2 jest projektowany do całkowicie autonomicznego atakowania ludzi bez decyzji operatora. Według cytowanego przez Project Ploughshares szefa STM wprowadzona autonomia ma służyć głównie nawigacji oraz rozróżnianiu ludzi, zwierząt i pojazdów, ale operator ma każdorazowo ręcznie weryfikować cel i zatwierdzać atak.

Czas na nowe prawo

Także doniesienia z 2023 roku sugerowały, że pierwsze ukraińskie drony uderzeniowe wyposażone w sztuczną inteligencję wyszukiwały i atakowały cele bez pomocy człowieka. Miały być jednak używane nie przeciw piechocie, ale przeciwko pojazdom, których rozpoznawania zostały nauczone, takim jak czołgi. W tamtym czasie nie potwierdzono żadnych ofiar śmiertelnych, chociaż można zakładać, że takie były. Już wtedy byliśmy świadkami dyskusji i wzburzenia podobnego do tego, które widzimy dzisiaj.

Najnowszy przypadek jest więc o tyle przełomowy, że inżynier i przedstawiciel zespołu deweloperskiego jednoznacznie potwierdza:

• zdolności do autonomicznego działania,
• ofiary śmiertelne
• faktyczny przebieg testu.

Warto jednak pamiętać, że w wypadku działań wojskowych wiemy zazwyczaj jedynie tyle, ile pozwolą nam wiedzieć strony walczące. Lub ile są w stanie wynieść na światło dzienne sygnaliści, dziennikarze i organizację międzynarodowe. A więc istnieje duża szansa, że o wielu wcześniejszych przypadkach używania tego typu broni nie wiemy. Jednak w świetle kolejnych przełomów w wykorzystaniu broni autonomicznej, paląca wydaje się potrzeba stworzenia konwencji o broni autonomicznej. Rozproszone i anachroniczne przepisy już nie wystarczą.