Holenderskie służby mają dane milionów ludzi do „ulepszania modeli”. A w Polsce?

Od 2 sierpnia 2026 roku w całej Unii Europejskiej funkcjonuje nowe prawo: AI Act. Dostawcy i urzędy dostają obowiązki dotyczące przejrzystości, dokumentacji i nadzoru nad częścią systemów sztucznej inteligencji. Jedna strefa pozostaje jednak wyłączona: AI używana wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego.

Możliwości służb rosną dziś dzięki danym osobowym i nowym narzędziom do ich przetwarzania i wykorzystywania. Europejskie prawo – RODO i tzw. unijna dyrektywa policyjna, określana skrótem DODO – zwracają uwagę na to, że danych nie można gromadzić ponad potrzebę, a ich przetwarzanie rodzi ogromne ryzyka, które – z braku stuprocentowych zabezpieczeń – można tylko minimalizować.

Biznesowych administratorów danych obowiązują więc m.in. zasady dotyczące stałego analizowania ryzyka i wdrażania odpowiednich zabezpieczeń — organizacyjnych i technicznych. W przypadku służb niezbędne zaś stają się cywilne mechanizmy kontroli. Należy do nich m.in. prawo do informacji, że służby zbierały na nasz temat informacje, jeśli okaże się, że podejrzenia były bezpodstawne. Wtedy bowiem możemy nie tylko dowiedzieć się, co na nasz temat zebrano, ale też wyegzekwować prawo do zniszczenia tych informacji.

Problem przechowywania przez służby danych raz zebranych – bo „mogą się przydać” – zauważa Trybunał Sprawiedliwości UE, nakazując różnym krajom wprowadzanie przepisów zmuszających np. policję do kasowania danych. Żeby ktoś, kto raz podpadł władzy, nie pozostawał do końca życia w bazie danych służącej do typowania podejrzanych. Polska takich przepisów nie ma.

W lipcu holenderska Komisja Nadzoru nad Służbami Wywiadu i Bezpieczeństwa (CTIVD) opublikowała raport o tym, jak cywilna służba AIVD i wojskowa służba MIVD obchodzą się z ogromnymi zbiorami danych (bulk datasets). Kontrolerzy znaleźli przypadki bezprawnego dostępu, przekroczone terminy przechowywania i osobną kategorię prac, do której służby zaliczyły „ulepszanie modeli lub aplikacji”. Nazw tych modeli ani ich przeznaczenia nie ujawniono.

W odpowiedzi na pytania OKO.press komisja CTIVD poinformowała, że raport nie dotyczył sztucznej inteligencji. Inaczej widzi to jednak fundacja Bits of Freedom, która podtrzymuje, że opisane w nim prace mogą obejmować systemy AI. Obie strony zgadzają się w jednym: obecne prawo nie zapewniło właściwych zabezpieczeń.

Baza ludzi niewinnych

Komisja nie jest organizacją społeczną ani komisją powołaną po wybuchu afery. To ustawowy, niezależny nadzorca, który sprawdza legalność działań służb. W cytowanym raporcie komisja prześledziła cały „cykl życia” baz: od technicznego umieszczenia ich w systemach, przez nadawanie dostępu i użycie, po usunięcie danych. Badała dokumenty wewnętrzne, rozmawiała ze służbami i samodzielnie sprawdzała wybrane zbiory w ich systemach.

„Bulk dataset” nie oznacza po prostu dużego pliku z informacjami o podejrzanych. Z definicji przyjętej przez nadzorcę większość rekordów dotyczy osób i organizacji, którymi służby się nie interesują i nigdy nie będą się interesować. W bazach są nazwiska, telefony, adresy IP, lokalizacje, dane z mediów społecznościowych, informacje o podróżach, a czasem treść maili lub czatów. „Zdecydowana większość ludzi w tych bazach nie ma nic wspólnego ze szpiegostwem ani terroryzmem” – podkreślił, w tłumaczeniu, przewodniczący Komisji Hugo Hillenaar.

Inne zbiory służby kupują, otrzymują od zagranicznych partnerów, zdobywają w operacjach hakerskich lub znajdują na internetowych giełdach. Mogą to być także dane skradzione i wystawione przez hakerów.

Skalę jednego z kanałów pozyskiwania danych pokazał jeden z wcześniejszych raportów komisji. W próbie obejmującej okres od stycznia 2020 do czerwca 2023 roku pięciu „wirtualnych agentów”, czyli funkcjonariuszy działających pod przykryciem w sieci, zdobyło dziesiątki zbiorów. Niektóre zawierały po kilkadziesiąt milionów rekordów, przeważnie dotyczących mieszkańców państw obserwowanych przez holenderski wywiad.

Życie z numeru telefonu

Sam numer telefonu mówi niewiele. Połączony z nazwiskiem z drugiego rejestru, lokalizacją z trzeciego i listą podróży z czwartego zaczyna opowiadać czyjeś życie: z kim dana osoba utrzymuje kontakt, gdzie bywa i czy porusza się razem z kimś już obserwowanym. Im więcej zbiorów można zestawić, tym więcej znaczeń da się wydobyć z pozornie zwyczajnego zapisu.

Służby pokazują użyteczne strony takiej analizy. Na podstawie danych potrafią wstępnie sprawdzić osoby podejrzewane o związki z rosyjskim wywiadem, rozpoznawać wzorce ruchu statków przy infrastrukturze na Morzu Północnym albo ograniczyć krąg osób, wobec których trzeba zastosować podsłuch. Służba cywilna AIVD identyfikowała też ludzi, którzy wyjechali z Holandii i dołączyli do tzw. Państwa Islamskiego, korzystając z metadanych lokalizacyjnych. W jednym z opisanych przypadków dane pomogły służbom wojskowym MIVD chronić holenderskich żołnierzy w Afganistanie.

Ten pożytek nie usuwa kosztu. Zbiór może być potrzebny do znalezienia kilku osób, ale nadal przechowuje ślady milionów pozostałych.

Sama Komisja zaznacza w raporcie, że AI i inne formy automatycznej analizy mogą zwiększyć ingerencję w prywatność.

Dane w szufladzie bez zabezpieczeń

Najbardziej kontrowersyjny fragment raportu dotyczy dwóch „szuflad”, które stworzyły służby. W pierwszej znalazła się zwykła praca wywiadowcza. W tej szufladzie analityk szuka w wielkiej bazie konkretnego telefonu, adresu albo osoby związanej z prowadzonym dochodzeniem. W skontrolowanej próbie takie wyszukiwania były celowe i ograniczone. Komisja nie znalazła oznak używania niewłaściwych algorytmów ani innych nieprawidłowości w analizie operacyjnej.

Druga szuflada była oznaczona jako „wsparcie wykonywania zadań”. Trafiały do niej testy techniczne, przygotowanie narzędzi, pomoc przy użyciu uprawnień oraz właśnie „ulepszanie modeli lub aplikacji”. Obie holenderskie służby – cywilna i wojskowa – uznały, że skoro dane nie są w tym momencie bezpośrednio używane w dochodzeniu, można traktować je inaczej. W praktyce nie wyznaczano dla części zbiorów wymaganego reżimu dostępu, nie stosowano wszystkich zasad redukcji danych i pomijano ustawowe terminy przechowywania.

Prawo nie zna takiego skrótu. Holenderska ustawa o służbach wywiadowczych i bezpieczeństwie oraz przepisy tymczasowe chronią dane również wtedy, gdy służą one do budowania zaplecza technicznego. Komisja uznała to użycie za bezprawne i zaleciła albo stosowanie istniejących zabezpieczeń, albo stworzenie wyraźnej podstawy prawnej wraz z nowymi gwarancjami. Sama separacja zespołów, na którą powoływały się służby, nie wystarczyła.

Komisja: raport nie dotyczy AI...

O doprecyzowanie sformułowania „ulepszanie modeli lub aplikacji” zapytaliśmy CTIVD. Komisja zastrzegła, że w publicznym raporcie opisuje metody służb na pewnym poziomie abstrakcji. „Możemy jedynie wskazać, że chodzi o ulepszanie aplikacji programowych, których służby używają do przetwarzania danych” — odpowiedziało biuro komisji.

Na pytanie, czy mogło chodzić o uczenie maszynowe albo inną formę AI, Komisja odpowiedziała jednoznacznie: „Ten raport nie dotyczy wykorzystywania sztucznej inteligencji przez służby”. Komisja nie rozstrzygnęła przy tym, czy słowo „ulepszanie” obejmowało trening, testowanie lub walidację. W obu odpowiedziach odesłała do osobnego badania nad AI i zautomatyzowaną analizą danych, które ma opisać skalę ich wykorzystania przez służby oraz ryzyka dla praw i wolności. Wyniki mają zostać opublikowane.

To koryguje najdalej idący wniosek: raport komisji nie jest dowodem na trenowanie AI. Nadal jednak nie nazywa ulepszanej aplikacji, nie opisuje jej funkcji i nie mówi, czy „model” był modelem statystycznym, zestawem reguł czy innym elementem oprogramowania. Komisja potwierdziła zakres ustalenia, lecz nie odsłoniła istotnych szczegółów technicznych.

...ale watchdog uważa wprost przeciwnie

Lotte Houwing z Bits of Freedom inaczej interpretuje fragmenty raportu i rozmowy z urzędnikami holenderskiego Ministerstwa Spraw Wewnętrznych i Stosunków Królestwa (BZK). W odpowiedzi na pytania OKO.press, Houwing napisała, że urzędnicy wyjaśnili jej, że „wspieranie wykonywania zadań” obejmuje także rozwijane przez same służby systemy AI, używane w ich pracy, między innymi do analizy danych masowych.

Houwing zestawia zdanie o ulepszaniu modeli i aplikacji z innym ostrzeżeniem komisji, że

Pytana, czy „model” może oznaczać trening, test, walidację, model statystyczny albo reguły w aplikacji, odpowiedziała: „Może odnosić się do wszystkiego naraz i prawdopodobnie tak jest, bo te możliwości się wzajemnie nie wykluczają”.

Według Houwing służby uznają też, że mogą używać do takich prac danych ludzi, którzy nie są celem żadnej operacji. Fundacja Bits of Freedom uważa to za bardzo problematyczne. Z informacji organizacji wynika, że projektowana reforma ustawy o służbach wywiadowczych i bezpieczeństwie ma stworzyć dla tego użycia osobny reżim. Właśnie treść tych przepisów przesądzi, czy „wspieranie zadań” dostanie wyraźną podstawę prawną i jakie zabezpieczenia będą jej towarzyszyć.

Rasistowskie profilowanie

Holandia ma powód, by na nieprzejrzyste modele reagować nerwowo. W aferze dodatków na opiekę nad dziećmi algorytm fiskusa nie odbierał nikomu pieniędzy własnym podpisem. Wybierał za to rodziny do drobiazgowej kontroli i ustawiał je na początku procedury w roli podejrzanych. Potem urzędnicza machina robiła resztę.

Holenderskie Kolegium Praw Człowieka ustaliło, że w 2014 roku rodzice o zagranicznym pochodzeniu byli wybierani przez model do kontroli ponad osiem razy częściej niż rodzice holenderskiego pochodzenia. Badanie pokazało skutek, ale nie rozstrzygnęło, który element systemu go wywołał.

Za tą statystyką stoją konkretne osoby. Nazmiye Yigit-Karaduman, urodzona w Holandii, musiała od 2013 roku zwrócić 32 tys. euro. Zrezygnowała z pracy, żeby opiekować się córką i doznała wypalenia. W aktach fiskusa natrafiała na określenie jej jako Turczynki; znalazła też rasistowski rysunek. Dla niej profilowanie nie było technicznym etapem postępowania, tylko początkiem wieloletniego długu i poczucia, że własne państwo uznało ją za obcą.

Tysiące rodzin straciły oszczędności, pracę albo mieszkanie. Część dzieci trafiła poza dom po tym, jak długi i stres pogłębiły kryzys rodzinny. Afera doprowadziła w 2021 roku do dymisji trzeciego rządu Marka Ruttego. Urząd ochrony danych nałożył na fiskusa 2,75 mln euro kary za bezprawne i dyskryminujące przetwarzanie narodowości.

Sprawa wciąż nie jest zamknięta. W lutym 2026 roku rząd poinformował o ponad 43 tys. rodziców uznanych za poszkodowanych. Wszyscy przeszli już pełną ocenę podstawowej rekompensaty, ale tysiące nadal czekały na rozpoznanie odwołań albo dodatkowego odszkodowania za utratę pracy, domu czy zdrowia.

Ukryty algorytm

Marokanka mieszkająca w Egipcie chciała przyjechać do Holandii, żeby zaopiekować się swoim holenderskim mężem. We wrześniu 2023 roku odmówiono jej wizy krótkoterminowej. W uzasadnieniu nie przeczytała, że jej wniosek przeszedł przez algorytm ryzyka.

System nazywa się Informatie Ondersteund Beslissen (IOB). Przydziela wnioski o wizę Schengen do szybkiej, zwykłej albo intensywnej ścieżki. Bierze pod uwagę między innymi narodowość, płeć, wiek i miejsce złożenia dokumentów. Formalnie nie wydaje decyzji. Określa jednak, ile uwagi urzędnik ma poświęcić sprawie i z jakim poziomem podejrzliwości ją otworzy.

Sąd w Hadze ustalił w 2025 roku, że IOB został użyty w sprawie kobiety, choć nie wynikało to z decyzji. Nakazał ministerstwu wyjaśnić sposób działania profilu, użyte dane, znaczenie „trafień” i wpływ algorytmu na odmowę. Zapytał też, czy wykonano ocenę oddziaływania na prawa człowieka. Dla sądu problemem nie było tylko to, kto ostatecznie podpisał pismo. Obywatelka musi móc zrozumieć drogę prowadzącą do rozstrzygnięcia i ją zakwestionować.

Amnesty International uważa, że użycie narodowości w tym profilu prowadzi do dyskryminacji. „Narodowość nigdy nie może być kryterium profilu ryzyka” – przekonuje organizacja. Ministerstwo odpowiadało wcześniej, że kryteria są łączone, a decyzję podejmuje człowiek. Doświadczenie afery dodatków pokazuje, dlaczego taki argument nie zamyka rozmowy: człowiek często widzi już sprawę przefiltrowaną i oznaczoną przez system.

Europa reguluje AI, ale nie dla służb

AI Act porządkuje część tych ryzyk. Systemy AI używane przy migracji, azylu i kontroli granic – na przykład do oceny wniosków wizowych – zalicza do wysokiego ryzyka. Wymaga od ich twórców i użytkowników zarządzania ryzykiem, odpowiedniej jakości danych, rejestrowania operacji, dokumentacji, dokładności, cyberbezpieczeństwa i realnego nadzoru człowieka. Osoba dotknięta decyzją ma też dostać informacje potrzebne do zrozumienia roli systemu.

Nie wszystkie te obowiązki zaczęły działać 2 sierpnia. Po przyjętym w lipcu 2026 roku pakiecie upraszczającym termin dla systemów wysokiego ryzyka w obszarze migracji, azylu i granic przesunięto na 2 grudnia 2027 roku. Teraz zaczęły obowiązywać między innymi reguły przejrzystości dla części systemów oraz pełne egzekwowanie wymogów wobec modeli ogólnego przeznaczenia. Mówienie, że cały AI Act „właśnie wszedł w życie”, byłoby więc skrótem: rozporządzenie działa etapami.

Jeżeli system jest używany wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego, AI Act go nie obejmuje – niezależnie od tego, czy korzysta z niego służba państwowa, czy inny podmiot działający w tym celu. Ochrona ma wtedy wynikać z prawa krajowego, Europejskiej Konwencji Praw Człowieka i pracy krajowych organów nadzoru.

Powstaje wyraźna asymetria. Cywilny system rozdzielający wnioski wizowe ma ostatecznie podlegać unijnym wymogom wysokiego ryzyka. Model zbudowany na podobnych danych dla wywiadu może nigdy nie trafić pod kontrolę AI Act. Dlatego niejasne dwa słowa z raportu CTIVD – „ulepszanie modeli” – mają dziś większe znaczenie niż miesiąc temu.

Polska: informacyjny monopol służb

Holenderski model nadzoru nie jest jedynym w Europie. Agencja Praw Podstawowych UE naliczyła w 2023 roku 18 wyspecjalizowanych organów kontrolujących służby w 27 państwach członkowskich. Ich kompetencje bardzo się różnią: część może samodzielnie wszczynać kontrole i wejść do systemów, inne wydają głównie opinie. Sam fakt istnienia Komisji sprawił jednak, że publicznie poznaliśmy skalę zbiorów, typy uchybień i spór o modele.

W Polsce nie działa odpowiednik holenderskiej Komisji CTIVD, który zajmowałby się wyłącznie służbami, miał stały dostęp do ich działalności operacyjnej, techniczne zaplecze i możliwość rozpatrywania skarg obywateli. Najwyższa Izba Kontroli pisała w 2024 roku, że powołanie niezależnego zewnętrznego organu jest warunkiem rozpoczęcia realnej reformy. Według NIK służby zachowują „monopol informacyjny”: same decydują, co pokażą instytucjom, które mają je kontrolować.

Ten problem ma już wymiar prawny. Europejski Trybunał Praw Człowieka orzekł w maju 2024 roku, że polskie przepisy o tajnej inwigilacji, zatrzymywaniu danych o komunikacji i dostępie do nich nie dają wystarczających zabezpieczeń przed nadużyciami. Stwierdził trzy naruszenia prawa do prywatności i korespondencji. Jednym z braków był skuteczny środek, dzięki któremu człowiek mógłby sprawdzić, czy był obserwowany zgodnie z prawem.

Sprawa dotarła do ETPCz, bo polscy aktywiści wykorzystali nasze procedury, by wykazać, że w Polsce człowiek nie może się dowiedzieć, czy był obiektem inwigilacji, chyba że jego sprawa nie trafi do sądu. Osoba inwigilowana bez podstaw nie wie więc, co na jej temat zebrano i co się z tymi danymi dalej dzieje. Do czego używają ich służby.

W lipcu Sejm przyjął projekt rządowy – Senat zgłosił poprawki nieco zwiększające kontrolę nad służbami. Po wakacjach czeka nas ostateczne głosowanie. Rzecznik Praw Obywatelskich ocenił kierunek pozytywnie, ale wskazał podstawowy brak: przed wyrażeniem zgody sąd nadal oglądałby materiały wybrane przez same służby. Projekt nie tworzy też niezależnego organu eksperckiego na wzór holenderskiej Komisji CTIVD, co było postulatem RPO (zgłosił go RPO Adam Bodnar – to on jest autorem poprawek w Senacie).

Pozostaje jeszcze prawo do informacji. Wojciech Klicki z Fundacji Panoptykon szacuje, że materiały zaledwie z 15–20 proc. kontroli operacyjnych trafiają do procesu karnego. Reszta osób zwykle nie dowiaduje się o inwigilacji. „Ci, którzy są niewinni, nie mogą [walczyć o swoje prawa], bo się o tym nie dowiedzą” – mówił w czerwcu 2026 roku.

Za drzwiami

Holenderscy ministrowie spraw wewnętrznych i obrony przyjęli ustalenia Komisji. Zapowiedzieli uporządkowanie dostępu, ewidencji i terminów przechowywania. W odpowiedzi na pytania OKO.press komisja dodała, że rząd przygotowuje całościową reformę ustawy o służbach wywiadowczych i bezpieczeństwie, w której mają zostać uwzględnione wszystkie tematy. Publiczne konsultacje spodziewane są we wrześniu. Komisja nie przesądziła, czy modele i AI otrzymają w ustawie osobny rozdział.

Rozmowa z nadzorcą dała jedną granicę: raportu nie należy przedstawiać jako dochodzenia w sprawie AI. Nie dała jednak technicznej odpowiedzi. Czy chodziło o model statystyczny, wyszukiwarkę, mechanizm rozpoznawania wzorców czy zestaw reguł w aplikacji? Czy dane służyły do testów lub walidacji? I czy narzędzie podpowiadało, kogo obserwować, czy tylko porządkowało materiał? Tego nadal nie wiadomo.

Najmocniejsze ustalenie Komisji brzmi:

Osobne badanie komisji ma dopiero pokazać, gdzie w praktyce służby w Holandii używają AI. A gdy 2 sierpnia Europa zaczęła stosować kolejne elementy swojej najważniejszej regulacji AI, narzędzia bezpieczeństwa narodowego pozostały po drugiej stronie drzwi.