Chat Control powraca zza grobu. Nieskuteczne i niebezpieczne – w tym dla samych dzieci – narzędzie

Niezależnie od tych wszystkich problemów, sam pomysł Komisji Europejskiej jest, na podstawowym poziomie, absurdalny. Polega przecież na tym, by wyszukiwaniem materiałów przedstawiających krzywdzone dzieci zajmowały się firmy technologiczne, które same na krzywdzie dzieci zarabiają.

Nie napiszę więc dziś Państwu o coraz silniejszym sprzeciwie społecznym wobec szpiegujących okularów Mety, nazywanych potocznie „zbokularami” (w wolnym tłumaczeniu z ang. „pervert glasses”) ze względu na ich dużą popularność wśród mężczyzn lubujących się w nagrywaniu kobiet z ukrycia.

Nie przeczytacie też tekstu, który od dawna mam w planach, o tym, jak nowe regulacje przeciwko złośliwym pozwom (tak zwanym SLAPP-om) mają się do skandalu z pociągami Impuls.

I nie zanurkuję w pytanie o to, czy rządowy e-dziennik nie powinien aby być wypuszczony jako wolne oprogramowanie z publicznie dostępnym kodem (oczywiście powinien).

Zamiast tego znów zmuszony jestem pisać o Kontroli Czatów. I to pomimo tego, że w marcu europarlamentarzystki i europarlamentarzyści zagłosowali przeciwko przedłużaniu jej nieobowiązkowej wersji, tak zwanego Chat Control 1.0.

Dlaczego? Dlatego, że Szefowa PE Roberta Metsola bez wyraźnego powodu wykorzystała tryb nadzwyczajny, aby wymusić przyjęcie tych szkodliwych przepisów.

Demokratyczna decyzja z marca została unieważniona przy pomocy proceduralnego kruczka. Unijni dyplomaci określili to jako sytuację „bez precedensu”. Takie machinacje podważają zaufanie do unijnych instytucji i są wodą na młyn ruchów antyunijnych i wszelkiego rodzaju siewców dezinformacji, często związanych ze skrajną prawicą.

Znów więc musimy marnować czas i energię na walkę z Kontrolą Czatów: niepopularnym, nieskutecznym i niebezpiecznym – w tym dla samych dzieci! – pomysłem Komisji Europejskiej polegającym w zasadzie na traktowaniu każdej osoby komunikującej się przez Internet jako podejrzanej o rozpowszechnianie materiałów pedofilskich, oraz na traktowaniu usługodawców jako prywatnej siły policyjnej mającej te podejrzenia weryfikować.

Kontrola Czatów

Tak zwana Kontrola Czatów (ang. „Chat Control”) to projekt unijnej regulacji przewidujący automatyczne skanowanie naszej cyfrowej komunikacji pod kątem treści przedstawiających seksualne wykorzystanie dzieci (ang. Child Sexual Abuse Materials, CSAM). Docelowo miałoby to być obowiązkowe dla wszystkich usługodawców – od firm telekomunikacyjnych, przez operatorów poczty elektronicznej, po komunikatory internetowe – i dotyczyć również komunikacji szyfrowanej. Ta obowiązkowa, docelowa wersja nazywana jest potocznie Chat Control 2.0.

Od ponad pół dekady Komisja nie jest (na szczęście) w stanie uzyskać wystarczającego poparcia innych instytucji unijnych dla tego projektu.

W 2021 roku przyjęte więc zostało rozwiązanie tymczasowe: umożliwienie usługodawcom dobrowolne automatyczne skanowanie naszej komunikacji pod kątem CSAM. To tak zwana Chat Control 1.0. Bez takiej dyspensy (lub w żargonie prawniczym: derogacji) przetwarzanie naszych danych w ten sposób byłoby po prostu nielegalne z punktu widzenia regulacji dotyczących prywatności. Derogacja miała obowiązywać do 2024 roku, ale została wówczas przedłużona do kwietnia tego roku.

W marcu europarlamentarzystki i europarlamentarzyści głosowali nad kolejnym przedłużeniem. Zostało ono odrzucone zwykłą większością głosów. I tu historia Chat Control 1.0 powinna się była zakończyć.

Proceduralny kruczek

Niestety, przewodnicząca Parlamentu Europejskiego Roberta Metsola postanowiła wykorzystać procedurę przewidzianą dla spraw pilnych. Domagała się tego Europejska Partia Ludowa (EPP), duża frakcja – do której należą m.in. KO i PSL, a także sama przewodnicząca.

EPP uzasadniała to rzekomą „luką prawną” w ochronie dzieci w Internecie, która miała jakoby powstać w wyniku nieprzedłużenia Chat Control 1.0 w marcu – mimo że sama Komisja Europejska nie była w stanie przedstawić twardych danych jednoznacznie wskazujących na skuteczność Kontroli Czatów.

Jak podkreśla w swoim artykule były członek Europarlamentu z ramienia Partii Piratów, Patrick Breyer, o żadnej luce nie ma mowy. Istnieją znacznie skuteczniejsze metody walki z treściami przedstawiającymi wykorzystywanie dzieci (jak kontrola operacyjna komunikacji konkretnych osób podejrzanych, czy skanowanie publicznych wpisów i treści, które nie wymaga żadnych specjalnych wyłączeń).

7 lipca Europarlament zgodził się (zwykłą większością głosów) na procedurę pilną dla Chat Control 1.0. Oznaczało to, że do odrzucenia kolejnego przedłużenia tej regulacji wymagana była tym razem większość bezwzględna, 361 głosów. Ponieważ głosowanie miało miejsce tuż przed wakacyjną przerwą, wiadomo było, że część europarlamentarzystów i europarlamentarzystek nie weźmie w nim udziału. A co za tym idzie, że znacznie trudniej będzie uzyskać większość bezwzględną.

Chat Control 1.0 zostało więc znów przedłużone, tym razem do 2028 roku – mimo że większość głosów (314, przy 607 osobach głosujących) oddana została przeciw. Większość absolutną udało się uzyskać tylko przy głosowaniu poprawki zabraniającej skanowanie komunikacji w pełni szyfrowanej.

Problemy z Kontrolą Czatów

Problemów z Kontrolą Czatów jest zbyt wiele na jeden artykuł.

W marcu 2023 roku pisałem o kwestiach technicznych – czemu wymagania Komisji są myśleniem magicznym i koncertem życzeń, zwyczajnie niemożliwym do zrealizowania. Podawałem przykłady systemów automatycznego oznaczania opracowanych przez Microsoft (PhotoDNA) i Apple (NeuralHash), opisałem, jak te systemy zawodzą, i czemu zawodzą z przyczyn fundamentalnych – to znaczy, niemożliwych do „naprawienia”.

Tłumaczyłem, że dokładnie to samo zdjęcie nagiego dziecka może być rodzinną pamiątką z wakacji wysłaną babci przez dumną mamę, albo materiałem pedofilnym, gdy wycieknie i pojawi się na pedofilskich forach. Innymi słowy, wszystko zależy od kontekstu, a tego kontekstu systemy automatycznego oznaczania takich treści po prostu nie mają.

Wspominałem też o ogromnym polu do nadużyć – raz stworzony system automatycznego skanowania komunikacji może zostać wykorzystany do wynajdywania innych treści. Co z takim systemem zrobiłby Wiktor Orbán? Co chce zrobić Europol, który już lata temu sugerował Komisji Europejskiej rozszerzenie skanowania na inne tematy?

To jeden z powodów, dla których Europejski Inspektor Ochrony Danych, dr Wojciech Wiewiórowski, stwierdził na zamkniętym spotkaniu w 2023 roku, że proponowane masowe skanowanie prywatnej komunikacji „nigdy nie będzie zgodne z Kartą Praw Podstawowych UE”, a konkretne zapisy „tworzą iluzję legalności”.

Krytycznie o Kontroli Czatów wypowiadały się też inne instytucje unijne, między innymi Rada ds. Kontroli Regulacyjnej, wewnętrzny organ doradczy samej Komisji Europejskiej.

W październiku 2023 roku skupiłem się między innymi na tym, jak automatyczne systemy oznaczania jakichkolwiek treści z jednej strony nigdy nie będą w pełni skuteczne (to znaczy, pewne treści, które powinny zostać oznaczone, oznaczone nie zostaną). Unikanie wykrycia jest często trywialne – wystarczy dane zdjęcie nieco przyciąć czy delikatnie zmodyfikować w jakiś inny sposób.

Z drugiej strony zawsze będą jakieś treści oznaczone błędnie. Im bardziej rozluźnimy reguły wykrywania (by zmniejszyć szanse, że coś się prześlizgnie), tym więcej będzie treści błędnie oznaczonych jako zawierające CSAM. A każde takie oznaczenie może przecież komuś zrujnować życie.

Opisałem też, dlaczego Kontrola Czatów jest niebezpieczna dla samych dzieci i nastolatków – które przecież (niekoniecznie mądrze, ale to inna sprawa) wysyłają sobie czasem wzajemnie swoje nagie zdjęcia.

„Większość przypadków wykorzystywania seksualnego dzieci ma miejsce w ich domu. 80-95% sprawców wykorzystywania seksualnego dzieci to osoby z bliskiego otoczenia dziecka” – wynika z badań Fundacji Dajemy Dzieciom Siłę. Trudno przecenić, jak ważne dla dziecka doświadczającego jakiejś krzywdy są bezpieczne, zaufane kanały komunikacji, pozwalające komuś o tym powiedzieć.

Kontrola Czatów rozmontowuje to zaufanie, utrudniając ofiarom uzyskanie pomocy. Podkreślają to również organizacje zajmujące się ochroną dzieci w Internecie, takie jak holenderska Offlimits czy niemiecka Kinderschutzbund.

Absurdalny pomysł

Niezależnie od tych wszystkich problemów, sam pomysł Komisji Europejskiej jest, na podstawowym poziomie, absurdalny. Polega przecież na tym, by wyszukiwaniem materiałów przedstawiających krzywdzone dzieci zajmowały się firmy technologiczne, które same na krzywdzie dzieci zarabiają.

W zeszłym roku Meta – która wie od lat, że jej usługi są wręcz toksyczne dla młodych dziewcząt – wykorzystała zdjęcia trzynastoletnich dziewczynek w szkolnych mundurkach, zamieszczone na Instagramie przez ich rodziców, do promowania swoich usług do trzydziestoparoletnich facetów. Na użytych w reklamach zdjęciach widoczne były twarze, a często i imiona dziewczynek, ubranych w krótkie spódnice. Ojciec jednej z dziewczynek określił takie wykorzystanie zdjęcia jego córki jako „seksualizowanie”.

Uruchomione na byłym Twitterze narzędzie AI Grok pozwalało na generowanie seksualizowanych treści w oparciu o zdjęcia konkretnych osób, w tym dzieci poniżej 5. roku życia. To nie był błąd, a celowo dodana nowa funkcjonalność, nazwana przez będącą właścicielem tej społecznościówki i operatorem Groka firmę SpaceXAI (dawniej xAI) „trybem pikantnym”.

Gdy skala problemu stała się jasna, firma nie usunęła tego problematycznego trybu, a ograniczyła do niego dostęp wyłącznie do płatnych kont. „ X zmonetyzował to ograniczenie, zamiast usunąć tę funkcjonalność.” – czytamy w raporcie na ten temat.

I to są firmy, na których Komisja Europejska chce się oprzeć, by chronić dzieci w Internecie? Jak to można traktować poważnie? I jak można traktować poważnie ostentacyjne zatroskanie frakcji EPP losem dzieci w Internecie, gdy wyrażone jest w postaci wpisu na platformie społecznościowej monetyzującej seksualizowane deepfejki?

Zmarnowane zasoby, zmarnowane szanse

Prace nad Kontrolą Czatów nie odbywają się w próżni. Na przestrzeni lat wymagały mnóstwa zasobów – czasu, energii, środków finansowych. I to zarówno Komisji Europejskiej, jak i europarlamentarzystek, urzędników krajów członkowskich, którzy musieli przecież śledzić proces legislacyjny i brać w nim aktywny udział.

Instytucje unijne mogłyby poświęcić cały ten czas, energię, i środki – od lat marnowane na przepychanie Kontroli Czatów – na pracę nad lepszą, bardziej dostępną edukacją seksualną. Wskazywaną przez ekspertki i ekspertów jako kluczowy element każdego sensownego podejścia do ochrony dzieci przed wykorzystywaniem seksualnym, w sieci i poza nią.

Mogłyby też skuteczniej uregulować toksyczne przestrzenie kontrolowane przez cyfrowych gigantów. Ta toksyczność wynika przecież z ich celowych, świadomych decyzji biznesowych. To mogłoby faktycznie doprowadzić do realnego zmniejszenia krzywd, których dzieci doświadczają w Sieci, i nie wymagałoby łamania praw podstawowych setek milionów obywatelek i obywateli krajów członkowskich UE.

Oszczędziłoby to też ograniczone zasoby organizacji pozarządowych, które faktycznie, na co dzień, krzywdzonym dzieciom realnie pomagają.

Zamiast tego, Komisja Europejska zawiesza unijne regulacje specjalnie po to, by wpuścić na europejski rynek „zbokulary” Mety, i postanawia nie uwzględniać wielkich platform społecznościowych w wymogach interoperacyjności wynikających z aktu o rynkach cyfrowych.

Zaś sama przewodnicząca Europarlamentu chełpi się audiencją u Marka Zuckerberga na temat walki z problemami, do których znacząco przyczyniły się decyzje biznesowe firmy… Marka Zuckerberga, na których świetnie zarobił Mark Zuckerberg. Robi to oczywiście za pomocą wpisu na X/Twitterze.