Jej fejkowe „nagie” zdjęcia mógł obejrzeć każdy w klasie. Policja: To AI, sprawy nie ma

„Dużo o tym w szkole rozmawialiśmy. Dzieci miały warsztaty z psychologiem, pedagogiem, policją. Działania profilaktyczne trwały cały miesiąc” – mówi OKO.press dyrektorka szkoły podstawowej, w której uczy się dziewczyna.

Z uwagi na dobro i ryzyko identyfikacji nastolatki nie podamy nazwiska pani dyrektor ani nazwy miejscowości, w której mieści się szkoła. To centrum Polski. „To była patowa sytuacja. Cała historia wydarzyła się poza szkołą, na urządzeniach, które dzieciom kupili rodzice. W teorii nie mieliśmy z tym nic wspólnego. Nie mogliśmy jednak nie zrobić nic. Postawiliśmy więc na edukację, by w przyszłości taka historia więcej się nie wydarzyła” – dodaje dyrektorka.

Deepfake, deepnude

Był czerwiec. Grupka uczniów z tej podstawówki najpierw pobrała z sieci zdjęcie koleżanki, a potem, przez jedną z wielu aplikacji oferujących „rozebranie” osoby z wgranego zdjęcia, wygenerowała nagie zdjęcie kobiety z twarzą koleżanki. Uczniowie opublikowali je w internecie, na instagramowym profilu szkoły. I zachęcali innych do zamawiania „zdjęcia” dziewczyny.

„Postępowanie kolegów nie tylko naruszyło drastycznie prywatność tej dziewczyny, ale zagroziło naruszeniem jej elementarnych interesów życiowych w przyszłości” – mówi Mirosław Wróblewski, prezes Urzędu Ochrony Danych Osobowych. – „Nie ma znaczenia, że nie doszło tutaj do realnej sesji fotograficznej”.

Prezes UODO sprawę zgłosił policji i prokuraturze, wskazując, że doszło do kradzieży tożsamości (art. 190 a § 2 kodeksu karnego), produkcji, możliwości utrwalania i rozpowszechniania treści pornograficznych z udziałem osoby małoletniej (art. 202 § 3 k.k.) oraz nielegalnego przetworzenia danych osobowych (107 ust. 1 ustawy o ochronie danych osobowych). Osobne zawiadomienia złożyła wicedyrektorka szkoły oraz rodzic dziewczyny.

Policja jednak odmówiła wszczęcia śledztwa. Prokuratura jeszcze tego samego miesiąca, w czerwcu, decyzję policji zatwierdziła. Powód? Organy zgodnie uznały, że „czyn nastolatków nie zawiera znamion czynu zabronionego”.

Fałszowanie zdjęć to nie przestępstwo?

Policja nie odpowiedziała na naszą prośbę o wyjaśnienia, dlaczego uznała, że wykorzystanie zdjęcia nastoletniej dziewczyny bez jej zgody i wulgarne przerobienie go za pomocą AI i opublikowanie w sieci, nie jest niczym zdrożnym.

Tok argumentacji organów zdradza za to Mirosław Wróblewski, prezes UODO:

"Swoją decyzję policja i prokuratura motywowały tym, że pokrzywdzona uczennica nie poniosła żadnej szkody majątkowej lub osobistej. Organy ścigania uznały również, że wygenerowana

Policja i prokuratura uznały, że postawa nastolatków nie łamie nawet przepisów o ochronie danych osobowych. Bo zdjęcie zostało pobrane z sieci i było dostępne dla wszystkich, a przerobienie go, według nich, nie jest przetwarzaniem danych osobowych.

Przemoc w sieci nie jest mniej ważna

„Nie mam wątpliwości, że organy ścigania nie mają racji” – mówi OKO.press Konrad Ciesiołkiewicz, wiceprzewodniczący Państwowej Komisji ds. przeciwdziałania wykorzystania seksualnego małoletnich poniżej lat piętnastu.

„Jest to niestety przykład mentalnej bariery społecznej, którą ma zdecydowana większość społeczeństwa. Sądzą, że krzywda seksualna oraz inne formy przemocy doświadczanej wskutek użycia narzędzi cyfrowych są mniej ważne, mniej realne, mniej dotkliwe. A to nieprawda. Często jest wręcz odwrotnie.

Badania międzynarodowych ośrodków dowodzą, że nawet 70 procent osób krzywdzonych, wobec których czyny zostały uwiecznione w postaci filmów lub zdjęć, przez długie lata życia żyją w stałym lęku przed byciem rozpoznanymi. Specyfika krzywdzenia z użyciem narzędzi cyfrowych polega na tym, że osoba poszkodowana nie jest krzywdzona raz, ale za każdym razem, kiedy obrazy te są publikowane" – podkreśla Konrad Ciesiołkiewicz. Psycholog wskazuje, że to wtórna wiktymizacja i sam ten fakt nakazuje traktować takie praktyki z najwyższą powagą.

Podobnie uważa Mirosław Wróblewski, prezes UODO, który twierdzi, że policja i prokuratura nie pochyliły się nad sprawą skrzywdzonej nastolatki merytorycznie.

„Gdyby w rzeczywistości doszło do merytorycznego rozpoznania sprawy, to podjęto by odmienną decyzję procesową” – uważa. „Wizerunek jest daną osobową. Przerobienie go jest przetworzeniem tych danych. Sprawcy nie byli uprawnieni do wykorzystania wizerunku małoletniej w żaden sposób, tym bardziej do zmodyfikowania go i dalszego udostępniania, powodując jednocześnie naruszenie jej dóbr osobistych, jej godności i prawa do prywatności” – podaje.

Wróblewski i Ciesiołkiewicz zwracają uwagę na wiek pokrzywdzonej dziewczyny i wiek sprawców oraz głębsze konsekwencje społeczne, jakie z tego powodu ma sprawa. „Prowadzenie postępowania w sprawie powinno wskazać i uświadomić społecznie, że takie zachowania nie są akceptowalne i nie pozostają bezkarne” – mówi Wróblewski.

Konrad Ciesiołkiewicz: „Brak reakcji jest swoistą formą legitymizacji tego procederu”.

Wszystko w rękach Waldemara Żurka

Prezes UODO sprawę skierował do prokuratora generalnego Waldemara Żurka. Chce, by ten rozważył podjęcie na nowo śledztwa w sprawie przerobienia zdjęcia uczennicy szkoły podstawowej przez jej kolegów ze szkoły.

Anna Adamiak z Prokuratury Krajowej przekazała OKO.press, że wniosek jest analizowany w Departamencie Postępowania Przygotowawczego PK. „Akta tej sprawy zostaną poddane ocenie w tym Departamencie w kierunku oceny prawidłowości podjętej decyzji o odmowie wszczęcia dochodzenia” – dowiadujemy się w Prokuraturze.

Karol Witowski, rzecznik prasowy UODO: „Działanie tych osób powinno być wyjaśnione przez organy ścigania i jeżeli okaże się to konieczne – ukarane, w szczególności poprzez zastosowanie odpowiednich środków wychowawczych określonych w ustawie dotyczących nieletnich – np. nakazanie przeproszenia pokrzywdzonej, czy nakazanie udziału w odpowiednich zajęciach o charakterze wychowawczym. Sprawa ta powinna też uświadomić młodym ludziom, ale i ich rodzicom lub opiekunom, jak z pozoru niemądry żart może zrobić komuś krzywdę. Ale też, jakie może mieć konsekwencje prawne dla sprawców” – podnosi w rozmowie z nami rzecznik.

Prawo znowu w tyle

Monika Horna-Cieślak, rzeczniczka praw dziecka, w rozmowie z OKO.press mówi wprost: obecne przepisy nie chronią dzieci i młodzieży w internecie.

„Środowisko cyfrowe jest niezwykle dynamiczne. Prawo nie zawsze jest w stanie za tymi zmianami nadążyć, stąd konieczna jest edukacja, także w zakresie ostrożności w publikowaniu zdjęć w sieci” – zwraca uwagę rzeczniczka. Podnosi, że wykorzystywanie narzędzi generatywnej sztucznej inteligencji do tworzenia realistycznych wizerunków dzieci w kontekście seksualnym przybiera coraz szerszy i coraz bardziej niebezpieczny charakter.

Dziś bowiem z pomocą AI rozebrać można każdego – celebrytę, koleżankę z klasy, a nawet siedzącego obok w autobusie pasażera. I nie ma przepisów, które wskazywałyby, że to działanie niezgodne z prawem.

Rok temu w Bydgoszczy sąd rejonowy skazał dwóch uczniów szkoły średniej, którzy dokleili twarz koleżanki do nagich zdjęć aktorki porno. Sąd uznał, że uczniowie przejawiają oznaki zdemoralizowania. Wymierzył im jednak najniższy wymiar kary, ponieważ uczniowie przeprosili koleżankę. W opisywanej przez nas sprawie nawet nie doszło do jej rozpoznania.

„Obowiązkiem instytucji publicznych musi być budzenie świadomości w zakresie przestępstw cyfrowych poprzez odważne interwencje, odważną egzekucję istniejącego już prawa oraz jego mądre zmiany motywowane interesem społecznym, a także prowadzenie stałej edukacji społecznej” – podkreśla Konrad Ciesiołkiewicz. – „Bez właściwych regulacji w tym zakresie – globalnych i unijnych – nie mamy jednak szans z poradzeniem sobie z tym zjawiskiem” – zaznacza.

RPD: musimy zmienić przepisy. Teraz

Rzeczniczka praw dziecka chce zmiany przepisów tak, by można było zakazać w Polsce oferowania usług informatycznych, których oczywistym celem jest takie wykorzystanie AI, by ujawnić lub symulować czyjąś nagość.

Jak potwierdziło OKO.press, wniosek w tej sprawie przekazała już do Ministerstwa Cyfryzacji. Rzeczniczka chce też powołania osobnego zespołu roboczego. Miałby opracować spójną strategię ochrony dzieci przed ryzykiem wynikającym z korzystania z narzędzi generatywnej sztucznej inteligencji. W zespole tym mieliby zasiadać przedstawiciele ministerstw: cyfryzacji i sprawiedliwości, UODO, RPD czy NASK.

Konrad Ciesiołkiewicz: „Pierwszym krokiem na drodze do budowania kultury i systemu ochrony w przestrzeniach, w których najczęściej dochodzi do wykorzystania, czyli na platformach społecznościowych, w grach online i komunikatorach, jest procedowana właśnie w Senacie ustawa wdrażająca Akt o usługach cyfrowych.

To tak naprawdę pierwszy akt prawny dający państwom Unii Europejskiej narzędzia podejmowania faktycznych interwencji w sferze cyfrowej i szybkiego działania regulatorów w zakresie ochrony przed przestępstwami zdefiniowanymi w kodeksie karnym. Projekt ustawy wskazuje 27 przestępstw, z których część wprost dotyczy krzywdzenia seksualnego osób małoletnich oraz innych szczególnie wrażliwych grup społecznych. Mam nadzieję, że ustawa ta jak najszybciej wejdzie w życie, bo wszyscy przegrywamy dzisiaj walkę z czasem. Największy koszt, liczony – niestety nie tylko metaforycznie – w postaci życia i zdrowia płacą osoby najbardziej podatne na zagrożenia, czyli dzieci i młodzież” – mówi nam.

Czytaj więcej w OKO.press: