UE cenzuruje internet? „Akt o usługach cyfrowych jest zachowawczy, Unia mogła pójść dalej”

Czy Unia Europejska wprowadza cenzurę na platformach społecznościowych? A może odda nam kontrolę nad tym, co wyświetla się nam w internecie?

W odcinku podcastu Drugi Rzut Oka rozmawiamy o nowych unijnych regulacjach dotyczących treści na internetowych platformach. Gościnią Anny Wójcik jest Maria Magierska, wykładowczyni prawa na Uniwersytecie Maastricht, specjalizująca się w prawie ochrony danych osobowych i prawie nowych technologii.

Z rozmowy dowiesz się między innymi, że:

• Akt o usługach cyfrowych zwiększa obowiązki platform. Największe platformy mają m.in. moderować treści, które są niezgodne z prawem w państwach Unii Europejskiej, oceniać ryzyka systemowe swoich usług dla społeczeństwa oraz zapewniać użytkownikom większą przejrzystość tego, dlaczego coś im się wyświetla.
• Nowe unijne przepisy nie zakazują reklamy politycznej w internecie, ale wymagają, by użytkownik wiedział, że ogląda reklamę polityczną, kto za nią zapłacił i dlaczego została mu wyświetlona.
• Akt o AI wprowadza obowiązki dotyczące deepfake’ów i treści generowanych przez AI. Materiały wygenerowane lub zmanipulowane przez sztuczną inteligencję mają być odpowiednio oznaczane. Prawo UE ich jednak nie zakazuje.
• Akt o AI zakazuje jednak np. aplikacji „rozbierających” osoby na zdjęciach.

Ultrakonserwatywny think tank Ordo Iuris twierdzi, że unijne przepisy i polityki dotyczące moderowania treści na platformach społecznościowych, w tym akt o usługach cyfrowych i Europejska Tarcza Demokracji, mogą ograniczać wolność wypowiedzi, zwłaszcza poglądów konserwatywnych. Czy rzeczywiście unijne regulacje nakładające obowiązki na firmy technologiczne mogą prowadzić do cenzury takich treści?

Maria Magierska: Nie ma podstaw, żeby twierdzić, że akt o usługach cyfrowych, czyli DSA (Digital Services Act), został zaprojektowany po to, żeby cenzurować konserwatywne poglądy albo promować poglądy liberalne. Podobnie jest z Europejską Tarczą Demokracji, czyli strategią UE dotyczącą ochrony procesów demokratycznych w Unii przed zagraniczną ingerencją, dezinformacją i manipulacją.

W Unii Europejskiej moderowanie treści w mediach społecznościowych odbywa się w ramach dość ściśle określonych zasad wynikających z prawa unijnego i krajowego. Z perspektywy amerykańskiej akt o usługach cyfrowych może się wydawać regulacją bardzo daleko idącą, bo amerykański porządek prawny wyjątkowo silnie chroni wolność wypowiedzi.

Europejskie systemy prawne opierają się na nieco innym modelu, w którym równie istotną, a czasem nawet podstawową chronioną wartością jest godność człowieka.

Oczywiście można się zgodzić z Ordo Iuris, że akt o usługach cyfrowych w pewnym sensie ogranicza wolność słowa. Ale w Europie wolność wypowiedzi, podobnie jak inne prawa podstawowe, może podlegać ograniczeniom, o ile są one proporcjonalne. Czyli, czy szanują istotę praw podstawowych, są konieczne oraz rzeczywiście odpowiadają celom interesu społecznego lub potrzebie ochrony praw innych osób.

Pytanie brzmi więc nie tyle, czy akt o usługach cyfrowych w ogóle ogranicza wolność wypowiedzi, ile czy robi to w sposób proporcjonalny. Moim zdaniem jest wręcz dość zachowawczy. Unia mogła pójść dalej i zakazać określonych praktyk, a tego w wielu przypadkach nie zrobiła.

Platformy społecznościowe już wcześniej moderowały publikowane na nich treści. Co właściwie zmieniają unijne przepisy?

Do tej pory platformy w bardzo dużym stopniu same ustalały zasady moderowania treści. Mieliśmy przypadki blokowania na przykład konserwatywnych stron czy treści. W czasach, kiedy Mark Zuckerberg, właściciel firmy Meta, do której należy Facebook i Instagram, był postrzegany jako bliższy stronie liberalnej, wyglądało to w określony sposób.

Później, wraz ze zmianą podejścia osób zarządzających wielkimi platformami, czy to Zuckerberga, czy Elona Muska, zmieniały się też zasady dotyczące tego, co jest na tych platformach widoczne, a co nie. Szczególnie dobrze było to widać po ponownym objęciu władzy w Stanach Zjednoczonych przez administrację Donalda Trumpa.

Akt o usługach cyfrowych jest próbą stworzenia sytuacji, w której platformy w większym stopniu odpowiadają za sposób zarządzania publikowanymi na nich treściami, ale bez zbyt daleko idącej ingerencji w wolność słowa użytkowników.

W tej regulacji mamy dwie bardzo ważne kategorie: treści nielegalne oraz ryzyka systemowe.

Jeżeli chodzi o treści nielegalne, ich zakres zależy w dużej mierze od prawa krajowego w państwach UE. W polskim projekcie ustawy wdrażającej akt o usługach cyfrowych katalog takich treści został określony dość wąsko. Nie chodzi o wszystko, co w jakikolwiek sposób narusza prawo, lecz o konkretne typy przestępstw. W jednej z wersji projektu polskiej ustawy było ich około dwudziestu, w późniejszych mniej.

Są to przede wszystkim zachowania, które są nielegalne również poza internetem, na przykład nawoływanie do nienawiści, terroryzmu czy rozpowszechnianie materiałów przedstawiających seksualne wykorzystywanie dzieci. Ale nie każde przestępstwo przewidziane przez kodeks karny automatycznie staje się kategorią treści nielegalnej na potrzeby tej procedury.

Prezydent Nawrocki zawetował ustawę wprowadzającą Akt o usługach cyfrowych do polskiego prawa. Dlaczego?

Jednym z elementów, które szczególnie niepokoiły prezydenta w ustawie, była między innymi klauzula dotycząca naruszenia dóbr osobistych i sposób kontroli administracyjnej nad wolnością wypowiedzi. Tyle że te rozwiązania znajdowały się w jednej z wcześniejszych wersji projektu ustawy, a nie w ustawie przedstawionej do podpisu przez prezydenta.

Najbliżej zarzutu dotyczącego ograniczenia wolności słowa jest więc chyba kwestia mowy nienawiści. Ale tutaj wchodzimy już w dość ugruntowane orzecznictwo polskich sądów, między innymi dotyczące propagowania totalitaryzmów.

Na tym przykładzie dobrze widać, że zakres działania aktu o usługach cyfrowych może się różnić między państwami Unii Europejskiej. W Polsce propagowanie komunizmu jest zakazane, podczas gdy we Włoszech, gdzie doświadczenia historyczne są inne, pojawienie się na demonstracji z czerwoną flagą z sierpem i młotem może nie budzić większych kontrowersji.

Natomiast w Polsce takie działania są niedozwolone. Po prostu chodzi o to, żeby dzięki aktowi o usługach cyfrowych i polskiej ustawie było jasne, że takie działania są niedozwolone także on-line.

Marcin Przydacz z Kancelarii Prezydenta bronił weta ustawy, mówiąc wręcz o „orwellowskim” mechanizmie cenzury. Weto uzasadniano też tym, że w o blokowaniu treści miał decydować urzędnik. Czy te obawy są uzasadnione?

W debacie nad ustawą wprowadzającą w Polsce akt o usługach cyfrowych pojawił się argument, że może to prowadzić do sytuacji, w której rząd będzie wywierał presję na urzędników, a w konsekwencji blokowane będą na przykład prawicowe czy konserwatywne treści.

Czytałam uzasadnienie weta przesłane przez Kancelarię Prezydenta i byłam trochę skonsternowana. Odniosłam wrażenie, że odnosiło się do projektu, który w momencie przekazania ustawy do podpisu przez prezydenta już nie istniał. Najbardziej kontrowersyjne przepisy zostały usunięte.

Zresztą cała ta dyskusja o mechanizmach aktu o usługach cyfrowych jest spóźniona. Przepisy były wcześniej negocjowane przez państwa członkowskie, Parlament Europejski i Komisję Europejska. Co więcej, kiedy Polska rzeczywiście mogła wpływać na ostateczny kształt tej regulacji, rząd Mateusza Morawieckiego popierał model, w którym w sprawach krajowych istotną rolę odgrywa państwowy organ. Jednocześnie częściowo rozumiem argument dotyczący niezależności tego organu. Tyle że jest to debata podjęta poniewczasie.

Co może być kontrowersyjnego w tym, że za część zadań wynikających z aktu o usługach cyfrowych w Polsce będzie odpowiadał Urząd Komunikacji Elektronicznej?

Urząd Komunikacji Elektronicznej ma inny poziom gwarancji niezależności niż organy ochrony danych osobowych. Organy ochrony danych mają wyjątkowy status. Ich niezależność jest chroniona zarówno na poziomie traktatowym, jak i w Karcie Praw Podstawowych Unii Europejskiej. Mamy też bardzo rozbudowane orzecznictwo Trybunału Sprawiedliwości dotyczące tego, co ta niezależność oznacza. Co ciekawe, jedna z ważnych spraw dotyczących kryzysu praworządności na Węgrzech dotyczyła właśnie niezależności organu ochrony danych osobowych.

Natomiast organy zajmujące się wykonywaniem DSA nie mają aż tak silnego statusu. Urząd Komunikacji Elektronicznej nie dysponuje tak daleko idącymi gwarancjami niezależności jak Urząd Ochrony Danych Osobowych.

Nie oznacza to jednak automatycznie, że zaproponowane przez rząd rozwiązanie jest nieproporcjonalne albo niebezpieczne. Projekt ustawy zawiera dość szczegółowe gwarancje proceduralne. Po pierwsze, katalog treści, wobec których można zastosować tę procedurę, jest wąski. Po drugie, zanim urząd podejmie decyzję, musi zostać przeprowadzona określona procedura. Po trzecie, od decyzji można się odwołać.

Komisja Europejska jako „superurząd”

Za wykonywanie aktu o usługach cyfrowych odpowiadają nie tylko organy krajowe, ale także Komisja Europejska. Czy to jednak nie nadmierne oddanie pola „Brukseli”?

Nie jestem przekonana, czy Komisja Europejska powinna mieć aż tak szerokie kompetencje, co zaraz wyjaśnię. Ale trzeba powiedzieć jasno, czego Komisja nie robi. To nie wygląda tak, że jakiś urzędnik w Brukseli patrzy na konkretny post na Facebooku i mówi: „tego nie lubię, proszę to usunąć”.

Akt o usługach cyfrowych dzieli kompetencje między organy krajowe i Komisję Europejską. Jeżeli chodzi o nielegalne treści, najważniejszą rolę odgrywają organy państw członkowskich. Inaczej wygląda sytuacja w przypadku ryzyk systemowych i największych platform. Komisja Europejska nadzoruje między innymi to, czy największe platformy i wyszukiwarki prawidłowo przeprowadziły analizę takich ryzyk.

Co to jest „ryzyko systemowe”?

Chodzi o ryzyko dotyczące społeczeństwa, a nie tylko konkretnego użytkownika czy samej platformy. Komisja Europejska sprawdza, czy największe platformy rzeczywiście przeanalizowały skutki, jakie sposób ich funkcjonowania i rozpowszechniane przez nie treści mogą wywoływać dla społeczeństwa. Akt o usługach cyfrowych określa konkretne kategorie tych ryzyk.

Nie chodzi o automatyczne usuwanie określonych treści, ale o analizę ich potencjalnego wpływu. Artykuł 34 aktu o usługach cyfrowych wskazuje między innymi negatywne skutki dla praw podstawowych, w tym dla godności. Komisja ma sprawdzać, czy platformy rzeczywiście przeprowadziły taką analizę i czy zrobiły to rzetelnie.

Mieliśmy już sprawę dotyczącą Amazona, który próbował argumentować, że „ryzyko systemowe” należy rozumieć trochę tak jak na rynkach finansowych, czyli jako znaczenie samej platformy dla systemu. Sąd Unii Europejskiej uznał jednak, że chodzi przede wszystkim o skutki dla społeczeństwa w rozumieniu artykułu 34. Komisja może żądać od platformy przeprowadzenia prawidłowej analizy ryzyka i zastosowania odpowiednich środków ograniczających to ryzyko, a w określonych przypadkach także nakładać kary.

Co jest groźnego w tym modelu?

Wolałabym model, w którym taki nadzór wykonuje niezależny organ. Można dyskutować, czy powinien to być organ europejski, czy krajowy. Pewnie lepszy byłby europejski, bo z doświadczeń związanych z unijnym przepisami o ochronie danych osobowych wiemy, że bardzo rozproszony model nadzoru również ma swoje słabości.

Model nadzoru, który wybrano w akcie o usługach cyfrowych, wpisuje się w trend rozwoju unijnej administracji. W latach 90. i na początku XXI wieku odpowiedzią Unii na wiele nowych problemów było tworzenie kolejnych wyspecjalizowanych agencji. Dzisiaj coraz częściej mamy krajowe organy, rozmaite europejskie rady, ale równocześnie Komisja przyznaje coraz więcej kompetencji samej sobie. W efekcie zaczyna działać trochę jak „superurząd”. Ma ważne kompetencje w ramach aktu o usługach cyfrowych, aktu o rynkach cyfrowych i aktu o AI, a wcześniej już w obszarze prawa konkurencji.

W obszarze rynków cyfrowych Komisja Europejska zgromadziła więc bardzo szerokie uprawnienia. Moim zdaniem nie jest to rozwiązanie idealne, również dlatego, że decyzje Komisji Europejskiej względem platform łatwiej mogą zostać upolitycznione.

Komisja jest z definicji instytucją polityczną. Widzimy, jak administracja Donalda Trumpa reaguje na jej działania w ramach aktu o usługach cyfrowych czy aktu o rynkach cyfrowych. Ze strony Stanów Zjednoczonych pojawiają się groźby ceł czy innych działań odwetowych wobec Unii Europejskiej.

Ale czy gdyby takie decyzje podejmował niezależny europejski urząd, reakcja prezydenta Stanów Zjednoczonych byłaby inna? Przecież równie dobrze mógłby powiedzieć: „to eurokraci”.

Oczywiście wiele zależy od tego, kim jest prezydent Stanów Zjednoczonych. Ale z punktu widzenia konstrukcji instytucjonalnej taki model miałby moim zdaniem więcej sensu.

Widać to choćby przy karach nakładanych na podstawie RODO, rozporządzenia o ochronie danych osobowych. Niektóre były bardzo wysokie, ale rząd Irlandii nie stawał się automatycznie obiektem politycznych ataków tylko dlatego, że irlandzki organ ochrony danych nałożył karę.

Jeżeli decyzję podejmuje organ wyraźnie oddzielony od Komisji, pojawia się dodatkowy poziom instytucjonalnego dystansu pomiędzy rozstrzygnięciem a polityką. Z perspektywy obywateli wydaje mi się bezpieczniejsze.

Nie chcę też demonizować Komisji Europejskiej. Komisja działa na podstawie i w granicach prawa. To, o czym teraz rozmawiamy, jest trochę akademicką dyskusją o tym, jak najlepiej konstruować europejską administrację. Komisja nie jest klasycznym rządem krajowym opartym na koalicji parlamentarnej. Składa się z komisarzy nominowanych przez państwa członkowskie i funkcjonuje według innej logiki instytucjonalnej. Nie jest więc tak, że Ursula von der Leyen może po prostu powiedzieć: „od dzisiaj usuwamy wszystkie treści, które mi się nie podobają”.

Interesujące jest natomiast to, że takie obawy pojawiają się w państwach, które niedawno doświadczyły kryzysu praworządności, jak Polska. Ludzie w pewnym stopniu przestali wierzyć, że urząd może rzeczywiście działać niezależnie i zgodnie z procedurą, zamiast wykonywać polityczne polecenia.

Użytkownicy dostaną więcej przejrzystości, ale nie kontrolę nad feedem

Akt o usługach cyfrowych obowiązuje już od pewnego czasu, a niektóre państwa przyjęły przepisy potrzebne do jego wykonywania. Jak działa w praktyce?

Mamy około dwóch lat doświadczeń. Zdecydowana większość decyzji o usuwaniu treści nadal jest podejmowana na podstawie własnych regulaminów platform, a nie dlatego, że konkretna treść została uznana za nielegalną na podstawie prawa krajowego. To kolejny argument za tym, że akt o usługach cyfrowych jest w gruncie rzeczy dość zachowawczy.

Nie zmienił podstawowej zasady, wprowadzonej najpierw w Stanach Zjednoczonych, a później w UE, zgodnie z którą platformy nie ponoszą odpowiedzialności za treść opublikowaną przez użytkownika. Ale wprowadził jednak pewną innowację. Największe platformy muszą teraz analizować ryzyka i wykazywać, że podejmują odpowiednie działania, żeby ograniczać negatywne skutki swoich usług. Nie ma natomiast ogólnego obowiązku aktywnego przeszukiwania całej platformy w poszukiwaniu każdej nielegalnej treści.

Obowiązują też unijne przepisy o reklamie politycznej. Nakazują ujawniać, czy określony materiał jest reklamą polityczną, kto za niego zapłacił i dlaczego został pokazany konkretnej osobie.

Unijne regulacje sfery cyfrowej są oparte o zasadę przejrzystości. Tak jest również z przepisami o reklamie politycznej. Nie zakazują publikowania treści politycznych na platformach społecznościowych. Użytkownik ma natomiast wiedzieć, że ogląda materiał będący elementem kampanii, kto go finansuje i dlaczego został mu wyświetlony.

Coraz rzadziej mam wrażenie, że w mediach społecznościowych oglądam treści publikowane przez osoby czy konta, które zdecydowałam się obserwować. Czy nowe unijne przepisy dają użytkowniczkom większą kontrolę nad tym, co pojawia się w ich feedzie?

Poniekąd. Akt o usługach cyfrowych wprowadza pewne ograniczenia, ale nie przyjęto rozwiązania, o które zabiegała część organizacji pozarządowych, czyli obowiązku zapewnienia użytkownikowi pełnej kontroli nad feedem.

Jakiś mechanizm rekomendowania treści musi istnieć, bo treści na platformach jest po prostu zbyt dużo. Jako użytkownicy nie bylibyśmy w stanie wszystkiego przetworzyć. Pytanie brzmi: kto powinien decydować o tym, jakie treści są nam rekomendowane i według jakich kryteriów?

Akt o usługach cyfrowych odpowiada na to pytanie w oparciu o zasadę przejrzystości.

Platformy mają w zrozumiały sposób informować użytkowników o najważniejszych parametrach decydujących o rekomendowaniu treści. Dlatego przy niektórych postach możemy kliknąć i zobaczyć informację: „widzisz tę treść, ponieważ wcześniej oglądałeś podobne materiały” albo „wchodziłeś w interakcje z tego rodzaju treściami”.

Największe platformy mają zapewniać co najmniej jedną wersję systemu rekomendacyjnego, która nie opiera się na profilowaniu. Czyli na danych o naszym wieku, płci, miejscu zamieszkania i tak dalej.

Nie oznacza to jednak pełnej kontroli feedu przez użytkownika, o co zabiegały organizacje pozarządowe. Można sobie wyobrazić różne modele zarządzania własnym feedem. Na przykład chronologiczny, choć publikowanych treści jest tak dużo, że w praktyce miałoby to mało sensu. Ale można by na przykład ustawić, żeby 30 procent mojego feedu stanowiły treści od znajomych, 50 procent od obserwowanych kont, a pozostałe treści były rekomendowane według innych kryteriów. Pojawiały się też pomysły otwarcia algorytmów rekomendacyjnych albo umożliwienia korzystania z alternatywnych systemów opartych na open source.

Tego w akcie o usługach cyfrowych nie ma. Uznano, że byłoby to rozwiązanie zbyt daleko idące. Dostaliśmy więc przede wszystkim więcej przejrzystości. To jest oczywiście dobre, ale ma swoje ograniczenia. Na ile przeciętny użytkownik jest rzeczywiście w stanie wykorzystać informację o tym, według jakich parametrów algorytm rekomenduje mu treści? Możemy coś przeczytać, ale czy to rzeczywiście daje nam większą kontrolę? Przejrzystość jest potrzebna, ale nie rozwiązuje podstawowego problemu, czyli modelu biznesowego platform i sposobu, w jaki generują one zysk.

Deepfake'i będą oznaczane

Kolejnym problemem, który bardzo wyraźnie widzimy po upowszechnieniu generatywnej sztucznej inteligencji, są deepfake'i. Użytkownikom czasami bardzo trudno rozpoznać, czy oglądają prawdziwe nagranie albo zdjęcie, czy materiał wygenerowany lub zmanipulowany. Czy dzięki unijnemu aktowi o AI będziemy widzieć mniej deepfake'ów i innych niebezpiecznych treści generowanych dzięki narzędziom AI?

Odpowiedzią Unii na ten problem znowu jest przejrzystość. Treści wygenerowane lub zmanipulowane za pomocą AI powinny być odpowiednio oznaczane. Natomiast nie oznacza to automatycznie, że platforma ma przestać je użytkownikom pokazywać.

Niektóre platformy już wcześniej wprowadziły tego rodzaju rozwiązania. TikTok czy Instagram oznaczają materiały stworzone przy wykorzystaniu określonych narzędzi AI. W przypadku deepfake'ów takie oznaczenie jest oczywiście bardzo istotne. Jeżeli natomiast dana treść jest jednocześnie nielegalna w rozumieniu prawa krajowego i mechanizmów aktu o usługach cyfrowych, może dojść także do jej usunięcia. Ale sam fakt, że coś zostało wygenerowane przez AI, nie powoduje zakazu wyświetlania tego materiału.

Pozostaje pytanie, na ile samo oznaczenie rzeczywiście działa. Są badania pokazujące, że nawet jeżeli użytkownik wie, że treść została zmanipulowana albo wygenerowana przez AI, może ona nadal wpływać na jego sposób myślenia, szczególnie wtedy, kiedy jest zgodna z jego wcześniejszymi przekonaniami. Bardzo dobrze widać to na przykładzie deepfake'ów z niekonsensualną pornografią. Nawet jeżeli odbiorcy wiedzą, że dana osoba w rzeczywistości nie brała udziału w przedstawionej sytuacji, materiał nadal może wpływać na sposób, w jaki jest postrzegana.

W kontekście takich materiałów pojawia się również kwestia ochrony dzieci, zarówno przed wykorzystywaniem seksualnym, jak i groomingiem. Czy Unia Europejska planuje w tym zakresie dalej idące rozwiązania?

Tutaj dzieje się coś bardzo ciekawego. Akt o AI właściwie dopiero zaczyna być w pełni stosowany. Niektóre jego przepisy zaczną obowiązywać dopiero za rok czy dwa lata, a Komisja Europejska już zaczęła proponować zmiany.

Akt o AI jest skonstruowany w taki sposób, że niektóre szczególnie niebezpieczne zastosowania sztucznej inteligencji są całkowicie zakazane. Jednym z przykładów jest social scoring, czyli system oceniania ludzi na podstawie ich zachowania. Co ciekawe, akt o AI nie zakazuje w UE wszystkich form scoringu. W Europie od dawna funkcjonują choćby systemy oceny zdolności kredytowej, które również mogą bardzo daleko ingerować w sytuację jednostki. A akcie o AI chodzi przede wszystkim o konkretny model social scoringu znany z Chin.

To pokazuje pewną charakterystyczną cechę aktu o AI. Bardzo silnie reaguje on na konkretne problemy i kontrowersje, które pojawiały się w okresie jego negocjowania. W przypadku RODO proces legislacyjny trwał wiele lat, dzięki czemu powstała regulacja stosunkowo technologicznie neutralna. Akt o AI był natomiast negocjowany w ogromnym tempie. Dlatego w przepisach dość łatwo można dostrzec ślady konkretnych wydarzeń czy debat, które akurat toczyły się w czasie prac legislacyjnych.

Jednym z nowych rozwiązań jest zakaz określonych systemów AI generujących treści seksualnie lub intymne bez zgody przedstawionej osoby. Chodzi między innymi o aplikacje umożliwiające „rozbieranie” ludzi na podstawie ich zdjęć. Moim zdaniem taki zakaz jest bardzo potrzebny. Jednocześnie pokazuje on jednak, że akt o AI może być regulacją często zmienianą, właśnie dlatego, że odnosi się do bardzo konkretnych zastosowań technologii. RODO jest pod tym względem znacznie bardziej abstrakcyjne i technologicznie neutralne.

W przypadku aktu o AI widać, że pojawia się nowy problem technologiczny, dochodzi do skandalu i bardzo szybko powstaje potrzeba dodania kolejnego przepisu. To rodzi ryzyko ciągłego nowelizowania tych przepisów. Oczywiście Komisja Europejska ma również inne instrumenty, między innymi dotyczące klasyfikowania systemów wysokiego ryzyka, więc nie każda nowa technologia wymaga od razu zmiany rozporządzenia.

Czy trzeba upraszczać przepisy, żeby w Europie powstawały „jednorożce”

Komisja Europejska wiele mówi o upraszczaniu unijnych przepisów, czy deregulacji. Dotyczy to także aktu o AI, który został już znowelizowany.

Tempo negocjacji aktu o AI było ogromne, często pracowano nocami. Między innymi dlatego w przepisach były pewne luki. Na przykład trzeba było doprecyzować kompetencje Europejskiego Urzędu ds. Sztucznej Inteligencji.

Cofnijmy się do 2024 roku. Zakończono wtedy przyjmowanie dużego pakietu unijnych regulacji dotyczących sfery cyfrowej. We wrześniu 2024 roku były szef Europejskiego Banku Centralnego Mario Draghi przedstawił swój słynny raport dotyczący konkurencyjności europejskiej gospodarki. Zwrócił uwagę, że Unia pozostaje w tyle za Stanami Zjednoczonymi i Chinami, a jednym z problemów jest ciężar regulacyjny.

Komisja Europejska bardzo szybko na to zareagowała. I tak pojawiły się tak zwane omnibusy. Pierwotnie omnibus był technicznym narzędziem służącym poprawianiu drobnych niespójności pomiędzy różnymi aktami prawnymi. Nie ma przecież sensu uruchamiać wieloletniego procesu legislacyjnego tylko po to, żeby skorygować kilka terminów.

Problem w tym, że Komisja Europejska zaczęła bardzo szeroko rozumieć pojęcie takich „technicznych” zmian. Dyskusja zaczęła się od drobnych uproszczeń, a w pewnym momencie zaczęła przypominać debatę o znacznie szerszej reformie przepisów.

Jeżeli w ramach omnibusu pojawia się na przykład nowy zakaz aplikacji służących do generowania niekonsensualnych treści seksualnych, trudno już mówić wyłącznie o kosmetycznej korekcie.

Zmieniono też harmonogramu stosowania części obowiązków dotyczących systemów wysokiego ryzyka. To systemy, które nie są całkowicie zakazane, ale ze względu na potencjalne konsekwencje ich stosowanie wiąże się z dodatkowymi obowiązkami dotyczącymi między innymi zarządzania ryzykiem, dokumentacji, cyberbezpieczeństwa czy dokładności. Dotyczy to na przykład niektórych systemów biometrycznych.

Argumentowano, że europejskie firmy powinny dostać więcej czasu na rozwijanie nowych systemów AI, zanim będą musiały spełniać pełny zestaw obowiązków regulacyjnych. Ma to wspierać konkurencyjność i innowacyjność europejskich przedsiębiorstw.

Problem polega jednak na sposobie procedowania tych zmian. Normalnie przy dużej reformie tak ważnych regulacji jak RODO czy akt o AI Komisja Europejska przeprowadzałaby szerokie konsultacje, pytała państwa członkowskie, organizacje pozarządowe oraz przedstawicieli biznesu. Przeprowadzono by również ocenę skutków regulacji. W przypadku części omnibusów tego zabrakło.

W pewnym sensie Komisja wykorzystała więc omnibusy, żeby ominąć część własnych reguł , które mają gwarantować, że prawo jest przygotowywane po wysłuchaniu różnych stron.

Czy Mario Draghi się pomylił? Czy Unia Europejska rzeczywiście jest zbyt zbiurokratyzowana i dlatego mamy tak mało technologicznych „jednorożców”, nowych wielkich firm opartych na innowacjach?

Nie ma dowodów na to, że to właśnie unijne regulacje są przyczyną niewielkiej liczby startupów czy technologicznych jednorożców. To, że nie powstał „europejski Facebook”, może wynikać z wielu innych powodów.

W UE mamy 27 jurysdykcji, wiele języków i znacznie bardziej rozdrobniony rynek niż w Stanach Zjednoczonych. Mamy też inną kulturę startupową. W USA powszechnie akceptuje się, że ktoś zakłada startup, ponosi porażkę, później tworzy następny, a sukces przychodzi dopiero za trzecim czy czwartym razem. Istnieją też bardzo rozwinięte sieci finansowania i wspierania takich przedsięwzięć. W Europie ten ekosystem wygląda inaczej.

Dlatego Komisja Europejska podejmuje moim zdaniem dość duże ryzyko, zakładając, że deregulacja automatycznie doprowadzi do zwiększenia innowacyjności. Komisja oczywiście mówi raczej o „upraszczaniu”, ale szczególnie w przypadku niektórych zmian dotyczących RODO uważam, że możemy już mówić o deregulacji.

Nie ma przekonujących badań naukowych pokazujących prosty związek przyczynowo-skutkowy pomiędzy obowiązkiem przeprowadzenia oceny ryzyk dotyczących ochrony danych osobowych, a tym, że w Europie nie powstały najbardziej przełomowe systemy AI. Przyczyny mogą leżeć gdzie indziej. Na przykład w sposobie finansowania nauki, transferze technologii czy dostępności kapitału.

Co więcej, te regulacje nie dotyczą przecież wyłącznie europejskich startupów. Obejmują również amerykańskie big techy. Nie jest więc oczywiste, dlaczego osłabienie obowiązków regulacyjnych miałoby samo w sobie sprawić, że europejskie firmy zaczną skuteczniej konkurować z dużo potężniejszymi przedsiębiorstwami ze Stanów Zjednoczonych. Tym bardziej że wiele obiecujących europejskich startupów jest na stosunkowo wczesnym etapie wykupywanych właśnie przez wielkie amerykańskie firmy technologiczne.

Uproszczenia przepisów, kary na cyfrowych gigantów i sekurytyzacja

W jakich kierunkach zmierza unijna polityka cyfrowa?

Po pierwsze, upraszczanie regulacji. Choć w odniesieniu do części propozycji, zwłaszcza dotyczących RODO, wolałabym mówić o deregulacji.

Po drugie, Komisja Europejska bardzo poważnie traktuje nowe kompetencje, które dostała na podstawie aktu o usługach cyfrowych czy aktu o rynkach cyfrowych. Spodziewam się więc kolejnych postępowań i kar nakładanych na największe platformy. Jednocześnie rośnie ryzyko polityzacji takich działań Komisji.

Po trzecie, mamy nurt, o którym właściwie nie rozmawiałyśmy, czyli sekurytyzację. Równolegle z deregulacją w części gospodarczej Unia rozszerza możliwości korzystania z danych i narzędzi nadzoru w obszarach związanych z bezpieczeństwem czy migracją. Szczególnie w przypadku przetwarzania danych migrantów Komisja i agencje unijne potrafią iść bardzo daleko.

Czego życzyłabyś użytkownikom internetu w Unii Europejskiej?

Przede wszystkim chciałabym, żeby zwykli użytkownicy oraz organizacje reprezentujące ich interesy miały podobny dostęp do instytucji unijnych i krajowych jak przedstawiciele największych firm technologicznych.

Dzisiaj mamy pod tym względem dużą nierównowagę. Lobbyści reprezentujący wielkie firmy technologiczne mają bardzo łatwy dostęp do polityków i urzędników, podczas gdy organizacje społeczne czy zwykli obywatele nie mają porównywalnych możliwości wpływania na kluczową debatę.