TikTok jest niebezpieczny. Podobnie jak Facebook i Twitter...

Szereg zachodnich rządów rozważa różne formy blokowania TikToka lub przynajmniej zabraniania korzystania z niego na urządzeniach osób pracujących w administracji. Przesłuchanie dyrektora generalnego firmy, Shou Zi Chew, w amerykańskim Kongresie trwało cztery i pół godziny — i o dziwo, zjednoczyło w krytycznym do tej aplikacji podejściu obie, zwykle kompletnie skłócone i niezgadzające się ze sobą nawet co do podstawowych faktów, główne amerykańskie partie polityczne. W Polsce Rada ds. Cyfryzacji zarekomendowała zakaz instalowania tej aplikacji na urządzeniach służbowych polskich urzędników i urzędniczek.

Zagrożenia związane z TikTokiem są realne; dobrze, że taka debata się toczy. Tyle że powinna ona dotyczyć wszystkich wielkich, scentralizowanych platform społecznościowych. Dyskutowanie o tym, jak TikTok nas śledzi, jak może nami manipulować, i czy do zebranych danych mają dostęp chińskie służby, ma więcej sensu, jeśli jest częścią szerszej dyskusji dotyczącej tego, jak nas śledzą, i jak mogą nami manipulować również Facebook, Instagram, czy Twitter. I jakie służby mają dostęp do danych zebranych przez nie.

Cykl „SOBOTA PRAWDĘ CI POWIE” to propozycja OKO.press na pierwszy dzień weekendu. Znajdziecie tu fact-checkingi (z OKO-wym fałszometrem) zarówno z polityki polskiej, jak ze świata, bo nie tylko u nas politycy i polityczki kłamią, kręcą, konfabulują. Cofamy się też w przeszłość, bo kłamstwo towarzyszyło całym dziejom. Rozbrajamy mity i popularne złudzenia krążące po sieci i ludzkich umysłach.

Problemy z TikTokiem

Dogłębnym i drobiazgowym źródłem informacji o związanych z TikTokiem niebezpieczeństwach (przynajmniej tych, którymi martwią się zachodnie demokracje), jest raport na ten temat opublikowany przez australijski parlament. To fascynująca lektura, oparta na ogromnej pracy i solidnej dokumentacji. Co ważne, podaje też źródła, na których bazuje.

Nie ulega wątpliwości, że TikTok gromadzi ogromne ilości danych o osobach z niego korzystających, w tym: lokalizację, informację o zainstalowanych i uruchomionych aplikacjach, kontakty, czy dane identyfikacyjne urządzenia (jak numer IMEI). Oraz, oczywiście, informacje dotyczące naszych działań zarejestrowanych w samej aplikacji. Innymi słowy, firma wie nie tylko, co nam się spośród treści dostępnych na tej platformie podoba, a co nie, ale wie też, kiedy i gdzie fizycznie byliśmy i z jakich innych aplikacji (i jak często) korzystamy.

TikTok został przyłapany na wykorzystywaniu zebranych danych lokalizacyjnych do śledzenia piszących o nim dziennikarzy. Firma ByteDance (właściciel TikToka) najpierw twierdziła, że absolutnie nie miało to miejsca — po czym przyznała, że jednak miało, ale było nadużyciem kilku pracowników, którzy zostali za to zwolnieni.

Okazało się też, że TikTok regularnie uzyskuje dostęp do schowka na urządzeniach firmy Apple. W schowku przechowywane są treści, które skopiowaliśmy i zamierzamy gdzieś wkleić. To mogą być bardzo wrażliwe dane, których nie zamierzaliśmy nikomu udostępniać — jak hasła. Przyłapany na dostępie do schowka TikTok bronił się, że miało to pomagać w walce ze spamem. Twierdził też, że dane te nigdy nie były wysyłane poza urządzenie. Po naciskach zdecydował się nawet wyłączyć tę funkcjonalność — pamiętajmy jednak, że może ją przywrócić jedną aktualizacją.

ByteDance jest firmą chińską. TikTok bardzo stara się jednak podkreślać swoją niezależność od Komunistycznej Partii Chin (KPCh). Jak bezpośredni dostęp do danych na temat użytkowniczek i użytkowników TikToka mają chińskie władze? Trudno powiedzieć, ale raport australijskiego parlamentu dość przekonywająco rysuje obraz firmy będącej w dużej mierze pod kontrolą KPCh, albo przynajmniej blisko z nią współpracującej.

Podnoszą się również głosy, w tym samych osób korzystających z aplikacji, że TikTok uzależnia. Krótkie filmiki, rekomendowane na bazie danych o naszych preferencjach zebranych podczas korzystania z aplikacji, oferują szybki „strzał" dopaminy. Dopaminowy haj podtrzymywany jest coraz to nowymi nagraniami, które są nam oferowane non-stop, tak długo, jak długo korzystamy z tej aplikacji.

Sam algorytm rekomendacji jest oczywiście nieprzejrzysty. Nie dowiemy się, dlaczego dana treść została nam wyświetlona. System ma ponoć być tak zaawansowany, że nawet zespół się nim zajmujący rzekomo nie rozumie, czemu pewne treści stają się popularne, a inne nie. Czy to tylko zasłona dymna, mająca pozwolić manipulować rekomendacjami?

Autorki i autorzy australijskiego raportu postanowili zbadać, jak wyglądają wyniki wyszukiwania na platformie. Na kontach założonych wyłącznie w tym celu, wyszukiwali frazy ważne z punktu widzenia polityki Chin (np. „PLA", od ang. „People's Liberation Army", „Chińska Armia Ludowo-Wyzwoleńcza" oraz frazy często związane z dezinformacją i teoriami spiskowymi (np. „laptop Huntera Bidena"). W wielu wypadkach okazało się, że w porównaniu na przykład z YouTubem wyniki wyszukiwania częściej zawierały dezinformację, oraz częściej zawierały wyniki ukazujące Chiny w pozytywnym świetle. To o tyle wartościowy wniosek, że raport dość jasno opisuje metodologię tego badania — można je więc niezależnie odtworzyć, by zweryfikować wyniki.

I tu dochodzimy do sedna raportu udostępnionego przez australijski parlament (a zapewne i kluczowej kwestii związanej z debatą na temat TikToka):

Ogrom danych zbieranych o osobach korzystających z tej aplikacji w połączeniu z zaawansowanym algorytmem (określanym jako będący „lata świetlne" przed konkurencją z Zachodu), może pozwalać na mikrotargetowanie: dobieranie treści dla konkretnej grupy użytkowników tak, by jak najskuteczniej zmanipulować ich opinię na jakiś temat. Mogłoby to być niezwykle skuteczne narzędzie prowadzenia geopolityki — jednocześnie bardzo trudno byłoby udowodnić, że jest tak wykorzystywane.

Przyganiał Facebook TikTokowi

Trudno jednak oprzeć się wrażeniu, że straszenie TikTokiem mocno trąci hipokryzją. Eksperci i ekspertki od lat przecież wskazują, że inne wielkie, scentralizowane sieci społecznościowe (np. Facebook czy Instagram) mają w dużej mierze podobne problemy. Eben Moglen, amerykański profesor prawa i haker już osiem lat temu pytał retorycznie: „na co komu KGB, skoro jest Facebook?".

Dzięki przyciskom „lubię to" Facebook uzyskuje dane o tym, kiedy i jakie strony odwiedzaliśmy — również poza serwisami firmy. Tworzył nawet tzw. „profile-cienie" (ang. „shadow profiles") dla osób niemających Facebookowych kont — nie mogły więc nawet wyrazić zgody na takie przetwarzanie danych. Aplikacje mobilne Facebooka i Instagrama domagają się podobnych pozwoleń i zbierają podobne dane, co TikTok. A jak pokazali hakerzy badający aplikacje mobilne, dzięki udostępnionym przez Facebooka bibliotekom programistycznym dla twórców innych aplikacji, możemy być śledzeni przez tę firmę, nawet jeśli nie mamy na naszych urządzeniach żadnego z jej produktów.

„Facebook buduje największą na świecie bazę danych ludzi, a potem udostępnia te informacje w taki sposób, że inni mogą je wykraść" — mówił prof. Moglen w linkowanym wcześniej wywiadzie.

Swego czasu Facebook zwolnił dziesiątki pracowników, którzy nadużywali swojego dostępu do danych zebranych o użytkownikach (a zwłaszcza… użytkowniczkach). Zaś o tym, że amerykańskie służby mają do tych danych zbyt łatwy dostęp, wiemy przynajmniej od rewelacji Edwarda Snowdena, czyli od bez mała dekady. Facebook (wraz z szeregiem innych dużych firm technologicznych z Doliny Krzemowej) był częścią programu PRISM, który miał dawać amerykańskim służbom bezpośredni dostęp do danych zgromadzonych przez partycypujące w nim korporacje.

Negatywny, uzależniający wpływ na młodzież? Instagram ma bardzo podobny problem — młode użytkowniczki i użytkownicy sami to podkreślają. A po wycieku Facebook Papers wiemy, że Meta o tym wiedziała od dawna i nic z tym nie robiła.

Manipulacja użytkownikami? Algorytm Facebooka mocniej promował posty, na które osoby korzystające z tej platformy reagowały emotką gniewu. W 2010 roku celowo też manipulował emocjami ponad pół miliona swoich użytkowniczek i użytkowników, w ramach „badania" na które nie uzyskał ich zgody, ani o którym ich nie poinformował. Badanie polegało sztucznym ukrywaniu przed nimi „pozytywnych" lub „negatywnych" treści (w zależności od grupy badawczej, do której zostali przydzieleni) i trwało tydzień. Celem było ustalenie, czy ma to wpływ na ich stan emocjonalny — oceniany na bazie tego, jak „pozytywne" bądź "negatywne" były potem ich własne komentarze.

Jeśli chodzi o wyniki wyszukiwania, autorki i autorzy australijskiego raportu nie ograniczyli się tylko do TikToka. Potrzebowali przecież danych porównawczych. I uczciwie podkreślają, że jeśli chodzi o wyszukiwanie fraz związanych z Chinami lub z tematyką teorii spiskowych, wyniki na TikToku są podobne do wyników na Twitterze — zarówno jeśli chodzi o ilość dezinformacji, jak i treści ukazujące Chiny w pozytywnym świetle.

I wreszcie: mikrotargetowanie w celu wpływania na proces polityczny też nie jest nowością. Znamy je choćby ze skandalu związanego z firmą Cambridge Analytica, która oferowała mikrotargetowanie osób korzystających z Facebooka w celu manipulowania ich poglądami politycznymi jako usługę. Miała ona być wykorzystana przy kampanii wyborczej Donalda Trumpa w USA i przy kampanii promującej brexit w Wielkiej Brytanii.

Czy TikTok jest zagrożeniem?

Gdybym dziś nadal odpowiadał za bezpieczeństwo osób mających styczność z bardzo wrażliwymi danymi (np. dziennikarzy i ich źródeł albo osób pracujących na eksponowanych stanowiskach administracji publicznej), zdecydowanie odradzałbym korzystania z TikToka na urządzeniach, których używają do przetwarzania takich wrażliwych informacji. Podobny ton przybrała rekomendacja Rady ds. Cyfryzacji — wyraziła ona „pozytywną opinię na temat nakazu usunięcia chińskiej aplikacji TikTok przez urzędników i pracowników administracji publicznej z telefonów służbowych". Rada rekomenduje też usunięcie tej aplikacji z telefonów prywatnych tych osób albo usunięcie aplikacji służbowych z urządzeń, na których TikTok miałby pozostać zainstalowany. Innymi słowy: w administracji publicznej albo dane wrażliwe, albo TikTok.

Na urządzeniach z dostępem do wrażliwych danych osobiście jednak odradzałbym też instalowania i korzystania z innych aplikacji bez umiaru śledzących osoby z nich korzystające — w tym na przykład Facebooka czy Instagrama.

Przecież, nawet jeśli dziś ufamy (a ufamy?) samym platformom, by nie nadużywały zgromadzonych o nas danych, raz zgromadzone dane za rok lub za dekadę mogą zostać wykradzione, nadużyte przez pracowników, pozyskane przez służby… Nie mówiąc już o tym, że dana firma może po prostu zostać wykupiona, jak choćby (przy wsparciu finansowym z Arabii Saudyjskiej) Twitter.

Nawet jeśli dziś ufamy (a ufamy?) developerom aplikacji domagającej się szerokich uprawnień, by tych uprawnień nie nadużywała na przykład do wykradania danych ze schowka, kto wie, co przyniesie aktualizacja jutro lub za miesiąc. Poza tym aplikacje takie, jak TikTok czy Facebook, mówiąc delikatnie, do prostych nie należą. A im bardziej skomplikowana aplikacja, tym większa szansa na poważne błędy bezpieczeństwa. Pegasus wykorzystywał błędy w iMessage; podobne zaawansowane systemy inwigilacji osobistej mogłyby korzystać z błędów również w aplikacjach społecznościowych, uzyskując tym samym przyznane im na urządzeniu szerokie uprawnienia.

Aplikacja do władzy

Pytana o możliwą blokadę aplikacji w Stanach Zjednoczonych (dla wszystkich obywateli, nie tylko osób pracujących w administracji), amerykańska sekretarz handlu Gina Raimondo odparła: „jako polityk myślę, że straciłabym dosłownie każdego wyborcę w wieku poniżej 35 lat, na zawsze". Jak zauważają autorki i autorzy australijskiego raportu: „możliwe, że TikTok jest już tak głęboko zakorzeniony w niektórych miejscach, że politycy boją się, że banowanie go jest w zasadzie politycznym samobójstwem".

Czy podobne obawy stoją za brakiem reakcji polskiego rządu na rekomendację jego własnej Rady ds. Cyfryzacji? Idą wybory, a popularność TikToka wśród młodych Polek i Polaków rośnie błyskawicznie…

Zapośredniczając kontakt z rzeszami wyborców, operator aplikacji uzyskał w pewnym ograniczonym, ale ważnym sensie władzę nad osobami piastującymi wysokie stanowiska. I to jak najbardziej powinno nas martwić.

Ten problem nie dotyczy oczywiście wyłącznie TikToka. Podobne mechanizmy działały i dalej działają w przypadku innych scentralizowanych platform społecznościowych. Facebook, Instagram, Twitter też zapośredniczają komunikację z wyborcami, i wykorzystują to do wpływania na decyzje polityczne. Raban podniósł się jednak dopiero, gdy takie możliwości zaczęła mieć również firma z Chin.

Nie chodzi tu o wybielanie chińskiego reżimu — dość powiedzieć, że w Państwie Środka zamiast TikToka dostępna jest wyłącznie jego ocenzurowana wersja, Douyin (rozwijana przez tę samą firmę: ByteDance), a sam TikTok kilkakrotnie blokował konta autorek nagrań poruszających temat ludobójstwa Ujgurów.

Nie chodzi też o to, by kompletnie sieci społecznościowe (jako rodzaj usługi) odżegnywać od czci i wiary. Mastodon (i szerzej Fediwers) pokazują przecież, że można zbudować dużą sieć społecznościową, która nie jest jednocześnie aparatem scentralizowanego nadzoru czy cenzury. Wystarczy, by nie miała jednego punktu kontroli i nacisku. To, czy TikTok jest firmą chińską, czy (jak podaje na swojej stronie internetowej) singapurską, ma znaczenie mniejsze niż to, że jedna firma zbiera o nas tak ogromne ilości danych, może tak skutecznie wywierać nacisk polityczny i ma takie możliwości wpływania na debatę publiczną. Oraz że traktujemy to jako coś akceptowalnego.

Nie należy ich jednak również ignorować tylko dlatego, że inne scentralizowane sieci społecznościowe też mają za uszami. Wręcz przeciwnie! Pokazując te problemy, jak w soczewce, TikTok pomaga nam dostrzec, że wszyscy giganci kapitalizmu nadzoru są realnym zagrożeniem dla podstawowych procesów demokratycznych. Niezależnie od tego, czy za sznurki pociąga Komunistyczna Partia Chin, czy hiperkapitaliści z Doliny Krzemowej.