Tuż po wysłuchaniu znakomitego wywiadu z Iwanem Krastewem, który podkreśla, że "demokracja jest na wskroś fizyczna" - na te same słowa natrafiłam u Jamiego Bartletta. Internet ma już 50 lat. Niestety zamiast egalitarystycznego dostępu do wiedzy, wolności i bardziej
sprawiedliwego świata - dano nam monopole, przestępczość, dezinformację i
dyskryminację. Najwspanialszy wynalazek w dziejach okazał się ułudą.
Zero-jedynkowy świat technologii nie jest w stanie oddać zniuansowania relacji międzyludzkich, a tym samym uniemożliwia prawdziwe porozumienie, w którym niezbędna jest otwartość na cudze przekonania i zdolność do kompromisu. Ryzyko "zerojedynkowości" dotyczy wszelkich posunięć, które pozbawiaja nas możliwości dostrzeżenia, że nie wszystko jest czarno-białe (dotyczy to także referendów, które w rezultacie także prowadzą do wyników 0/1 - jak pokazało choćby referendum w sprawie "brexitu"). Nasz udział w wyborach - tych przy urnie - także jest zerojedynkowy, ale może być zniuansowany wyjściem na ulice. Złe rządy mogą sprowokować tłum do zdecydowanego protestu. A co mogą "lajki i dislajki"? Jak pozyskać masę krytyczną we fragmentarycznym świecie nowych technologii i nowych mediów, gdzie trzymamy się naszych mikroświatów, w których łatwiej o wspólne zdanie, wspólne tematy i pozyskanie popularności? Gdzie dobre samopoczucie można spreparować publikując ładne fotki z wakacji i urodzin dziecka...
Owszem - załatwiamy urzędowe sprawy, nie wychodząc z domu, ale mamy
też sensory sprawdzające, czy pracownicy kolei japońskich albo oddziałów bankowych i urzędów wystarczająco się uśmiechają do
petentów, a przechodnie na chińskich ulicach, aby na pewno nie śmiecą. Książka Bartletta jest trochę jak reportaż z pola walki pomiędzy demokracją a technologią, ponieważ pomimo
powierzchownego sojuszu, o którym za wszelką cenę chce nas przekonać Mark Zuckerberg, są to dwa różne światy. Obecnie demokracja jest
w defensywie i Bartlett opisuje rozpad kolejnych jej filarów. Czy jest
to raport z oblężonej twierdzy? Trochę tak, ale interesujące jest w nim
co innego – poczucie bezsilności, które wywołuje.
Wraz z rozwojem nauki rośnie nasze zbiorowe rozumienie świata, ale jednocześnie jako jednostki, możemy czuć się coraz bardziej zagubieni: ciężko przecież bez wąskiej specjalizacji w danej dziedzinie zrozumieć ideę fizyki kwantowej, czarnych dziur, edycji genów za pomocą systemu CRISPR, tego, jak działa sztuczna inteligencja i jaki jest jej potencjał. I choć może trzy pierwsze kwestie nie powinny nam spędzać snu z powiek, tak ostatnia – jak sugeruje Elon Musk, przedsiębiorca stojący za takimi projektami jak Tesla czy SpaceX – jest „największym zagrożeniem dla ludzkości”, które porównał do „wzywania demonów”.
Podczas arabskiej wiosny zachwycaliśmy się, jak media społecznościowe pomagają w szerzeniu demokracji i wolności słowa. Dziś, podczas protestów w Hongkongu, opozycjoniści walczą nie tylko z chińskim reżimem, ale także z sieciami społecznościowymi, które szerzą dezinformację na ich temat. Twórca Facebooka przyznaje, że jego firma wprawdzie walczy z fałszywymi wiadomościami, ale jeszcze niedawno zapowiadał, że tych publikowanych i opłacanych jako reklamy przez polityków nie będzie usuwać. Niedługo potem FB i Twitter blokują konto prezydenta Trumpa. Rzecz jasna znowu w dobrej wierze. wpływ GAFA (Google, Amazon, FB i Apple) na globalną politykę i gospodarkę jest nie do przecenienia.
Dzisiaj wszyscy jesteśmy specjalistami od epidemiologii - a jednak na niespotykana skalę rośnie liczba osób gotowych zarzucić szczepienia. Mnożą się teorie spiskowe, choć wydawałoby się, że nigdy nie mieliśmy lepszej okazji do sprawdzania wszelkich fakenewsów niż współcześnie. Niestety - nigdy też nie mieliśmy tyle sposobności co dzisiaj, aby je mnożyć.
Technologia miała zastąpić człowieka - nie dość obiektywnego i mającego problem z dostępem do wszystkich zgromadzonych danych. Algorytmy w oparciu o dane miały pomóc lepiej zarządzać państwem, nauką, medycyną, obronnością. Bartlett podkreśla, że algorytmy są tylko tak dobre, jak stojący za nimi człowiek i powtarza za Cathy O'Neil, że mogą się stać "bronią matematycznej zagłady". Przypisywanie wyższych wyroków czarnym Amerykanom, podobnie, jak profilowanie społeczne sterowane uprzedzeniami i stereotypami, świadczą o tym, że człowiek ma skłonność do "zaszywania" własnych lęków w pozornie obiektywnych algorytmach.
W Polsce już dzisiaj algorytmy
przypisują sprawy sędziom, w 20 miastach przydzielają dzieci do przedszkoli i żłobków i profilują bezrobotnych. W 2018 roku we Wrocławiu
system nadprogramowo zapisał do żłobków prawie 300 dzieci. W Danii algorytm orzeka, w których rodzinach dzieciom może
grozić zaniedbanie i na tej podstawie podejmowane są decyzje, które dzieci należy prewencyjnie
odseparować od rodziców.
Książka Bartletta to analiza relacji człowieka ze światem cyfrowym, w który dopiero wchodzimy. Szczególnie wiele miejsca autor poświęca ewolucji liberalnego modelu demokracji w starciu z nowymi technologiami, ich przemożnym wpływem na człowieka i budowane od wieków struktury państwa demokratycznego. Twierdzi, że nowe technologie związane z Internetem i mediami społecznościowymi nieodwracalnie zniszczą liberalną demokrację. Podaje liczne przykłady na poparcie tej tezy, w tym wpływ mediów społecznościowych na zwycięstwo Donalda Trumpa, ale także gigantyczne nadużycia, na jakie może sobie pozwolić każda platforma (np. Uber) wykorzystując do tego proste manipulacje, na które nie pozwoliłyby sobie - z braku stosownych narzędzi - nawet takie potężne koncerny jak BP. O ile wylew ropy naftowej do Zatoki Meksykańskiej wzbudził wściekłość internautów, o tyle unikanie opodatkowania, które godzi w interesu prekariatu, spotyka się - z gorliwym poparciem tegoż prekariatu, odpowiednio zmanipulowanego przez największą firmę taksówkarską, która nie posiada ani jednej taksówki.
Podobnie jak pisał Michał Radomił Wiśniewski (Wszyscy jesteśmy cyborgami.
Jak internet zmienił Polskę), "cała wizja globalnej wioski to
utopijne marzenie z czasów, kiedy internet tworzyło 10 osób połączonych
ze sobą na uczelniach". Dzisiaj świat cyfrowy stał
się masowy, a przepływ ogromnych ilości informacji,
masowa komunikacja i nadzwyczaj rozległe sieci "znajomych" sprawiają, że poznawanie innych ludzi bez filtrów jest po prostu
nierealne.
Bartlett szczegółowo omawia zjawisko wpływu na nasze życie i decyzje polityczne instrumentów matematycznych, jakimi są algorytmy. Pokazuje też, jakimi metodami posługuje się Facebook, żeby uzależnić swoich użytkowników, jak bardzo media społecznościowe podsycają emocje i plemienne myślenie. Odczucie bezsilności, jakie wywołuje ta książka towarzyszy nam przprzy każdym zderzeniu z wszechobecną technologią. Tak wiele od niej zależy w życiu większości z nas, a jednocześnie wydaje się od nas niezależna. Dla nas (obywateli, użytkowników) poziom skomplikowania i złożoności nawet najprostszych narzędzi cyfrowych jest zasłoną, za którą nie możemy zajrzeć, nie mamy realnego wpływu na kształt sporego fragmentu naszej rzeczywistości. Bartlett zwraca na to uwagę i szuka sposobów technologicznej emancypacji.
Dużo mówi nam już rozdział pierwszy książki, zatytułowany „Nowy panoptykon”. Jesteśmy obserwowani przez cały czas, nie będąc tego świadomi, a to ma wpływ na nasze wybory. Autor rozwija ten wątek w rozdziale „Globalna wioska”, pokazując, jak w nowej rzeczywistości odnajduje się świat polityki. W „Software’owych wojnach” uświadamia nam, jak jesteśmy manipulowani za pomocą danych – śladów, które zostawiamy w Internecie:od „niewinnego” microtargetingu pod postacią personalizacji reklam, do dostosowywania kampanii wyborczej kandydatów na najwyższe urzędy pod kątem danego użytkownika Internetu. Ukazuje, jak sztuczna inteligencja może zagrażać demokracji, przyglądając się na przykład głośnemu skandalowi Cambridge Analytica.
Technooptymizm wynikający z narodzin internetu był naiwny, arogancki i kompletnie oderwany od rzeczywistości. "Dominowało przeświadczenie, że dostęp do sieci jest prawem człowieka, a podłączać należy jak najszerzej. Sieć miała gwarantować zmniejszanie nierówności społecznych, lepszy dostęp do usług publicznych, naprawę demokratycznych instytucji, a nawet obalenie dyktatorów" - jak mówi dr Jędrzeja Niklasa, ekspert z zakresu praw człowieka i nowych technologii z Wydziału Mediów i Komunikacji w London School of Economics (LSE).
W zapomnienie odeszły już czasy, kiedy debata polityczna wyglądała na prawdziwą debatę, starcie argumentów obu stron, intelektualny, równorzędny bój, który miał pobudzić myślenie wyborców, przekonać ich, bez używania emocji i uprzedzeń. A przecież demokracja, władza ludu, polega właśnie na władzy ludzi myślących, władzy ludzi, którzy pragną intelektualnego awansu, pragną rozwinąć swoje horyzonty, dzięki krytycznej analizie zdobytej wiedzy. Ludzi, którzy nie boją się zadawania pytań. Istotą demokracji jest to, że głos oddany przez intelektualistę ma taką samą wagę, jak głos oddany przez robotnika, ale opinia fachowca/specjalisty nie musi być równa opinii celebryty. System demokratyczny zachowuje sens tylko wówczas, gdy ten drugi chce poznać i zrozumieć argumenty pierwszego, kiedy chce go intelektualnie doścignąć. W zamian wyhodowaliśmy system, w którym intelektualista z własnej i nieprzymuszonej woli zrezygnował z samodzielnego myślenia, a zdanie instagramera lub youtubera dla wielu osób oznacza tyle samo, co opinia wybitnego intelektualisty, epidemiologa lub historyka. Co więcej intelektualiści nadal dłubią się w swoich dziedzinach, podczas gdy celebryci znają się na wszystkim.
Nasuwa się tu ponownie diagnoza dr. Niklasa, dotycząca przyczyn owej klęski: (1) poddanie internetu procesom rynkowym z graczami dysponującymi pozycją monopolisty; (2) gigantyczna – 2,5 kwintyliona bajtów dziennie – produkcja danych, które umożliwiają rozpoznawanie i rozumienie zależności, przewidywanie zachowań ludzi oraz do pewnego stopnia - programowanie ich; (3) fakt, że bycie online przestało być wyborem czy świadomą decyzją (to bycie offline staje się przywilejem: bogate, prywatne szkoły w USA masowo rezygnują z cyfrowych narzędzi w klasach).
Nie bez przyczyny w rozdziale „Demokracja bezzałogowa” Bartlett ostrzega przed wpływem sztucznej inteligencji na obywateli, szczególnie na klasę średnią. Mówi także o niebezpieczeństwach stwarzanych przez wielkich graczy, takich jak Google, czy Facebook, którzy za sprawą monopolu stale rosną w siłę. Zajmuje się też najczarniejszym scenariuszem – możliwością powstania kryptoanarchii, w której dąży się do pozbawienia państwa możliwości jakiejkolwiek kontroli i znosi się istniejący uprzednio kanon norm i zasad.
Informacje są przetwarzane w sieci bez naszej wiedzy i chociaż szok
wywołany skandalem Cambridge Analytica (dane
użytkowników Facebooka wykorzystywano do kierowania idealnie
dopasowanych reklam wyborczych) otworzył nam oczy na skalę tego
zjawiska, to nie spowodował, że wiemy, jak mu przeciwdziałać.
Autorowi wskazuje, że te wszystkie zjawiska składają się na większy i bardziej złożony proces. Proces, początkowo niezauważany przez państwa i popierany przez konsumentów, który powoli wymknął się spod kontroli i który prowadzi do demontażu nowoczesnej liberalnej demokracji przedstawicielskiej. Technologia, reprezentowana u Bartletta przez jej najmłodsze i niezwykle prężnie rozwijające się dziecko, czyli internet oraz cały świat cyfrowy, pozbawia obywateli możliwości wyboru, osłabia instytucje publiczne, a także uniemożliwia sensowną dyskusję i spokojny namysł. Ogranicza zatem przestrzeń dla wolnych, niezależnie myślących i działających ludzi. W imię obrony demokratycznych wartości należy się zatem – pisze Bartlett – temu procesowi przeciwstawić.
Grono licznych kontaktów na portalach społecznościowych relatywizuje pojęcia „znajomy” i „przyjaciel”, a to z kolei prowadzi do osłabiania więzi międzyludzkich. Po cóż się starać, skoro zdobycie akceptacji jest takie proste? Tak samo dzieje się z naszymi wyborami. Ot, ktoś podpowiada nam nasze polityczne wybory. Rzetelna informacja zastępowana jest przez memy, które są uproszczeniami, podają gotową receptę naszych wyborów. A co gorsza, odpowiednia kompozycja memów wywołuje u ich odbiorcy wrażenie, iż uczestniczy w orwellowskim kwadransie nienawiści. Wystarczy pokazać nielubianego polityka w śmiesznej sytuacji, wystarczy pokazać jego skrzywioną twarz, by wzbudzić niechęć personalną, zamiast do określonej postawy i poglądów. Świetnie zorganizowana grupa ludzi jest w stanie przeprowadzić internetowy atak za pomocą memów i zmienić decyzję tysięcy wyborców. Tak właśnie stało się w trakcie kampanii referendalnej w Wielkiej Brytanii, tak samo stało się w czasie wyborów prezydenckich w Stanach Zjednoczonych, czy naszych wyborów z 2015 roku. Populistyczne, krótkie hasło, zręcznie skonstruowany mem i grupa dobrze opłacanych propagandzistów. Prosta metoda na sukces wyborczy powoli zmienia nasz świat. Wolność panująca w Internecie nie służy propagowaniu wiedzy czy zbliżaniu ludzi, ale obraca się przeciwko samej wolności.
Bartlett świetnie zbiera rozproszone zagadnienia i łączy je w jedną całość. Jest w tym plan i struktura, wiele wątków autor omawia precyzyjnie i zwięźle, podając informacje z pierwszej ręki (znakomity rozdział o kampanii prezydenckiej Trumpa). Bartlett wskazuje na 20 sposobów na ratowanie demokracji. Wymienia je jednym ciągiem: myśleć niezależnie, zwalczać nieuwagę, stworzyć nową etykę cyfrową, rozbijać bańki informacyjne, kształcić myślenie krytyczne, regulować algorytmy, przełamać model reklamowy, zaktualizować przepisy dotyczące kampanii wyborczych, świętować wybory, nadzorować boty, szeroko dystrybuować bogactwo, opodatkować roboty, nowe formy asekuracji, prawa pracownicze, Internet w duchu sprawiedliwego handlu, polityka antymonopolowa, bezpieczna sztuczna inteligencja (SI), transparentny Lewiatan, uregulować Bitcoina oraz rząd przyszłości. Tylko czy zdążymy? Autor jest przekonany, że jest jeszcze czas, by zmierzyć się z apokaliptycznymi wizjami i mieć wpływ na ograniczenie szkodliwego działania sztucznej inteligencji.
We mnie chyba brak tego optymizmu - opisując bańki, w których tkwimy, nawołując do ich przekraczania, sami również wciąż pozostajemy w bańce. Każdy umysł, każda grupa, każda kultura – to kolejna bańka. Nowe technologie umożliwiają wzmacnianie plemiennych podziałów, a my stajemy się bezsilni wobec ich skali. Również Bartlett wpada w tę pułapkę. W jego książce ludzie i demokracje są dość określone – ale gdzie Wschód? gdzie globalne Południe? gdzie wreszcie Polska B?
Dodajmy też, że antydemokratyczny rys technologia zawdzięcza każdemu z nas, a nie tylko biznesmenom z Doliny Krzemowej. Technologia jest wytworem człowieka, przedłużeniem jego dążeń i pragnień, a pytanie o naturę technologii jest w gruncie rzeczy pytaniem o naturę człowieka. „Ludzie przeciw technologii…” to także książka o trwającej na naszych oczach rewolucji w dziedzinie praw człowieka, bowiem jak twierdzi autor, zjawiska te w świecie cyfrowym trzeba na nowo opisać i zdefiniować.
Przeczytałam tę książkę bardzo późno - na przełomie 2020 i 2021 roku. Dzień po tym, jak ją zakończyłam doszło do szturmu Amerykanów, oszołomionych tweetami Trumpa, na siedzibę Kongresu. W kolejnym dniu Twitter zablokował konto prezydenta USA i to samo zapowiedział Fecebook. Oprzytomnieli? Nie sądzę. Raczej cały świat zobaczył, że prywatne korporacje (po części odpowiedzialne za taki a nie inny wynik wyborów w 2015 roku) mogą odciąć - bądź co bądź jeszcze prezydenta - od obywateli USA.
Lęki i obawy, jakie musi wyzwalać ta książka przypominają zagadnienia opisywane w Strefach cyberwojny, a także ostrzeżenia Pomerantseva i Anny Applebaum. Doprawdy czas działać.
