Orwell, Kafka, prywatność

W lecie byłem na dużej konferencji informatycznej dotyczącej przetwarzania informacji. W jej trakcie odbył się panel dotyczący prywatności danych. Chcę tu sprawozdać pogląd, który się na nim pojawił. Dotychczas znałem go od mojego kolegi, Aleksandra Markowetza z Bonn. Teraz, gdy swoją opinię przedstawił na forum publicznym, mam prawo i ja ją zrelacjonować.

Kwestią jest pytanie, jakie zagrożenia niesie wszechobecność informatyki i przetwarzania danych w sytuacji, gdy nieustannie pozostawiamy za sobą cyfrowe ślady: używamy kart bankowych i elektronicznych biletów na autobus, logujemy się do Internetu skąd tylko się da, nosimy przy sobie komórki, posługujemy się portalami społecznościowymi.

Większość osób boi się wizji Wielkiego Brata, który śledzi ich każdy krok, gromadzi drobne i nieważne na pozór informacje, by w końcu wiedzieć o nich wszystko. Taka wizja wyrasta z ducha Orwella i oddziałuje na wyobraźnię. Już wiele razy było głośno o ustawieniach prywatności na Facebooku, które powodowały wycieki informacji na temat jego użytkowników.

Tymczasem Alexander zwrócił moją i innych uwagę na Kafkowski scenariusz potencjalnego naruszenia naszych praw. Polega on na czymś innym, a klimatem przypomina „Proces” i „Zamek”. Nam w tej sytuacji przypisana jest rola K. Oto jakieś doradcze systemy informatyczne podejmują decyzje bezpośrednio nas dotyczące: „sprzedać lub nie bilet na lot transatlantycki”, „udzielić/nie udzielić kredytu”, „wydać/odmówić wydania polisy ubezpieczeniowej”, itp.

Dlaczego te decyzje są właśnie takie a nie inne? To pytanie możemy stawiać równie skutecznie jak panowie K. w książkach Kafki. Nie ma nikogo, kto by umiał odpowiedzieć, dlaczego system nakarmiony terabajtami najróżniejszych danych (najzupełniej legalnie pozyskanych i nienaruszających prywatności poza prawnie dopuszczalną granicę) o nas i milionach innych ludzi i ich historiach kredytowych, uzna, że nam kredytu dawać się nie powinno. Na pewno posługuje się on jakimiś algorytmami uczącymi się. Ich „wiedza”, wyekstrahowana z tych danych, jest często reprezentowana w sposób nieprzeznaczony i w związku z tym niezrozumiały dla człowieka. Pytania „Dlaczego?” czy „Co ja takiego zrobiłem źle?” to pytania K. z „Procesu”. Próby dotarcia do decydenta to marzenie geometry K. z „Zamku”. Szans na sukces mamy tyleż, co oni.

To jest równie poważny problem, jak wizja Orwella. W dodatku o sensowne remedium chyba trudniej. Zauważmy bowiem, że im bardziej boimy się Orwella i lepiej chronimy nasze informacje, tym bardziej okrężnymi metodami i z mniej się do tego nadających danych systemy doradcze dedukują swoje opinie na nasz temat, co zbliża nas do Kafki.

Podsumowane:
Żądanie poszanowania prywatności w sensie Orwella to „Nie chcę, żebyś wiedział o mnie za dużo”.
Żądanie poszanowania prywatności w sensie Kafki to: „Zawsze, gdy w mojej sprawie ktoś zdecyduje, chcę dowiedzieć się, kto i dlaczego taką decyzję podjął.”

Jerzy Tyszkiewicz
Ilustracja Alicja Leszyńska