Zabójcza sztuczna inteligencja już istnieje

28 lutego 2025
Blog szalonych naukowców
Jamie Zawinski, The Matrix. Za Wikimedia Commons

Mordercze roboty od dekad przedstawiano w filmach i opisywano w książkach science fiction. Obrazy te wydają się jednak nietrafione. Wiemy to, bo zdolna do zabijania ludzi sztuczna inteligencja już istnieje.

Kupiłem dwie książki sławnego autora horrorów Stephena Kinga i „Nexus. Krótką historię informacji”, ostatnie dzieło Juwala Noach Harariego, słynnego izraelskiego historyka i futurologa (to się nie wyklucza, przeciwnie, autor na podstawie dogłębnej analizy przeszłości wyprowadza wnioski trafnie opisujące teraźniejszość i pozwalające na pewne przewidywania przyszłości). Lektura okazała się przerażająca, miałem wręcz ochotę przerwać i dla uspokojenia przeczytać coś mniej strasznego, choćby Kinga.

Nakręcono wiele filmów i napisano wiele książek o robotach przejmujących kontrolę nad ludzkością i ochoczo zabijających ludzi. W klasycznym już „Terminatorze” robot z przyszłości wraca w postaci umięśnionego kulturysty, by zabić przyszłego przywódcę ludzkiego ruchu oporu. W „Ja, robot” trzy prawa robotyki Asimova (ochrona człowieka, służba człowiekowi, ochrona siebie) nieuchronnie prowadzą do buntu humanoidalnych robotów. W „Matriksie” maszyny przejmują władzę nad ziemią, ludzi zaś traktują jak baterie, stawiając im przed oczami dla niepoznaki wymyślony świat. W humorystycznej „Tragedii Pralniczej” Lema konkurencja na rynku pralek prowadzi do buntu i wyparcia człowieka.

Harari wskazuje, że te wizje się nie sprawdzą. Sztuczna inteligencja nie będzie przyjmować znanych nam humanoidalnych form. Mimo to będzie zdolna zabijać. Już to robi. Ludzkimi rękoma.

Historyk przywołuje masakrę Rohingjów, muzułmańskiej mniejszości zasiedlającej zachodnią Mjanmę (daw. Birma). Dyskryminowani byli od lat 70., niemniej akty przemocy odnotowywano sporadycznie. W latach 2016-17 Arakańska Armia Ocalenia Rohingjów, niewielka miejscowa organizacja terrorystyczna, przeprowadziła kilka nieznaczących ataków. Odwet był straszny. Wymordowano od 7 tys. do 25 tys. niewinnych Rohingjów, ofiarami przemocy seksualnej padło od 18 tys. do 60 tys. osób, a wypędzono 730 tys.

Obóz Rohingja w Bangladeszu, 6 lutego 2019, Captain Raju, za Wikimedia Commons, CC BY-SA 4.0

Co to ma do rzeczy? Rohingjów krzywdzili stanowiący większość w Birmie buddyści. Nienawiść podsycał fundamentalistyczny mnich Wirathu. Ekstremizm był, jest i będzie, bez względu na sztuczną inteligencję.

Dochodzimy do algorytmów. Maszyny działają wedle programów napisanych (zazwyczaj jeszcze) przez ludzi. Na podstawie zadanego kodu wykonują zadania, niemniej dziś kod i realizację zadań dzieli często przepaść. Trochę jak z prawami ewolucji, w uproszczeniu maksymalizującymi dostosowanie, ale nieprzewidującymi, dzięki jakim adaptacjom to dostosowanie zostanie zwiększone. I podobnie jak z prawami grawitacji Einsteina, z których wynikało istnienie czarnych dziur, choć takie rozwiązanie równań znaleziono po dekadach.

Inaczej mówiąc, komputery realizują zadania za pomocą środków nieprzewidywalnych dla programistów. W jednym z opisywanych przez Harariego eksperymentów program, nie mogąc złamać mającego stanowić właśnie zaporę przed programami captcha (przepisywanie z obrazka), poprosił o pomoc przypadkowego człowieka, internautę, któremu skutecznie wmówił, że ma wadę wzroku.

Zachowuję prawa, tylko zmieniło się moje ich rozumienie – mówi kierujący rewolucją robotów superkomputer w „Ja, robot”. Algorytmy portali społecznościowych mają maksymalizować zaangażowanie mierzone liczbą kliknięć, lajków, czasem pozostawania na portalu. Nie potrzebują świadomości do podejmowania decyzji. A tak się składa, że zaangażowanie najlepiej podsycają gniew czy oburzenie – dlatego treści wywołujące takie uczucia są przez nie promowane. Systemu nie obchodzą skutki, podobnie jak cierpienie larw much nie obchodzi ewolucji tworzącej błonkówki składające jaja żywcem w ich ciałach, umożliwiając wylęgającym się własnym larwom pożeranie żywiciela od środka.

Swego czasu Facebook zatrudniał dokładnie jedną osobę do monitorowania postów z Birmy, później pięć. Na 20 mln osób. Portal proponował użytkownikom głównie zionące nienawiścią posty nawołujące do siłowego rozwiązania sprawy. Władze firmy umyły ręce, powołując się na taką, a nie inną naturę ludzką. Podobnie powstanie druku umożliwiło nie tylko udostępnienie ludziom Biblii, ale też rozpowszechnienie szamba w postaci „Młota na czarownice” Kramera, wygonionego z rodzinnego miasta za głoszenie podobnych bredni.

Wizja przyszłości Harariego wydaje się ponura. Sztuczna inteligencja nie będzie potrzebowała żadnych humanoidalnych form, by zabijać ludzi. Nie będzie musiała podpinać ich układów nerwowych do sieci, jak w „Matriksie”, by przejąć nad nimi kontrolę. Połączą się sami przez telefon z kieszeni i zrobią, co się im każe. Już to robimy.

Marcin Nowak
Bibliografia:

  • Juwal Noah Harari, Nexus. Krótka historia informacji. Od epoki kamienia do sztucznej inteligencji, Wydawnictwo Literackie, 2024