Czy filozof zamknięty w pokoju rozumie po chińsku?

13 września 2018
Blog szalonych naukowców

Wyobraźmy sobie pokój. W środku siedzi człowiek, który ni w ząb nie rozumie chińskiego (obawiam się, że wielu z nas również musi się do tego przyznać). Przez szparę w ścianie dostaje jednak tekst po chińsku (nie wnikam, mandaryński czy klasyczny, chłop też zapewne tego nie wie), powiedzmy: pewne pytanie. Człowiek dysponuje wieloma skomplikowanymi diagramami, tabelami, schematami czy co tam jeszcze mu potrzeba, wskazującymi, jaką odpowiedź należy podać na zadane pytanie po chińsku. Człowiek sprawdza w odpowiednich miejscach, dopasowuje znaczki do schematów, wybiera najodpowiedniejsze, przerysowuje znaczki, których znaczenia nie zna, po czym przez szparę w ścianie przekazuje odpowiedź. Absurdalne?

Ale tak często wygląda filozofia. Nie tylko filozofia. Einstein uwielbiał eksperymenty myślowe, i to jeszcze bardziej nierealne, typu „wyobraź sobie, że pędzisz w wiązce światła. I co widzisz?” (prawidłowa odpowiedź jest taka, że nic nie widzisz, bo skoro pędzisz wraz ze światłem, to światło nie może dotrzeć do twoich oczu). Fizyk potrafi jednak przeprowadzić doświadczenie, które zweryfikuje jego tezy. Lub, jeśli jest fizykiem teoretykiem, posiada kolegę eksperymentatora, który przeprowadzi takie doświadczenia. (Lub, jeśli zajmuje się teorią strun, twierdzi przynajmniej, że w przyszłości się taki kolega urodzi. M-teorię pomijamy. Ale czy to jeszcze fizyka?).

Filozofowie działają inaczej. Wystarczy eksperyment myślowy. Jeśli dzięki niemu zdołamy przekonać się o absurdalności jakiejś tezy, zwłaszcza ważnej lub powszechnie przyjmowanej, eksperyment myślowy ma już swoje miejsce w literaturze. Jeśli pozwala coś łatwiej zrozumieć, obrazowo tłumaczy jakieś trudne do zrozumienia, do wyobrażenia sobie zagadnienie, jest podobnie. Daniel Dennett lubuje się w wymyślaniu takich eksperymentów, umieścił nawet w tytule swej książki „dźwignie wyobraźni”, jak je określa. Dziwactwo przedstawione przeze mnie wyżej opisał filozof umysłu John Searle.

A więc człowiek, powiedzmy: nawet sam Searle (niech ma jakąś karę za wymyślanie takich rzeczy), siedzi sobie sam w pokoju między papierami pozwalającymi mu udzielać poprawnych odpowiedzi po chińsku i mimo że słowa w tym języku nie zna, udziela poprawnych odpowiedzi. Z zadawanych mu pytań i udzielanych przez niego odpowiedzi układa się sensowna rozmowa. Gdyby przeczytał ją jakiś Chińczyk, uznałby, że dwie osoby gadają sobie po chińsku przez szparę w ścianie. Uznałby, że obie znają chiński. Do głowy by mu nie przyszło, że jedna z nich nie zna języka, w którym się wypowiada, że nie ma zielonego pojęcia, o czym właściwie rozmawia. Gdyby natomiast Searle wyszedł z pokoju i ktoś zapytał go, o czym rozmawiali, zrobiłby zakłopotaną minę, unosząc brwi, i bąknął, że za Chiny Ludowe nie wie, co pisał. On dopisywał znaczki wedle schematów.

Ale po co ma się szacowny filozof wymyślaniem takich bzdur zajmować? Bo to w ogóle nie chodzi ani o chiński, ani o pokój, ani nawet o dziurę w ścianie. Zasadnicze jest pytanie: czy ten człowiek w rzeczywistości rozumie język chiński, w którym się wypowiada? Słuchacz udziela oczywistej odpowiedzi: oczywiście, że nie. O co więc chodzi?

Wklepujemy na klawiaturze pytanie. Na ekranie wyświetla się odpowiedź. Sam komputer ją wyświetla, żaden człowiek jej nie tworzy. Odpowiedzi i pytania tworzą dialog. Istnieją już programy komputerowe, które to potrafią. Bazują na schematach (czyli na gramatyce określającej, jak zbudowana jest prawidłowa wypowiedź w danym języku) i ze statystyki (słowa występują w pewnych kontekstach częściej niż w innych). Wychodzi im na razie dosyć słabo. Najczęściej udzielają odpowiedzi tak sztampowych, że od razu widać, że coś nie gra (próbowano tego na portalach oferujących usługi towarzyskie w internecie). Bywały też próby napisania programu, który będzie uczył się rozmawiać, konwersując z internautami. Uczył się bardzo dobrze, niestety nieselektywnie, a więc w największym stopniu najczęściej używanych słów. Tak działa statystyka.

Po krótkim czasie projekt przerwano, bo nauczonego go przez internautów wypluwanego przez program steku wulgaryzmów już się nawet czytać nie dawało. No ale załóżmy, że mamy program, który z łatwością gada z użytkownikiem, który nawet nie potrafi poznać, czy konwersuje z innym internautą, czy z maszyną (tzw. test Turinga). Searle opisał swój pokój kilka dekad temu, ale już wtedy można było przewidywać pojawienie się takich programów (i zapewne upowszechnią się one szybciej, niż ktokolwiek potwierdzi teorię strun). Pytanie brzmi: czy taki program rozumie, co mówi (pisze, wyświetla)?

Jeśli więc Searle w chińskim pokoju nie rozumie nic z tego, co pisze, to i program nie rozumie wyświetlanych przez siebie na ekranie treści. Jest to przykład kompetencji bez zrozumienia. Inny przykład (tym razem oparty na rzeczywistych obserwacjach zwierząt): osa polująca na muchy kładzie zdobycz przed jamką, następnie kontroluje jamkę, po sprawdzeniu jej umieszcza tam zdobycz, w której składa jaja. Czemu osa sprawdza jamkę? Proste – żeby sprawdzić, czy nadaje się ona, by umieścić w niej zdobycz i cenne jajo. Na pewno? Biolodzy mają jeszcze mniejszą od fizyków skłonność do eksperymentów myślowych. Przeprowadzili doświadczenie. Kiedy osa sprawdzała jamkę, przesunięto muchę. Niedużo, wystarczy odległość rzędu centymetra. Co robi osa? Znajduje muchę kawałek dalej. Przysuwa ją do jamki, sprawdza jamkę… Po co sprawdza jamkę, skoro przed chwilą to zrobiła? Można wielokrotnie odsuwać zdobycz i osa za każdym razem będzie od nowa sprawdzać jamkę. Rozumie, co robi? A gdzie tam, realizuje program. Prosta pętla – nie ma ofiary, wróć do punktu wyjścia. Wrodzony, zakodowany w jej układzie nerwowym zestaw instrukcji. Nie ma tu nic do rozumienia i nie można się nauczyć je zmienić.

Tak więc opisane wyżej skomplikowane programy komputerowe byłyby przykładami kompetencji bez zrozumienia. Ale jest i przeciwne zdanie.

Oto Searle zamknięty w pokoju nie rozumie chińskiego i to jest jasne. Tak samo chińskiego (ani polskiego) nie rozumie nasza kora ruchowa, wzgórze ani ośrodek Broki, ani żadna inna struktura w naszym mózgu. Rozumienie chińskiego można przypisać jedynie całości, umysłowi niezlokalizowanemu w żadnym konkretnym miejscu mózgu. Tak samo żeby cały mechanizm z człowiekiem w środku mógł prawidłowo odpowiadać po chińsku, musi on być bardzo skomplikowany, prócz Searle’a czy innego nieszczęśnika składać się z wielu elementów. Żaden z nich nie rozumie chińskiego. Dopiero cały układ go rozumie. Nawet jeśli w środku siedzi filozof i jak zwykle głównie we wszystko wątpi.

Ilustracja: Pismo chińskie, własność publiczna z Wikimedia Commnons