Stanisław Lem | ||||
"Tajemnica chińskiego pokoju" |
1 | John Searle wzniecił książką
"Minds, Brains and Programs" zawartą zrazu w
"The Behavioral and Brain Science", tom III,
Cambridge University Press, wydaną w 1980 roku (a więc
15 lat temu), istny popłoch, czy jeśli ktoś woli
łagodniejsze określenie, pełną kontrowersji bunę w
środowiskach amerykańskich badaczy Artificial
Intelligence. Ja, zamieniając tu wziąć na stół
operacyjny clous jego tekstu - nazwa
odpowiada tytułowi tego eseju - nie przytoczę ok. 28
replik i diatryb, jakimi środowisko AI w USA usiłowało
"unicestwić" wnioski, które wg Searla
wypływają z jego książki. Nie chciałbym też
szczególnie zrobić wrażenia, jakobym był mądrzejszy
od wszystkich badaczy tego grona na wszystkich (bez
mała) uniwersyteckich ośrodkach,
lecz amicus Plato, sed magis amica veritas. Jeśli ktokolwiek ujrzy
możliwość obalenia mego sekcyjnego wywodu na rzecz
Searla, będę zarazem mocno zdziwiony i dosyć
zadowolony, ponieważ nie jest wcale rzeczą wygodną
górować nad masą mędrców. Przechodzę ad rem. Searle chciał dowieść, że możliwe jest doskonałe naśladowanie ROZUMIENIA tekstu, którego w samej rzeczy człowiek, mający ów tekst złożyć, w ogóle ani trochę nie rozumie. Uczynił to w pomyślanym doświadczeniu, które dla większej pewności pojęcia sprawy PRZEZ MNIE dwa razy czytałem: raz w oryginalnym dziele D. R. Hofstadtera i D. Dennetta "The Minds I', a drugi w dobrym przekładzie niemieckim "Einsicht ins ich" /Klett-Cotta Verlag 1981/. |
2 | Rzecz wygląda tak oto. Searle,
znający angielski, ale chińskiego za nic, jest
zamknięty w pokoju, i dostaje kolejno TRZY paczki
kartek, zapisanych znakami chińskiego pisma. Znaki te w
jego oczach NICZYM nie różnią się od steku
najzupełniej dowolnych gryzmołów. Dostawszy paczkę
pierwszą, otrzymuje po angielsku napisane instrukcje,
jak ma drugie znaki z drugiej paczki przyporządkować do
znaków paczki pierwszej. Dostaje nareszcie trzecią
paczkę stronić, z symbolami również chińskimi i z
angielską instrukcją, która mu umożliwia określone
przyporządkowanie znaków trzeciej kartki do
dwu pierwszych. Searle nie wie wcale, że ten, kto mu dal
wszystko, zwie pierwszą paczkę "pismem"
("Script", "SCHRIFT"), drugą-
"Opowieścią", a trzecią
"pytaniami" dotyczącymi tej opowieści.
Postępując czysto formalnie, czyli przypasowując
jedne znaki do drugich i do trzecich, uzyskuje już sam
zapis, którego T A K Ż E w ogóle nie rozumie.
Jednakowoż dla osób chiński język i pismo znających
do pokoju dostała się opowieść, a z pokoju wydostały
się sensowne odpowiedzi na pytania dotyczące
treści tejże opowieści, wszystko sensowne i składne;
CHOCIAŻ manipulujący znakami-kartkami człek NIC z
chińskiego pisma nie rozumie i nic nie zna. Z czego ma
wynikać, że manipulator w pokoju działa jak
komputerowa hardware, instrukcje zaś
angielskie stanowią PROGRAM (software)
i już z
tego widać, że można sensownie odpowiadać na
chińskie pytania odniesione do chińskiej opowieści, w
ogóle chińskiego nie rozumiejąc, i to ma być model
działania komputera. Hofstadter, który w ślad za Searlem w swej książce dokładnie "eksperyment" z chińskim pokojem rekapituluje, opatrzył go zarówno własnymi zastrzeżeniami, jak i streszczeniem najistotniejszych kontrargumentów (przeciw zrównaniu układu "pokój plus człek plus instrukcje" z komputerową hardware, instrukcji angielskiej z programem, tj. software), jakie przysłały najwybitniejsze zespoły pracowników badających szanse AI m. in. z uniwersytetów: Berkley ("systemowa" odpowiedź: człek sam nic nie rozumie, ale on plus instrukcje plus pokój "rozumie chiński"), z Yale (odpowiedź obrazuje zajście w stylu "robota"), Massachusetts Institute of Technology z pomocą Berkley (replika opata na symulacji mózgu), Stanford (kombinowana replika), "Yale" (próba redukcji ad absurdum: skąd wiadomo, że są jacyś INNI, co chiński rozumieją? - Z ich zachowania, bo do mózgu nikt im zajrzeć nie może, więc behawioralnie "pokój" jest równoważny "Chińczykowi"), znów Berkley itd. Mnożenie replik byłoby nużące. Hofstadter usiłuje obalić "dowód" Searla ukazany jego "myślowym eksperymentem", podkreślając, że jak zręczny prestydigitator kamufluje Searle rzeczywiste trudności, raz, gdyż samo zestawienie setek i setek symboli chińskich trwałoby może miesiące (po mojemu to nie jest kontrargument, tylko unik), a raz, podkreślając stronę "sinologiczną". To jest bardziej sensowne, ponieważ TYLKO ten, kto NIC o chińszczyźnie nie wie, mimo woli zakłada, że ona jest językiem budowanym z odrębnych "znaków-klocków", które ani deklinacji, ani koniugacji, ani idiomatyki nie posiadają. Ponieważ ja z "pokojem chińskim" w żaden spór, w żadną dyskusję wejść nie zamierzam, pozwolę sobie przełożyć cały ten myślowy eksperyment na inny, daleko prostszy, który "tajemnicę" nieźle zdemaskuje. |
3 | Bierzemy tak zwany "puzzle", który jako składna całość ukazuje jakiś naturalistyczny obraz albo jakąś fotografię. To może być kopia Rycerza Rembrandta, albo fotografia wieży Eiffla wszystko jedno, CO tam widać, byle naturalistyczna oczywistość obrazu była DANA. Następnie ten obraz rozcina się na takie małe, pokrętne fintifluszki-kawałki, z jakich zazwyczaj takie igraszki (puzzle) się składają, bacząc wyłącznie na to, żeby się formą każdy kawałek różnił od każdego na tyle, ażeby ich nie dało się dopasować w składną całość, zamieniając elementy błędnie miejscami. Na koniec odwracamy obraz i potrząsamy pudlem, w którym leżą te kawałeczki, aby porządnie je wymieszać. Potem przychodzi nasz eksperymentator, widzi same "lewe strony" tych kartonowych kawałeczków i ma z nich złożyć całość taką, ażeby każdy znalazł się tam, gdzie pasuje. Będzie to nieco pracochłonne, ale możliwe, skoro zamiany miejsc zostały udaremnione kształtem indywidualnie nadanym tym kawałkom. Jeżeli teraz odwrócimy całość obrazem do góry, to oczywiście zobaczymy obraz Rembrandta, Ledę z łabędziem czy też wieżę Eiffla, mimo, że ten, kto składał kawałki, nie miał najbledszego pojęcia o tym, że składa nie bezsensowne kształty w całość obrazu, ale że odtwarza pewien bardzo wyrazisty, jednoznaczny OBRAZ. Przecież to jest całkowicie oczywiste i żadnej dodatkowej informacji w ogóle nie wymaga. Zamiast obrazu może tam się równie dobrze znajdować napis w polskim, w albańskim, chińskim czy jakimkolwiek innym z istniejących na tej planecie 5000 języków: może tam pojawić się napis "Kto rano wstaje, temu Pan Bóg daje", albo "Chłop żywemu nie przepuści", albo "Ich weiss nicht, was soll es bedeuten, dass ich so traurig bin" (Heine, Lorelei) itd. Wszystko jedno, co się pokaże po odwróceniu lewej strony poskładanych należycie kawałków na stronę właściwą, tj. "prawą", ale przecież ewidentne jest, że ten, kto składał, jak "program komputera", NIC nie wiedział, czyli nie miał pojęcia, czyli ani na włos nie rozumiał, CO ukaże się na odwrocie, a nawet nie miał wyobrażenia o tym, ŻE tam się jakakolwiek koherentna całość znacząca pojawi. Czy to jest argument przeciw mniemaniu, iż komputer mógłby jednak rozumieć podobnie jak człowiek, co on robi, wykonując kolejne kroki nadane instrukcją? Moim zdaniem, ma to tyle wspólnego z "obaleniem" tezy o AI, co teza, iż z kremowych ciastek można ułożyć napis, negujący szansę wybuchu Etny. Jedno za grosz nie ma nic wspólnego z drugim. |
4 | Do ataku na Searlowy eksperyment z chińskim pokojem można by się oczywiście wziąć inaczej, tj. zamiast przenosić rzecz na ten puzzle, np. postulować, żeby język i pismo chińskie porzucić na rzecz greki albo hebrajskiego czy arabskiego, albo łaciny itd. bez końca. Wtedy dopiero im bardziej ten język okaże się chociaż odrobinę podobny do naszego (powiedzmy rumuński, bo ma alfabet łaciński, albo cyrylica, bo jest derywatem greki), tym jawniej będzie widać, że PYTANIA odniesione do OPOWIEŚCI w dość silny sposób te odpowiedzi determinują i gdyby ktoś (Searle) jednak nadal upierał się przy chińszczyźnie, również mam na niego sposób. Przy pomocy sinologa, biegle znającego chiński, do pakietu "pytań" dołączę specyficzne: np. opowieść dotyczy znanej bajki z 1001 nocy o Sezamie i skarbach Sezamu. Pytanie brzmi: jak to może być, że na głos wypowiedzianych słów "Sezamie, otwórz się" skala się otwiera? Odpowiedzi mogą być różnie dorzeczne. A/ Skala się otwiera, ponieważ opowieść jest BAJKĄ, w której mogą zachodzić zdarzenia, jakie w zwyczajnej realności nie mogą zajść. B/ Skala się otwiera, ponieważ jest makietą, zbudowaną w Hollywood w celu nakręcenia odcinka serialu pt "Opowieści z 1000 i jednej nocy", C/ albo: skala jest tworzywem plastikowym, poruszanym ukrytym motorem elektrycznym, glos zaś aktywizuje specjalne akustyczne czujniki". I tak dalej do końca świata. Moim zdaniem odpowiedź PIERWSZA, udzielona w porządku genologicznym, czyli odwołująca się do naczelnego dla gatunku bajek paradygmatu (dopuszczalnych "czarów i cudów"), jako NIE-techniczna, jest najbardziej sensowna, ale skąd wiedzieć, czy ona znajdzie się wśród możliwych do ułożenia "chińskich replik" w "pokoju"? |
5 | Możliwe jest też zresztą, żeby
wśród pytań znalazły się takie, które
"zdemaskują zasadnicze NIEROZUMIENIE"
wszystkich tekstów przez "chiński pokój", co
o tyle widzę jako dozwolone, ponieważ Johnowi Searle i jego respondentom dziwacznie (w mych oczach)
wydawało
się, że tak zwana "strong AI", czyli hipoteza
możliwości pokonania testu Turinga przez maszynę,
zostaje w ramach "tajemnicy chińskiego pokoju"
załatwiona negatywnie: maszyna, jaką udaje pokój, nic
nie rozumie, a mimo to odpowiada na
pytania tak, jakby je rozumiała. Klucz do TEJ sprawy tkwi w "pakiecie pytań". Powiedzmy, że bajka do opowiedzenia po chińsku jest bajką o Lampie Aladyna. Pytania brzmią: "Czy lampa była elektryczna, na baterie?", "Czy lampa była naftowa i napełniona naftą, tj. zdolna dzięki knotowi i zapałkom do zapalenia i dania światła?" Jeżeli są takie pytania, które A PRIORI wykluczamy jako kierujące na manowce, to o żadnej analogii z testem Turinga mowy nawet nie ma. Obecnie jako skrótowy, autentyczny i oczywisty przykład zastosuję "argumentum ad hominem", przy czym ten człowiek, to ja. Jestem już bardzo przygłuchy, bez aparatów wetkniętych w oboje uszu prawie nic nie rozumiem (skoro nie słyszę) z tego, co się do mnie mówi. Jeżeli w piekarni, w której kupuję pieczywo, obcy człek, rozpoznawszy mnie, bo mnie w telewizji widział, zwróci się do mnie, ja nie mogę przez wzgląd na całokształt sytuacji sięgać do guzików płaszcza, potem do kieszeni po pudełko z protezami słuchowymi, lecz usiłuję z tego, co on mówi do mnie, uchwycić chociaż jedno-dwa słowa. To zwykle się udaje, a jak nie, to on powtórzy albo powie coś głośniej i nakieruje mnie na rozmyty, ale może i generalny sens swojej wypowiedzi. Nieporozumienia w rozmowach z głuchymi często się naturalnie zdarzają, ale nikt wtedy, nawet gdy nieporozumienie jest 100%, nie sądzi, że mówi do manekina albo do robota z takim komputerem w czaszce, który "tylko czysto formalnie działa". Czysto formalnie działał ten, kto składał tablicę w obraz (puzzle), ten, kto składa niepojęte symbole chińskie, ale gdy on omyli się, to Chińczyk uzna raczej , że to tylko omyłka, a nie 100- procentowy brak wszelkiego rozumienia. Zresztą na ogół jest tak, że sens dla rozumienia współwyznacza konsytuacja i nie myślę, żeby pytający w piekarni pytał mnie o liczbę gwiazd w mgławicy Andromedy albo o najlepszy przepis na sporządzenie piernika z migdałami. A ponieważ pytania są "ściskane kierunkowo" przez tekst opowieści, są zarazem dawane przedustawnie, czyli są probabilistycznie predeterminowane w obrębie takiego "fuzzy set", takiego rozmytego zbioru, który posiada strzałkę kierunkową orientującą go już a priori w "jakie takie rozumienie". Natomiast mąk i zawiłości, wysypanych przed Searlem przez wszystkich mędrców z uniwersytetów nie jestem w stanie pojąć w ogóle. Niechże Searle, zamiast opisywać myślowe eksperymenty, miażdżące rzekomy mit o rozumnych komputerach, da się zamknąć w pokoju, niech mu tam wsuną ten "skrypt i tę opowieść, ograniczoną nader skromnie do wersów "Wlazł kotek na płotek i mruga, krótka to piosenka nie długa" i niech spytają (po chińsku, na kartkach) o rodzaj płota, o rasę kota, o to, czy jak kot mruga, to ma jakieś. specjalne znaczenie, czy raczej mruga ot tak sobie, a po polsku tylko dla rymu. I niech Searle odpowie jako, tako dorzecznie. Ogólnikowe testy tego rodzaju, nie chwalący się, mogę produkować furami i absolutnie nic z nich nie wynika. Jak wiadomo, w późnej swej książce o przyszłości opisał Wells przyszłe wojny powietrzne, w których sterowne balony miałyby rozpruwać sterowce wroga ostrogami, nie przymierzając jak wojenne fregaty czyniły to ongiś wrażym statkom. Czy dochodzi teraz do wrogich starć sił powietrznych w czasie wojny? Oczywiście tak. Czy PO Wellsie powstały wielkie, lżejsze od powietrza machiny latające? Naturalnie, to były (głównie niemieckie) Zeppeliny. Czy wrogie rozpruwały sobie ostrogami powłoki? Nigdy, a na pytanie "czemu nie" już się w podobnie lakoniczny sposób odpowiedzieć nie da. Ludzie parający się AI na razie dowiedzieli się, że trzeba dla gry w pytania i odpowiedzi stwarzać porządne RAMY ("frames") sytuacyjne, ale wiadomo też z doświadczeń dnia powszedniego, że można pytać kucharkę o to, jak zasmażkę robi, ale się raczej nie należy spodziewać jej sensownej odpowiedzi na pytanie, dlaczego w tłokowych silnikach spalinowych nowszych modeli aut nie ma dwu zaworów (ssania i wydechu), tylko cztery albo chociażby trzy. Nie powie nic, bo pojęcia nie ma, co z "rozumieniem" albo i "nierozumieniem" gramatyki, idiomatyki, składni języka nie ma nic wspólnego. Żeby rozumieć wypowiedź, należy uchwycić jej sens i jej zakres znaczeniowy i last but not least jej desygnatywną orientacją specyficzną. Chiński pokój Searla, podobnie jak mój puzzle, niczego nie przesądza, niczego nie klaruje, niczego nie predeterminuje, niczego nie "załatwia" raz na zawsze. Dodam, co po trosze należy do rzeczy, że w wyróżnionym miejscu mej biblioteki znajduje się pochodząca z roku 1924 książka niemieckiego DOKTORA (ale nie medycyny), który matematycznie, chemicznie i fizycznie udowodnił w niej zupełną niemożliwość lotów kosmicznych, a nawet uzyskania przez rakietę napędu zdolnego pokonać grawitację, żeby mogła wejść na orbitę okołoziemską. Jest to bardzo ładny dowód "przeprowadzony ściśle formalnymi środkami". Warto o nim pamiętać adwersarzom Sztucznej Inteligencji. Głównym zarzutem przeciw memu sprowadzeniu "tajemnicy chińskiego pokoju" do składanki typu PUZZLE byłoby nadmiernie uproszczenie sprawy. Teraz ją więc skomplikuję. Nie obraz znajduje się na awersie PUZZLE'a, lecz te wersy OTELLA, które mówią, jak zadusił on Desdemonę. Składający kawałeczki nic o tym nie wie. Dostaje dwie paczki innych kawałków jako "pytania" i jako "odpowiedzi na pytania". Wszystkie widzi tylko jako porozsypywane bezładnie fragmenciki tektury i ma złożyć z nich całości dzięki temu, że ich ząbki, wcięcia i wycięcia pasują do siebie w sposób jedno-jednoznaczny. Po odwróceniu owych trzech składanek widać, że pytania brzmiały "Dlaczego Otello dusi Desdemonę?" oraz "Czy miał po temu jakąkolwiek rację?", odpowiedzi zaś, odpowiednio " Dusi ją z zazdrości" oraz " Został wprowadzony w błąd przez Jagona". Całość tekstu, pytań i odpowiedzi ma być złożona z wyrazów ANGIELSKICH, zaś składający jest Chińczykiem, który ani słowa po angielsku nie zna, a jednak, dzięki czysto formalnemu postępowaniu (układaniu łamigłówki) uzyskuje zborny tekst, zborne pytania i adekwatne na nie odpowiedzi. Uprzednio Searle zamącił co nieco w głowach tym, którym swój eksperyment opisał, bo to "chińszczyzna" itp. Teraz widać, że istotnie możliwe jest przy postępowaniu czysto formalnym (też składa się kawałki wedle ich FORMY, a nie ich sensu) dokonanie eksperymentu. Wszelako jednocześnie widać, tym razem już bardzo wyraźnie, że Chińczyk w " angielskim pokoju" istotnie NIC nie rozumie. Więc KTO rozumie teksty w OBU wypadkach, Searla i moim? Oczywiście ten, kto cały eksperyment-tak pierwszy, jak drugi - wymyślił, ułożył i zaprogramował. " Rozumienie" nie znajduje się w żadnym pokoju, ani w tym "chińskim" z Anglikiem, ani w tym "angielskim" z Chińczykiem, programy zaś w obu wypadkach tym się od siebie różnią, że jeden raz przypasowuje się znakiem jednego chińskiego pisma FORMALNIE do znaków innego chińskiego pisma, w moim zaś dopasowuje się FORMALNIE kształty wycinków tektury. Różnica jest bezistotna, bo istotne jest wyłącznie postępowanie układającego, który tu i tam nic nie rozumie z tekstu i nie jest ważne, czy widzi tekst, ale nie rozumie go, nie znając chińskiego, czy raczej tekstu nie widzi (Chińczyk), ponieważ jakby go widział, TOBY TEŻ NIE zrozumiał, skoro ma zespalać formy, a nie symbole. Eksperyment, mówiąc krótko, wyprowadza nas w pole, przy czym Hofstadter w swej książce TEŻ tak uważa, ale niepotrzebnie wyjaśnienia skomplikował. Nie w tym sęk, że chińskie pismo do chińskiego pisma byłoby nieporównanie trudniej dopasować (litery PISANE mogą się dla ignoranta różnić jak graficznie bardzo odmienne litery łacińskie - czy "f" jest tożsame formalnie z "F"?), ale w tym sęk, że robota jest zawsze asemantycznie formalna. Tak zatem "rozumienie" w samych testach nie uczestniczy w ogóle i a fortiori nie ma mowy 0 obecnej "świadomości". Czy inteligencja sztuczna jest możliwa, pokaże przyszłość. Z omawianą "reductio ad absurdum" ta przyszłość NIE MA NIC WSPÓLNEGO. |
Kwiecień 95
sssdasd![]() ![]() |