Stanisław Lem
"Sztuczny rozum?"

 

1          W jednej z partii, jakie rozgrywał Kasparow z komputerem Deep Blue, łatwej do bicia figury komputer, wbrew oczekiwaniu ludzkiego partnera, nie tknął, i to zaowocowało sporo ciągów później wygraną maszyny. Kasparow mówił o tym, że wyczuł, a przynajmniej zdawało mu się, że wyczuł w ruchach maszyny inteligencję: przyczajony zamysł o wadze strategicznego posunięcia. Wielokrotnie pytany po tej wygranej komputera o to, czy można go w ogóle posądzać o posiadanie "inteligencji", konsekwentnie odpowiadałem (dziennikarzom pytającym), że nie. żeby dokonać niejakiej, mówiąc poprawnie, "kompresji wypowiedzi", czyli wyzbyć ją jak się tylko da tego, co dla rzeczy samej nieistotne, trzeba rzec, że na forum dyskursu należy już w tym miejscu wprowadzić ROZUM czy ROZUMNOŚĆ, bo "inteligencja" nie wystarcza. Ale dlaczego właściwie? Jest ona niejako bardziej "bezosobowa" niż "rozum". Zachowanie także artefaktu (jakim może być komputer) mogłoby wprawdzie wydawać się "inteligentne", ale niekoniecznie zarazem "rozumne". Przede wszystkim dlatego, bo można wprawdzie niechcący być, tj. zachować się INTELIGENTNIE, ale niechcący ROZUMNIE raczej nie, ponieważ implikacją rozumności jest zdawanie sobie z niej sprawy. Wprawdzie zachowania socjalnie zwłaszcza żyjących owadów, jak pszczoły czy mrówki, są powodowane "instynktami wrodzonymi", jednak łatwo uznać, że bliżej jest im do "inteligencji", zespołowej zwłaszcza, aniżeli do ROZUMU. Jakoż nieprzypadkowo moc ludzi biedzi się nad wykrzesaniem z urządzeń pozaludzkich "inteligencji", natomiast "ROZUM" jak gdyby przez nikogo planowany czy też projektowany nie jest. Dlaczego?

 

2          Sprawa ta jest dosyć trudna do rozwikłania, ponieważ idzie o pojęcia mające "rozmyte pole definicyjnego znaczenia", a bardziej można, używając nowoczesnej terminologii, rzec, że to są terminy z takich zbiorów, jakie "FUZZY SETS" nazywamy. Deep Blue sprawić mógł wrażenie na ludzkim przeciwniku, że "błyska w nim", tj. w maszynie iskra inteligencji, ponieważ "widział dalej", aniżeli ów przeciwnik, to jest, był zdolny do przewidzenia tego, jakie pole dendrytowe możliwych w ramach reguł ruchów szachowych tai przyszłość. To istotnie - ten zwrot ku przyszłym możliwościom - JEST jedną ze składowych inteligencji, ale także może być tylko objawem czysto bezrozumowego instynktu: który działa w owadach czy innych żywych stworzeniach (jakim rozumu przypisywać NIE możemy), zaś instynktem sterowane zachowania spokrewnia z "inteligencją" to najpierw, że są one zwrócone w sposób skuteczny ku przyszłości: że, w skrócie powiedzmy, są nacechowane TELEOLOGICZNIE. Docelowo. Jasne, że tego rodzaju celowość Deep Blue (wbudowaną przez programistów) mieć MUSIAŁ, boż inaczej nie grałby po to i tak, by dać Kasparowowi mata.

 

3          Tutaj już naprasza się następująca uwaga. Deep Blue był to niejako zmechanizowaniem utworzony jeden MODUŁ (subagregat), jakby wyjęty z mózgu wybitnego szachisty-człowieka. Nie całkiem jest to prawdą, w najlepszym razie MOŻE to być jej uproszczonym przybliżeniem, ponieważ komputer, o którym mowa, dysponował mocą obliczeniową (200 000 000 elementarnych kroków na sekundę), jaką żaden człowiek nie może dysponować, więc mu tę niedostającą moc z a s t ę p u j e intuicja, tyleż tajemnicza, co omylna, gdyż nad wszelką miarę rozciągając tę nawiasową dygresją dodam, iż podług 99% najwybitniejszych matematyków tak zwane Wielkie Twierdzenie Fermata jest NIEDOWODLIWE; inaczej mówiąc intuicja go ZAWIODŁA, gdy napisał na marginesie książki, że dowód ma, ale nie ma nań miejsca na owym marginesie. Intuicja może więc, mówiąc krótko, być trafna niekoniecznie i my tylko wciąż nie wiemy, "jak ona to robi", gdyż działa poza świadomością i zachowuje się niczem prymus, podpowiadający właściwe odpowiedzi pytanemu przez egzaminatora koledze: kolega powtarza, ale tego, co powtarza, nie musi sam rozumieć... Rozumna odpowiedź natomiast sama swoją "rozumność" rozumieć MUSI. Chociaż Deep Blue waży około półtorej tony, możemy go uznać czynnościowo za JEDEN moduł, zaś wiemy już, że mózg człowieka składa się z ogromnej ilości modułów, których większość nota bene nie jest funkcjonalnie zajęta ani trochę czymkolwiek, co nie zachodzi w samym organizmie (w ciele) i poza organizmem. Większość mózgowych modułów jest służebna ciału, zachodzącym w nim procesom przemian i zmian (tkankowych np.). To tylko "mniejszość" może aktywnie przejawiać "eksterioryzowaną rozumność". Więc np. wszystkie "programy eksperckie", od geologicznych po medyczne, to inne moduły, a sęk w tym, że to są takie zbiorniki informacji wybornie skomprymowanej, merytorycznie aktualnej i w tym sensie optymalnej, że są jakby destylatami obecnego stanu najlepszej naszej wiedzy - z jednym, ale bardzo fatalnym nieszczęściem: że te moduły są "sobie" i na nasz użytek, gdy "przywołane"- ale one "się nie rozumieją same" i my nie wiemy na razie co zrobić, ażeby uległy złączeniu mniej więcej takiemu, jakie w naszym mózgu zachodzi. Moduły więc już sporządzać potrafimy, ale dać im zdolność samorzutnego wpływania na siebie - nie umiemy i W TYM OBECNIE GŁÓWNA BIEDA "Artificial Intelligence". Osoby, w AI rozmiłowane, jak Marvin Minsky, wciąż pewien, że MOŻNA skonstruować sztuczną inteligencję, a także filozofowie, jak np. Daniel Dennet, który bodajże sto razy wyjaśnił ("wyjaśnił"), na czym polega świadomość i "ostatecznie zdemaskował i rozwiązał" zagadkę świadomości, osoby takie żyją w poczuciu, iż od pracującej Artificial Intelligence dzieli nas krok albo parę kroków. Obawiam się atoli, że to takie proste nie jest. To, że na całościową pracę mózgu składa się zespołowa działalność poszczególnych modułów, wiemy już dzisiaj na pewno (jeżeli w ogóle cokolwiek na pewno wiemy).

 

4          Pytanie, jakie paść winno teraz, brzmi tak: CO wiemy jeszcze, a czego NIE WIEMY? Otóż wiadomo np., iż widzimy to, co jest do zobaczenia DLA NAS, ale wynika to w znacznej części z NAUKI i z TRENINGU. Ludzie, od urodzenia niewidomi, którym uda się przywrócić wzrok po latach, "widzą" chaosy barwnych plam w ruchu i nic więcej, zaś np. "oglądanie najlepszych fotografii" przez ludzi, którzy nigdy obrazków żadnych nie widzieli, wyjawia, że i oni nie potrafią projekcji na płaszczyznę w swoich mózgach samoczynnie przetworzyć w trójwymiarową stereo projekcję. A np. dla psa obraz najświetniej ostry i barwny na ekranie telewizora niczego nie ukazuje i "nic nie znaczy". Więc "obróbka" danych jest sprawą osobną informacyjnie i czynnościowo: już pojawiają się wprawdzie systemy komputerowe, którym można dyktować głosem cokolwiek w języku, na jaki system został programowany i nawet system po zaprawie może nauczyć się pisania czy wystukiwania jak stenotypistka wygłaszanego tekstu, co jest bardzo dobrym osiągnięciem konstruktorów, ale i taki system "nic nie rozumie". Ostatnio pojawiły się (równolegle z szachowymi meczami ludzi i komputerów) kolejne próby rozegrania "TESTU TURINGA" czyli takie, ażeby komputer imitował w rozmowie zwykłego człowieka. Zakończyły się żałosną klęską: po prostu komputery jak nic nie rozumiały 50 lat temu, tak nic nie rozumieją nadal.

 

5          W pewnym, ale też tylko w pewnym delikatnym sensie, wiąże się to z tym, że A) odzyskujący wzrok (jak się powiedziało wyżej) ślepcy nic nie widzą dalej, tj. nie potrafią dokonać mózgowych, u nas zupełnie samoczynnie i POZAŚWIADOMIE przebiegających operacji, które umożliwiają nam "widzenie"; B) dzieci wyrosłe i dorastające bez kontaktów z normalnym środowiskiem ludzkim mowy gdzieś po 7-9 roku życia nauczyć się nie są w stanie: pozostają prawie-niemowami i tego, co się do nich mówi, NIE ROZUMIEJĄ; i tak dalej. Znaczna część mózgowych modułów, związana z życiowymi procesami (funkcjami) organizmu, powyżej brakujących kontaktów z otoczeniem NIE POTRZEBUJE (oddawania stolca czy moczu nie trzeba się uczyć: uczymy się tylko okoliczności i sposobów, jakimi TO czynić się godzi, gdyż nikt w salonie spodni nie spuszcza, by sobie ulżyć). Jednakowoż mózg bez nauk, bez treningu, uzyskać normalnie przeciętnej sprawności nie potrafi. Byłoby tedy dziwaczne oczekiwanie wyniknięcia analogicznych bądź przynajmniej podobnych sprawności dzięki właściwemu zaprogramowaniu komputera, chociażby i sto ton miał ważyć.

 

6          Uszkodzenie modułu mózgowego widzenia w kolorach sprawia, że wprawdzie można wszystko doskonale widzieć nadal, ale tak tylko, jak na czarno-białym filmie. Ćwiadczy to o "nakładaniu się" na siebie pracy pospólnie działających systemów, przypisanych optycznemu zasięgowi kory mózgowej. Co gorsza, bywa ślepota korowa, która jest świadomie doświadczaną niezdolnością widzenia i ślepota korowa, której towarzyszy "podkorowe widzenie": osobnik prawdziwie głosi, że nic nie widzi, a jednak rzuconą mu piłkę chwyta w locie, co sobie tłumaczymy tym, że w mózgu, i nie tylko na drogach neuronów pracujących optycznie, istnieje cała hierarchia wstępująca i człek taki zarazem "widzi" i "nie widzi", gdyż "w nim" widzi system niższy, bodaj gdzieś przy CORPORA QUADRIGEMINA, o czym on sam nie wie w tymże sensie, w jakim nic nie wiemy o pracy naszych nerek, aczkolwiek 24 godziny na dobę bezustannie pracują.

 

7          Znane jest powszechnie zjawisko "roztargnienia", które słusznie czy niesłusznie przypisywane jest nie tylko osobom w starszym wieku ale i uczonym, a zwłaszcza myślicielom zafascynowanym jakąś medytacją. Człowiek taki może dokonywać rozmaitych czynności niejako automatycznie, czyli bezświadomie. Te czynności mogą, ale nie muszą być jakoś celowe lub bezsensowne (np. wkładam znoszoną koszulę do lodówki miast do pralki). Uświadomione post factum często budzą niejaką wesołość. Roztargniona może być tylko istota opatrzona inteligencją! Nie ma "roztargnionych" much ani pszczół. Wynika to zapewne z wyższej złożoności inteligentnych umysłów, ale z drugiej strony nie ma szczególnie głupich mrówek albo karaluchów, natomiast od głupich ludzi wprost się roi. Naprasza się przez to słaba nadzieja, iż zanim zdołamy skonstruować sztuczną inteligencję, uda się nam po wielkich trudach sporządzić system obdarzony znaczną głupotą, ale pewien tego wcale nie jestem... Nota bene jako dywagację kolejną dodam, iż mam się za dość inteligentnego człowieka, wyzbytego umiejętności gry w szachy w dużym stopniu, aczkolwiek reguły zawiadujące ową grą oczywiście znam. "Roztargnienie" polega po prostu na tym, że pewna, zazwyczaj znana i wykonywana czynność ulega automatyzacji na poziomie nieświadomości i że ponadto jej efektywne, tj. realne wykonanie NIE zostaje wprowadzone jako zaszły fakt ani do pamięci chwilowej, ani do trwałej. Są poszlaki, że śladowo i taka czynność może być jednak zafiksowana i że w okolicznościach szczególnego wysiłku pamięci i/albo pod wpływem "pomocy", udzielonej np. przez hipnotyzera, dochodzi do uzmysłowienia, iż ową czynność się przecież wykonało. (Hipnotyzer nie jest nota bene wcale konieczny: może wystarczyć świadectwo obserwatora, jako innej osoby.)

 

8          Jedynie z pozoru wygląda powyższe na zwyczajne gadulstwo, gdy w istocie wskazuje, jak niezmiernie odległy jest ROZUM od INTELIGENCJI, oboje zaś zdaje się dzisiaj wciąż jakaś przepaść dzielić od maszynowej symulacji. Sądzę osobiście, iż jest to stan PRZEJŚCIOWY. Niemożliwe jest to, czego zakazują nauki ścisłe. One jednak NIE zakazują sztucznego rozumu.

 

9          Wygląda mi na to - ale nie jestem w stanie podeprzeć tego, co powiem, żadnym zniewalającym argumentem ani choćby jego cieniem - że na koniec będzie pierwej możliwe uruchomienie SZTUCZNEJ INTELIGENCJI aniżeli SZTUCZNEGO ROZUMU. Myślę tak, ponieważ inteligencja wydaje mi się bardziej BEZOSOBOWA, to jest, pozbawiona znamion osobowości, aniżeli ROZUM. Bodajże pierwszym matematykiem, który potrafił skutecznie i rzeczywiście korzystać w pracy twórczej z komputera, był Stanisław Ulam. (Nie wiem, czy została wydana po polsku jego książka w tym temacie napisana: czytałem ją po rosyjsku.) Otóż życia emocjonalnego jest komputer wyzbyty całkowicie, a jednak to w robocie matematycznej nie przeszkadza. (Dodam, że wybitny psycholog niemiecki, Dietrich Dšrner, ponad rok temu opisywał swój komputerowy program, który miał być emocjotwórczy, "afektywny efektywnie", lecz wywody opublikowane przez Dšrnera nie przekonały mnie, a co gorsza, nigdzie w prasie naukowej słowa o takim dokonaniu nie odnalazłem.) Jest rzeczą znaną i bynajmniej nie wyjątkową to, że najrozmaitsze, tj. z odległych od siebie dziedzin myśli twórczej wywodzone osiągnięcia zostawały niejako "podpowiedziane" świadomości przez pozaświadomość, którą MOŻNA BY utożsamiać ze skutkami działania intuicji. Naukowcem nie będąc, we własnej, pisarskiej dziedzinie rzec mogę tylko tyle: kilka moich powieści nie było w ich całościowej fabule napisane przeze mnie w tym sensie, iżbym cokolwiek sobie planował, obmyślał, schematyzował, albo chociaż PRZEWIDYWAŁ, CO MI się właściwie napisze. Więc skąd się "TO" brało? Odpowiedzieć wprost sposobem narzuconym przez pewność, iż było tak a tak, nie mogę, ponieważ sam nie wiem i zdany jestem tutaj wyłącznie na domniemania (koniektury), że to, co "się" pisało, wynikało spoza mojej świadomości, dostawało się, rzecz jasna, w pole świadomości, boć nie pisałem jak w hipnozie czy w stanie hipnagogicznym, ale "całkiem zwyczajnie" widząc, co piszę, a zarazem nie mając pojęcia, "co będzie", "co zajdzie", tj. CO jeszcze napiszę. A zatem tylko w bardzo relatywny (względny) sposób można świadomość uznać za szczytującą zwierzchność prac umysłowych. Nota bene komputer w TEJ mierze nie jest znów TAK odmienny od pracującego mózgu, jak by się prima facie mogło wydawać, ponieważ i on, wykonując rozkazy (komendy) programu, nie potrafiłby "z góry" wydrukować, jaki będzie finał roboty: "co z tego programu" (symulacyjnego dajmy na to...) wyniknie. Więc między nim a nami pojawiają się funkcjonalne "punkty styczne" i to, że tak właśnie bywa, napawa mnie niejakim optymizmem (co do AI) na przyszłość. Lecz potem, to jest po TAKIM osiągnięciu dopiero może się okazać, że do "sztucznego rozumu" droga jeszcze daleka. Co znów wiąże się z moją uwagą, że inteligencja inteligencją, a ludzi głupich od inteligentnych jest statystycznie więcej, zaś rozumnych zgoła niewiele...

Pisałem w maju 1997

sssdasdBackUp