Stanisław Lem
"Człowiek i maszyna"

 

1          "Człowiek - maszyna" to było dzieło francuskiego filozofa - materialisty La Mettrie napisane w połowie XVIII wieku. Nie ulega wątpliwości, że zarówno zwolenników, jak przeciwników podobnie skrajnego rozpoznania ludzkiej natury znaleźlibyśmy i dziś. Innymi słowy, mówiąc bardziej współcześnie, spór zostałby dopiero wtedy rozstrzygnięty gdybyśmy potrafili zbudować maszynę równoważną człowiekowi. Ale co to znaczy "równoważną" człowiekowi? Nasze podobieństwo do innych żywych stworzeń właśnie w sferze cielesnej jest niewątpliwe: człowiek to przecież żyworodny ssak, opatrzony narządami, które się w bardzo skromnym stopniu różnią od narządów i od całościowej fizjologii innych ssaków: różni nas od nich wszystkich umysł, a więc mózg.


2           Jak łatwo może się domyślić Czytelnik tymi nieco zamglonymi słowami zbliżam się do całkowicie już współczesnego pytania, które postawił około pół wieku temu angielski matematyk Alan Turing: czy możliwe jest skonstruowanie takiego "automatu skończonego" (komputery są takimi automatami jako jedna z gałęzi informatycznego drzewa, wyrosłego z ziarna cybernetyki), którego nie dałoby się w rozmowie odróżnić od człowieka? Niezliczone razy uczestniczyłem, głównie w byłym Związku Sowieckim, w latach sześćdziesiątych, właśnie w takich dyskusjach i zażartych sporach, w których problem ów usiłowano rozgryźć. Jak wiadomo, programy (software) zdolne prowadzić pewne typy rozmów z człowiekiem już istnieją. Jednakowoż każdy taki program, który symuluje rozumnego rozmówcę, można prędzej czy później "zdemaskować". Sposobem najprostszym, na który (nie wiem czemu) jakoś nikt albo omal nikt nie wpadł, byłoby opowiedzenie niewiadomemu dyskutantowi dowolnej historyjki, np. anegdoty, dowcipu i żądanie, ażeby opowiedziane po chwili własnymi słowami powtórzył. Maszyna najłatwiej jeszcze powtórzy wszystko literalnie: normalny człowiek dlatego nie jest w odtwarzaniu narracji precyzyjny, ponieważ nie tyle TEKST złożony ze słów zapamiętuje, ile SENSY, a to znaczy, że opowiedziane rozumie. I oto stajemy przed rzeczywistym dylematem: czy i w jaki sposób moglibyśmy przekonać się o tym, że maszyna "komputer" rozumie cokolwiek - podobnie jak człowiek? Należy zważyć wstępnie, że "rozumienie czegokolwiek" posiada swoje liczne poziomy i rodzaje. Pies w pewnym sensie "rozumie", do czego bierze się jego pan, gdy widzi, jak ów pakuje walizki: ponieważ już to widział i "wie", że szykuje się jakaś podróż. Ale nawet mucha "wie", co grozi jej od klapki, którą wymachuje zniecierpliwiony jej natręctwem ten, komu ona przeszkadza. Sposobu, w jaki różne rodzaje "wiedzy" różnią się od siebie w równie odmiennych sytuacjach, nie da się prościej wyjaśnić, aniżeli odwołując się do "instynktów", których ekstremalnym reprezentantem będzie instynkt samozachowawczy i tutaj od razu trafiamy w sedno rzeczy. Mianowicie żaden najdoskonalej grający w szachy albo tłumaczący teksty naukowe, albo informujący o chorobach, ba, stawiający ich rozpoznania wedle wyników badań komputer nie będzie próbował uniknięcia ciosu młotkiem czy kilofem, żaden bowiem nie wykaże "instynktu samozachowawczego", dookoła którego są "obudowane" wszystkie typy wszelkich żywych stworzeń (z wyjątkiem roślin). To bowiem, co nie próbowało ani go żreć, ani nie próbowało uniknąć pożarcia, w toku miliardoletnich ewolucyjnych procesów zginęło; i tylko skutecznie zjadający albo skutecznie umykający ostali się przy życiu.    


3          Co prawda jakąś postać "instynktu samozachowawczego dylematu. Douglas Hofstadter w swojej grubej, zabawnej i ciekawej książce "Metamagical themes" opisuje przygodę, kiedy to miał odróżnić człowieka od maszyny, przy czym na końcu okazało się, że rozmawiał z kilkoma studentami, TAK odpowiadającymi na jego indagację, ażeby zbić go z pantałyku. Jakoż kiedy już myślał, że z komputerem rozmawia, rzeczywistość mu objawiono. Więc jakże? W postaci najbardziej prymitywnej sprawa tak się przedstawia, jak ją opisałem w "Summa Technologiae' ponad trzydzieści lat temu. Napisałem, że można dokonywać kolejnych a zarazem doskonalonych robót konstruktorskich (dziś bym rzekł "programowań"), zastępując komputery "zdemaskowane" odmianami doskonalszymi w symulacji, a może doszłoby się do takiego modelu, którego już od człowieka w rozgoworach odróżnić nie sposób.


4          Między innymi nawet na powtarzanie opowiedziane4, go znalazłby się wytrych. Mianowicie maszyny segregujące (np.) artykuły naukowe są tak programowane, ażeby rozdzielać teksty wedle "słów - kluczy". Jeżeli częstość występowania słów takich jak "osocze krwi", albo "hemofilia" albo "błona komórkowa" pewien próg przekroczy, tekst najpewniej należy do stref medycyny, a może (szerzej) biologii. Jeżeli w nim się "kwarki" czy "nuklidy" pojawiają - wiadomo, dokąd go przytroczyć. Więc postępując tym zrazu bardzo prymitywnym i nic "nie rozumiejącym" sposobem, można poduczać maszynę, ażeby odpowiedziała i żeby repetycja podanego jej tekstu była "szkieletowo"-gramatycznie, leksykograficznie i stylistycznie nawet bliska opowiedzianemu, ale żeby jednak nie pokrywała się z opowiedzianym co do słowa. Więc i tu można uczynić maszynę zręcznym "oszustem", udającym żywego dyskutanta i na tym etapie zjawia się problem następny.


5           Mianowicie nie musimy zajmować się wyłącznie zagadkowym interlokutorem: możemy pytać o to, JAKI CZŁOWIEK maszynę testuje. Albowiem największy pijak i tuman nie będzie równie sprawnym ekspertem dyferencjacyjnym, co człowiek z dyplomem wyższej uczelni czy literat albo jakiś nadzwyczajny geniusz.


6           Zresztą zadanie postawione przez Turinga mocno się odmieniło wskutek tego, że właściwie dzisiaj o możliwościach fakultatywnych komputera wiemy więcej aniżeli o tym, w jaki sposób nasz mózg działa. Moim zdaniem, opartym nie tyle na lekturach z zakresu neurofizjologii, ile na własnym doświadczeniu introspekcyjnym, mózg jest złożony z dużej liczby podzespołów, połączonych między sobą dla współpracy w sposób, który zarówno ma służyć optymalizowaniu wyników informacjoprzetwórczych, jak zarazem odzwierciedla niebywale długą historyczną (ewolucyjną) drogę, jaką mózg przeszedł w tysięcznych generacjach zwierząt, a na ostatku hominidów, zaś już u mety u nas. Niejaką zależność świadomości (boję się tego terminu) od stanu mózgu poznaje człowiek starzejący się bardziej wyraziście aniżeli człowiek młody, o umyśle w pełni sprawnym. Zdarza się mianowicie takiemu starzejącemu się jak ja, że np. zapomni imię dobrze mu znanego uczonego, powiedzmy Prigogine' a albo Plancka. Wysiłek przypomnienia sobie (czegokolwiek) jest prawie nie do zrelacjonowania. Na ogół zresztą okazuje się daremny, ale widocznie jałowo pracująca "świadomość" uruchamia jednak jakieś mechanizmy z wydziału "information retrieval", bo prawie zawsze, prędzej czy później, czasem po parunastu sekundach, czasem nazajutrz, poszukiwany termin (tu: imię) "wypływa" z odmętu niepamięci. Jak został odszukany - nie mam pojęcia i na razie nikt mi tego wyjaśnić nie będzie w stanie. W każdym razie widać stąd jedną stronę zawodności władania zasobem informacji zmagazynowanej w umyśle, a z drugiej strony człowiek zajęty mocno umysłową pracą (albo sklerotyk) dużo czasu trawi i marnuje na poszukiwanie okularów, gazety, książki, listu - ponieważ odkładanie, chowanie, pozostawianie "gdziesik" zachodzi POZA obrębem zapamiętywanych czynności, które świadomość POWINNA włożyć przynajmniej do przegródki "pamięci krótkotrwałej". A te nieświadomie i bezpamiętnie dokonywane czynności bywają nieraz “sensowne" i koherentne tj. nie musi iść zaraz o chowanie skarpetek w lodówce czy lodów w szufladzie. Bywa to jednak dość -jak powiadamy- "bezmyślne", podobnie jak behawior epileptyka, zapadającego na tak zwane "petit mal", co oznacza momentalne krótkie "wyłączenie świadomości, przy czym ono MOŻE zostać przez obecnych obserwatorów dostrzeżone albo i nie, gdyż czasem "lukę świadomości" zapełnia czynność przez chwilę automatycznie kontynuowana. Tak zatem zamiast się do rozszyfrowania "istoty świadomości" przybliżyć, ażeby (między innymi) podejść do kwestii jej symulowania, znajdujemy na tej drodze nowe przeszkody. Wykrycie zaś podzielności mózgu dzięki przecinaniu CORPUS CALLOSUM, wielkiego spoidła, łączącego dwustu milionami włókien neuronowych obie półkule mózgu, oraz spowodowane tym zabiegiem niejakie "rozszczepienie" umysłu na prawie niezależną parę "umysłów", rzecz w ostatnich latach dziwnie skomplikowało. Nie wiadomo (znów) czy i dlaczego mózg mamy dwudzielny, czy wynikło to na skutek powstałej przed wieloma milionami lat dwudzielnej symetrii ciał wszystkich tych zwierząt, co nas poprzedziły (czyli mamy do czynienia ze schedą bardzo starych "ewolucyjnych rozwiązań", wleczonych przez wieki wieków), czy też raczej ze współpracą układów neuronowych, mózg tworzących, która to współpraca i dziś jest optymalna. Ja bym się jednak opowiadał za wersją pierwszego wytłumaczenia, ale nijakiego dowodu na jej prawdziwość przytoczyć nie potrafię.


7          Zdaje mi się, że krętą ścieżyną wywodu doprowadziłem problem do zwiększonego zmętnienia. Wydaje mi się mianowicie, iż test Turinga, w tak znacznej mierze zależny od akceleracji i sprawności "hardware" i "software", staje się coraz mniej pewnym dyferencjatorem Człowieka i Maszyny. Przy tym zachodzi pytanie, bardziej może zajmujące filozofów aniżeli ekspertów - informatyków: na jakie licho jest nam właściwie potrzebna maszyna, tak znakomicie symulująca człowieka, że w jej zachowaniu językowym od człowieka nieodróżnialna? Przecież jest oczywiste, że ewolucja komputerów wraz z ewolucją programów od umysłowości naszej nie tylko i nie po prostu się ODDALA, ale jednocześnie wkracza, i to na rosnącą skalę, w obszary umysłowi człowieka w ogóle niedostępne. To, czego ani digitalnie, ani intuicyjnie, rozumiejąco w przestrzeni konstruktorstwa imaginacyjnego sami nie potrafimy symulować, komputery potrafią. Mózg nasz, dzięki historii swojego powstania, odziedziczył i rozwinął życie afektywne, te wszystkie rodzaje ujemnych i dodatnich emocji, stresów, uczuć, uciech, cierpień, smutków, radości, rozkoszy, boleści, które "bezświadomemu bytowaniu" komputerów pozostają totalnie obce, bez których komputer obejść się MUSI, bez których -jak twierdzi neurofizjolog- nigdy komputer naśladować człowieka w jego bytowaniu świadomym nie będzie w stanie.


8          Co do tego, że teraz tak jest, oczywiście zgoda. Czy tak będzie zawsze - me wiem, i to z kilku powodów, z których nie wszystkie zapewne uda mi się tutaj wyłuszczyć. Strefa oddziaływania psychiki naszej na procesy toczące się w naszym organizmie jest bez wątpienia ogromna i nie wiadomo, gdzie przebiegają nasze granice. Wiemy już na przykład, że nawet tkanka, nad którą ciało ludzkie władzy nie ma "tkanka zbuntowana", anarchistyczna, więc nowotworowa wprawdzie SAMA nie podlega wpływowi mózgu, ale obrona przed nią organizmu od stanu, w jaki znajduje się umysł chorego, wyraźnie zależy. Zdeprymowani stawiają ciałem opór słabszy aniżeli ci, co żyć chcą, potrafią chcieć i tym samym opór stawiają znaczny zagrożeniu śmiertelnemu. W depresji umysłu natomiast wszystkie funkcje ciała więdną i słabną, a w pobudzeniu się potęgują: stąd pochodzi krąg schorzeń cyklofrenicznych (więc typowa dla tego kręgu naprzemienność depresji i pobudzania maniakalnego). I to o tyle nie jest ze wszystkim od rzeczy, że program, pozwalający komputerowi symulować inną chorobę umysłową - paranoję mianowicie - został stworzony już dość dawno temu. Poza życiem uczuciowym, którego "potrzeba" jest dla nas w jakiś trudno wytłumaczalny sposób oczywista, jesteśmy poddanymi władzy Morfeusza: trzecią część życia przebywamy, czy jak ktoś by chciał, "marnujemy", we śnie. Na pytanie: PO CO jest nam sen, a w szczególności "czemu służy" senne marzenie, nie ma jedynej wyraźnej odpowiedzi do dzisiaj i dlatego właśnie (ponieważ pada odpowiedzi różnych wiele) NIC pewne go w kwestii owej nie wiadomo. Bez snu człowiek obejść się przez czas nieco dłuższy od tygodnia właściwie nie może. Natomiast komputery nie śnią i "potrzeby" takiej nie zdają się okazywać. Cóż i to znaczy ?


9          Zdaje mi się chcę się wypowiadać z przezorną ostrożnością, że zdany pozytywnie test Turinga - rozumiem przezeń nierozróżnialność człowieka od maszyny w najdłuższym nawet "egzaminie" -nie wyjaśni wcale, czy maszyna ma świadomość czy nie. Kwestię tę zresztą (rzekło się) roztrząsałem jak umiałem przed trzydziestu łaty w nazwanej wstępnie książce i uznałem wtedy, że do symulacji zachowania językowego, czyli do naśladowania rozumnego interlokutora, można by zbliżać się stopniowo, kolejnymi aproksymacjami, po każdej przegranej "partii" dokonując usprawnień i programu, i maszyny, aż w ten sposób (może i bardzo niepraktyczny) doszłoby się do skonstruowania jakiegoś molocha elektronicznego, który nie tylko osoby z kręgu służby domowej, ale i maturzystów, a nawet profesorów uniwersytetu omami udawanym człowieczeństwem. Czy jednak z tej doskonałej sztuki wynikłoby jakieś poniżenie dla naszej, ludzkiej istoty? To jest już kwestia wybiegająca poza ostatnią granicę ocen konstruktorstwa.


10          Niedawno czytało się i w codziennej prasie o pierwszym “romansie" jakoby stworzonym przez komputer. Było to bardzo kulawe i niezbyt sensowne przedsięwzięcie ponieważ na pewno komputer "nic nie rozumiał", rzeczywisty autor dawał mu po prostu możliwość wyszukiwania "właściwej deskrypcji" pewnych stanów bohaterki - było to na dobrą sprawę przedsięwzięcie, mające na celu profit, ponieważ wielu ludzi zechce nabyć powieść, której autorem “jest komputer". Ale też rzec trzeba, że komputery wprzęga się do sfery "porno", gdyż są po temu odpowiednie programy, pokazujące to, na czym nabywcy zależy. Lecz owo wprzęganie wysokich umiejętności technologicznych, świetnych owoców nauki, do prac niskich, głupich, prymitywnych, brutalnych i wstrętnych stanowi jedno z większych rozczarowań, typowych dla schyłku dwudziestego wieku, które szczególnie wstrętnym sposobem wykoleiły moje dawne prognozy: jak gdyby światłe moce zostały zmuszone do wleczenia ciemnych chętek i żądz, których mieszkaniem jest także człowiek.


11          Nie wszcząłem rzeczy od testu Turinga, ażeby go tak czy owak po swojemu rozstrzygnąć. Bawiąc się w prognozowanie, rzec można, że w przyszłości łatwiej będzie komputerowi naśladować człowieka aniżeli człowiekowi - komputer. Kosmologiczna symulacja, w swoim czasie opublikowana przez "Scientific American", pokazująca, jak będzie "wyglądał" Wszechświat za sto miliardów łat, JEZELI jego łączna masa nie wystarczy, aby go "zamknąć", więc będzie się rozszerzał, aż wszystkie ognie gwiazdowe wypalą ze szczętem swoje atomowe zasoby, była imponującą demonstracją tego dalekosiężnego rygoru komputacyjnego i zarazem symulacyjnego, którego nam albo nie dostaje, albo który wymagałby pracy setek matematyków przez setki lat. Ale już na naszym horyzoncie pojawia się szansa, moim zdaniem, oryginalniejsza od odpowiedzi na test Turinga. Mianowicie symulacje komputerowe procesów ewolucyjnych odbywają się na razie wyłącznie "we wnętrzu" maszyn i olbrzymi rozziew przepaścisty między światem realnym a światem cyfrowym (między "ciałem i duchem", "materią i informacją") pozostaje nadal otwarty, lecz mogą rozpocząć jego zapełnianie nowe twory, które są konstrukcyjnie i informacyjnie zarazem "wyhodowanymi" prototypami małych, pseudożywych (chociaż martwych, chociaż nafaszerowanych tylko elektroniką) "stworzonek", służących na razie zabawie rozmaitych "nanologów", inżynieryjskich dziwaków, ale które mogą dać w przyszłości początek takiej ewolucji, która by samoistnie wystartować do biegu nie mogła. Byłaby to "ewolucja quasi-mechaniczna", czy może informatyczno - elektroniczna raczej, a nawet molekularno - kwantowa, jak powiadam, przez ludzi wszczęta i przez ludzi kierowana i sterowana, ale zdolna na którymś etapie do "przejęcia pałeczki", czyli do okazania "inicjatywy samorodnej", danej wzmagającą się suwerennością i powstającymi trendami specjalizacyjnymi. DO CZEGO by taka ewolucja służyć miała? To pytanie trochę za wcześnie postawione; ponieważ i pytanie, postawione braciom Montgolfierom, "do czego służyć może" papierowy balon, unoszony przez ogień nagrzanym powietrzem, nie doprowadziłoby podówczas do odpowiedzi, że do lotów z kontynentu na kontynent. Inny, nie istniejący kontynent MOŻE zostać dzięki bardzo ludzkim pasjom konstruktorskim w przyszłości odkryty - i nie wiadomo, wiele nam przyniesie jego zawłaszczenie korzyści... ale i klęski. W powieści "Fiasco" dałem o nich co nieco do zrozumienia... ale tym jednostronnym, bo militarnym sposobem, który, niestety, dowodzi agresywnej, skażonej natury naszego gatunku...


12          Historia informatyki, rozszerzonej na najpierwsze początki "przetwarzania danych" aż po współczesność antropocentryczną i wyprowadzona z tej współczesności aż o horyzont przyszłych możliwych dokonań czy samoziszczeń, ta historia, obejmująca biogenezę, która trzy miliardy łat trwała i zrodziła świat wielokomórkowców, z którego przez gałąź hominidów wyszedł Człowiek, otóż owa olbrzymia, bo już mierzalna w geologicznej skali całość, jeżeli byśmy stłoczyli ją gwałtownie do orzeczenia o kształcie aforyzmu, tak oto by się przedstawiała.


13          "Data processing" poczęło się w najprostszych pierwocinach samoorganizacji, czyli życia, a zatem w skali molekularnych autoreplikatorów; z nich powstał kod genetyczny, który przeinaczał się przez miliardy lat, aż zdobył tę potencję prospektywnych wzmocnień rozrostowych, co zrodziła i ameby, i dinozaury, i nas, a my z kolei, już w makroskali, najpierw WPROWADZAMY "data processing" do komputerowych wnętrzności, gdzie oczyszczona z brzemienia cielesnego informacja z informacją krzyżuje się i informacją żywi w przyspieszeniu, jakiego nigdy by życie "samo" nie doścignęło. A gdy ten etap "autonomii informatycznego ewoluowania" opuści komputery, bo wcieli się w wytworzone w ich rozwojowym projektowaniu technobionty, czyli jednostki wprawdzie podług metryki martwo zrodzone, ale podług aktywności funkcjonalnej "jak gdyby żywe" i to "żywe w akceleracji", ta olbrzymia panorama przeszłości, teraźniejszości i przyszłości okaże się spójnym logicznie systemem, w którym mikrożycie poczęło makrożycie, które poczęło "zuniwersalizowane pożycie"- od molekuł przez organizmy do nieznanych nam jeszcze, i nawet własnej nazwy dziś nie noszących "technobiontów". Jeżeli tak myśleć i tak patrzeć, można uznać, że ten ciąg rozwojowy, z człowiekiem nie jako metą ale jako cezurą panewolucji, zdoła wyjść w Kosmos, do którego - jak już pouczyły nas zaczątki astronautyki - cieleśnie, ale i zmysłowo, i psychicznie bardzo marnie jesteśmy zdatni, ponieważ zbyt trwale odcisnęły się w człowieku oznaki, atrybuty i ograniczenia spowodowane jego tylko ziemskim, tylko hominidalnym, tylko lokalnym, podsłonecznym powstaniem. Wizja ta nie jest prognozą, lecz niczym więcej, jak prognozy obecnie jeszcze fantastyczną możliwością. Prawdopodobieństwo ziszczenia musi być skromne, lecz każde zaranie późniejszych, dojrzałych szczytowań takie musi być zawsze. Można jednak na powyższy obraz spojrzeć również jako na tragifarsę, co się zdarzyła albo raczej może zdarzyć Rozumowi człowieka, który uznał siebie za najświetniejszą Stałą Kosmiczną, chociaż okaże się tylko preludium do następnej, transantropicznej fazy "informacyjnego zdobywania Wszechświata". W takim ujęciu zdobywa owa projektowana całość posmak szydliwy, jeżeli byśmy mieli uznać za porażkę akt deuniwersalizacji, czyli zdetronizowania naszego, śmiertelnego Rozumu...

pisane w lipcu 93

sssdasdBackUp