Świadomość nie jest problemem technologicznym, ponieważ konstruktora nie interesuje, czy maszyna czuje, a tylko, czy maszyna działa. Tak więc "technologia świadomości" może wyniknąć, by tak rzec, jedynie mimochodem, gdy się okaże, że pewna klasa maszyn cybernetycznych posiada subiektywny świat przeżyć psychicznych.

         Ale w jaki sposób można się dowiedzieć o istnieniu świadomości w maszynie? Problem nie ma jedynie znaczenia abstrakcyjno-filozoficznego, ponieważ domniemanie, jakoby pewna maszyna, która ma iść na złom, bo remont się nie opłaca, posiadała świadomość, zmienia naszą decyzję z aktu zniszczenia przedmiotu materialnego, jak gramofon, w akt unicestwienia osobowości, świadomej zagłady. Ktoś mógłby zaopatrzyć gramofon w wyłącznik i płytę tak, że gdybyśmy go ruszyli z miejsca, usłyszelibyśmy okrzyki: "Ach, błagam, daruj mi życie!". Jak można odróżnić taki, bez wątpienia bezduszny aparat, od myślącej maszyny? Jedynie wdając się z nią w rozmowę. Matematyk angielski Allan Turing w swej pracy Czy maszyna może myśleć? proponuje, jako kryterium decydujące "grę w imitację", która polega na tym, że zadajemy Komuś dowolne pytania i na podstawie odpowiedzi mamy orzec czy ów Ktoś jest człowiekiem, czy maszyną. Jeśli nie potrafimy odróżnić maszyny od człowieka, należy uznać, że ta maszyna zachowuje się jak człowiek, czyli że posiada świadomość.

         Zauważmy ze swej strony, że grę można skomplikować. Mianowicie są do pomyślenia dwa rodzaje maszyn. Pierwsza jest "zwykłą" maszyną cyfrową, która jest złożona jak mózg 1udzki; można z nią grać w szachy, rozmawiać o książkach, o świecie, na wszelkie w ogóle tematy. Gdybyśmy ją otworzyli, ujrzelibyśmy ogromną ilość obwodów sprzężonych, tak jak są sprzężone obwody neuronów w mózgu, poza tym - jej bloki pamięci itd., itp.

         Druga maszyna jest zupełnie inna. Jest to do planety (albo do kosmosu) powiększony Gramofon. Posiada ona bardzo dużo, np. sto trylionów nagranych odpowiedzi na wszelkie możliwe pytania. Tak więc, gdy pytamy, maszyna wcale niczego "nie rozumie", a tylko forma pytania, tj. kolejność drgań naszego głosu, uruchamia przekaźnik, który puszcza w obroty płytę czy taśmę z nagraną odpowiedzią. Mniejsza o stronę techniczną. Rozumie się, że maszyna taka jest nieekonomiczna, że jej nikt nie zbuduje, bo i to właściwie niemożliwe, i głównie, nie wiadomo po co by to robić. Ale nas interesuje strona teoretyczna. Bo jeśli o tym, czy maszyna ma świadomość, decyduje zachowanie, a nie budowa wewnętrzna, czyż nie dojdziemy pochopnie do wniosku, że "kosmiczny gramofon" ją posiada - i tym samym wypowiemy nonsens? (A raczej nieprawdę).

         Czy jednak można zaprogramować wszelkie możliwe pytania? Bez wątpienia, przeciętny człowiek nie odpowiada w życiu ani na jeden ich bilion. My zaś nagralibyśmy na wszelki wypadek wiele razy więcej. Cóż robić? Musimy naszą grę prowadzić z dostatecznie rozwiniętą strategią.

         Zadajemy maszynie (to jest, Komuś, bo nie wiemy, z kim rzecz - rozmowa jest prowadzona np. przez telefon) pytanie, czy lubi dowcipy. Maszyna odpowiada, dajmy na to, że owszem, lubi dobre dowcipy. Opowiadamy jej więc dowcip. Maszyna się śmieje (tj., śmieje się głos w słuchawce). Albo miała ten dowcip nagrany i pozwoliło to uruchomić prawidłową reakcję, tj. śmiech, albo to naprawdę myśląca maszyna (lub człowiek, bo i tego nie wiemy). Rozmawiamy z maszyną jakiś czas i nagle pytamy, czy przypomina sobie dowcip, któryśmy jej opowiedzieli. Powinna go pamiętać, jeśli myśli naprawdę. Powie zatem, że pamięta. Poprosimy, aby go powtórzyła własnymi słowami. Otóż, to jest już bardzo trudno zaprogramować: bo w ten sposób zmuszamy konstruktora "Kosmogramofonu", aby nagrał nie tylko poszczególne odpowiedzi na możliwe pytania, ale całe sekwencje rozmów, jakie tylko mogą być prowadzone. Wymaga to oczywiście pamięci, tj. płyt lub taśm, których nie zmieści może i system słoneczny. Maszyna, dajmy na to, nie może powtórzyć naszego dowcipu. Demaskujemy ją zatem jako gramofon. Konstruktor, urażony w swej dumie, bierze się do doskonalenia maszyny, w ten sposób, że dobudowuje jej taką pamięć, dzięki której już będzie mogła zrekapitulować powiedziane. Ale w ten sposób zrobił pierwszy krok na drodze od maszyny-gramofonu do maszyny myślącej. Ponieważ maszyna bezduszna nie może uznać za tożsame pytań o analogicznej treści, lecz sformułowanych nawet z drobnymi odchyleniami formalnymi, pytania: "Czy wczoraj było ładnie na dworze?", "Czy panowała wczoraj śliczna pogoda?", "Azali pogodnym był dzień, który poprzedził dzisiejszy?" itd., itp. są dla maszyny bezdusznej rozmaite, dla myślącej natomiast tożsame. Konstruktor kolejno demaskowanej maszyny wciąż musi ją przerabiać. Ostatecznie po długiej serii przeróbek wprowadzi w maszynę umiejętności dedukcji i indukcji umiejętność kojarzenia, chwytania tożsamej "postaci" różnie sformułowanych a identycznych treści, aż w końcu uzyska maszynę, która będzie po prostu "zwykłą" maszyną myślącą.

         Otóż zachodzi ciekawy problem, kiedy właściwie w maszynie pojawiła się świadomość? Powiedzmy, że konstruktor nie przerabiał tych maszyn, ale odnosił każdą do muzeum, a następny model budował od podstaw. W muzeum stoi 10 000 maszyn, bo tyle było kolejnych modeli.

         Jest to w sumie płynne przejście od "bezdusznego automatu" w rodzaju szafy grającej do "maszyny która myśli". Czy mamy za świadomą uznać maszynę nr 7 852, czy dopiero nr 9 973? Różnią się one od siebie tym, że pierwsza nie umiała wyjaśnić, dlaczego śmieje się z opowiedzianego dowcipu, a tylko mówiła, że jest szalenie śmieszny, a druga umiała. Ale niektórzy ludzie śmieją się z dowcipów, choć nie potrafią wyjaśnić, co właściwie jest w nich śmiesznego, bo, jak wiadomo, teoria humoru to trudny orzech do zgryzienia. Czyżby ci ludzie też byli pozbawieni świadomości? Ależ nie, są pewno niezbyt bystrzy, mało inteligentni, umysł ich nie ma wprawy w podejściu analitycznym do problemów; a my nie pytamy o to, czy maszyna jest inteligentna, czy raczej tępawa, a tylko, czy ma świadomość, czy nie.

         Zdaje się, iż trzeba uznać, że model nr 1 ma zero świadomości, model nr 10 000 ma pełną świadomość, a wszystkie pośrednie mają "coraz to więcej" świadomości. Stwierdzenie to ujawnia, jak beznadziejna jest myśl o tym, aby świadomość można ściśle zlokalizować. Odłączanie pojedynczych elementów ("neuronów") maszyny spowoduje tylko nikłe, ilościowe zmiany ("słabnięcie") świadomości, tak samo, jak to czyni postępujący w żywym mózgu proces choroby lub nóż chirurga. Problem nie ma nic wspólnego ani z użytym do konstrukcji materiałem, ani z rozmiarami "myślącego" urządzenia. Elektryczną maszynę myślącą można zbudować z poszczególnych bloków, odpowiadających, dajmy na to, mózgowym zwojom. Teraz rozdzielamy te bloki i umieszczamy je na całej Ziemi tak, że jeden jest w Moskwie, drugi w Paryżu, trzeci w Melbourne, czwarty w Yokohamie itd. Oddzielone od siebie są te bloki "psychicznie martwe", a połączone (np. kablami telefonicznymi) stawałyby się jedną, integralną "osobowością", jednym "myślącym homeostatem". Świadomość takiej maszyny nie znajduje się naturalnie ani w Moskwie, ani w Paryżu, ani w Yokohamie, lecz, w pewnym sensie, w każdym z tych miast, a w pewnym, w żadnym z nich. Trudno bowiem powiedzieć o niej, że, jak Wisła, rozciąga się od Tatr do Bałtyku. Zresztą podobny problem ukazuje, choć nie tak jaskrawo, mózg ludzki, ponieważ naczynia krwionośne, białkowe molekuły i tkanki łączne znajdują się wewnątrz mózgu, ale nie wewnątrz świadomości, a znów nie można powiedzieć, aby świadomość znajdowała się pod samą kopułą czaszki, albo że raczej jest niżej, nad uszami, po obu stronach głowy. Jest ona,,rozsiana" po całym homeostacie, po jego sieci czynnościowej. Nic więcej, nie da się w tej materii orzec, jeśli pragniemy połączyć rozsądek z przezornością.

         Powyższy tekst, wykseroksowany z mojej "Summy Technologicznej", powstał w połowie 1963 roku. Ze stanowiska dzisiejszego jest on oczywiście silnym uproszczeniem drogi, jaką musimy przebyć, ażeby dojść do symulacji opisanego przeze mnie niegdyś celu. Domyślamy się już, że "świadomość" i "inteligencja" są to byty w rozmaitym stopniu rozłączne. Wiemy, że istnieją bardzo różnorodne stany świadomości, chociażby ich skala mieściła się pomiędzy snem i jawą. Lecz i sen, czy raczej marzenie senne, może się odznaczać rozmaitym nasileniem konkretności, imitującej rzeczywistość świadomie przeżywaną na jawie. Z kolei świadomość na jawie, co każdy wie z własnego doświadczenia, także jeżeli nie jest ani psychologiem, ani psychiatrą, może uzyskiwać wielce różniące się od siebie stany. Człowiek majaczący w gorączce może być świadomy swojego stanu, czyli tego, że jego świadomość uległa zakłóceniu. Rozmaite środki chemiczne potrafią w przeróżny sposób urabiać ludzką świadomość. Ponadto należy zauważyć, że jest mnóstwo czynności, które człowiek potrafi wykonywać machinalnie, to znaczy sprawnie i nieświadomie. Świadomość kierowcy samochodu, zwłaszcza szybkiego, "nie nadąża" za reakcjami tego kierowcy w sytuacjach o nagłym przebiegu. Zarazem machinalnie można robić głupstwa, nazywamy je najczęściej "czynnościami z roztargnienia".

         Wszystko to powiedziałem w odniesieniu do mojego tekstu sprzed trzydziestu pięciu lat, w którym zastanawiałem się nad "wschodzeniem" świadomości w maszynie, a czyniłem to dlatego, ponieważ wydawało 1i się, że ludzie różnią się między sobą bardzo poziomem inteligencji, natomiast świadomość jest z grubsza wszystkim dana podobnie.

         Drogi na przełaj, w linii prostej i podnoszącej się, od automatu skończonego, jakim jest komputer, do maszyny, jakiej moglibyśmy przypisać świadomość, nie ma. Zarazem budowę mózgu naszego rozpoznaliśmy już na tyle, ażeby się dowiedzieć, że tak zwana kallotomia, czyli rozcięcie wielkiego białego spoidła łączącego półkule mózgu, nie likwiduje świadomości, lecz wytwarza w rozdzielonych półkulach jej dwie odmiany. Ponadto wiemy, że mózg jest systemem zbudowanym z ogromnej ilości modułów czynnościowych, które w poszczególnych okolicach mózgu wykształciły umiejętność współtworzącą świadomość:ukonkretnię powiedziane przykładem. Istnieje część kory mózgowej sprawiająca, że widzimy kolory. Uszkodzenie tego modułu powoduje, że tak porażony człowiek widzi wszystko bez kolorów, jak na czarno-białym filmie. Im dokładniej poznajemy specyfikę funkcjonalnej orientacji mózgowych modułów, z tym większy zdziwieniem dowiadujemy się, jak z punktu widzenia inżynieryjnej oszczędności chaotycznie zbudowany jest mózg, chociaż w introspekcji na ogół nie potrafimy sobie zdać z tego sprawy. Dzisiaj wydaje się, że poszczególne moduły czynnościowo podobne do modułów mózgowych potrafimy już konstmować. Zazwyczaj są to pseudoneuronowe sieci rozmaitej złożoności. Natomiast nie umiemy jeszcze ani stworzyć ich dostatecznej ilości, ani dokonać takiego ich połączenia, ażeby powstały twór zdołał udawać, że posiada świadomość. Tak zatem prostej drogi 0d bezmyślnego automatu do myślącego świadomie maszyny nie ma. Jest jednak mnóstwo zawiłych dróg, które w przyszłości doprowadzą nas do celu, a być może ów cel przekroczą. 0 takiej możliwości napisałem książkę "Golem XIV".