áááááááááîwiadomo£µ nie jest problemem technologicznym, poniewa┐ konstruktora nie interesuje, czy maszyna czuje, a tylko, czy maszyna dzia│a. Tak wiΩc "technologia £wiadomo£ci" mo┐e wynikn╣µ, by tak rzec, jedynie mimochodem, gdy siΩ oka┐e, ┐e pewna klasa maszyn cybernetycznych posiada subiektywny £wiat prze┐yµ psychicznych.

áááááááááAle w jaki spos≤b mo┐na siΩ dowiedzieµ o istnieniu £wiadomo£ci w maszynie? Problem nie ma jedynie znaczenia abstrakcyjno-filozoficznego, poniewa┐ domniemanie, jakoby pewna maszyna, kt≤ra ma i£µ na z│om, bo remont siΩ nie op│aca, posiada│a £wiadomo£µ, zmienia nasz╣ decyzjΩ z aktu zniszczenia przedmiotu materialnego, jak gramofon, w akt unicestwienia osobowo£ci, £wiadomej zag│ady. Kto£ m≤g│by zaopatrzyµ gramofon w wy│╣cznik i p│ytΩ tak, ┐e gdyby£my go ruszyli z miejsca, us│yszeliby£my okrzyki: "Ach, b│agam, daruj mi ┐ycie!". Jak mo┐na odr≤┐niµ taki, bez w╣tpienia bezduszny aparat, od my£l╣cej maszyny? Jedynie wdaj╣c siΩ z ni╣ w rozmowΩ. Matematyk angielski Allan Turing w swej pracy Czy maszyna mo┐e my£leµ? proponuje, jako kryterium decyduj╣ce "grΩ w imitacjΩ", kt≤ra polega na tym, ┐e zadajemy Komu£ dowolne pytania i na podstawie odpowiedzi mamy orzec czy ≤w Kto£ jest cz│owiekiem, czy maszyn╣. Je£li nie potrafimy odr≤┐niµ maszyny od cz│owieka, nale┐y uznaµ, ┐e ta maszyna zachowuje siΩ jak cz│owiek, czyli ┐e posiada £wiadomo£µ.

áááááááááZauwa┐my ze swej strony, ┐e grΩ mo┐na skomplikowaµ. Mianowicie s╣ do pomy£lenia dwa rodzaje maszyn. Pierwsza jest "zwyk│╣" maszyn╣ cyfrow╣, kt≤ra jest z│o┐ona jak m≤zg 1udzki; mo┐na z ni╣ graµ w szachy, rozmawiaµ o ksi╣┐kach, o £wiecie, na wszelkie w og≤le tematy. Gdyby£my j╣ otworzyli, ujrzeliby£my ogromn╣ ilo£µ obwod≤w sprzΩ┐onych, tak jak s╣ sprzΩ┐one obwody neuron≤w w m≤zgu, poza tym - jej bloki pamiΩci itd., itp.

áááááááááDruga maszyna jest zupe│nie inna. Jest to do planety (albo do kosmosu) powiΩkszony Gramofon. Posiada ona bardzo du┐o, np. sto trylion≤w nagranych odpowiedzi na wszelkie mo┐liwe pytania. Tak wiΩc, gdy pytamy, maszyna wcale niczego "nie rozumie", a tylko forma pytania, tj. kolejno£µ drga± naszego g│osu, uruchamia przekaƒnik, kt≤ry puszcza w obroty p│ytΩ czy ta£mΩ z nagran╣ odpowiedzi╣. Mniejsza o stronΩ techniczn╣. Rozumie siΩ, ┐e maszyna taka jest nieekonomiczna, ┐e jej nikt nie zbuduje, bo i to w│a£ciwie niemo┐liwe, i g│≤wnie, nie wiadomo po co by to robiµ. Ale nas interesuje strona teoretyczna. Bo je£li o tym, czy maszyna ma £wiadomo£µ, decyduje zachowanie, a nie budowa wewnΩtrzna, czy┐ nie dojdziemy pochopnie do wniosku, ┐e "kosmiczny gramofon" j╣ posiada - i tym samym wypowiemy nonsens? (A raczej nieprawdΩ).

áááááááááCzy jednak mo┐na zaprogramowaµ wszelkie mo┐liwe pytania? Bez w╣tpienia, przeciΩtny cz│owiek nie odpowiada w ┐yciu ani na jeden ich bilion. My za£ nagraliby£my na wszelki wypadek wiele razy wiΩcej. C≤┐ robiµ? Musimy nasz╣ grΩ prowadziµ z dostatecznie rozwiniΩt╣ strategi╣.

áááááááááZadajemy maszynie (to jest, Komu£, bo nie wiemy, z kim rzecz - rozmowa jest prowadzona np. przez telefon) pytanie, czy lubi dowcipy. Maszyna odpowiada, dajmy na to, ┐e owszem, lubi dobre dowcipy. Opowiadamy jej wiΩc dowcip. Maszyna siΩ £mieje (tj., £mieje siΩ g│os w s│uchawce). Albo mia│a ten dowcip nagrany i pozwoli│o to uruchomiµ prawid│ow╣ reakcjΩ, tj. £miech, albo to naprawdΩ my£l╣ca maszyna (lub cz│owiek, bo i tego nie wiemy). Rozmawiamy z maszyn╣ jaki£ czas i nagle pytamy, czy przypomina sobie dowcip, kt≤ry£my jej opowiedzieli. Powinna go pamiΩtaµ, je£li my£li naprawdΩ. Powie zatem, ┐e pamiΩta. Poprosimy, aby go powt≤rzy│a w│asnymi s│owami. Ot≤┐, to jest ju┐ bardzo trudno zaprogramowaµ: bo w ten spos≤b zmuszamy konstruktora "Kosmogramofonu", aby nagra│ nie tylko poszczeg≤lne odpowiedzi na mo┐liwe pytania, ale ca│e sekwencje rozm≤w, jakie tylko mog╣ byµ prowadzone. Wymaga to oczywi£cie pamiΩci, tj. p│yt lub ta£m, kt≤rych nie zmie£ci mo┐e i system s│oneczny. Maszyna, dajmy na to, nie mo┐e powt≤rzyµ naszego dowcipu. Demaskujemy j╣ zatem jako gramofon. Konstruktor, ura┐ony w swej dumie, bierze siΩ do doskonalenia maszyny, w ten spos≤b, ┐e dobudowuje jej tak╣ pamiΩµ, dziΩki kt≤rej ju┐ bΩdzie mog│a zrekapitulowaµ powiedziane. Ale w ten spos≤b zrobi│ pierwszy krok na drodze od maszyny-gramofonu do maszyny my£l╣cej. Poniewa┐ maszyna bezduszna nie mo┐e uznaµ za to┐same pyta± o analogicznej tre£ci, lecz sformu│owanych nawet z drobnymi odchyleniami formalnymi, pytania: "Czy wczoraj by│o │adnie na dworze?", "Czy panowa│a wczoraj £liczna pogoda?", "Azali pogodnym by│ dzie±, kt≤ry poprzedzi│ dzisiejszy?" itd., itp. s╣ dla maszyny bezdusznej rozmaite, dla my£l╣cej natomiast to┐same. Konstruktor kolejno demaskowanej maszyny wci╣┐ musi j╣ przerabiaµ. Ostatecznie po d│ugiej serii przer≤bek wprowadzi w maszynΩ umiejΩtno£ci dedukcji i indukcji umiejΩtno£µ kojarzenia, chwytania to┐samej "postaci" r≤┐nie sformu│owanych a identycznych tre£ci, a┐ w ko±cu uzyska maszynΩ, kt≤ra bΩdzie po prostu "zwyk│╣" maszyn╣ my£l╣c╣.

áááááááááOt≤┐ zachodzi ciekawy problem, kiedy w│a£ciwie w maszynie pojawi│a siΩ £wiadomo£µ? Powiedzmy, ┐e konstruktor nie przerabia│ tych maszyn, ale odnosi│ ka┐d╣ do muzeum, a nastΩpny model budowa│ od podstaw. W muzeum stoi 10 000 maszyn, bo tyle by│o kolejnych modeli.

áááááááááJest to w sumie p│ynne przej£cie od "bezdusznego automatu" w rodzaju szafy graj╣cej do "maszyny kt≤ra my£li". Czy mamy za £wiadom╣ uznaµ maszynΩ nr 7 852, czy dopiero nr 9 973? R≤┐ni╣ siΩ one od siebie tym, ┐e pierwsza nie umia│a wyja£niµ, dlaczego £mieje siΩ z opowiedzianego dowcipu, a tylko m≤wi│a, ┐e jest szalenie £mieszny, a druga umia│a. Ale niekt≤rzy ludzie £miej╣ siΩ z dowcip≤w, choµ nie potrafi╣ wyja£niµ, co w│a£ciwie jest w nich £miesznego, bo, jak wiadomo, teoria humoru to trudny orzech do zgryzienia. Czy┐by ci ludzie te┐ byli pozbawieni £wiadomo£ci? Ale┐ nie, s╣ pewno niezbyt bystrzy, ma│o inteligentni, umys│ ich nie ma wprawy w podej£ciu analitycznym do problem≤w; a my nie pytamy o to, czy maszyna jest inteligentna, czy raczej tΩpawa, a tylko, czy ma £wiadomo£µ, czy nie.

áááááááááZdaje siΩ, i┐ trzeba uznaµ, ┐e model nr 1 ma zero £wiadomo£ci, model nr 10 000 ma pe│n╣ £wiadomo£µ, a wszystkie po£rednie maj╣ "coraz to wiΩcej" £wiadomo£ci. Stwierdzenie to ujawnia, jak beznadziejna jest my£l o tym, aby £wiadomo£µ mo┐na £ci£le zlokalizowaµ. Od│╣czanie pojedynczych element≤w ("neuron≤w") maszyny spowoduje tylko nik│e, ilo£ciowe zmiany ("s│abniΩcie") £wiadomo£ci, tak samo, jak to czyni postΩpuj╣cy w ┐ywym m≤zgu proces choroby lub n≤┐ chirurga. Problem nie ma nic wsp≤lnego ani z u┐ytym do konstrukcji materia│em, ani z rozmiarami "my£l╣cego" urz╣dzenia. Elektryczn╣ maszynΩ my£l╣c╣ mo┐na zbudowaµ z poszczeg≤lnych blok≤w, odpowiadaj╣cych, dajmy na to, m≤zgowym zwojom. Teraz rozdzielamy te bloki i umieszczamy je na ca│ej Ziemi tak, ┐e jeden jest w Moskwie, drugi w Pary┐u, trzeci w Melbourne, czwarty w Yokohamie itd. Oddzielone od siebie s╣ te bloki "psychicznie martwe", a po│╣czone (np. kablami telefonicznymi) stawa│yby siΩ jedn╣, integraln╣ "osobowo£ci╣", jednym "my£l╣cym homeostatem". îwiadomo£µ takiej maszyny nie znajduje siΩ naturalnie ani w Moskwie, ani w Pary┐u, ani w Yokohamie, lecz, w pewnym sensie, w ka┐dym z tych miast, a w pewnym, w ┐adnym z nich. Trudno bowiem powiedzieµ o niej, ┐e, jak Wis│a, rozci╣ga siΩ od Tatr do Ba│tyku. Zreszt╣ podobny problem ukazuje, choµ nie tak jaskrawo, m≤zg ludzki, poniewa┐ naczynia krwiono£ne, bia│kowe moleku│y i tkanki │╣czne znajduj╣ siΩ wewn╣trz m≤zgu, ale nie wewn╣trz £wiadomo£ci, a zn≤w nie mo┐na powiedzieµ, aby £wiadomo£µ znajdowa│a siΩ pod sam╣ kopu│╣ czaszki, albo ┐e raczej jest ni┐ej, nad uszami, po obu stronach g│owy. Jest ona,,rozsiana" po ca│ym homeostacie, po jego sieci czynno£ciowej. Nic wiΩcej, nie da siΩ w tej materii orzec, je£li pragniemy po│╣czyµ rozs╣dek z przezorno£ci╣.

áááááááááPowy┐szy tekst, wykseroksowany z mojej "Summy Technologicznej", powsta│ w po│owie 1963 roku. Ze stanowiska dzisiejszego jest on oczywi£cie silnym uproszczeniem drogi, jak╣ musimy przebyµ, a┐eby doj£µ do symulacji opisanego przeze mnie niegdy£ celu. Domy£lamy siΩ ju┐, ┐e "£wiadomo£µ" i "inteligencja" s╣ to byty w rozmaitym stopniu roz│╣czne. Wiemy, ┐e istniej╣ bardzo r≤┐norodne stany £wiadomo£ci, chocia┐by ich skala mie£ci│a siΩ pomiΩdzy snem i jaw╣. Lecz i sen, czy raczej marzenie senne, mo┐e siΩ odznaczaµ rozmaitym nasileniem konkretno£ci, imituj╣cej rzeczywisto£µ £wiadomie prze┐ywan╣ na jawie. Z kolei £wiadomo£µ na jawie, co ka┐dy wie z w│asnego do£wiadczenia, tak┐e je┐eli nie jest ani psychologiem, ani psychiatr╣, mo┐e uzyskiwaµ wielce r≤┐ni╣ce siΩ od siebie stany. Cz│owiek majacz╣cy w gor╣czce mo┐e byµ £wiadomy swojego stanu, czyli tego, ┐e jego £wiadomo£µ uleg│a zak│≤ceniu. Rozmaite £rodki chemiczne potrafi╣ w przer≤┐ny spos≤b urabiaµ ludzk╣ £wiadomo£µ. Ponadto nale┐y zauwa┐yµ, ┐e jest mn≤stwo czynno£ci, kt≤re cz│owiek potrafi wykonywaµ machinalnie, to znaczy sprawnie i nie£wiadomie. îwiadomo£µ kierowcy samochodu, zw│aszcza szybkiego, "nie nad╣┐a" za reakcjami tego kierowcy w sytuacjach o nag│ym przebiegu. Zarazem machinalnie mo┐na robiµ g│upstwa, nazywamy je najczΩ£ciej "czynno£ciami z roztargnienia".

áááááááááWszystko to powiedzia│em w odniesieniu do mojego tekstu sprzed trzydziestu piΩciu lat, w kt≤rym zastanawia│em siΩ nad "wschodzeniem" £wiadomo£ci w maszynie, a czyni│em to dlatego, poniewa┐ wydawa│o 1i siΩ, ┐e ludzie r≤┐ni╣ siΩ miΩdzy sob╣ bardzo poziomem inteligencji, natomiast £wiadomo£µ jest z grubsza wszystkim dana podobnie.

áááááááááDrogi na prze│aj, w linii prostej i podnosz╣cej siΩ, od automatu sko±czonego, jakim jest komputer, do maszyny, jakiej mogliby£my przypisaµ £wiadomo£µ, nie ma. Zarazem budowΩ m≤zgu naszego rozpoznali£my ju┐ na tyle, a┐eby siΩ dowiedzieµ, ┐e tak zwana kallotomia, czyli rozciΩcie wielkiego bia│ego spoid│a │╣cz╣cego p≤│kule m≤zgu, nie likwiduje £wiadomo£ci, lecz wytwarza w rozdzielonych p≤│kulach jej dwie odmiany. Ponadto wiemy, ┐e m≤zg jest systemem zbudowanym z ogromnej ilo£ci modu│≤w czynno£ciowych, kt≤re w poszczeg≤lnych okolicach m≤zgu wykszta│ci│y umiejΩtno£µ wsp≤│tworz╣c╣ £wiadomo£µ:ukonkretniΩ powiedziane przyk│adem. Istnieje czΩ£µ kory m≤zgowej sprawiaj╣ca, ┐e widzimy kolory. Uszkodzenie tego modu│u powoduje, ┐e tak pora┐ony cz│owiek widzi wszystko bez kolor≤w, jak na czarno-bia│ym filmie. Im dok│adniej poznajemy specyfikΩ funkcjonalnej orientacji m≤zgowych modu│≤w, z tym wiΩkszy zdziwieniem dowiadujemy siΩ, jak z punktu widzenia in┐ynieryjnej oszczΩdno£ci chaotycznie zbudowany jest m≤zg, chocia┐ w introspekcji na og≤│ nie potrafimy sobie zdaµ z tego sprawy. Dzisiaj wydaje siΩ, ┐e poszczeg≤lne modu│y czynno£ciowo podobne do modu│≤w m≤zgowych potrafimy ju┐ konstmowaµ. Zazwyczaj s╣ to pseudoneuronowe sieci rozmaitej z│o┐ono£ci. Natomiast nie umiemy jeszcze ani stworzyµ ich dostatecznej ilo£ci, ani dokonaµ takiego ich po│╣czenia, a┐eby powsta│y tw≤r zdo│a│ udawaµ, ┐e posiada £wiadomo£µ. Tak zatem prostej drogi 0d bezmy£lnego automatu do my£l╣cego £wiadomie maszyny nie ma. Jest jednak mn≤stwo zawi│ych dr≤g, kt≤re w przysz│o£ci doprowadz╣ nas do celu, a byµ mo┐e ≤w cel przekrocz╣. 0 takiej mo┐liwo£ci napisa│em ksi╣┐kΩ "Golem XIV".