| Stanis│aw Lem | ||||
| "Sztuczny rozum?" |
| 1 | áááááááááW jednej z partii, jakie rozgrywa│ Kasparow z komputerem Deep Blue, │atwej do bicia figury komputer, wbrew oczekiwaniu ludzkiego partnera, nie tkn╣│, i to zaowocowa│o sporo ci╣g≤w p≤ƒniej wygran╣ maszyny. Kasparow m≤wi│ o tym, ┐e wyczu│, a przynajmniej zdawa│o mu siΩ, ┐e wyczu│ w ruchach maszyny inteligencjΩ: przyczajony zamys│ o wadze strategicznego posuniΩcia. Wielokrotnie pytany po tej wygranej komputera o to, czy mo┐na go w og≤le pos╣dzaµ o posiadanie "inteligencji", konsekwentnie odpowiada│em (dziennikarzom pytaj╣cym), ┐e nie. ┐eby dokonaµ niejakiej, m≤wi╣c poprawnie, "kompresji wypowiedzi", czyli wyzbyµ j╣ jak siΩ tylko da tego, co dla rzeczy samej nieistotne, trzeba rzec, ┐e na forum dyskursu nale┐y ju┐ w tym miejscu wprowadziµ ROZUM czy ROZUMNOî╞, bo "inteligencja" nie wystarcza. Ale dlaczego w│a£ciwie? Jest ona niejako bardziej "bezosobowa" ni┐ "rozum". Zachowanie tak┐e artefaktu (jakim mo┐e byµ komputer) mog│oby wprawdzie wydawaµ siΩ "inteligentne", ale niekoniecznie zarazem "rozumne". Przede wszystkim dlatego, bo mo┐na wprawdzie niechc╣cy byµ, tj. zachowaµ siΩ INTELIGENTNIE, ale niechc╣cy ROZUMNIE raczej nie, poniewa┐ implikacj╣ rozumno£ci jest zdawanie sobie z niej sprawy. Wprawdzie zachowania socjalnie zw│aszcza ┐yj╣cych owad≤w, jak pszczo│y czy mr≤wki, s╣ powodowane "instynktami wrodzonymi", jednak │atwo uznaµ, ┐e bli┐ej jest im do "inteligencji", zespo│owej zw│aszcza, ani┐eli do ROZUMU. Jako┐ nieprzypadkowo moc ludzi biedzi siΩ nad wykrzesaniem z urz╣dze± pozaludzkich "inteligencji", natomiast "ROZUM" jak gdyby przez nikogo planowany czy te┐ projektowany nie jest. Dlaczego? |
| 2 | áááááááááSprawa ta jest dosyµ trudna do rozwik│ania, poniewa┐ idzie o pojΩcia maj╣ce "rozmyte pole definicyjnego znaczenia", a bardziej mo┐na, u┐ywaj╣c nowoczesnej terminologii, rzec, ┐e to s╣ terminy z takich zbior≤w, jakie "FUZZY SETS" nazywamy. Deep Blue sprawiµ m≤g│ wra┐enie na ludzkim przeciwniku, ┐e "b│yska w nim", tj. w maszynie iskra inteligencji, poniewa┐ "widzia│ dalej", ani┐eli ≤w przeciwnik, to jest, by│ zdolny do przewidzenia tego, jakie pole dendrytowe mo┐liwych w ramach regu│ ruch≤w szachowych tai przysz│o£µ. To istotnie - ten zwrot ku przysz│ym mo┐liwo£ciom - JEST jedn╣ ze sk│adowych inteligencji, ale tak┐e mo┐e byµ tylko objawem czysto bezrozumowego instynktu: kt≤ry dzia│a w owadach czy innych ┐ywych stworzeniach (jakim rozumu przypisywaµ NIE mo┐emy), za£ instynktem sterowane zachowania spokrewnia z "inteligencj╣" to najpierw, ┐e s╣ one zwr≤cone w spos≤b skuteczny ku przysz│o£ci: ┐e, w skr≤cie powiedzmy, s╣ nacechowane TELEOLOGICZNIE. Docelowo. Jasne, ┐e tego rodzaju celowo£µ Deep Blue (wbudowan╣ przez programist≤w) mieµ MUSIAú, bo┐ inaczej nie gra│by po to i tak, by daµ Kasparowowi mata. |
| 3 | áááááááááTutaj ju┐ naprasza siΩ nastΩpuj╣ca uwaga. Deep Blue by│ to niejako zmechanizowaniem utworzony jeden MODUú (subagregat), jakby wyjΩty z m≤zgu wybitnego szachisty-cz│owieka. Nie ca│kiem jest to prawd╣, w najlepszym razie MO»E to byµ jej uproszczonym przybli┐eniem, poniewa┐ komputer, o kt≤rym mowa, dysponowa│ moc╣ obliczeniow╣ (200 000 000 elementarnych krok≤w na sekundΩ), jak╣ ┐aden cz│owiek nie mo┐e dysponowaµ, wiΩc mu tΩ niedostaj╣c╣ moc z a s t Ω p u j e intuicja, tyle┐ tajemnicza, co omylna, gdy┐ nad wszelk╣ miarΩ rozci╣gaj╣c tΩ nawiasow╣ dygresj╣ dodam, i┐ pod│ug 99% najwybitniejszych matematyk≤w tak zwane Wielkie Twierdzenie Fermata jest NIEDOWODLIWE; inaczej m≤wi╣c intuicja go ZAWIODúA, gdy napisa│ na marginesie ksi╣┐ki, ┐e dow≤d ma, ale nie ma na± miejsca na owym marginesie. Intuicja mo┐e wiΩc, m≤wi╣c kr≤tko, byµ trafna niekoniecznie i my tylko wci╣┐ nie wiemy, "jak ona to robi", gdy┐ dzia│a poza £wiadomo£ci╣ i zachowuje siΩ niczem prymus, podpowiadaj╣cy w│a£ciwe odpowiedzi pytanemu przez egzaminatora koledze: kolega powtarza, ale tego, co powtarza, nie musi sam rozumieµ... Rozumna odpowiedƒ natomiast sama swoj╣ "rozumno£µ" rozumieµ MUSI. Chocia┐ Deep Blue wa┐y oko│o p≤│torej tony, mo┐emy go uznaµ czynno£ciowo za JEDEN modu│, za£ wiemy ju┐, ┐e m≤zg cz│owieka sk│ada siΩ z ogromnej ilo£ci modu│≤w, kt≤rych wiΩkszo£µ nota bene nie jest funkcjonalnie zajΩta ani trochΩ czymkolwiek, co nie zachodzi w samym organizmie (w ciele) i poza organizmem. WiΩkszo£µ m≤zgowych modu│≤w jest s│u┐ebna cia│u, zachodz╣cym w nim procesom przemian i zmian (tkankowych np.). To tylko "mniejszo£µ" mo┐e aktywnie przejawiaµ "eksterioryzowan╣ rozumno£µ". WiΩc np. wszystkie "programy eksperckie", od geologicznych po medyczne, to inne modu│y, a sΩk w tym, ┐e to s╣ takie zbiorniki informacji wybornie skomprymowanej, merytorycznie aktualnej i w tym sensie optymalnej, ┐e s╣ jakby destylatami obecnego stanu najlepszej naszej wiedzy - z jednym, ale bardzo fatalnym nieszczΩ£ciem: ┐e te modu│y s╣ "sobie" i na nasz u┐ytek, gdy "przywo│ane"- ale one "siΩ nie rozumiej╣ same" i my nie wiemy na razie co zrobiµ, a┐eby uleg│y z│╣czeniu mniej wiΩcej takiemu, jakie w naszym m≤zgu zachodzi. Modu│y wiΩc ju┐ sporz╣dzaµ potrafimy, ale daµ im zdolno£µ samorzutnego wp│ywania na siebie - nie umiemy i W TYM OBECNIE Gú╙WNA BIEDA "Artificial Intelligence". Osoby, w AI rozmi│owane, jak Marvin Minsky, wci╣┐ pewien, ┐e MO»NA skonstruowaµ sztuczn╣ inteligencjΩ, a tak┐e filozofowie, jak np. Daniel Dennet, kt≤ry bodaj┐e sto razy wyja£ni│ ("wyja£ni│"), na czym polega £wiadomo£µ i "ostatecznie zdemaskowa│ i rozwi╣za│" zagadkΩ £wiadomo£ci, osoby takie ┐yj╣ w poczuciu, i┐ od pracuj╣cej Artificial Intelligence dzieli nas krok albo parΩ krok≤w. Obawiam siΩ atoli, ┐e to takie proste nie jest. To, ┐e na ca│o£ciow╣ pracΩ m≤zgu sk│ada siΩ zespo│owa dzia│alno£µ poszczeg≤lnych modu│≤w, wiemy ju┐ dzisiaj na pewno (je┐eli w og≤le cokolwiek na pewno wiemy). |
| 4 | áááááááááPytanie, jakie pa£µ winno teraz, brzmi tak: CO wiemy jeszcze, a czego NIE WIEMY? Ot≤┐ wiadomo np., i┐ widzimy to, co jest do zobaczenia DLA NAS, ale wynika to w znacznej czΩ£ci z NAUKI i z TRENINGU. Ludzie, od urodzenia niewidomi, kt≤rym uda siΩ przywr≤ciµ wzrok po latach, "widz╣" chaosy barwnych plam w ruchu i nic wiΩcej, za£ np. "ogl╣danie najlepszych fotografii" przez ludzi, kt≤rzy nigdy obrazk≤w ┐adnych nie widzieli, wyjawia, ┐e i oni nie potrafi╣ projekcji na p│aszczyznΩ w swoich m≤zgach samoczynnie przetworzyµ w tr≤jwymiarow╣ stereo projekcjΩ. A np. dla psa obraz naj£wietniej ostry i barwny na ekranie telewizora niczego nie ukazuje i "nic nie znaczy". WiΩc "obr≤bka" danych jest spraw╣ osobn╣ informacyjnie i czynno£ciowo: ju┐ pojawiaj╣ siΩ wprawdzie systemy komputerowe, kt≤rym mo┐na dyktowaµ g│osem cokolwiek w jΩzyku, na jaki system zosta│ programowany i nawet system po zaprawie mo┐e nauczyµ siΩ pisania czy wystukiwania jak stenotypistka wyg│aszanego tekstu, co jest bardzo dobrym osi╣gniΩciem konstruktor≤w, ale i taki system "nic nie rozumie". Ostatnio pojawi│y siΩ (r≤wnolegle z szachowymi meczami ludzi i komputer≤w) kolejne pr≤by rozegrania "TESTU TURINGA" czyli takie, a┐eby komputer imitowa│ w rozmowie zwyk│ego cz│owieka. Zako±czy│y siΩ ┐a│osn╣ klΩsk╣: po prostu komputery jak nic nie rozumia│y 50 lat temu, tak nic nie rozumiej╣ nadal. |
| 5 | áááááááááW pewnym, ale te┐ tylko w pewnym delikatnym sensie, wi╣┐e siΩ to z tym, ┐e A) odzyskuj╣cy wzrok (jak siΩ powiedzia│o wy┐ej) £lepcy nic nie widz╣ dalej, tj. nie potrafi╣ dokonaµ m≤zgowych, u nas zupe│nie samoczynnie i POZAîWIADOMIE przebiegaj╣cych operacji, kt≤re umo┐liwiaj╣ nam "widzenie"; B) dzieci wyros│e i dorastaj╣ce bez kontakt≤w z normalnym £rodowiskiem ludzkim mowy gdzie£ po 7-9 roku ┐ycia nauczyµ siΩ nie s╣ w stanie: pozostaj╣ prawie-niemowami i tego, co siΩ do nich m≤wi, NIE ROZUMIEJÑ; i tak dalej. Znaczna czΩ£µ m≤zgowych modu│≤w, zwi╣zana z ┐yciowymi procesami (funkcjami) organizmu, powy┐ej brakuj╣cych kontakt≤w z otoczeniem NIE POTRZEBUJE (oddawania stolca czy moczu nie trzeba siΩ uczyµ: uczymy siΩ tylko okoliczno£ci i sposob≤w, jakimi TO czyniµ siΩ godzi, gdy┐ nikt w salonie spodni nie spuszcza, by sobie ul┐yµ). Jednakowo┐ m≤zg bez nauk, bez treningu, uzyskaµ normalnie przeciΩtnej sprawno£ci nie potrafi. By│oby tedy dziwaczne oczekiwanie wynikniΩcia analogicznych b╣dƒ przynajmniej podobnych sprawno£ci dziΩki w│a£ciwemu zaprogramowaniu komputera, chocia┐by i sto ton mia│ wa┐yµ. |
| 6 | áááááááááUszkodzenie modu│u m≤zgowego widzenia w kolorach sprawia, ┐e wprawdzie mo┐na wszystko doskonale widzieµ nadal, ale tak tylko, jak na czarno-bia│ym filmie. ╞wiadczy to o "nak│adaniu siΩ" na siebie pracy posp≤lnie dzia│aj╣cych system≤w, przypisanych optycznemu zasiΩgowi kory m≤zgowej. Co gorsza, bywa £lepota korowa, kt≤ra jest £wiadomie do£wiadczan╣ niezdolno£ci╣ widzenia i £lepota korowa, kt≤rej towarzyszy "podkorowe widzenie": osobnik prawdziwie g│osi, ┐e nic nie widzi, a jednak rzucon╣ mu pi│kΩ chwyta w locie, co sobie t│umaczymy tym, ┐e w m≤zgu, i nie tylko na drogach neuron≤w pracuj╣cych optycznie, istnieje ca│a hierarchia wstΩpuj╣ca i cz│ek taki zarazem "widzi" i "nie widzi", gdy┐ "w nim" widzi system ni┐szy, bodaj gdzie£ przy CORPORA QUADRIGEMINA, o czym on sam nie wie w tym┐e sensie, w jakim nic nie wiemy o pracy naszych nerek, aczkolwiek 24 godziny na dobΩ bezustannie pracuj╣. |
| 7 | áááááááááZnane jest powszechnie zjawisko "roztargnienia", kt≤re s│usznie czy nies│usznie przypisywane jest nie tylko osobom w starszym wieku ale i uczonym, a zw│aszcza my£licielom zafascynowanym jak╣£ medytacj╣. Cz│owiek taki mo┐e dokonywaµ rozmaitych czynno£ci niejako automatycznie, czyli bez£wiadomie. Te czynno£ci mog╣, ale nie musz╣ byµ jako£ celowe lub bezsensowne (np. wk│adam znoszon╣ koszulΩ do lod≤wki miast do pralki). U£wiadomione post factum czΩsto budz╣ niejak╣ weso│o£µ. Roztargniona mo┐e byµ tylko istota opatrzona inteligencj╣! Nie ma "roztargnionych" much ani pszcz≤│. Wynika to zapewne z wy┐szej z│o┐ono£ci inteligentnych umys│≤w, ale z drugiej strony nie ma szczeg≤lnie g│upich mr≤wek albo karaluch≤w, natomiast od g│upich ludzi wprost siΩ roi. Naprasza siΩ przez to s│aba nadzieja, i┐ zanim zdo│amy skonstruowaµ sztuczn╣ inteligencjΩ, uda siΩ nam po wielkich trudach sporz╣dziµ system obdarzony znaczn╣ g│upot╣, ale pewien tego wcale nie jestem... Nota bene jako dywagacjΩ kolejn╣ dodam, i┐ mam siΩ za do£µ inteligentnego cz│owieka, wyzbytego umiejΩtno£ci gry w szachy w du┐ym stopniu, aczkolwiek regu│y zawiaduj╣ce ow╣ gr╣ oczywi£cie znam. "Roztargnienie" polega po prostu na tym, ┐e pewna, zazwyczaj znana i wykonywana czynno£µ ulega automatyzacji na poziomie nie£wiadomo£ci i ┐e ponadto jej efektywne, tj. realne wykonanie NIE zostaje wprowadzone jako zasz│y fakt ani do pamiΩci chwilowej, ani do trwa│ej. S╣ poszlaki, ┐e £ladowo i taka czynno£µ mo┐e byµ jednak zafiksowana i ┐e w okoliczno£ciach szczeg≤lnego wysi│ku pamiΩci i/albo pod wp│ywem "pomocy", udzielonej np. przez hipnotyzera, dochodzi do uzmys│owienia, i┐ ow╣ czynno£µ siΩ przecie┐ wykona│o. (Hipnotyzer nie jest nota bene wcale konieczny: mo┐e wystarczyµ £wiadectwo obserwatora, jako innej osoby.) |
| 8 | áááááááááJedynie z pozoru wygl╣da powy┐sze na zwyczajne gadulstwo, gdy w istocie wskazuje, jak niezmiernie odleg│y jest ROZUM od INTELIGENCJI, oboje za£ zdaje siΩ dzisiaj wci╣┐ jaka£ przepa£µ dzieliµ od maszynowej symulacji. S╣dzΩ osobi£cie, i┐ jest to stan PRZEJîCIOWY. Niemo┐liwe jest to, czego zakazuj╣ nauki £cis│e. One jednak NIE zakazuj╣ sztucznego rozumu. |
| 9 | áááááááááWygl╣da mi na to - ale nie jestem w stanie podeprzeµ tego, co powiem, ┐adnym zniewalaj╣cym argumentem ani choµby jego cieniem - ┐e na koniec bΩdzie pierwej mo┐liwe uruchomienie SZTUCZNEJ INTELIGENCJI ani┐eli SZTUCZNEGO ROZUMU. My£lΩ tak, poniewa┐ inteligencja wydaje mi siΩ bardziej BEZOSOBOWA, to jest, pozbawiona znamion osobowo£ci, ani┐eli ROZUM. Bodaj┐e pierwszym matematykiem, kt≤ry potrafi│ skutecznie i rzeczywi£cie korzystaµ w pracy tw≤rczej z komputera, by│ Stanis│aw Ulam. (Nie wiem, czy zosta│a wydana po polsku jego ksi╣┐ka w tym temacie napisana: czyta│em j╣ po rosyjsku.) Ot≤┐ ┐ycia emocjonalnego jest komputer wyzbyty ca│kowicie, a jednak to w robocie matematycznej nie przeszkadza. (Dodam, ┐e wybitny psycholog niemiecki, Dietrich DÜrner, ponad rok temu opisywa│ sw≤j komputerowy program, kt≤ry mia│ byµ emocjotw≤rczy, "afektywny efektywnie", lecz wywody opublikowane przez DÜrnera nie przekona│y mnie, a co gorsza, nigdzie w prasie naukowej s│owa o takim dokonaniu nie odnalaz│em.) Jest rzecz╣ znan╣ i bynajmniej nie wyj╣tkow╣ to, ┐e najrozmaitsze, tj. z odleg│ych od siebie dziedzin my£li tw≤rczej wywodzone osi╣gniΩcia zostawa│y niejako "podpowiedziane" £wiadomo£ci przez poza£wiadomo£µ, kt≤r╣ MO»NA BY uto┐samiaµ ze skutkami dzia│ania intuicji. Naukowcem nie bΩd╣c, we w│asnej, pisarskiej dziedzinie rzec mogΩ tylko tyle: kilka moich powie£ci nie by│o w ich ca│o£ciowej fabule napisane przeze mnie w tym sensie, i┐bym cokolwiek sobie planowa│, obmy£la│, schematyzowa│, albo chocia┐ PRZEWIDYWAú, CO MI siΩ w│a£ciwie napisze. WiΩc sk╣d siΩ "TO" bra│o? Odpowiedzieµ wprost sposobem narzuconym przez pewno£µ, i┐ by│o tak a tak, nie mogΩ, poniewa┐ sam nie wiem i zdany jestem tutaj wy│╣cznie na domniemania (koniektury), ┐e to, co "siΩ" pisa│o, wynika│o spoza mojej £wiadomo£ci, dostawa│o siΩ, rzecz jasna, w pole £wiadomo£ci, boµ nie pisa│em jak w hipnozie czy w stanie hipnagogicznym, ale "ca│kiem zwyczajnie" widz╣c, co piszΩ, a zarazem nie maj╣c pojΩcia, "co bΩdzie", "co zajdzie", tj. CO jeszcze napiszΩ. A zatem tylko w bardzo relatywny (wzglΩdny) spos≤b mo┐na £wiadomo£µ uznaµ za szczytuj╣c╣ zwierzchno£µ prac umys│owych. Nota bene komputer w TEJ mierze nie jest zn≤w TAK odmienny od pracuj╣cego m≤zgu, jak by siΩ prima facie mog│o wydawaµ, poniewa┐ i on, wykonuj╣c rozkazy (komendy) programu, nie potrafi│by "z g≤ry" wydrukowaµ, jaki bΩdzie fina│ roboty: "co z tego programu" (symulacyjnego dajmy na to...) wyniknie. WiΩc miΩdzy nim a nami pojawiaj╣ siΩ funkcjonalne "punkty styczne" i to, ┐e tak w│a£nie bywa, napawa mnie niejakim optymizmem (co do AI) na przysz│o£µ. Lecz potem, to jest po TAKIM osi╣gniΩciu dopiero mo┐e siΩ okazaµ, ┐e do "sztucznego rozumu" droga jeszcze daleka. Co zn≤w wi╣┐e siΩ z moj╣ uwag╣, ┐e inteligencja inteligencj╣, a ludzi g│upich od inteligentnych jest statystycznie wiΩcej, za£ rozumnych zgo│a niewiele... |
Pisa│em w maju 1997
| sssdasd |