Stanisław Lem
Język Modelowania Wirtualnej Rzeczywistości
ARTIFICIAL SERVILITY

 

1          Co to znaczy - "Artificial servility"? Takiego słowotworu nie było, dopóki go niniejszym nie urobiłem. Jest to, w literalnym tłumaczeniu, "sztuczne niewolnictwo", a dotyczy WSZYSTKIEGO, co potrafią obecnie tak rozpowszechniające się na całym świecie elektroniczne urządzenia do przetwarzania, uruchamiania, przechowywania i last but not least do przekazywania informacji. Dlaczego "niewolnictwo"? Dlatego, ponieważ w całym owym przemyśle (przynoszącym różnym Microsoftom MILIARDY), w całym tłumie komputerowym, we wszystkich generacjach hardware i software, modemach, prowiderach, serwerach nie ma ani śladu rozumu. Nie ma ani krzty inteligencji. Pracują tak, jak niewolnicy: na nasz rozkaz. Potrafią prowadzić do rajów "płciowej rozkoszy" i do "tarpejskiego piekła". Bredni ("junk mail") nie odróżniają od informacji nawet tak niesłychanie doniosłej, jak np. równanie E(mc2. Jest im zresztą "wszystko jedno" w stopniu nieporównywalnym z rozmiarami takiego posłusznego zniewolenia, do jakiego można by ewentualnie doprowadzić nie to, że człowieka, ale byle zwierzę, wyuczone reagowania wedle reguły odruchów warunkowych, a nawet bezwarunkowych (gdyż istnieją i te ostatnie).

 

2          Może ktoś powie tutaj: "No to co? Czy takie bezgraniczne poddaństwo naszym potrzebom (zwiedzenia Kordoby lub zapoznania się z rozszyfrowana porcją pisma węzełkowego "kipu"), tak niczym nieograniczony posłuch, jaki wszystkie komputery, ich łącza, ich sieci i modemy i drukarki i systemy przekazywania "poczty elektronicznej" (e-mail) jest ZŁY? Czyż nie mamy z tego ogromnego pożytku, nie tylko i nie przede wszystkim widomego w tym, że PRZEMYSŁOWI PRZETWARZANIA I PRZEMYSŁU INFORMACJI JAKIEJKOLWIEK przynoszą wielkie zyski, ale w tym, że pomagają nam w zbieraniu, w porządkowaniu, w pisaniu czy drukowaniu czy wizualizowaniu wszystkiego, co informacją być może i że są niezawodne - dopóki jakiś człowiek inspirowany złośliwością typowo ludzką nie pocznie nasyłać na ów ogólnoświatowy ŁAD "jadowitych" wirusów, jako mikroprogramów, zdolnych do destrukcji danych, do zrujnowania, "wyczyszczenia informatycznego" wszystkich danych na twardych dyskach, albo od razu (jak pocisk trafiający w cel) albo z dowolnie zaplanowanym i ustalonym opóźnieniem (jak ładunek z detonatorem nastawionym na "właściwy moment")? Zło czynią ludzie ludziom, więc mogą również, a często lubią nie tylko bomby wybuchające, lecz i "bomby logiczne" ("logic bomb") wysyłać albo podkładać, adresowo lub bezadresowo. Natomiast "same w sobie" elektroniczne przetworniki, elektroniczne rozruszniki, elektroniczne MEDIA nie mogą N I C. Nie mogą do tego stopnia "NIC", że zwyczajna kura domowa, nawet ślepa, której "niekiedy trafi się ziarno", jest wobec komputera ostatniej generacji Einsteinem. Spróbujcie dostrzec tę różnicę, zamierzając się raz na kurę, a raz na komputer, młotkiem. Komputer nie drgnie, aż go zmiażdżycie, natomiast kura przynajmniej spróbuje uciec. Myśmy się do tego niewolniczego posłuchu już tak przyzwyczaili, już tak nawykli do nieomylności komputerowo-sieciowej (oprócz "zagwożdżeń", "korków" wywołanych jedynie takim nadmiarem informacji, który przesyłową pojemność elektronicznych połączeń przekracza), że nadal uważamy ów stan rzeczy za normalny, pożądany i oczywisty... z jednym, ale za to olbrzymim wyjątkiem. Mianowicie kiedy spostrzegamy, że nie istnieje skrzesana przez nas "ARTIFICIAL INTELLIGENCE", że od pięćdziesięciu lat inżynieria łączności i "data processing" mozoli się nad problemem AI i że niczego dotąd pożytecznego nie stworzyła. Poza szalenie prymitywnymi aktami działania programów, które potrafią rozróżniać (na przykład) różne bryły geometryczne, różne barwy, które mogą też (ale znów BEZ WŁASNEJ inicjatywy) obiektami rozmaitymi poruszać i ustawiać je (tak, jak MY chcemy). To nie jest, rzecz jasna, żadna inteligencja. Nie tylko nie jest to inteligencja ludzka, lecz choćby i psia. Powie ktoś: ale mamy przecież zbiorniki wiedzy, programy ekspertowe, mamy zbiory selekcji danych, pozwalające na przykład geologom odnajdywać miejsca, w których pod ziemią powinna się znajdować ropa naftowa, albo zbiory wyboru danych (badań także dodatkowych), pozwalające iść drogą heurystycznych alternatywnych rozdrzewień, ażeby POSTAWIĆ CHOREMU diagnozę, ażeby WSKAZAĆ OPTYMALNĄ terapię i tak dalej. Mamy całe systemy zdolne do sterowania i dyrygowania np. budową aut lub rakiet (albo bomb...) za pomocą "robotów produkcyjnych". Ależ mamy to i to się dalej posuwa, lecz gdzież w tym ruchu postępowym może się pojawić ślad rozumności, inteligentnej inspiracji, "natchnienia twórczego"? Nauczyliśmy się już dość, żeby go wymijać i żeby go zastępować, można wszak uruchamiać programy symulacyjne i programy optymalizujące, i programy wytwarzające "wirtualną rzeczywistość", ale niestety wszystko to są efekty NASZYCH wymijań "INTELIGENCJI" i "IMAGINACJI" twórczej, to są substytuty. Jest to podobne do "inteligencji" układu trawiennego, który najpierw "pożera żywność" i ją "łyka", "trawi", a w ten "inteligentny" sposób zyskuje DLA ORGANIZMU energię i związki chemiczne, dla podtrzymania ŻYCIA niezbędne, zaś cała zdewaluowana energetycznie i chemicznie "reszta" zostaje wydalona jako ekskrement. Tak, coś podobnego wykonywać martwe urządzenia w świecie elektroniki zniewolonej przez ludzką zmyślność już umieją, ale przecież nikt nie uważa, iż spożycie i przetrawienie kotleta TO jest dowodliwe wykazanie inteligencji zębów, śliny, żołądka i kiszek.

 

3          Jedyna odpowiedź na tak ukazaną nieobecność inteligencji przemieszczonej z mózgów żywych na maszyny, na brak chociażby śladu uduchowienia maszyn (nie "Deus ex machina", lecz przynajmniej chociaż "ANIMUS EX MACHINA") brzmi następująco.

NIE MA JEDNEGO JEDYNEGO ROZUMU. Nie ma też jednej postaci inteligencji. Jeżeli zostanie stworzona "Artificial Intelligence", a nie jej jakaś namiastka, inteligencję mniej lub bardziej zręcznie imitująca, to już TYM SAMYM, chcąc nie chcąc, ludzie jako konstruktorzy AI wkroczą w królestwo r ó ż n o r o d n o ś c i. Inteligentny system będzie posłuszny - albo nie zechce być posłuszny, PONIEWAŻ ROZUMIE nakazy, prośby, sugestie, żądania i może usłuchać albo się sprzeciwić. Jeżeli ZAWSZE będzie WSZYSTKIEGO gotów słuchać to TYM SAMYM zademonstruje, ze jest BEZWOLNY i że "nie może mieć własnego zdania". To, że TE SAME TEKSTY naukowe, artystyczne, literackie (itd.) różni ludzie rozmaicie wykształceni, uzdolnieni, ale przecież nie skończeni idioci (o tych nie mówię tu wcale) potrafią rozmaicie streścić, wyinterpretować, PO SWOJEMU uznać za doniosłe lub za płytkie, wzruszyć się nimi albo oburzyć, czuć zgorszenie lub przynajmniej obojętność albo zachwyt, to wszystko co wymieniłem i czego dla oszczędności eseju nie wymienię, pokazuje wielość realną odmian rozumności, jaką za obecną właśnie jesteśmy skłonni uznać. Jeśliby tak nie było, to by nie mogły powstać historycznie, czyli diachronicznie i współcześnie, czyli synchronicznie, rozmaite style myślenia w religiach, w filozofii, a last but not least nawet w inżynieryjno-produkcyjnym wytwarzaniu zabójczych BRONI - albo ratowniczych lekarstw i metod terapeutycznych. Bo np. ŻADEN program spośród wszystkich istniejących (TERAZ) ekspertowych NOWEJ terapii dowolnego schorzenia dla nas NIE wymyśli, albowiem programy nie myślą ani trochę, a gdyby zaczęły myśleć, to by MUSIAŁY myśleć rozmaicie. Inaczej to samo mówiąc: stworzyć inteligencję sztuczną to znaczy stworzyć obszar w o l n o ś c i także i kreacyjnej. Tak zwana "performatywność lingwistyczna" znaczy tyle: żaden człowiek, który jest zdolny do posługiwania się językiem (rozumienia go oraz mówienia w nim) wcale nie musi, a nawet nie może w idealnie tożsamy sposób artykułować myśli, jakie powstają w jego mózgu. Na tak małą skalę "performatywność" znaczy p[o prostu, że mówimy w miarę swobodnie, a nie tylko recytujemy wyłącznie to, czegośmy się na pamięć wyuczyli. Na pamięć mówi płyta gramofonowa albo taśma magnetofonu albo dyskietka. My możemy "koryto biegu językowego myśli, słowami wykładanej" zmieniać. Im lepiej ktoś zna dany język, tym większą może w jego wypowiedziach swobodą odmienności artykulacyjnej dysponować, a w obcym języku jesteśmy silniej ograniczeni. Do czego tym niby rozwlekłym gadaniem zmierzam? Ano do tego, że wykrzesawszy z martwych urządzeń inteligencję, znaleźlibyśmy się w obliczu wielu kłopotów. O kilku wspomnę.

 

4          Obecnie układom przesyłu danych brakuje autokontroli. Modemom jest wszystko jedno, czy przekazują na świat cały sieciowy obrazy świętych, czy obrazy gołych zadków, czy formuł produkowania środków wybuchowych. Jest IM wszystko, jedno i nad tym OBECNIE się biedzimy, ponieważ ludzie mają niemiły zwyczaj gustowania w owocach albo tylko zakazanych przez ich nieobyczajność, albo szkodliwych aż do zabójczości. Lecz proszę zważyć: jeśli się pojawi w sieciach lotna "sztuczna inteligencja", to TYM SAMYM pojawi się umiejętność FILTROWANIA, HAMOWANIA, ODSIEWU i ANIHILACJI informacji, ponieważ inteligencja, która jest z rozumnością silnie spokrewniona, MOŻE a nawet MUSI być też zdolna do ustanowienia cenzury. Do stawiania zapór biegowi PEWNYCH TYP"W INFORMACJI. I oto pokaże się, że jest wiele różnych inteligencji i że TYM SAMYM różne państwa, różne ustroje, różne wiary, różne światopoglądy, różne zapatrywania zaczną dysponować umiejętnością "wygaszania czy unicestwiania" TAKICH informacji, jakie okładają tabuizacją. Jakich przepływu ani docierania do tych czy innych adresatów sobie nie życzą. Obecnie, ażeby nie narażać dzieci (na przykład) na możliwość oglądania obrazów, przesyłanych elektronicznie (np. w TV) tata czy mama mogą nałożyć "kaganiec elektroniczny" na telewizor, wedle tego, czego ONI /tata z mamą / dowiedzą się o mającym się pojawić programie. Jeżeli tej "przystawki" nie nałożą, to żadnej "cenzury antyobscenicznej" sam z siebie telewizor nie wytworzy. Więc ostatecznie "cenzurują" obrazy lub teksty tata z mamą albo wujek z ciotką albo wychowawca, a nie maszyneria elektroniczna. Elektronów nie zgorszycie NICZYM. Natomiast sztuczna inteligencja MUSI, a nie tylko MOŻE wykazywać a k t y w n o ś ć i wybiórczość. Można ją zdeprawować, można jej to albo owo wyperswadować, można ją zdezorientować, oszukać, otumanić, albo pouczyć i wyjaśnić jej cokolwiek. Fundamentalizmy niezmiernie by się ucieszyły, gdyby zawładnęły AI! Już by nie trzeba było jak w IRANIE po prostu zakazywać ustawiania misek i odbiorników satelitarnych... Nie tak dawny jest czas przeszły, w którym Sowiety uznały powstanie globalnie działających satelitarnych transponderów za zagrożenie typu CASUS BELLI. Nie wymyśliłem sobie tego dla niniejszych roztrząsań. Już nie ma Sowietów i jeszcze nie ma sztucznej inteligencji, ale zapewniam czytelników, iż razem z jej pojawieniem się nastanie nowa era, najeżona nowymi, nieznanymi dotąd niebezpieczeństwami. NIE WSZYSTKICH ZACHWYCA idea GLOBALNYCH ODMIAN CENZURY. Poza tem sztuczna inteligencja nie powiadam, że nas za łeb może wziąć, ale łudzić, oszukiwać, na manowce prowadzić potrafiłaby. To - po pierwsze. Po wtóre, jak nie ma jednakowego u wszystkich ludzi rozumu, tak nie może być jednakowej aż do tożsamości inteligencji. Jak istnieją silniki różnej mocy, tak też różnej mocy być mogą sztuczne inteligencje. Nie zacznie się to od budowy maszynowych Einsteinów od razu ani - jak w moim utworze - "Golemów". Może powstaną różne rodzaje inteligencji, osadzonej na rozmaitych odmianach "charakterów". Osobiście uważam, że "rozumność" i "osobowość" to są byty POTENCJALNIE rozłączone. Ale taka potencjalna rozłączność też nie może obradzać dobrem i tylko dobrem DLA NAS.

 

5          Pragnę zauważyć, że jestem wciąż bardzo daleki od prymitywnych mitopodobnych bajań o "inteligencji antyludzkiej", "złośliwej", o takiej, co będzie "roboty" natychała intencjami ludobójczymi albo buntowniczymi. Nie trzeba od razu widzieć wszystkiego w takich skrajnościach, jakie najłatwiej umiemy sobie wyobrazić. Inteligencje sztuczne m o g ą nam przynieść i pożytek, i szkody, PONIEWAŻ TAKI BYŁ I POZOSTAŁ los prospektywny KAŻDEJ technologicznej innowacji, jaką potrafili ludzie wykoncypować i uruchomić.

Osobiście dodam już tylko na marginesie (ale jednak powiązanym z głównym nurtem mojego wywodu), że obserwujemy dzisiaj na świecie jednoczesny wzrost sprawności czysto technologicznych, silnie skorelowany z postępami uwiądu wyobraźni twórczo-swobodnej. To się spostrzega na przykład w telewizji ale i w sztukach plastycznych. Niedawno zobaczyłem w (satelitarnej) telewizji jakieś zwęglone szczątki ludzkich ciał, ale to nie były żadne ofiary pożaru czy ludobójstw, lecz "dzieła nowożytnej sztuki", jak się zaraz z głośnika dowiedziałem. Modna jest też zwizualizowana SCIENCE FICTION, ale niestety ubóstwo wyobraźni twórców kontrastuje strasznie z bogactwem oprzyrządowania techniczno-wizualnego. Z inteligencją pozatechnologiczną i pozascjentystyczną jest bardzo, bardzo źle. Ja sam pisałem niegdyś S-F i starałem się minimalizować łamanie podstawowych a nam znanych dobrze praw natury. Nie pisze się, że niewiasta w małżeńskim stanie składa jaja a jej mąż je wysiaduje. Natomiast w INDEPENDENCE DAY zostaje podeptana i stratowana dla dobra kasy filmowców kolosalna ilość praw natury. Większość zajść w tym filmie sprzeciwia się wielu oczywistościom. Na przykład olbrzymie statki "extraterrestials" nie mogą zawisnąć nad Manhattanem dlatego, bo przy takim zbliżeniu do Ziemi przekroczona zostaje tak zwana granica RocheŐa, co oznacza rozerwanie każdego sporego ciała przez grawitacyjne pływy globu ziemskiego. Już nie warto dodawać, że o żadnej "kompatybilności" komputerów z innej planety, pozaziemskiego gwiazdozbioru, z komputerami ziemskimi, przejściowo nowej generacji nie może być mowy. Już prędzej mogę uznać za prawdopodobne rozmowy z krową lub żyrafą bez pośrednictwa jakichś komputerów. Jak się mówi potocznie, filmowcy robią nam wodę z mózgów. A wspomniałem o tym dlatego, ponieważ inteligencja ludzka powstała PO TO, ażebyśmy mogli poznawać P R A W D Ę, co zresztą oznaczało tym samym w sposób konieczny, że może też inteligencja popadać w błąd, że może KŁAMAĆ, że może być oszukiwana: inaczej się tego (jej) nie da sporządzić. Inteligencja jest tworem (bytem) powstającym w naturalnej ewolucji i wspinającym się po szczeblach "drabiny postępu" (na Ziemi) aż po poziom językotwórczy a TYM SAMYM zdolny i matematykę zrodzić. Wtedy powstają rozróżnienia opozycyjne między prawdą i fałszem, powstaje logika, powstaje królestwo nowej, ponadzwierzęcej wolności i ponadzwierzęcych przesądów, zabobonów, mitów, bredni, z astrologią i SCIENTOLOGY czy innym sekciarstwem na czele. Na wyższe ilorazy inteligencji można nawodzić także genami i można od nich odwodzić - aż po tak zwany kretynizm umysłowy, aż do skończonych idiotów. To są poboczne efekty powstawania inteligencji i nie myślę, że komputerowa nieomylność może jako nieodjemna właściwość towarzyszyć również SZTUCZNEJ INTELIGENCJI. Świat może istnieć sobie bez żadnej w ogóle inteligencji, czy to naturalnej czy sztucznej. Natomiast należy sobie porządnie uświadamiać, iż owo nadzwyczajne bogactwo bardzo rozmaitych i coraz to nowszych reklamowanych i najszerszej publiczności proponowanych oprzyrządowań serwerowo-prowiderowo-komputerowo-programowo-dyskowych jest przede wszystkim pomnażane i napędzane w nieustającym ruchu lawinowym pogonią za zyskiem, powstającym dzięki sprzedaży tego, co jeszcze dziś prezentowane jako najdoskonalsze, jutro zostaje zastąpione przez coś nowego i jakoby lepszego. Stąd np. także postępująca mikrominiaturyzacja i nanizacyjny trend w dziedzinie procesorów. Ale NIE chcę być techniczny. Owszem: pęd za zyskiem jest wywołany potrzebą uzyskiwania materialnych korzyści. Lecz inteligencja ludzka wciąż nie TWORZY inteligencji pozaludzkiej ("nieludzkiej" już by źle nam zabrzmiało). Inteligencja, intelekt, rozum, zmyślność mądrość są to byty, potencjalnie znakomite i zarazem niebezpieczne. Aż tyle i tylko tyle chciałem powiedzieć.

Pisałem w listopadzie 96

sssdasdBackUp