J.R.

Searle (Z Umys, Myl i Nauka)

Czy komputery mog myle?

W poprzednim rozdziale przedstawiem, przynajmniej w zarysie, rozwizanie tzw. problemu psychofizycznego. Cho nie znamy szczegw dotyczcych zasad dziaania mzgu, wiemy jednak dostatecznie wiele, by mie oglny obraz stosunkw pomidzy procesami mzgowymi i procesami psychicznymi (umysowymi). Procesy umysowe s skutkiem dziaania elementw mzgu. Jednoczenie realizowane s w strukturze zbudowanej z tych wanie elementw. Myl, e to rozwizanie problemu zgodne jest ze standardowym podejciem do zjawisk biologicznych. Niewtpliwie, oparty na naszej znajomoci zjawisk w wiecie, zdroworozsdkowy sposb rozwizania problemu. Jednak jest to rwnie punkt widzenia zdecydowanej mniejszoci. W filozofii, psychologii i teorii sztucznej inteligencji przewaa stanowisko podkrelajce analogie pomidzy dziaaniem ludzkiego mzgu i cyfrowego komputera. Zgodnie ze skrajn wersj tego stanowiska, mzg jest rodzajem komputera, za umys rodzajem komputerowego programu. Mona ten pogld streci okrelam go mianem silnego podejcia w teorii sztucznej inteligencji" lub siln SI (w jzyku angielskim AD" mwic, e umys jest tym dla mzgu, czym program dla komputera. 25

Konsekwencj takiego pogldu jest uznanie, i nie ma niczego zasadniczo biologicznego w ludzkim umyle. Mzg staje si tu jedn z mnstwa maszyn liczcych, w ktrych mog by realizowane programy stwarzajce ludzk inteligencj. Z tego punktu widzenia, kady system fizyczny odpowiednio zaprogramowany, majcy odpowiednie wejcia i wyjcia, bdzie obdarzony umysem dokadnie takim samym jak umys Czytelnika i mj umys. Zatem, jeli zrobilibymy komputer ze starych puszek po piwie, napdzanych wiatrakami, jeli zaprogramowalibymy go odpowiednio, byby on obdarzony umysem. Problem nie polega na tym, e w wietle naszej wiedzy taki system mgby myle i odczuwa, raczej na tym, e musiaby on myle i czu, gdy jedynym warunkiem mylenia i odczuwania jest zainstalowanie odpowiedniego programu. Wikszo zwolennikw tego stanowiska sdzi, e nie stworzylimy jeszcze programw bdcych umysami. Panuje jednak midzy nimi zgoda, e jest to tylko kwestia czasu, a do chwili, gdy specjalici od maszyn cyfrowych i sztucznej inteligencji stworz odpowiednie urzdzenia hardware'owe" i programy, ktre bd ekwiwalentami ludzkich mzgw i umysw. Wtedy powstan sztuczne mzgi i umysy cakowicie porwnywalne z ludzkimi mzgami i umysami. Ludzie nie zwizani z badaniami w dziedzinie sztucznej inteligencji s zdumieni, odkrywajc, e ktokolwiek moe reprezentowa tego typu stanowisko. Przeto, zanim poddam je krytyce, pozwol sobie przytoczy kilka przykadw niedawnych wypowiedzi ludzi pracujcych w tej dziedzinie. Herbert Simon z Uniwersytetu Carnegie-Mellon twierdzi, e maszyny cyfrowe ju myl w sensie dosownym. Nie trzeba czeka na stworzenie w przyszoci mylcych maszyn, gdy istniejce komputery cyfrowe ju obdarzone s, rwnowan mojej lub Czytelnika, zdolnoci mylenia. Nie do uwierzenia! Przez wieki filozofowie zastanawiali si czy maszyny mog, czy nie mog myle i nagle odkrywamy, e mamy mylce maszyny w Carnegie-Mellon. Kolega Simona Alan Newell utrzymuje, e odkrylimy wanie (zwracam uwag, e Newell mwi ,,odkrylimy", a nie hipotetycznie zaoylimy", czy dopuszczamy moliwo"), i inteligencja jest niczym innym ja k manipulowaniem symbolami przez systemy fizyczne; nie ma adnej koniecznoci jej zwizku z jakim szczeglnym rodzajem biologicznej lub fizycznej struktury. Kady system, mogcy w odpowiedni sposb manipulowa fizycznie ucielenionymi symbolami, jest ob26

darzony zdolnociami intelektualnymi, bdcymi tym samym, czym . ludzka inteligencja. Zarwno Simon, ja k Newell w dobrej wie podkrelaj, e nie ma nic metaforycznego w powyszym sformuowaniu, e trzeba rozumie je dosownie. Cytuje si Kreemana Dysonn, ktry mia stwierdzi, e komputery maj nad nami przewag z ewolucyjnego punktu widzenia. Jeli wiadomo jest jedynie elektem dziaania pewnych programw, w przypadku komputerw programy te realizowane s w urzdzeniach majcych, w podlegajcym ent r op ii wiecie, wicej szans na przetrwanie ni istoty, takie jak my, zbudowane z wilgotnych i nietrwaych substancji. Marvin Minsky z. Massachtisetts Institute of Technology twierdzi, e nastpna generacja komputerw ma by tak inteligentna, e bdziemy szczliwi, jeli maszyny zechc zatrzyma nas w domach w charakterze domowych zwierztek". Cigle moim ulubionym przykadem przesady w pogldach na temat maszyn cyfrowych pozostaje twierdzenie Johna McCarthy'ego, twrcy t er minu sztuczna inteligencja". McCarthy twierdzi, e nawet o urzdzeniach tak prostych, ju k termostaty, moemy powiedzie, e maj przekonania", l oczywicie, wedug niego, o kadej maszynie zdolnej rozwizywa problemy mona powiedzie, e ma ona jakie mniemania. Podziwiam miao McCarthy'ego. Zapytaem go kiedy: .takie przekonania ma twj termostat?". Odpowiedzia: ,.Mj t er mostat ma trzy sdy tu jest zbyt gorco, tu jest zbyt zimno, t emp er atur a jest odpowiednia". Jako filozofowi, pogldy te podobaj mi si z bar dzo prostych powodw. Inaczej ni wikszo filozoficznych twierdze s one jasne i pozwalaj na prost i zdecydowan ich falsyfikacie. Rozdzia ten powicony jest wanie ich falsyfikacji. Istota falsyfikacji tych pogldw jest niezalena od tego lub innego stanu rozwoju technologii maszyn cyfrowych. Naley to podkr eli, gdy zwykle istnieje pokusa, by na rozwizanie problemu poczeka, a pojawi si jaki nie stworzony dotd technologiczny cud. J edna ke istotne punkty naszej falsyfikacji nie maj zwizku z jakimkolwiek etapem rozwoju technologicznego. Maj natomiast zwizek z definicja komputera cyfrowego oraz z tym, czym jest komputer. W idei komputera cyfrowego istotne jest to, e jego operacje mog by scharakteryzowane czysto formalnie, to znaczy, e moemy opisa jego dziaanie, kr ok po kroku, za pomoc abstrakcyjnych symboli, na przykad sekwencji zer i jedynek wydrukowanych na tamie. Zasady" dziaania maszyny cyfrowej decyduj o tym, e jeli maszyna jest

w okrelonym stanie, a na tamie zapisany jest okrelony symbol, wtedy maszyna wykona pewn operacje, t a k j a k wymazanie symbolu l u b wydr ukowa ni e innego, i wejdzie w stan nastpny, przesuwajc tam o jedno pole w lewo. Symbole tego typu nie maj znaczenia semantycznego, ni e odnosz si do niczego. Mog one by scharakteryzowane czysto formalnie, ze wzgldu na ich zwizki syntaktyczne. Zera i jedynki s po prostu cyframi i nie musz nawet oznacza liczb. Oczywicie dziki maszynom cyfrowym nabieraj swojej mocy. To samo elektroniczne urzdzenie (//C//Y/IIY//T), jeli jest odpowiednio skonstruowane, moe by u yte do zrealizowa nia nieokrelonej liczby programw. Za ten sa m progra m moe by wyko na ny przez wiele typw maszyn. Przyjcie tezy. e programy mona opisywa czysto formalnie l ub syntaktycznie. ma zgubne skutki dla pogldu, e proces umysowy i proces wykonywa nia jakiego programu s czym identycznym. atwo mona wykaza, dlaczego ta k jest. Mie umys, to co wicej ni realizowa formalne czy syntaktyczne operacje. Nasze stany umysowe, na mocy definicji, ma ja zawsze jak tre. Jeli myl o Kansas City, yczybym sobie wypi szklank zimnego piwa. bd zastanawiam si. czy bdzie spadek notowa giedowych, w kadym wypadku mj stan umysowy, niezalenie od lego, j a ki e for ma l ne waciwoci mu przypiszemy, ma ja ki e psychiczne treci. To znaczy, nawet jeli moje myli s cigiem symboli, musi by w myleniu co wicej ni abstrakcyjne symbole, gdy cigi symboli same w sobie nie maja adnego znaczenia. Jeeli myl jest zawsze myl o czym, przeto da ny cig symboli musi mie jakie znaczenie, by sia si mysia. Mwic krtko, umys ma co wicej ni syntaktyk, ma se ma nt yk . Powd, dla ktrego komputerowy program nie moe by umysem, jest prosty, komputerowy program ma cechy syntaktyczne, umysy ma j co wicej ni synta ktyka. Umysy s semantyczne w tym sensie, e poza strukt ur formaln maj jeszcze jakie treci. By zilustrowa t tez, proponuj rozwaenie nastpujcego obmylonego przeze mni e eksperymentu mylowego. Wyobramy sobie, e zesp programistw napisa program, ktry jest w stanie symulowa rozumienie jzyka chiskiego. Zatem, na przykad, jeli komputerowi zadaje si pytanie w tym jzyku, moe porwna je ze swoj pa mici l u b b a z da nyc h i wyprodukowa w jzyku c hi s ki m odpowied na zadane pyta ni e . Zamy, dla celw dyskusji, e odpowiedzi te s ta k dobre j a k odpowiedzi osoby, ktrej ojczystym jzykiem jest jzyk c h i s k i . Czy w t a k i e j sytuacji komputer rozumie jzyk chiski, czy

rozumie go dokadnie tak, j a k uytkownicy jzyka chiskiego rozumiej swj ojczysty jzyk? Wyobramy sobie teraz, e kto z nas jest z a mkni t y w p o k o ju , i e w p o k o j u t y m jest szereg koszy w y pe nion y ch z n a k a m i z jzyka chiskiego. Zamy, e osoba ta , pod obnie j a k a u t o r mylowego eksperymentu, nie zna jzyka c h is k ie g o , o t rz y m a a j e d n a k n a p is a n w jej ojczystym jzyku ksik regu m a n i p u l o w a n ia z n a k a m i jzyka chiskiego. Reguy te opisuj uywanie symboli w sposb czysto formalny, opisuj manipulowanie nimi w sposb syntaktyczny, nie semantyczny. Mog mie posta: Wybierz ten znak z podwjnym z a krta se m z kosza numer jeden i po go za z n a ki e m z dwoma zawijasami z kosza numer dwa". P r z yj mi j my teraz, e w pok oj u poja wia j si ja kie nowe symbole, a osoba w ni m siedzca otrzymuje instrukcje, ja kie chiskie symbole ma wysa z pokoju w odpowiedzi na te, ktre si pojawiy. Zamy, e siedzcy w pokoju nie wie, i wysyane przez ludzi z zewntrz do pokoju symbole nazywane s przez nic h pyta nia mi, za symbole, ktre siedzcy w pokoju wysya na zewntrz, nazywane s odpowiedziami na pyta nia . Przyjmijmy poza t y m , e programici na pisa li na tyle dobry program, za siedz ca w p o k o j u osoba jest do tego stopnia dobra w ma nipulowa niu symbola mi, e je j odpowiedzi s nieodrnialne od odpowiedzi osoby faktycznie z naj cej jzyk chiski. Zatem jaka osoba zamknita jest w pokoj u, w ktrym wybiera symbole chiskie i wysya je w odpowiedzi na inne poja wia j ce si w pokoju chiskie symbole. W sytuacji, j a k tu opisa e m, nie ma moliwoci, by w wyniku takiej ma nipulacji formalnie zdefiniowanymi symbolami nauczy si jzyka chiskiego. Meritum mojego mylowego eksperymentu jest nastpujce: realizuj c taki formalny komputerowy program, z p u n k t u wi dz e nia obserwatora z zewntrz, zachowujemy si dokadnie ta k, ja k bymy rozumieli jzyk chiski, jednoczenie jednak nie znamy ani jednego sowa z tego jzyka naturalnego. Jeli wykonanie komputerowego programu symulujcego rozumienie jzyka chiskiego nie jest wystarczajce d l a nas, bymy ten jzyk rozumieli, nie moe by wystarczajce take dla maszyny liczcej. Wyjanienie tego stanu rzeczy jest cakiem proste. Jeli w takiej sytuacji czowiek nie rozumie chiskiego, to inne komputery" go nie rozumiej, gdy aden komputer cyfrowy ni e moe, dz i ki t e m u , e zrealizuje program, uzyska zdolnoci, ktrej nie uzyskuje czowiek. To wszystko, co ma komputer, i co my mamy siedzc w chiskim pokoj u, jest jedynie formalnym programem, pozwalajcym na manipulowanie

nie zinterpretowanymi chiskimi symbolami. Powtrzmy to komputer opanowuje syn taktyk, nie za semantyk. Cay mora naszej historii o chiskim pokoju przypomina nam to, co ju wiemy. Rozumienie jzyka a pewnoci i posiadanie wszelkich innych stanw umysowych wymaga czego wicej ni garci symboli formalnych. Konieczna tu jest jeszcze interpretacja lub znaczenie zwizane z tymi symbolami. Komputer cyfrowy za, na mocy definicji, nie moe mie niczego wicej poza formalnymi symbolami, gdy operacje komputerowe, jak to ju powiedziano, definiuje si w terminach maszynowej zdolnoci do wykonywania programw. Programy natomiast maj czysto formaln charakterystyk, to znaczy nie maj semantycznych treci. Moemy si przekona o sile tego argumentu, jeli porwnamy sytuacj, w ktrej otrzymujemy pytania i udzielamy odpowiedzi w naszym ojczystym jzyku, z sytuacj, w ktrej pytaj nas i odpowiadamy w jzyku, w ktrym nie znamy znaczenia ani jednego sowa. Wyobramy sobie, e jestemy w chiskim pokoju, gdzie zadaj nam w naszym ojczystym jzyku pytania dotyczce takich spraw, jak nasz wiek czy fakty z naszej biografii, i e odpowiadamy na te pytania. Jaka jest rnica pomidzy posugiwaniem si jzykiem chiskim a posugiwaniem si jzykiem polskim? Ot, jeli kto nie zna jzyka chiskiego, a zna jzyk polski, rnica jest oczywista. Rozumiemy pytania zadane po polsku, bo wyraone s one symbolami, ktrych znaczenie jest nam znane. Analogicznie, odpowiadajc po polsku, produkujemy symbole, ktre maj dla nas znaczenie. W przypadku jzyka chiskiego za nic takiego nie wystpuje. W przypadku chiskiego posugujemy si po prostu formalnymi symbolami, zgodnie z komputerowym programem, jednak nie potrafimy przypisa tym elementom adnego znaczenia. Zarwno specjalici od sztucznej inteligencji, jak i psychologowie oraz filozofowie rozmaicie odpowiadali na moje argumenty. Wszystkie te odpowiedzi miay wspln cech: wszystkie byy chybione. Stanie si oczywiste, dlaczego byy one takie, jeli oprzemy nasze rozumowanie na prostej logicznej prawdzie, stwierdzajcej, e syntaktyka jako taka nie wystarcza dla semantyki, i e komputery w zwizku z tym, e s komputerami, z definicji, maj- tylko syntaktyk. Chciabym to wyjani, rozwaajc kilka kontrargumentw, jakie najczciej mi przedstawiano. W odpowiedzi na przykad chiskiego pokoju niektrzy ludzie stwierdzaj, e cay system rozumie jzyk chiski. Argument jest

nastpujcy, cho osoba manipulujca symbolami w pokoju nic mi jzyka chiskiego, to jest ona t ylko centralnym procesorem ca. . komputerowego systemu. Twierdzi si tu, e ca y system, obejmuj pokj, kosze pene symboli, ksig zawierajca program, oraz szereg innych elementw, jakie na system si s k a da j , jest tym. co rozumie; jzyk chiski. Ten jednak p u n k t widzenia moe by podwaony w t a k i sam sposb, jak to ju uczyniono. Take system w caoci nie moe przej od syntaktyki do semantyki, t a k j a k osoba w pokoju, j a k o centralny procesor, nie moe wyobrazi sobie znaczenia jakiegokolwiek symbolu, t a k samo nie moe tego uczyni system w caoci. Czsta jest take reakcja, proponujca, bymy wyobrazili sobie, /e wspomniany program rozumienia jzyka chiskiego z nal a z si we wntrzu robota. Gdyby robot mg si porusza, dzi aa w wiecie i podlega jego dziaa ni u, czy nie mogoby mu to zagwarantowa zdolnoci rozumienia jzyka chiskiego? Jednake nieub agany c ha ra k ter rnic pomidzy syntaktyka i semantyk omi ja i ten i nt e l e k t ua l n y manewr. J a k dugo, na mocy zaoenia, robot ma t yl ko k o m p u t e r zamiast mzgu, to pomimo tego, e zachowuje si on t a k jakby rozumia jzyk chiski, tak dugo nie ma on moliwoci przejcia od s ynt a kt yki do semantyk! jzyka chiskiego. Mona to dostrzec, wyobraajc sobie, e to ja zamknity w c hi ski m pokoju jestem komputerem. W czaszce robota umieszczono chiski pokj ze mn w rodku, gdzie m a n i p u l u j e chiskimi symbolami, nie zdajc sobie sprawy z tego, e nie kt re z nich poznaj za pomoc telewizyjnej kamery przytwierdzonej do gowy robota, inne za wysyam na zewntrz poruszajc jego koczynami. J a k dugo uywam tylko formalnego programu komputerowego, t a k d ugo nie mam moliwoci, by przyporzdkowa znaczenie kt rc hk ol w i e k z chiskich symboli. A to, e robot jest tu zaangaowany w m o j e interakcje ze wiatem otaczajcym, nie pomoe mi w odnale zieni u znaczenia chiskich symboli, jeli nie znajd innego sposobu na zrozumienie zachodzcych faktw. Przypumy, e robot podnosi hamburger i to powoduje pojawienie si w pokoju ideogramu hamburgera. Jak dugo mam tylko symbol, bez wiedzy o tym, co on powoduje l ub j a k si pojawia, tak dugo nie mam sposobu poz na nia jego znaczenia. Interakcje pomidzy robotem i reszt wi at a s tu bez. znaczenia, jeli te interakcje nie z os ta n odzwierciedlone w t y m czy w innym umyle. Nie mog zosta jedna k odzwierciedlone, jeli tzw. umys skada si z sieci czysto formalnych, synta kt ycz nyc h operacji.

Istotne jest to, bymy rozumieli, co si twierdzi, czego za si nie twierdzi w przedstawionym tu przez mnie cigu argumentw. Powiedzmy, e zadajemy postawione na wstpie pytanie: ,,Czy maszyna moe myle?" Oczywicie, w jakim sensie, wszyscy jestemy maszynami. To, co jest w naszych gowach, mona traktowa jako rodzaj maszyny organicznej. Z pewnoci wszyscy moemy myle. Przy pewnym sposobie rozumienia terminu ,.maszyna" dokadnie wtedy, gdy ,.maszyna" rozumiana jest jako pewien fizyczny system zdolny do wykonywania okrelonych operacji wszyscy jestemy maszynami i wszyscy mylimy. Zatem, banalizujc. s maszyny, ktre myl. Nic tego typu p yta nie drczy nas jednak. Sprbujmy je zatem przeformuowa. Czy artefakty mog myle? Czy mog myle maszyny stworzone przez czowieka? Przyjmijmy, e skonstruowalimy maszyn, kt r a a ni na moleku nie rni si od istoty ludzkiej. Zatem, jeli mona skopiowa przyczyn, mona skopiowa skutek. Odpowied na pytanie jest w zasadzie banalna. Gdybymy mogli zbudowa maszyn. ktra miaaby dokadnie tak sam struktur jak istota ludzka, wtedy prawdopodobnie maszyna ta byaby w stanic myle. Oczywicie byaby wtedy surogatem czowieka. Sprbujmy inaczej postawi problem. Nie stawiamy pytania: Czy maszyna myli?", ani Czy artefakt myli?" Pytanie brzmi: Czy komputer cyfrowy myli?" Podkrelamy po raz kolejny, musimy by ostroni w interpretacji pytania. Z matematycznego punktu widzenia, wszystko, co moe by opisane w taki sam sposb jak komputer, jest komputerem. A to dlatego, e to co moe by opisane jako urzdzenie realizujce lub majce komputerowy program. Wulgaryzujc. mona powiedzie, e piro lece przede mn na stole da si opisa jako komputer cyfrowy. Tak si jednak skada, e komputer ten ma wyjtkowo nieciekawy program. Poleca on bowiem: Pozosta na miejscu". Tak rozumujc, wszystko jest komputerem, skoro moe by opisane jakby posiadao program komputerowy, zatem nasze pytanie, powtrzmy to po raz kolejny, zyskuje b a na ln odpowied. Oczywicie nasze mzgi s komputerami, jeeli realizuj pewn liczb programw komputerowych. Jednoczenie nasze mzgi bez. wtpienia myl. Odpowied na pytanie jest banalna. Nie jest to jednak pytanie, jakie staralimy si postawi. Pytanie, jakie staralimy si postawi, brzmi: Czy tak zdefiniowany komputer myli?" Co mona sformuowa: Czy zaopatrzenie w program lub wykonywanie

odpowiedniego komputerowego programu, z odpowiednimi danymi na wejciach i wyjciach, wystarcza dla mylenia, lub tworzy mylenie?" Na to pytanie, inaczej ni na poprzednie, jasna odpowied brzmi: nic". Udzielamy odpowiedzi nie" z powodw ju przedstawionych, czyli dlatego, e komputerowy program jest okrelony czysto syntaktycznie. Mylenie nie ogranicza si jednak do kwestii manipulowania pozbawionymi znaczenia symbolami, uwikane s w nie treci semantyczne. Te semantyczne treci okrelamy mianem znaczenia". Warto jeszcze raz podkreli, e nie mwimy tu o takiej lu b innej fazie rozwoju technologii elektronicznej. Rozumowanie nasze jest niezalene od nadchodzcych zdumiewajcych postpw w technice komputerowej. Nie ma te ono zwizku z rozrnieniem procesorw dziaajcych sekwencyjnie i dziaajcych rwnolegle, ani z wielkoci programu, ani z szybkoci maszynowych operacji, ani z tym, czy komputery wchodz w interakcje z otoczeniem, take z wynalezieniem robotw. Zwykle przeceniamy aktualny postp technologiczny, ale i bez tego rozwj techniki komputerowej jest cakiem zauwaalny, mamy zupenie rozsdne powody, by oczekiwa, i jeszcze wikszy postp dokona si w przyszoci. Bez wtpienia bdziemy mogli, znacznie lepiej ni moemy obecnie, i znacznie lepiej ni moglimy w przeszoci, symulowa za pomoc maszyn ludzkie zachowania. Chodzi jednak oto, e wszystkie te symulacje nie maj adnego znaczenia, gdy mwimy o posiadaniu stanw umysowych lub o posiadaniu umysu; bez wzgldu na to jak dobra jest technologia komputerowa i jak szybkie s obliczenia przez komputer wykonywane. Jeeli co faktycznie jest komputerem, jego operacje zdeterminowane s syntaktyk, podczas gdy wiadomo, myli, doznania i emocje, oraz inne zjawiska tego typu wymagaj czego poza sam syntaktyk. S to wasnoci, ktrych komputer nic moe skopiowa ani powtrzy, niezalenie od tego, jak wielkie byyby jego zdolnoci w symulowaniu tych cech. Kluczowym rozrnieniem jest tu rozrnienie symulacji robienia czego i autentycznego r obienia tego samego. Symulowanie czego nie jest robieniem ani powtarzaniem tego. Wszystko co dotd przedstawiem, polega na stworzeniu podstaw do zrozumienia, e cytaty, jakimi si posuyem na wstpie snutych tu rozwaa, s faktycznie tak niedorzeczne, jak na to wygldaj. Niemniej jednak w naszych rozwaaniach pozostaje jeszcze jedno pytanie warte przemylenia. Brzmi ono: Dlaczego ludziom przychodzi czasem na myl, e komputery mogyby myle, mie doznania i emocje oraz inne

lego typu stany?" Zauwamy przede wszystkim, e moemy stworzy symulacj komputerow wszystkiego, co da si opisa formalnie. Moemy zatem, komputerowo symulowa przepyw pienidzy w ekonomii brytyjskiej lub struktur podziau wadzy w Partii Pracy. Moemy stworzy symulacj komputerow burz w kraju, w ktrym mieszkamy, lu b poarw magazynw we Wschodnim Londynie. W kadym z tych przypadkw nikt nie przypuszcza, e komputerowa symulacja stwarza realnie istniejce rzeczy, nikt nic zakada, e komputerowa symulacja ulewy zmoczy nas, ani e komputerowa symulacja poaru spali nam mieszkanie. Dlaczego jednak spotka mona takich, ktrzy w dobrej wierze zakadaj, i symulacja procesw psychicznych zawiera procesy psychiczne? W gruncie rzeczy nie znam odpowiedzi na to pytanie, bo tego typu idea, mwic szczerze, od pocztku wydaje mi si szalona. Mog jednak przedstawi gar przypuszcze. Po pierwsze, rozwaajc natur umysu, moemy by kuszeni rozwizaniami typu behawiorystycznego. Mona sdzi, e skoro system zachowuje si tak jakby rozumia jzyk chiski, to faktycznie rozumie on ten jzyk. Jednake przyjmujc argumenty zawarte w idei chiskiego pokoju, odrzucilimy ten sposb behawiorystycznego mylenia. Inne przypuszczenie, nasuwajce si wielu ludziom, polega na uznaniu, e umys nie jest czci biologicznej rzeczywistoci, e nie naley do wiata naturalnego. Stanowisko silnej wersji sztucznej inteligencji opiera si na przekonaniu, e umys jest czym czysto formalnym, e tak czy inaczej, nie moe on by traktowany ja k konkretny rezultat biologicznych procesw, podobny do innych rezultatw zjawisk biologicznych. Mwic krtko, jest to w naszej dyskusji przykad pozostaoci mylenia dualistycznego. Obrocy sztucznej inteligencji s przekonani, e umys jest czym wicej ni czci wiata biologicznego, e moe by scharakteryzowany wycznie formalnie. Paradoks polega tu na tym, e literatura powicona sztucznej inteligencji jest przepeniona gromami rzucanymi na dualizm", w istocie rzeczy jednak teza silnej wersji sztucznej inteligencji oparta jest na myleniu dualistycznym. Opiera si na odrzuceniu idei, e umys jest tak naturalnym zjawiskiem jak inne zjawiska w wiecie. Chc zakoczy rozdzia, zestawiajc ze sob tezy tego i poprzedniego rozdziau. W obu wypadkach tezy mog by wyraone w sposb bardzo prosty. W istocie prawdopodobnie zamierzam je sformuowa

w sposb zbyt surowy. Jeli jednak zestawimy je razem, zyskamy, ja k sdz, solidn koncepcj relacji pomidzy umysami, mzgami i komputerami. Rozumowanie ma prost struktur, ta k e kady sam moe oceni jego warto. Pierwsza przesanka brzmi: 1. Mzgi s przyczynami umysw Grzmi to faktycznie zbyt prosto. Rozumiem przez to, e procesy umysowe, ktre, jak sdzimy, konstytuuj umys, s w caoci s kut ka mi procesw zachodzcych wewntrz mzgu. Pozwlmy sobie jednak na proste sformuowania, skrmy to do czterech sw mzgi s przyczyn umysw. Jest to jednak faktyczna cecha zjawisk w wiecie. Zapiszmy teraz twierdzenie drugie. 2. Syntaktyka nic wystarcza dla semantyki Twierdzenie jest prawdziwe na mocy treci poj. Wyraa ono po prostu pojciowe rozrnienie tego, co jest czysto formalne i tego. co ma tre. Teraz do twierdzenia, mwicego, e mzgi s przyczynami umysw i twierdzenia, e syntaktyka nie wystarcza dla s ema nt yki. dodajmy twierdzenie trzecie i czwarte. 3. Program komputerowy cakowicie okrela jego formalna lwi; syntaktyczna struktura Przyjmuj to, co jest prawd, na mocy definicji i jest czci;; znaczenia tego, co rozumiemy przez program komputerowy. 4. Umysy zawieraj treci psychiczne, mwic dokadniej, treci semantyczne Przyjmuj, e to take jest oczywist, faktyczn cech f u n k c jonowania umysu. Moje myli, sdy i pragnienia odnosz si do czego. dotycz stanw i wydarze w wiecie; jest tak dlatego, e ich treci kieruj je ku tym stanom i wydarzeniom w wiecie. Moemy t er az z czterech przesanek wyprowadzi pierwszy wniosek, w y n i ka on w sposb oczywisty z przesanki 2, 3 i 4. l . Nic ma takiego programu komputerowego, ktry sam w sobie wyposaamy system w umys. Mwic krtko, programy nie s umysami ani same w sobie nie wystarcz dla powstania umysu. Jest to bardzo istotna konkluzja, oznacza ona, e projekt stworzeniu umysu wycznie na podstawie programu jest z gry s kaza ny na niepowodzenie. Wane jest, bym jeszcze raz podkreli, e nie ma to

zwizku ani zdanym stanem rozwoju komputerowej technologii, ani ze stopniem zoonoci programu. Jest to formalny lub logiczny wniosek wypywajcy z zaoe, na ktrych przyjcie zgodzili si wszyscy (bd prawie wszyscy) zaangaowani w dyskusj. Nawet najgortsi entuzjaci sztucznej inteligencji s;; zgodni co do tego, e jest faktem biologicznym to. i procesy mzgowe powoduj;; procesy umysowe; s oni zgodni take w tym. e programy s okrelone czysto formalnie. Jednake, gdy zestawimy te dwa twierdzenia z innymi znanymi nam rzeczami, nieuchronnie wycigamy wniosek, e projekty zwolennikw silnej wersji sztucznej inteligencji nie mog by zrealizowane. Skoro ju ustalilimy zaoenia, rozwamy, jakie jeszcze wnioski moemy wycign. Druga konkluzja brzmi:
K 2 Czynnoci mzgu ograniczone tylko do realizowania programu komputerowego nic wystarcz, by funkcjonowanie mzgu doprowadzio do powstania umysu. Ten drugi wniosek jest koniunkcj pierwszej przesanki i pierwszego wni os ku. Czyli, z tego, e umys jest efektem dziaania mzgu, i e wykonywanie programu nie daje tych efektw, wynika, e zrealizowanie programu komputerowego przez mzg samo w sobie nie wystarczy, by dziaanie mzgu doprowadzio do powstania umysu. Jest to, jak myl, \vazny wniosek, gdy w konsekwencji wynika z niego, e mzg nie jest komputerem cyfrowym, a moe raczej jest czym wicej. Przekonalimy si wczeniej, e wszystko, co moe by opisane jak komputer cyfrowy, jest. upraszczajc, komputerem, za mzg nic jest tu wyjtkiem. W naszej ko nkl uz j i wane jest jednak to, e obliczeniowe moliwoci mzgu nie wystarcz do wyjanienia, jak dziaanie mzgu powoduje sta ny umysowe. Tak czy inaczej winno to na nas sprawi wraenie oczywistego naukowego wniosku, gdy przypomina nam t yl ko znany fakt. e mzgi s biologicznymi maszynami; znaczenie ma tu ich biologiczno. Jak stwierdza wiele osb w dziedzinie sztucznej inteligencji. nie jest przypadkow cech umysu, e jest on realizowany przez ludzkie mzgi. Z pierwszego zaoenia moemy teraz wycign trzeci wniosek: si K 3. Cokolwiek, co mogoby by przyczyn umysu, musiaoby mie moc oddziaywania przyczynowego porwnywaln z moliwociami mzgu. Trzeci wniosek jest banaln konsekwencj pierwszego zaoenia.

Jest (o mniej wicej tak, jak bymy powiedzieli, e jeli benzynowy silnik mojego samochodu pozwala mu porusza si z prdkoci 120 km/godz., to kady silnik dieslowski mogcy uczyni to samo, musiaby na wyjciu mie moc porwnywaln z moc mojego silnika benzynowego. Oczywicie, jakie inne jeszcze systemy, uywajc innych. chemicznych i biochemicznych cech swojego mzgu, mog powodowa istnienie umysu. Moe si okaza, e s istoty na innej planecie lub w innym systemie gwiezdnym, ktre maja stany umysowe oparte na cakiem innej ni nasza biochemii. Przypumy, e pojawili si na Ziemi Marsjanie, a my wywnioskowalimy, e maj oni stany umysowe. Zamy jednak, e kiedy otwarto ich gowy, okazao si, e wszyscy maj w rodku zielony luz. Czyli, jeli zielony luz dziaajc powodowaby wiadomo i ca reszt psychicznego ycia, miaby moc przyczynow porwnywaln z moc ludzkiego mzgu. Teraz z naszego pierwszego wniosku, stwierdzajcego, kiedy program jest czym niewystarczajcym, i trzeciego wniosku, mwicego o systemach majcych moce przyczynowe porwnywalne z mzgowymi, wynika wprost czwarta konkluzja:
4. Wyposaenie jakiego zbudowanego przez nas artefaktu w program komputerowy nic wystarcza, by mia on stany umysowe porwnywalne z ludzkimi. Artefakt taki powinien oczywicie mie zdolno przyczynowego oddziaywania porwnywaln z moliwoci ludzkiego mzgu. Sdz, e ostateczny wynik dyskusji przypomnia nam co, co ju od dawna wiemy, e stany umysowe s zjawiskiem biologicznym. wiadomo. intencjonalno, subiektywno, moc przyczynowego oddziaywania umysu, wszystko to naley do dziejw biologicznego ycia, razem ze wzrostem, rozmnaaniem, wydzielaniem ci i trawieniem.