sztuczna inteligencja i logika

Andrzej Kisielewicz
sztuczna inteligencja i logika
podsumowanie
przedsiewzi
˛
ecia
˛
naukowego
Wydawnictwa Naukowo-Techniczne, Warszawa 2011
1. Przedmowa
2. Spis tre±ci
1
Przedmowa
Póª wieku temu logika nale»aªa do dziedzin nauki ±wi¦c¡cych
najwi¦ksze sukcesy. Ostateczna formalizacja caªej matematyki, twierdzenia Gödla, maszyny Turinga zaliczone zostaªy do osi¡gni¦¢ ludzkiego geniuszu. Jednocze±nie rozpocz¡ª
si¦ rozwój technologii informatycznej, w du»ej mierze opartej wªa±nie na osi¡gni¦ciach logiki, metod¦ formaln¡ zacz¦to
stosowa¢ w innych naukach, tak»e humanistycznych, post¦py
logiki zrewolucjonizowaªy metodologi¦ nauk i lozo¦.
W tej atmosferze w roku 1956 narodziªa si¦ dziedzina
sztuczna inteligencja.
Uczeni podj¦li otwarty atak na od-
wieczne ludzkie marzenie zbudowanie sztucznego czªowieka. Badania obj¦ªy wkrótce równie» konstrukcj¦ sztucznych
zmysªów i sztucznego ciaªa (robotyka), ale gªówny wysiªek
skierowano pocz¡tkowo na sztuczny umysª st¡d ogólna
nazwa dziedziny. Centralne miejsce w tych badaniach zaj¦ªa logika formalna; próbowano wprost osi¡gni¦cia logiki zastosowa¢ do wyposa»enia komputera w zdolno±¢ logicznego
rozumowania.
Szeroka publiczno±¢ informowana byªa o post¦pach, a jeszcze bardziej o otwieraj¡cych si¦ perspektywach. Zacz¦to dys-
2
Przedmowa
3
kutowa¢ czekaj¡ce nas wkrótce problemy etyczne i lozoczne zwi¡zane z pojawieniem si¦ sztucznej formy inteligentnego
»ycia; nowego impetu nabraªa dyskusja dotycz¡ca fenomenu
±wiadomo±ci. Humani±ci w milczeniu przygl¡dali si¦ tej ofensywie. Z braku matematycznej kompetencji nie byli w stanie
podj¡¢ merytorycznej dyskusji, ale jak wskazuj¡ niektóre
reakcje przera»eni byli tym, »e oto odwieczne problemy
lozoi, zagadki ±wiadomo±ci i umysªu rozwi¡zuj¡ teraz matematycy i in»ynierowie.
Niestety (lub na szcz¦±cie) mijaªy kolejne dekady, a zapowiadanych osi¡gni¦¢ jak nie byªo, tak nie ma. Pomimo
tego, »e min¦ªo ju» póª wieku od czasu, gdy rozpocz¦to badania, »e parametry techniczne wspóªczesnych komputerów
znacznie przewy»szaj¡ wyobra»enia sprzed lat, a w wielu innych pokrewnych kierunkach post¦p jest znacznie wi¦kszy
ni» przewidywano, to nie udaªo si¦ jak dot¡d skonstruowa¢
niczego, co zasªugiwaªoby na miano my±l¡cej maszyny. Co
do tego wszyscy s¡ ju» raczej zgodni, bardzo ró»ne jednak
wyci¡gaj¡ wnioski z tego faktu.
Sami badacze dªugo nie chcieli rozpozna¢ tej sytuacji, nie
chcieli przyzna¢ si¦ do tego; i wielu nadal nie chce trudno
im si¦ dziwi¢. Za projektami sztucznej inteligencji, szczególnie tymi, które obiecywaªy budow¦ ju» zaraz, szªy wielkie pieni¡dze. Ostatnio jednak sami zaªo»yciele tej dziedziny
bada« przyznaj¡ otwarcie, »e (u»ywaj¡c sªów Marvina Min-
prawdziwa sztuczna inteligencja czeka dopiero na
swojego odkrywc¦!
sky'ego)
Brak spektakularnego sukcesu i coraz wi¦kszy rozziew pomi¦dzy rezultatami bada« a zbyt lekkomy±lnie czynionymi
zapowiedziami doczekaªy si¦ wreszcie krytyki wygªaszanej
ju» nie tylko przez zwykªych niedowiarków, ale przez takie
Przedmowa
4
autorytety dziedzin pokrewnych jak Penrose czy Edelman.
To otworzyªo wrota krytyce humanistów. Niektórzy z nich
z nieukrywanym triumfem obwie±cili ostateczn¡ kl¦sk¦ bada« nad sztuczn¡ inteligencj¡, a znale¹li si¦ i tacy, którzy
gªosz¡ kl¦sk¦ metody formalnej w ogóle i koniec ery kartezja«skiej!
Te ostatnie twierdzenia formuªowane s¡ jednak z tak oczywist¡ przesad¡, »e same przez si¦ lokuj¡ si¦ w sferze niepowa»nych prowokacji. Nie ma raczej w¡tpliwo±ci, »e technologia informatyczna dopiero zacz¦ªa zmienia¢ ±wiat, a jest to
dziedzina, dla której metoda formalna jest esencj¡. Jednak»e
póª wieku bezowocnych prób skonstruowania sztucznej inteligencji stanowi intryguj¡c¡ zagadk¦ i jest dobr¡ okazj¡ do
caªo±ciowego przyjrzenia si¦ dotychczasowemu podej±ciu do
zagadnienia. Czy dotarli±my wªa±nie do granicy stosowalno±ci metod formalnych i matematycznych, czy te» metody s¡
dobre, a wybrali±my jedynie niewªa±ciwe, zbyt bezpo±rednie
i niecierpliwe podej±cie?
*
Kryzys w danej dziedzinie bada« naukowych mo»e oznacza¢ upadek, mo»e te» jednak oznacza¢ pocz¡tek transformacji lub przeªom historia nauki dostarcza wiele przykªadów.
Poniewa» chodzi tu przede wszystkim o przeªom my±lowy,
o nowe idee, nie wida¢ »adnego powodu, aby ów odkrywca,
o którym mówi Minsky ów nowy Kopernik nie miaª
pochodzi¢ z Polski. Przeciwnie, daªoby si¦ wymieni¢ kilka
powodów, dla których szanse s¡ tu nawet nieco wi¦ksze ni»
w wielu innych krajach... Przyznam, »e ksi¡»k¦ t¦ postanowiªem napisa¢ przede wszystkim dlatego, »eby mªodym polskim
adeptom informatyki umo»liwi¢ dostrze»enie tej niezwykªej
szansy i »eby zach¦ci¢ ich do podj¦cia studiów w zakresie
Przedmowa
5
sztucznej inteligencji mimo kryzysu tej dziedziny na ±wiecie lub wªa±nie z powodu tego kryzysu.
Dla dokonania przeªomu nie wystarcz¡ akademickie podr¦czniki, które z natury rzeczy raczej dziedzin¦ glorykuj¡
i koncentruj¡ si¦ na technicznych szczegóªach, ani dzieªa krytyków, którzy stwierdziwszy brak spektakularnego sukcesu
coraz ±mielej próbuj¡ wyla¢ dziecko z k¡piel¡. Potrzebna jest
rzetelna próba zrozumienia istoty dotychczasowego podej±cia
oraz przyczyn trudno±ci i niepowodze«. W tym sensie ksi¡»k¦
t¦ mo»na traktowa¢ jako wst¦p i uzupeªnienie do akademickich podr¦czników, a tak»e jako punkt wyj±cia do rzetelnej
reeksji nie tylko nad perspektywami sztucznej inteligencji,
ale i nad stosowan¡ do tej pory metod¡ naukow¡.
Mo»na si¦ z niej dowiedzie¢ ogólnie, co to jest sztuczna
inteligencja, czym si¦ zajmuje, jaka jest jej historia i jakie s¡
jej aktualne osi¡gni¦cia, jednak»e gªównym celem jest analiza
idei osi¡gni¦¢ logiki, matematyki i informatyki, które legªy
u podstaw bada« w dziedzinie sztucznej inteligencji i które
sprawiªy, »e tak wielu m¡drych ludzi uwierzyªo, »e sztuczny
umysª jest ju» w zasi¦gu naszych mo»liwo±ci.
Czy idee te s¡ zasadniczo sªuszne i jedynie wymagaj¡
znacznie wi¦cej szczegóªowych pomysªów i pracy ni» to sobie
wyobra»ano, czy potrzebna jest nowa przeªomowa my±l, czy
te» mo»e kompletna zmiana kierunku bada« i poszukiwa«?
Czy sztuczna inteligencja to natr¦tna mrzonka, kolejna w historii ludzko±ci próba zbudowania homunkulusa, czy te» tym razem bliska i nieuchronnie zbli»aj¡ca si¦ przyszªo±¢?
Mam nadziej¦, »e ksi¡»ka ta pomo»e czytelnikowi wyrobi¢
sobie wªasny, rzetelnie uzasadniony pogl¡d w tej sprawie.
*
Popularno±¢ tematu, liczne fora dyskusyjne w Internecie,
Przedmowa
6
lozoczne i pseudolozoczne rozwa»ania na temat sztucznej inteligencji, a przede wszystkim mnóstwo nieporozumie«
i przes¡dów zwi¡zanych z tym tematem wszystko to sprawiªo, »e postanowiªem udost¦pni¢ tre±¢ tej ksi¡»ki mo»liwie
szerokiemu gronu czytelników, i staraªem si¦ napisa¢ j¡ tak,
aby do jej przeczytania i zrozumienia wystarczaªy ciekawo±¢,
ogólne wyksztaªcenie i naturalna inteligencja. W szczególno±ci licz¦, »e zainteresuje ona wszystkich naukowców, którym
nieobca jest ogólna reeksja nad nauk¡ i metod¡ naukow¡.
Nie zmienia to faktu, »e w sposób szczególny ksi¡»ka adresowana jest do studentów, nie tylko informatyki i matematyki, ale równie» innych kierunków studiów, tak»e humanistycznych, bo kontynuowanie przedsi¦wzi¦cia pod nazw¡
sztuczna inteligencja
mo»e wymaga¢ wi¦kszej wspóª-
pracy naukowców ró»nych dziedzin ni» dot¡d praktykowano. Chocia» ksi¡»ka skonstruowana jest przede wszystkim
jako opis pewnego przedsi¦wzi¦cia naukowego i towarzysz¡ca
opisowi reeksja, to zawiera tyle konkretnych faktów i wiedzy, »e mo»e sªu»y¢ tak»e jako podr¦cznik uzupeªniaj¡cy do
ró»nych wykªadów z zakresu sztucznej inteligencji, inteligencji obliczeniowej, systemów ekspertowych, czy te» systemów
wspomagania decyzji (
business intelligence ).
Poza wydzia-
ªami matematyczno-informatycznymi mo»e sªu»y¢ jako podr¦cznik podstawowy w kursie logiki ze szczególnym uwzgl¦dnieniem zastosowa« w sztucznej inteligencji. Mo»e wreszcie
by¢ podstaw¡ do zaj¦¢ seminaryjnych dotycz¡cych zastosowania metod matematycznych w nauce, lozoi matematyki
i logiki, granic naukowego poznania.
Mam wreszcie nadziej¦, »e szczególnie zainteresuje ona
naukowców pracuj¡cych w dziedzinie sztucznej inteligencji,
a tak»e w dziedzinach pokrewnych. Spojrzenie kogo±, kto nie
Przedmowa
7
prowadziª bezpo±rednich bada« w tym zakresie, nie jest zainteresowany w wytwarzaniu dobrego lub zªego obrazu dziedziny, ale kto pracuj¡c dostatecznie blisko w dziedzinach matematyki, logiki i informatyki teoretycznej, przez wiele lat
±ledziª post¦py sztucznej inteligencji, prowadziª wykªady dla
studentów na ten temat spojrzenie w miar¦ kompetentnego i staraj¡cego si¦ zachowa¢ obiektywno±¢ recenzenta, mo»e
by¢ mam nadziej¦ przydatne w dalszym rozwoju dziedziny.
*
Pierwsza cz¦±¢ ksi¡»ki skªada si¦ z rozdziaªów stanowi¡cych w miar¦ popularne wprowadzenia do ró»nych przewijaj¡cych si¦ w dalszych cz¦±ciach tematów. Na pocz¡tek zwracam uwag¦ na najwa»niejsze aspekty dziaªania komputera:
czytelnika mniej obeznanego z informatyk¡ staram si¦ zapozna¢ z istot¡ dziaªania tego, by¢ mo»e najwi¦kszego, wynalazku XX wieku. Dalej wskazuj¦ na nieporozumienia zwi¡zane z popularnym testem Turinga, opisuj¦ krótk¡, lecz peªn¡
wzlotów i upadków histori¦ bada« nad sztuczn¡ inteligencj¡,
przedstawiam z lotu ptaka histori¦ logiki.
Wspóªczesna logika i metoda formalna zwi¡zane s¡ nierozerwalnie z matematyk¡. Dlatego za niezb¦dne uwa»am zapoznanie czytelnika z obrazem wspóªczesnej matematyki mo»e okaza¢ si¦ on bardzo ró»ny od tego, który czytelnik pami¦ta ze szkoªy ±redniej. Autorzy popularnonaukowych ksi¡»ek z zakresu nauk ±cisªych cz¦sto próbuj¡ zach¦ci¢ czytelników obietnic¡, »e w ksi¡»ce nie b¦dzie zbyt wiele matematyki.
Ja musz¦ obieca¢ co± odwrotnego: b¦dzie sporo matematyki,
ale mam nadziej¦, »e nawet czytelnikom bez matematycznego przygotowania zaprezentowane tematy wydadz¡ si¦ nie
Przedmowa
8
tylko bardzo interesuj¡ce, ale przy tym przedstawione jasno
i prawdziwie.
W szczególno±ci rozdziaª
??
stanowi specjalne, bo napi-
sane dla ogólnego audytorium, wprowadzenie do pewnych
idei wspóªczesnej matematyki, niezb¦dne mi¦dzy innymi do
prawidªowego zrozumienia rzeczywistych osi¡gni¦¢ wspóªczesnej logiki. W cz¦±ci pierwszej zdecydowaªem si¦ tak»e umie±ci¢ rozdziaªy prezentuj¡ce dokªadniej najstarsz¡ dziedzin¦
sztucznej inteligencji:
problem solving
(techniki rozwi¡zywa-
nia problemów). Jest ona stosunkowo ªatwa do przedstawienia, stanowi ±wietn¡ ilustracj¦ nowych metod matematycznych, których czytelnik mo»e nie zna¢ ze szkoªy ±redniej, a wreszcie daje mo»liwo±¢ wyja±nienia, jakimi metodami osi¡gni¦to jeden z najwi¦kszych sukcesów dziedziny: zbudowanie programu komputerowego, który w grze w szachy
pokonaª mistrza ±wiata.
Cz¦±¢ druga ma form¦ wykªadu prezentuj¡cego najwa»niejsze osi¡gni¦cia logiki wspóªczesnej. Studenci kierunków
humanistycznych znajd¡ w niej, mam nadziej¦, zrozumiaªy
dla nich j¦zyk i sposób wykªadu. Studenci kierunków ±cisªych znajd¡ spojrzenie caªo±ciowe i reeksj¦ nad sensem
prezentowanych osi¡gni¦¢. Wybór tematów i prezentacja ma
charakter subiektywny o tyle, i» rzeczy, które uwa»am za
istotne z punktu widzenia mechanizmów logicznych rozumowa«, prezentuj¦ do±¢ szczegóªowo, podczas gdy liczne inne
osi¡gni¦cia sygnalizuj¦ tylko, stwierdzaj¡c, »e maj¡ one dla
naszych rozwa»a« dla sztucznej inteligencji i dla mechanizmów my±lenia znaczenie drugorz¦dne. W szczególno±ci
wykªad ten uwzgl¦dnia teori¦ oblicze«, która dzi± traktowana
jest jako dziaª informatyki teoretycznej.
Cz¦±¢ trzecia zawiera podsumowanie i prezentacj¦ osi¡-
Przedmowa
9
gni¦¢ dziedziny sztucznej inteligencji: przede wszystkim tych,
które bazowaªy wªa±nie na logice i tworzyªy do tej pory gªówny nurt tej dziedziny, ale tak»e innych, opartych na podej±ciu
przeciwstawnym, tych, które dzi± okre±lane s¡ mianem
ligencja obliczeniowa.
inte-
Jest to opis pewnego trwaj¡cego póª
wieku przedsi¦wzi¦cia naukowego. Poniewa» przedsi¦wzi¦cie
to w obecnej formie zostaªo zasadniczo zako«czone (a przynajmniej, jak argumentuj¦, zako«czyª si¦ jego pierwszy etap),
samo w sobie zasªuguje na opis i podsumowanie jako rodzaj
wyj¡tkowej wyprawy naukowej w nieznane, rzekªbym nawet
awanturniczej bo jak si¦ okazaªo, bez odpowiednich narz¦dzi i odpowiedniego rozeznania ale przecie» tym bardziej ciekawej. Bez wzgl¦du na to czy w dziedzinie sztucznej
inteligencji nast¡pi przeªom i nowe otwarcie, czy te» badania b¦d¡ kontynuowane pod innymi nazwami, przedsi¦wzi¦cie
articial intelligence (AI) domaga si¦ opisu i podsumowa-
nia wªa±nie dzi±. Jest maªo prawdopodobne, »eby taki opis
zostaª zdezaktualizowany nowymi zaskakuj¡cymi wynikami
bada« takie bowiem, je±li si¦ pojawi¡, b¦d¡ (jestem o tym
przekonany) oparte na nowym paradygmacie.
*
Ksi¡»k¦ wyposa»yªem w do±¢ szczegóªow¡ bibliogra¦ i skorowidz kluczowych terminów. W wielu miejscach, po dalsze
szczegóªy pozwalam sobie odesªa¢ czytelnika do Internetu.
W istocie rzeczy mógªbym nawet zarekomendowa¢ t¦ ksi¡»k¦ jako uporz¡dkowane wprowadzenie do dziedzin sztucznej
inteligencji i logiki pozwalaj¡ce korzysta¢ z zasobów Internetu
z rozeznaniem.
W Internecie zawarta jest dzi± olbrzymia wiedza, z ka»dej
niemal dziedziny, jednak ze swej natury jest to wiedza nie-
Przedmowa
10
uporz¡dkowana, nie zawsze wiarygodna, i nie zawsze przedstawiona w sposób umo»liwiaj¡cy wªa±ciwe z niej korzystanie. W przypadku tematyki tej ksi¡»ki, szczególnie godne
polecenia s¡
Stanford Encyclopedia of Philosophy ,
bardzo
rzetelnie prowadzony projekt, z artykuªami zredagowanymi
przez fachowców, oraz z pewnym zastrze»eniem pedia .
Wiki-
Ta ostatnia, mimo anonimowo±ci i zespoªowego reda-
gowania haseª, i mimo krytyki ze strony ró»nych ekspertów,
jest w miar¦ wiarygodna w dziedzinach wiedzy szczegóªowej.
Zawarto±¢ haseª w tego typu dziedzinach oparta jest zwykle (mniej lub bardziej literalnie) na bardziej wiarygodnych
drukowanych ¹ródªach i pozwala wyrobi¢ sobie ogólne wyobra»enie o opisywanej tematyce w sposób znacznie gª¦bszy
ni» na podstawie drukowanych encyklopedii i leksykonów.
Jako taka
Wikipedia
staje si¦ nieoceniona.
Przy korzystaniu z tego ¹ródªa nale»y jednak zwróci¢ uwag¦ na dwa potencjalne problemy. Pierwszy, w przypadku haseª dotycz¡cych nauki, to cz¦sty brak wyja±nie« na bardziej
elementarnym poziomie, wchodzenie od razu w specjalistyczn¡ terminologi¦ i wiedz¦. Tak zredagowane hasªa przydatne
s¡ tylko dla tych, którzy posiadaj¡ ju» odpowiedni¡ wiedz¦
i rozeznanie w danej dziedzinie, a poszukuj¡ dalszych szczegóªów. Dla laików, dla mniej zorientowanych, takie hasªa s¡
maªo u»yteczne. Drugi problem to tendencyjno±¢ informacji. Wiele haseª tworzonych jest przez bezpo±rednio zainteresowanych odpowiedni¡ wymow¡ hasªa lub te» na podstawie
tendencyjnych ¹ródeª (czego redaguj¡cy nie umie rozpozna¢).
W rezultacie, caªo±ci projektu brak jest odpowiedniej równowagi, fachowego spojrzenia z dystansu, i cz¦sto si¦ zdarza,
»e znaczenie jakich± wspóªczesnych osi¡gni¦¢ ograniczam
si¦ tylko do nauki jest przecenione lub nieodpowiadaj¡ce
Przedmowa
11
stanowi faktycznemu. (Zdarzaj¡ si¦ te» niestety przypadki
bª¦dnego zreferowania tematu wynikaj¡ce z niezrozumienia
istoty zagadnienia przez autorów hasªa, ale te s¡ stosunkowo
rzadkie).
Nie mo»na poleci¢ wi¦c Wikipedii, czy w ogóle Internetu,
jako podstawowego ¹ródªa wiedzy (tak jak nie mo»na poleci¢
przeczytania encyklopedii z danej dziedziny jako sposobu na
poznanie tej dziedziny). Wikipedi¦ mo»na natomiast ±miaªo
poleci¢ jako ¹ródªo uzyskania dalszych szczegóªów dla osób
zorientowanych w danej dziedzinie (zdolnych do ocenienia
wiarygodno±ci artykuªów na dany temat), a tak»e jako dodatek do ogólnych opracowa«, w których rozlegªo±¢ tematyki
zmusza do pomini¦cia wielu bardziej szczegóªowych tematów i zagadnie«. Celem mojej ksi¡»ki jest w szczególno±ci
danie czytelnikowi odpowiedniego rozeznania, pozwalaj¡cego korzysta¢ swobodnie z bardziej specjalistycznej wiedzy
zawartej w
dii .
Stanford Encyclopedia of Philosophy
i
Wikipe-
Hasªa w skorowidzu umieszczonym na ko«cu ksi¡»ki s¡
na ogóª podkre±lone w tek±cie i mog¡ sªu»y¢ doskonale jako sªowa kluczowe wyszukiwa« w wymienionych ¹ródªach.
Bªyskawiczny dost¦p do tych haseª czyni Internet bardziej
efektywnym ¹ródªem wiedzy uzupeªniaj¡cej ni» spis literatury.
*
W tym miejscu chciaªbym podzi¦kowa¢ profesorom George'owi Grätzerowi z University of Manitoba w Winnipeg, Rudolfowi Willemu z Technische Hochschule Darmstadt, Ralphowi McKenziemu z Vanderbilt University w Nashville i Marinowi Gutanowi z Université Blaise Pascal w Clermont-Ferrand, dzi¦ki którym ponad cztery lata mojego »ycia mogªem sp¦dzi¢ na zagranicznych uniwersytetach i mi¦dzy
Przedmowa
12
innymi studiowa¢ na bie»¡co osi¡gni¦cia w dziedzinie sztucznej inteligencji. Dzi¦kuj¦ Wiesªawowi Dziobiakowi z University of Puerto Rico za podarowanie mi swojego osobistego egzemplarza
Articial Intelligence. A Modern Approach
Rus-
sella i Norviga. Szczególne podzi¦kowania skªadam Jerzemu
Surmie z SGH w Warszawie. Jego entuzjazm i przyjacielskie wsparcie znacznie przyspieszyªy uko«czenie i wydanie tej
ksi¡»ki. Chciaªbym wreszcie wspomnie¢ tu Stanisªawa Lema
i podzi¦kowa¢ mu za komentarze do moich wczesnych tekstów na temat logiki oraz sprowokowanie mnie do gª¦bszych
studiów nad sztuczn¡ inteligencj¡.
Cz¦±¢ ilustracji inspirowana jest podobnymi ilustracjami w (Russell, Norvig 2009), a dwie s¡ wprost skopiowane za zezwoleniem Stuarta Russella, za co mu niniejszym
dzi¦kuj¦. Dzi¦kuj¦ równie» redakcji Wydawnictw Naukowo--Technicznych, a w szczególno±ci redaktorowi Krzysztofowi
Kossobudzkiemu, za bardzo »yczliwe przyj¦cie mojej ksi¡»ki
i znakomit¡ wspóªprac¦.
Wrocªaw, grudzie« 2010 r.
Andrzej Kisielewicz
Spis treści
Przedmowa
.............................................
CZ†‘‚ I: WPROWADZENIE
1. Komputer
..........................................
1.1.
Kóªko i krzy»yk . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.2.
Kodowanie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.3.
Odrobina fantazji . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.4.
Komputer z pudeªek . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.5.
Programowanie w j¦zyku maszynowym . . . . . . . . .
1.6.
Architektura von Neumanna . . . . . . . . . . . . . . . . . . .
1.7.
System binarny . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.8.
Programowanie w j¦zyku wy»szego rz¦du . . . . . . .
1.9.
Praktyczne mo»liwo±ci komputera . . . . . . . . . . . . . .
2. Wizja Turinga
.....................................
2.1.
Przedmiot bada« . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.2.
Test Turinga . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.3.
Czy komputer mo»e my±le¢? . . . . . . . . . . . . . . . . . . .
2.4.
Sukces czy pora»ka? . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.5.
Silna AI i sªaba AI . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1
Spis tre±ci
2
3. Póª wieku sztucznej inteligencji
..................
3.1.
Entuzjastyczne pocz¡tki . . . . . . . . . . . . . . . . . . . . . . .
3.2.
Doza realizmu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.3.
In»ynieria wiedzy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.4.
Pi¡ta Generacja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.5.
Rok 2001 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.6.
Kierunki bada« . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.7.
Stan bada« w roku 2010 . . . . . . . . . . . . . . . . . . . . . . .
3.8.
Inteligencja obliczeniowa . . . . . . . . . . . . . . . . . . . . . . .
3.9.
HLAI i GAI sztuczna inteligencja na ludzkim
poziomie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
4. Techniki rozwi¡zywania problemów
.............
4.1.
Kombinatoryczna eksplozja . . . . . . . . . . . . . . . . . . . .
4.2.
Problemy logiczne . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
4.3.
Ogólne metody rozwi¡zywania problemów . . . . . .
4.4.
Algorytm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
4.5.
Problemy przeszukiwania . . . . . . . . . . . . . . . . . . . . . .
4.6.
Reprezentacje graczne problemów . . . . . . . . . . . . .
4.7.
Przeszukiwanie grafu . . . . . . . . . . . . . . . . . . . . . . . . . . .
4.8.
Przeszukiwanie kierowane informacj¡ . . . . . . . . . . .
4.9.
Heurystyki . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
4.10.
Na±ladowanie natury . . . . . . . . . . . . . . . . . . . . . . . . . . .
5. Mechaniczny szachista
...........................
5.1.
Szachy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
5.2.
Minimax i strategie gry . . . . . . . . . . . . . . . . . . . . . . . .
5.3.
Funkcja ewaluacyjna . . . . . . . . . . . . . . . . . . . . . . . . . . .
5.4.
Algorytm alfa-beta . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
5.5.
Sukces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
5.6.
Warcaby . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
5.7.
Go . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Spis tre±ci
5.8.
3
Dalsze perspektywy . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6. Dwa tysi¡ce lat logiki
............................
6.1.
Arystoteles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.2.
Pi¡ty postulat . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.3.
Wizje Leibniza . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.4.
Obalenie Euklidesa . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.5.
Matematyzacja logiki . . . . . . . . . . . . . . . . . . . . . . . . . .
6.6.
‘wiatowy kongres matematyczny . . . . . . . . . . . . . . .
6.7.
Antynomie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.8.
Program Hilberta . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.9.
Nierozstrzygalno±¢ . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.10.
Istota obliczania . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7. Idee wspóªczesnej matematyki
...................
7.1.
Odkrycie liczby niewymiernej . . . . . . . . . . . . . . . . . .
7.2.
Rachunek prawdopodobie«stwa . . . . . . . . . . . . . . . .
7.3.
Wzór Bayesa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.4.
Wielkie twierdzenie Fermata . . . . . . . . . . . . . . . . . . .
7.5.
Problem czterech barw . . . . . . . . . . . . . . . . . . . . . . . . .
7.6.
Matematyka dyskretna . . . . . . . . . . . . . . . . . . . . . . . . .
7.7.
Zawodna intuicja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.8.
Ciaªa i grupy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.9.
Teoria zbiorów . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.10.
Co to jest liczba? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.11.
Paradoksy niesko«czono±ci . . . . . . . . . . . . . . . . . . . . .
7.12.
Argument przek¡tniowy . . . . . . . . . . . . . . . . . . . . . . . .
7.13.
Twierdzenie Cantora . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.14.
Zbiór wszystkich sªów . . . . . . . . . . . . . . . . . . . . . . . . . .
CZ†‘‚ II: LOGIKA
8. Klasyczny rachunek zda«
8.1.
........................
Sylogistyka . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Spis tre±ci
4
8.2.
Rachunek zda« . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8.3.
Koniunkcja i alternatywa . . . . . . . . . . . . . . . . . . . . . .
8.4.
Implikacja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8.5.
Negacja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8.6.
Inne spójniki . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8.7.
Metoda zero-jedynkowa . . . . . . . . . . . . . . . . . . . . . . . .
8.8.
Schematy wnioskowa« . . . . . . . . . . . . . . . . . . . . . . . . .
8.9.
Inne uj¦cia . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9. Peªna formalizacja
...............................
9.1.
Kwantykatory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9.2.
Relacje . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9.3.
Aksjomatyzacja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9.4.
Teorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9.5.
Formalizacja j¦zyka matematyki . . . . . . . . . . . . . . .
9.6.
Hipoteza Goldbacha . . . . . . . . . . . . . . . . . . . . . . . . . . .
9.7.
J¦zyk formalny . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9.8.
Termy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9.9.
Formuªy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9.10.
Zmienne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9.11.
Aksjomaty logiczne . . . . . . . . . . . . . . . . . . . . . . . . . . . .
9.12.
Reguªy wnioskowania . . . . . . . . . . . . . . . . . . . . . . . . . .
9.13.
Arytmetyka elementarna . . . . . . . . . . . . . . . . . . . . . . .
9.14.
Twierdzenia i dowody . . . . . . . . . . . . . . . . . . . . . . . . . .
10. Metamatematyka
..................................
10.1.
Semantyka . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
10.2.
Denicja prawdy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
10.3.
Twierdzenie Gödla o peªno±ci . . . . . . . . . . . . . . . . . .
10.4.
Twierdzenie o niesprzeczno±ci . . . . . . . . . . . . . . . . . .
10.5.
Redukcja poj¦¢ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
10.6.
Redukcja matematyki do logiki . . . . . . . . . . . . . . . .
Spis tre±ci
5
10.7.
Antynomie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
10.8.
Aksjomatyzacja teorii zbiorów . . . . . . . . . . . . . . . . .
10.9.
System ZF . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
10.10. Aksjomatyzacja matematyki . . . . . . . . . . . . . . . . . . .
10.11. Aksjomat wyboru . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
10.12. Program Hilberta . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
10.13. Póªrozstrzygalno±¢ . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
11. Twierdzenie Gödla
................................
11.1.
Formalizacja metamatematyki . . . . . . . . . . . . . . . . .
11.2.
Dowód . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
11.3.
Immanentna niezupeªno±¢ . . . . . . . . . . . . . . . . . . . . . .
11.4.
Nieudowadnialno±¢ niesprzeczno±ci . . . . . . . . . . . . .
11.5.
Nierozstrzygalno±¢ logiki . . . . . . . . . . . . . . . . . . . . . . .
11.6.
Metateoria . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
12. Teoria oblicze«
....................................
12.1.
Wyra»enia i termy . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
12.2.
Algorytm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
12.3.
Efektywne rozstrzyganie . . . . . . . . . . . . . . . . . . . . . . .
12.4.
Kodowanie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
12.5.
Kodowanie binarne . . . . . . . . . . . . . . . . . . . . . . . . . . . .
12.6.
Funkcje rekurencyjne . . . . . . . . . . . . . . . . . . . . . . . . . .
13. Maszyny Turinga
..................................
13.1.
Denicja maszyny Turinga . . . . . . . . . . . . . . . . . . . . .
13.2.
Przykªad I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
13.3.
Obliczanie funkcji . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
13.4.
Przykªad II . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
13.5.
Równowa»no±¢ denicji . . . . . . . . . . . . . . . . . . . . . . . .
13.6.
Maszyna RAM . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
13.7.
Teza Churcha . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
13.8.
Rozstrzygalno±¢ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Spis tre±ci
6
13.9.
J¦zyki formalne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
13.10. Rozumowanie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
13.11. Klasy rekurencyjno±ci . . . . . . . . . . . . . . . . . . . . . . . . . .
13.12. Argument z teorii mnogo±ci . . . . . . . . . . . . . . . . . . . .
13.13. Problem stopu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
13.14. Inne problemy nierozstrzygalne . . . . . . . . . . . . . . . .
14. Praktyka oblicze«
.................................
14.1.
Teoria i praktyka . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
14.2.
Algorytmy praktyczne . . . . . . . . . . . . . . . . . . . . . . . . .
14.3.
Czas wielomianowy . . . . . . . . . . . . . . . . . . . . . . . . . . . .
14.4.
Zªo»ono±¢ obliczeniowa . . . . . . . . . . . . . . . . . . . . . . . . .
14.5.
Klasa NP . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
14.6.
P6=NP . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
14.7.
Szyfrowanie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
15. Logiki nieklasyczne i metodologia nauk
.........
15.1.
Logiki wielowarto±ciowe . . . . . . . . . . . . . . . . . . . . . . . .
15.2.
Logiki modalne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
15.3.
Logika intuicjonistyczna . . . . . . . . . . . . . . . . . . . . . . .
15.4.
Logiki dopuszczaj¡ce sprzeczno±¢ . . . . . . . . . . . . . .
15.5.
Logika rozmyta . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
15.6.
Logika indukcji . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
15.7.
Wiedza analityczna i syntetyczna . . . . . . . . . . . . . .
15.8.
Bayesianizm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
15.9.
Zakªad holenderski . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
15.10. Logika prawdopodobie«stwa . . . . . . . . . . . . . . . . . . .
15.11. Logika nieformalna . . . . . . . . . . . . . . . . . . . . . . . . . . . .
15.12. Dedukcjonizm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
15.13. Metodologia nauk . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
15.14. Denicje . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
15.15. Braki logiki formalnej . . . . . . . . . . . . . . . . . . . . . . . . . .
Spis tre±ci
7
CZ†‘‚ III: SZTUCZNA INTELIGENCJA
16. In»ynieria wiedzy
.................................
16.1.
Bazy wiedzy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
16.2.
Mechanizm wnioskowania . . . . . . . . . . . . . . . . . . . . . .
16.3.
Rezolucja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
16.4.
Koniunkcyjna posta¢ normalna . . . . . . . . . . . . . . . . .
16.5.
Eliminacja kwantykatorów . . . . . . . . . . . . . . . . . . . .
16.6.
Unikacja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
16.7.
W kierunku praktyki . . . . . . . . . . . . . . . . . . . . . . . . . . .
16.8.
Walka z kombinatoryczn¡ eksplozj¡ . . . . . . . . . . . .
16.9.
Automatyczne dowodzenie twierdze« . . . . . . . . . . .
16.10. Hipoteza Robbinsa . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
16.11. Programowanie logiczne . . . . . . . . . . . . . . . . . . . . . . . .
16.12. Systemy ekspertowe . . . . . . . . . . . . . . . . . . . . . . . . . . . .
17. Rozumowania zdroworozs¡dkowe
................
17.1.
Formalizacja wiedzy zdroworozs¡dkowej . . . . . . . .
17.2.
Ontologia . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
17.3.
CYC . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
17.4.
Ramy i sieci semantyczne . . . . . . . . . . . . . . . . . . . . . .
17.5.
Logiki deskrypcji . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
17.6.
Kªopoty z logik¡ pierwszego rz¦du . . . . . . . . . . . . .
17.7.
Niepewno±¢ wiedzy . . . . . . . . . . . . . . . . . . . . . . . . . . . .
17.8.
Sieci bayesowskie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
17.9.
Logiki niemonotoniczne . . . . . . . . . . . . . . . . . . . . . . . .
17.10. Logika domniema« . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
17.11. Perspektywy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
18. Inteligencja obliczeniowa
.........................
18.1.
Obliczeniowy model mózgu . . . . . . . . . . . . . . . . . . . .
18.2.
Perceptron . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
18.3.
Uczenie neuronu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Spis tre±ci
8
18.4.
Sztuczne sieci neuronowe . . . . . . . . . . . . . . . . . . . . . . .
18.5.
Perspektywy sieci neuronowych . . . . . . . . . . . . . . . .
18.6.
Mózg i komputer . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
18.7.
Algorytmy genetyczne . . . . . . . . . . . . . . . . . . . . . . . . .
18.8.
Obliczenia ewolucyjne . . . . . . . . . . . . . . . . . . . . . . . . . .
18.9.
Inteligencja rojowiska . . . . . . . . . . . . . . . . . . . . . . . . . .
18.10. Inteligencja obliczeniowa . . . . . . . . . . . . . . . . . . . . . . .
18.11. Perspektywy inteligencji obliczeniowej . . . . . . . . . .
19. Maszyny ucz¡ce si¦
...............................
19.1.
Drzewa decyzyjne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
19.2.
Funkcje boolowskie i hipotezy . . . . . . . . . . . . . . . . . .
19.3.
Ucz¡ce si¦ programy . . . . . . . . . . . . . . . . . . . . . . . . . . .
19.4.
Uczenie gier logicznych . . . . . . . . . . . . . . . . . . . . . . . .
19.5.
Teoria uczenia si¦ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
19.6.
Uczenie obliczeniowe . . . . . . . . . . . . . . . . . . . . . . . . . . .
19.7.
Ogólna teoria wnioskowania indukcyjnego . . . . . .
19.8.
Prawdopodobie«stwo algorytmiczne . . . . . . . . . . . .
19.9.
Maszyna Gödla . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
20. Przetwarzanie j¦zyka naturalnego
...............
20.1.
Trzy problemy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
20.2.
Rozpoznawanie mowy . . . . . . . . . . . . . . . . . . . . . . . . . .
20.3.
Struktura gramatyczna . . . . . . . . . . . . . . . . . . . . . . . .
20.4.
Analiza znaczenia . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
20.5.
Znaczenie zdania . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
20.6.
NLP . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
20.7.
Tªumaczenie maszynowe . . . . . . . . . . . . . . . . . . . . . . .
20.8.
Mówi¡ce bazy danych . . . . . . . . . . . . . . . . . . . . . . . . . .
20.9.
Komputer rozumny . . . . . . . . . . . . . . . . . . . . . . . . . . . .
20.10. Wyszukiwanie informacji . . . . . . . . . . . . . . . . . . . . . . .
20.11. Chatboty i inne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Spis tre±ci
9
21. Sztuczna inteligencja i otoczenie
................
21.1.
Automatyczne planowanie . . . . . . . . . . . . . . . . . . . . .
21.2.
Robotyka . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
21.3.
Komputerowe widzenie . . . . . . . . . . . . . . . . . . . . . . . . .
21.4.
Kognitywistyka . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
21.5.
Prawo Moore'a . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
21.6.
Futurologia . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
22. Perspektywy
.......................................
22.1.
Problem bada« interdyscyplinarnych . . . . . . . . . . .
22.2.
Problemy z logik¡ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
22.3.
Rozpoznanie kl¦ski poznawczej . . . . . . . . . . . . . . . . .
22.4.
Logika formalna i sztuczna inteligencja . . . . . . . . .
22.5.
Metoda naukowa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
22.6.
Podej±cie in»ynierskie . . . . . . . . . . . . . . . . . . . . . . . . . .
22.7.
Sceptycyzm i optymizm . . . . . . . . . . . . . . . . . . . . . . . .
22.8.
Sztuczna inteligencja w matematyce . . . . . . . . . . .
22.9.
Wiedza nieformalna . . . . . . . . . . . . . . . . . . . . . . . . . . . .
22.10. Realne perspektywy . . . . . . . . . . . . . . . . . . . . . . . . . . .
22.11. Ograniczone dziedziny . . . . . . . . . . . . . . . . . . . . . . . . .
22.12. W kierunku rozumienia j¦zyka naturalnego . . . . .
Bibliograa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Skorowidz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .