Inteligentne Systemy Autonomiczne
advertisement
Inteligentne Systemy Autonomiczne Omó Omówiliś wiliśmy Kognitywistyka W oparciu o wykład Prof. Randall O'Reilly University of Colorado, Prof. Włodzisława Ducha Uniwersytet Mikołaja Kopernika oraz http://wikipedia.org/ http://grey.colorado.edu/CompCogNeuro/index.php/CECN_CU_Boulder_OReilly http://grey.colorado.edu/CompCogNeuro/index.php/Main_Page EE141 Janusz 1 2 Podstawy rozwoju inteligentnych systemó systemów Projekt do wykładu w oparciu o ćwiczenia programu Emergent do 10% oceny Z ksiązki Rolf Pfeifer “Understanding of Intelligence” Oceniany przez asystenta Podstawy kognitywistyki i jej psychologiczne uwarunkowania Modele i mechanizmy inteligencji obliczeniowej Modele pamięci i uczenia Organizacje i budowę mózgu EE141 A. Starzyk Wyższa Szkoła Informatyki i Zarządzania w Rzeszowie Wymagania Pojęcie inteligencji obudowanej (EI) Uwarunkowania EI Zasady projektowania mechanizmów EI Własności sztucznych sieci neuronowych Podstawy robotyki Przykłady autonomicznych systemów EI W pozostałej części wykładu omówimy Alternatywny projekt w oparciu o “Goal Creation Experiment” Obecność na wykładzie Egzamin końcowy składa się z Części opisowej na ostatnich zajęciach dotyczącej przerobionego na wykładzie materiału Części opisowej dotyczącej ćwiczeń z przygotowana lista pytań na które studenci odpowiadają w samodzielnie sporządzonym raporcie złożonym na ostatnich zajęciach lub opisu projektu w oparciu o “Goal Creation Experiment” Strona wykładu Współdziałanie ze złożonym otoczeniem Tania budowa Balans ekologiczny Zasada nadmiarowości Równoległe, luźno połączone procesy Asynchronizm Współdziałanie czujników i przekaźników Zasada wartości http://www.ent.ohiou.edu/~starzyk/network/Class/ee690/ISA II/index.htm 3 EE141 EE141 Zasady projektowania autonomicznych systemó systemów inteligentnych Agent 4 Rysunek Ciarán O’Leary- Dublin Institute of Technology Inteligencja Obudowana Z książki Rolf Pfeifer “Understanding of Intelligence” Zasady Projektowania Podejście syntetyczne Perspektywa czasowa Wyłanianie sie Różnorodność Nisza ekologiczna Projektowanie Agentów Projekt jest tani Ma balans ekologiczny Zasada nadmiarowości Równoległe, luźno powiązane procesy Współdziałanie sensoryczno-motoryczne Zasada wartości działania Definicja Inteligencja Obudowana (EI) jest to mechanizm który uczy sie jak przetrwać w nieprzychylnym otoczeniu – Mechanizm: biologiczny, mechaniczny albo wirtualny agent z wbudowanymi czujnikami i siłownikami – EI oddziaływuje na otoczenie i odczuwa wyniki swojego działania – Nieprzychylność otoczenia nie zanika i stymuluje EI do działania – Nieprzychylność: agresja, ból, ograniczone środki, itp. – EI uczy sie, musi wiec mieć asocjacyjną samoorganizującą sie pamięć – Wiedza jest zdobywana przez EI (pochodna inteligencji) 5 EE141 6 EE141 1 Obudowa Umysłu Określanie Abstrakcyjnych Celó Celów Obudowa zawiera połączenia sensoryczne i motoryczne którymi rdzeń inteligencji kontroluje przy współdziałaniu z otoczeniem. Konieczna do rozwoju inteligencji Niekoniecznie stała lub w formie fizycznego ciała. Jej granice są zmienne i wpływają na samookreślenie mózgu. Sensory pathway (perception, sense) Celem jest zmniejszenie prymitywnego poziomu bólu Abstrakcyjne cele Embodiment 9są wytwarzane w oparciu o niższe cele 9zaspakajają prymitywne cele Intelligence core Motor pathway (action, reaction) refrigerator Open “food” becomes a sensory input to abstract pain center Abstract pain (Delayed memory of pain) Food Eat - Environment Association Inhibition Reinforcement Connection Planning Expectation 7 EE141 Level II + Level I + Dual pain Pain Stomach Primitive Level 8 EE141 Goal Creation Experiment Goal Creation Experiment EI Architecture Pain WTA WTA Goal Creation Mk 1 Competing goals Perceive Act Pk 10 Sk 1 Gk 1 Planning INPUT Pl Task Environment Bk OUTPUT S Simulation or Real-World System 9 EE141 P B G M Połączenia pomiędzy neuronami sensorycznymi S, ruchowymi M, torującymi B, bolu P i celow działania G. 10 EE141 Goal Creation Experiment Goal Creation Experiment 1 S2 1 10 P2 wBP2 B2 S1 10 B1 UA 10 9Zadaniem jest napisanie programu realizującego ten eksperyment dla dowolnej ilości wejść i wyjść M2 1 9Zadane w eksperymencie parametry będą użyte do ilustracji konkretnego uczenia 1 wPP2 9Program ma zademonstrować działanie maszyny w zmieniającym sie środowisku G 9W procesie uczenia należy wykorzystać parametry środowiska podane w eksperymencie wPG 9Maszyna będzie testowana przy nowych parametrach środowiska P1 9Pomiar skuteczności działania określony będzie poprzez integracje prymitywnego bolu wBP1 Dopasowanie wag torujących ośrodki bolu 11 EE141 12 EE141 2 ((Neuro)kongitywizacja Neuro)kongitywizacja Mózgi ... Powoli udaje się nam zrozumieć naturę ludzką. Wszystkie dziedziny ulegają „kognitywizacji”: Neurofilozofia, filozofia umysłu. Psychologia (neuro)kognitywna. Lingwistyka (neuro)kognitywna. Nowe dziedziny: Kognitywna matematyka. Kognitywna fizyka. Kognitywna historia, antropologia, socjologia. Kognitywna ekonomia i neuromarketing. Neuroestetyka. Neuroetyka. Neuroteologia. 13 +Wiele innych dziedzin...bez zrozumienia siebie nie da się rozumieć! EE141 Najbardziej interesujące i najbardziej złożone obiekty w znanym wszechświecie Jak można zrozumieć działanie mózgu? Na jakim poziomie się do tego zabrać? Zewnętrzny opis niewiele da. Jak można zrozumieć działanie telewizora lub komputera? Eksperymenty nie wystarczą, konieczny jest schemat i zrozumienie zasad działania. Aby się upewnić, że rozumiemy jak działa, trzeba zrobić model. 14 EE141 Sk ąd co ś wiemy? Skąd coś Jak zrozumie ćm ózg? zrozumieć mózg? Niezwykle ważne pytanie: skąd coś wiemy? Zrozumieć: zredukować do prostszych mechanizmów? Przykład: cudowna dieta dr K, chińska medycyna ludowa (bardzo popularna w Singapurze) i inne cuda medyczne. Skąd wiemy, że działa? Skąd wiemy, że nasze opinie odpowiadają rzeczywistości? Gall zauważył, że kształt czaszki decyduje o zdolnościach. Tysiące przypadków potwierdziły jego obserwacje. => Kranioskopia: mierzenie kształtu czaszki i określanie zdolności. Oto mapa głównych ośrodków ... Jakich mechanizmów? Analogii z komputerem? RAM, CPU? Logika? To marne analogie. Psychologia: najpierw trzeba opisać zachowanie, poszukuje wyjaśnień najczęściej na poziomie opisowym, ale jak je zrozumieć? Czy naprawdę wiem, czy tylko mi się wydaje? Czy mogę poprzestać na niepewności, czy muszę się zdeklarować? Niepewność pozwala się uczyć, pewność znacznie uczenie utrudnia (widać to na modelach). Jeśli zdajemy sobie sprawę z tego, jak łatwo się samemu oszukiwać, możemy uniknąć fanatyzmu (naukowego i nie tylko). 15 EE141 Redukcjonizm fizyczny: mechanizmy mózgu. Rekonstrukcjonizm: używając mechanizmy odtworzyć funkcje mózgu Na wiele pytań można odpowiedzieć tylko z perspektywy ekologicznej i ewolucyjnej: dlaczego świat jest taki, jaki jest? Bo taki się zrobił ... Dlaczego kora ma budowę kolumnową i warstwową? Stworzyć: co trzeba wiedzieć by stworzyć sztuczny mózg? 16 EE141 Od molekuł molekuł poprzez sieci neuronow... neuronow... … do zachowania 10-10 m, poziom molekularny: kanały jonowe, synapsy, własności błon komórkowych, biofizyka, neurochemia, psychofarmakologia; 10-2 m, sieci mezoskopowe: mapy czuciowo-ruchowe, samoorganizacja, teorie pola średniego, pamiec asocjacyjna, teorie ośrodków ciągłych, EEG, MEG, metody obrazowania PET/fMRI ... 10-6 m, pojedyncze neurony: neurochemia, biofizyka, LTP, neurofizjologia, modele neuronów, detektory specyficznej aktywności, wylanianie sie. 10-1 m, pola transkorowe, obszary funkcjonalne mózgu: uproszczone modele kory, struktury podkorowe, działania sensomotoryczne, integracja funkcji, wyższe czynności psychiczne, pamięć robocza, świadomość; (neuro)psychologia, psychiatria komputerowa ... 10-4 m, małe sieci: synchronizacja aktywności neuronów, rekurencja, neurodynamika, układy wielostabilne, generatory wzorców, pamięc, zachowania chaotyczne, kodowanie neuronowe; neurofizjologia ... Zjawiska poznawcze Zasady oddziaływań 10-3 m, funkcjonalne grupy neuronów: kolumny korowe (104-105), synchronizacja grup, kodowanie populacyjne, mikroobwody, Local Field Potentials, neurodynamika wielkiej skali, pamiec sekwencyjna, neuroanatomia i neurofizjologia. Mechanizmy neurobiologiczne 17 EE141 18 EE141 3 Poziom systemowy Poziomy opisu Podsumowanie (Churchland, Sejnowski 1988) 19 EE141 … do umys łu umysłu Słowniczek nazw Polsko - Łacińskich części mózgu http://www.kognitywistyka.net/mozg/slowniczek.html 20 oraz innych informacji o budowie i funkcjonowaniu mózgu EE141 ŹŹródła ródła wiedzy o m ózgu mózgu Anatomia mózgu: metody klasyczne, neuroanatomia porównawcza; tomografia komputerowa (CT scan), USG mózgu; Rezonans Magnetyczny (MRI). Teraz zdarza się cud ... ¾1 m, CUN, cały mózg i organizm: ¾powstaje świat wewnętrzny, zachowania intencjonalne, działania celowe, myślenie, język, wszystko co bada psychologia behawioralna. ¾Przybliżenia modeli neuronowych: ¾Finite State Automata, reguły zachowania, modele oparte na wiedzy mechanizmów poznawczych w sztucznej inteligencji. ¾Gdzie podziała się psyche, perspektywa wewnętrzna? ¾Lost in translation: sieci => automaty skończone => zachowanie 21 EE141 Metody badania funkcji mózgu: • Obserwacje rezultatów uszkodzeń (wypadki, udary, guzy mózgu, operacje mózgu). • Obserwacje neuropsychologiczne, choroby psychiczne. • Systematyczne uszkodzenia mózgów zwierząt. • Bezpośrednie stymulacje mózgu (TMS, elektrody) i zmysłów, obserwacje reakcji fizjologicznych (introspekcja, GSR, EMG, oczy). • Bezpośrednie obserwacje elektrycznej aktywności kory mózgu: ECoG, optyczne, pomiary wieloelektrodowe. • Obserwacje aktywności dużych grup neuronów EEG, MEG. • Nieinwazyjne metody pośrednie: fMRI, PET, SPECT. 22 EE141 Model transformacji Podejście neurokognitywne Przetwarzanie informacji, pomijane sprzężenia zwrotne: redukcja ilości informacji (kategoryzacja), działania senso-motoryczne. Computational cognitive neuroscience: szczegółowe modele funkcji poznawczych i neuronów. Output weights Informatyka neurokognitywna: uproszczone modele wyższych czynności poznawczych, myślenia, rozwiązywania problemów, uwagi, języka, kontroli zachowania i świadomości. Wiele spekulacji, ale modele jakościowe wyjaśniające rezultaty eksperymentów psychofizycznych oraz przyczyny chorób psychicznych rozwijają się szybko. Nawet proste mózgo-podobne przetwarzanie informacji daje rezultaty podobne do prawdziwych! Przestroga przed nadmiernym optymizmem opartym na modelach behawioralnych. Input weights Inputs: 23 EE141 ~ p(MI|X) 0.7 Myocardial Infarction (atak serca) EE141 −1 65 Sex Age 1 5 3 1 Smoking Pain Elevation Pain 24 Intensity Duration ECG: ST 4 Model samoorganizacji Model dynamiczny Topograficzne reprezentacje w licznych obszarach mózgu: bodźców czuciowych, w korze ruchowej i móżdżku, wielomodalne mapy orientacji w wzgórkach czworaczych górnych, mapy w układzie wzrokowym i mapy kory słuchowej. Model (Kohonen 1981): konkurencja między grupami neuronów i lokalna kooperacja. Neurony reagują na sygnały dostrajając swoje parametry tak, by bodźce do siebie podobne pobudzaly sąsiednie neurony. x=dane o=pozycje wag neuronów o x o o o o x o x o o o xo o N-wymiarowa przestrzeń danych o wagi wskazują na punkty w N-D siatka neuronów w 2-D 25 EE141 Silne sprzężenia zwrotne, neurodynamika. Model Hopfielda: pamięć skojarzeniowa, uczenie w oparciu o regułę Hebba, dynamika synchroniczna, neurony dwustanowe. Wektor potencjałów wejściowych V(0)=Vini , czyli wejście = wyjście. Dynamika (iteracje) ⇒ sieć Hopfielda osiąga stany stacjonarne, czyli odpowiedzi sieci (wektory aktywacji elementów) na zadane pytanie Vini (autoasocjacja). Jeśli połączenia są symetryczne to taka sieć dąży do stanu stacjonarnego (atraktor punktowy). ⎛ Vi ( t + 1) = sgn I i ( t + 1) = sgn ⎜ t = dyskretny czas. ( ) ⎝ EE141 Spike EPSP, IPSP Rsyn Csyn Rm -70mV Potencjał akcyjny Na+ “Spiking Neuron Models”, W. Gerstner and W. Kistler Cambridge University Press, 2002 K+ http://icwww.epfl.ch/~gerstner//SPNM/SPNM.html Jony/białka 27 EE141 100 28 Model odpowiedzi impulsowej wewnatrz I Ka mV gK 0 gNa gl Kanaly jonowe Na Na zewnatrz Pompa jonowa pobudzenie Aktywizacja j dh dn dm hnm−−−hn0m ()u ) 0((u 0u) ===−−− dt dt dt ττhτn(m(uu()u) ) η (t − ti^ ) i Pobudzenie: EPSP ui ε (t − t jf ) Pobudzenie: EPSP ε (t − t Aktywizacja: AP η (t − t sod potas I wyciek I Na I leak K du 3 4 C = g Na m h(u − ENa ) + g K n (u − EK ) + g l (u − El ) + I (t ) dt EE141 Ca2+ EE141 Model HodgkinHodgkin-Huxley C ⎞ −θ j ⎟ ⎠ Hodgkin i Huxley zmierzyli te prądy i opisali ich dynamikę równaniami różniczkowymi Spike Cm j Potencjały akcyjne sa wynikiem prądów które przepływają przez kanały jonowe w błonie komórkowej Soma Isyn(t) ij j Podstawy molekularne Model biofizyczny – spiking neurons Synapses ∑W V26 ^ i ) ui (t ) = η (t − t ) + Prawdopodobienstwo ze kanal jest otwarty jest ui (t ) = ϑ ⇒ opisane przez dodatkowe zmienne m, n, i h. 29 ∑∑ w ε (t − t ) ij j Firing: ϑ ) Wszystkie impulsy i neurony Poprzedni impuls i ^ i f j f j liniowy f ti^ = t progowy 30 EE141 5 Model integracji i akywizacji j i ui I Zjawiska psychologiczne Aktywizacja ϑ Uwaga przestrzenna: uwzględnienie interakcji pomiędzy strumieniami informacji wzrokowej pozwoli symulować skupianie uwagi. reset ϑ Pobudzenie : EPSP τ⋅ d ui = −ui + RI (t ) dt ui (t ) = ϑ ⇒ Fire+reset liniowy Percepcja wzrokowa: oglądając naturalne obrazy należy zrozumieć sposoby kodowania obiektów i scen. ε (t − t jf ) Pamięć: modelowanie struktur hipokampa pozwala na zrozumienie różnych aspektów pamięci epizodycznej, a mechanizmy uczenia pokazują jak dochodzi do powstawania pamięci semantycznej. Pamięć robocza: wyjaśnienie zdolności do jednoczesnego utrzymywania w umyśle kilku liczb w czasie obliczen wymaga specyficznych mechanizmów w modelu neuronowym. progowy 31 EE141 32 EE141 Zjawiska psychologiczne Zalety modelowych symulacji Czytanie słów: sieć będzie się uczyć czytania i wymowy słów a następnie uogólniać swoją wiedze na wymowę nowych słów oraz odtwarzać pewne formy dysleksji. Reprezentacje semantyczne: analizując tekst na podstawie kontekstu występowania poszczególnych słów sieć nauczy się semantyki wielu pojęć. Podejmowanie decyzji i wykonywanie zadań: model kory przedczołowej potrafi utrzymywać uwagę na wykonywanych zadaniach pomimo czynników przeszkadzających. Rozwój reprezentacji kory ruchowej i somatosensorycznej: przez uczenie i kontrolowaną samoorganizację; Modele pomagają zrozumieć zjawiska: umożliwiają nowe inspiracje, wgląd w problem pozwalają na symulację efektów uszkodzeń i zaburzeń (leków, zatruć). pomagają zrozumieć zachowanie, modele można formułować na różnych poziomach złożoności, modele zjawisk zachodzących w ciągły sposób (np ruchu czy percepcji), modele umożliwiają szczegółową kontrolę warunków eksperymentu i dokładną analizę wyników Modele wymagają dokładnej specyfikacji, unaocznienia założeń pozwalają na nowe przewidywania dokonują dekonstrukcji koncepcji psychologicznych (pamięć robocza?) pozwalają zrozumieć złożoność problemu pozwalają na uproszczenia umożliwiając analize złożonego systemu dostarczają jednolitego, spójnego schematu postępowania 33 EE141 34 EE141 Wady symulacji Motywacja Kognitywistyczna Modele są zwykle za proste, powinny obejmować wiele poziomów. Modele mogą być zbyt złożone, czasami teoria pozwala na prostsze wyjaśnienia (czemu na równiku nie ma huraganów?). Nie zawsze wiadomo co należy uwzględnić w modelowaniu. Modele nawet jeśli działają to jeszcze nie znaczy, że rozumiemy mechanizmy Wiele alternatywnych choć całkiem różnych modeli może wyjaśnić to samo zjawisko. Ważne są ogólne zasady, parametry są ograniczone przez neurobiologię na różnym poziomie, im więcej zjawisk model tłumaczy tym jest bardziej prawdopodobny i uniwersalny. Uwzględnianie oddziaływań i wyłanianie (konstrukcja) są bardzo ważne. Wiedza zdobywana dzięki modelom powinna ulegać kumulacji Pomimo ze proces myślowy wydaje się szeregowym przetwarzaniem informacji dokładniejsze modele przewidują równolegle przetwarzanie Stopniowe przejście pomiędzy świadomymi i podświadomymi procesami Równolegle przetwarzanie sygnałów sensoryczno motorycznych przez dziesiątki milionów neuronów Wyspecjalizowane obszary pamięci odpowiedzialne za rożne reprezentacje np kształt, kolor, miejsce, czas Stopniowość reprezentacji symbolicznych bardziej rozmyta niż logika binarna Mechanizmy uczenia jako podstawa kognitywistyki Kiedy się uczysz zmieniasz sposób przetwarzania informacji w mózgu Rezonans pomiędzy reprezentacja “od dołu” i rozumieniem “od góry” Przewidywanie i kompetycja pojęć 35 EE141 36 EE141 6
