Arithmetic - Ohio University

Przetwarzanie informacji przez
mózgi
W oparciu o wykład
Prof. Randall O'Reilly
University of Colorado oraz
Prof. Włodzisława Ducha
Uniwersytet Mikołaja Kopernika
1
EE141
Janusz
A. Starzyk Wyższa Szkoła Informatyki i Zarządzania w Rzeszowie
Zasady
 Mózg nie jest uniwersalnym komputerem.
 Neurony dopasowały się ewolucyjnie do wykrywania specyficznych
własności analizowanych sygnałów.
 Kompromis pomiędzy specyficznością i wbudowanymi oczekiwaniami
a ogólnością i uniwersalnością.
 Kompromis pomiędzy szybkością hipokampusa reprezentującego
sekwencje czasowe a powolnością kory integrująca wiele wydarzeń
 Kompromis pomiędzy aktywną pamięcią i kontrolą rozumienia
Jak z neuronów zbudować wszystkie potrzebne elementy, specyficzne i
uniwersalne?
Dynamiczne zasady na poziomie makro:
 Spełnianie ograniczeń, w tym wewnętrznych, wiedzy a priori.
 Wzmacnianie kontrastów, atraktory, aktywna pamięć.
 Mechanizmy uwagi, konkurencja wzajemnie się hamująca.
2
EE141
Hierarchia i specjalizacja
Procesy umysłowe: wynik hierarchicznej i wyspecjalizowanej
transformacji sygnałów zmysłowych, stanów wewnętrznych (kategorii)
i podejmowanych działań.
Warstwy neuronów-detektorów przetwarzają dochodzące do nich
od receptorów sygnały wzmacniając/osłabiając różnice.
Powstające stany wewnętrzne dostarczają interpretacji stanów
środowiska - hierarchiczne przetwarzanie konieczne jest do osiągnięcia
niezmienniczości reprezentacji, pomimo zmiennych sygnałów, np.
słuchowego (fonemy), czy wzrokowego (kolor, obiekty).
Transformacje i wyspecjalizowane strumienie przetwarzania informacji
pobudzają wewnętrzne reprezentacje kategorii i dostarczają danych do
podejmowania działań, np. reakcji ruchowych. Jednocześnie
przetwarzane informacje modyfikują sposób przetwarzania.
3
EE141
Rozproszenie i interakcja
Specjalizacja zwiększa sprawność działania, ale oddziaływania
pomiędzy strumieniami są niezbędne do koordynacji, zdobywania
dodatkowych stabilnych informacji na różnym poziomie, np. orientacja
przestrzenna i rozpoznawanie obiektów.
Na wyższym poziomie mamy heterogeniczne obszary kojarzeniowe.
Wiedza związana z rozpoznaniem
np. czytanego słów rozproszona
jest w całym mózgu, tworząc
system pamięci semantycznej.
Na mikro i makro-poziomie jest
podobnie: interpretacja całości
jest wynikiem rozproszonej
aktywności wielu elementów.
Wiedza = Przetwarzanie,
program ~ dane.
EE141
4
Zasady dynamiczne
Dobrze znane pobudzenia wywołują natychmiastową reakcję.
Nowe mogą wymagać iteracyjnego szukania najlepszego kompromisu
spełniającego ograniczenia wynikające z posiadanej wiedzy =
możliwych do osiągnięcia stanów dynamicznych mózgu.
Istnieje wiele lokalnych, alternatywnych lub sub-optymalnych, rozwiązań
=> kontekst lokalny (wewnętrzny) zmienia interpretację.
Napadł na bank.
Time flies like an arrow
Rozbił bank.
Fruit flies like a banana
Pamięć trwała jest wynikiem uczenia, jest to pamięć synaptyczna.
Pamięć aktywna (dynamiczna) jest wynikiem chwilowych wzajemnych
pobudzeń aktywnych obszarów; jest krótkotrwała bo neurony się
męczą i angażują w wiele procesów; bezpośrednio wpływa na procesy
zachodzące w innych obszarach mózgu.
Taki mechanizm powoduje niepowtarzalność przeżyć = interpretacji
wewnętrznych, stany kontekstowe są zawsze trochę odmienne.
5
Uwaga
(skupienie)
jest
wynikiem
oddziaływań
hamujących.
EE141
Ogólne funkcje kory
Obszary Brodmana
w korze
Cztery platy kory
i ich funkcje
Nazewnictwo różnych części w zależności od ich lokalizacji
Podsumowanie f. kory
EE141
http://www.is.umk.pl/~duch/Wyklady/Mozg/09-4-funkcje-kory.htm
6
Ogólne funkcje kory
Widoczne płaty półkuli
mózgu :
płat czołowy
płat potyliczny
płat ciemieniowy
płat skroniowy
Płat czołowy odpowiada za: planowanie myślenie pamięć, wolę
działania i podejmowanie decyzji ocenę emocji i sytuacji, pamięć
wyuczonych działań ruchowych, np. taniec, nawyki, specyficzne
schematy zachowań, wyrazy twarzy przewidywanie konsekwencji
działań konformizm społeczny, takt uczucia błogostanu (układ
nagrody), frustracji, lęku i napięcia.
Płat potyliczny odpowiada za: widzenie, analizę koloru, ruchu, kształtu
7
głębi,
skojarzenia
wzrokowe
EE141
Ogólne funkcje kory
płat ciemieniowy
płat skroniowy
Płat ciemieniowy odpowiada za: orientację przestrzenną
rozpoznawanie ruchu, czucie temperatury, dotyku, bólu, umiejscowienie
wrażeń czuciowych, integrację ruchu czucia i wzroku
rozumienie pojęć abstrakcyjnych.
Płat skroniowy odpowiada za: mowę, pamięć werbalną, rozpoznawanie
obiektów, słuch i wrażenia dźwiękowe, analizę zapachów.
8
EE141
Obszary podkorowe
Pień mózgu (brain stem):
jądra szwu – serotonina,
twór siatkowaty: ogólna
przytomność.
Śródmózgowie
(mesencephalon): część
nakrywki (VTA) –
dopamina, wartość
obserwacji/działania.
Wzgórze (thalamus): wejścia sygnałów zmysłowych, uwaga
Móżdżek (cerebellum): uczenie się ruchu, sekwencje czasowe ruchu.
9
EE141
Obszary podkorowe
Basal ganglia (striatum, globus
pallidus, substantia nigra)
Basal ganglia inicjuje czynności
motoryczne a jej cześć
substantia nigra odpowiada za
kontrole uczenia
 Ciało migdałowate: emocje, skojarzenia afektywne.
 Jądra podstawy: sekwencje, antycypacja, kontrola
ruchu, modulacja aktywności kory przedczołowej,
wybór i inicjacja nowej aktywności.
 Hipokamp: szybkie uczenie, pamięć epizodyczna i
przestrzenna.
10
EE141
Działanie
Kora ciemniowa: uczy się powoli, tworzy rozległe, nakładające się
reprezentacje w gęsto połączonej sieci.
Dynamiczne stany PC to pamięć krótkotrwała, głównie relacji
przestrzennych, szybko ulegająca zaburzeniu i dezintegracji.
Kora czołowa: uczy się powoli, przechowuje izolowane reprezentacje,
aktywizacja pamięci jest stabilniejsza, mechanizm nagrody przełącza
dynamicznie jej aktywność, pozwalając dłużej aktywnie pamiętać.
Hipokamp zapamiętuje szybko tworząc rzadkie reprezentacje,
odróżniając nawet podobne do siebie zdarzenia.
Taka uproszczona architektura pozwoli na modelownie wielu zjawisk
dotyczących percepcji, pamięci, używania języka, efektów
11
oddziaływania różnych obszarów.
EE141
Działania kontrolowane/automatyczne
Automatyczne: rutynowe, proste, niskiego poziomu, sensor-motoryczne,
odruchy warunkowe, skojarzenia – łatwe do modelowania przez sieci.
Kontrolowane: świadome, elastyczne, wymagające sekwencji działań,
wyboru elementów z dużego zbioru możliwości – zwykle realizowana w
opisowy sposób za pomocą systemów regułowych, symbolicznych.
Modele postulujące centralne procesy: jak w komputerze, pamięć
robocza z centralnym nadzorcą mająca wpływ na wiele obszarów.
Tu: procesy emergentne, wynik globalnego spełniania ograniczeń, brak
centralnego mechanizmu.
Kora przedczołowa może jednak wywierać wpływ kontrolny na
aktywność innych obszarów, jest więc zaangażowana w działania
kontrolowane, w tym reprezentację „ja” vs. „inni”, relacji społecznych itd.
12
EE141
Inne rozróżnienia - świadomość
 Wiedza deklaratywna vs. proceduralna.
Deklaratywna: często wyrażalna symbolicznie (słowa, gesty).
Proceduralna jest bardziej zorientowana na sekwencje działań.
 Wiedza jawna vs utajona.
Działanie kontrolowane opiera się na wiedzy jawnej i deklaratywnej.
Działania automatyczne odnoszą się do wiedzy utajonej, proceduralnej.
Świadomość => stany istniejące zauważalnie długo, integrujące
informacje zmysłowe o różnych modalnościach, raportowalne, mające
wpływ na inne procesy w mózgu.
 Każdy system, który ma stany wewnętrzne i jest na tyle złożony, by
moc je komentować, będzie twierdził, że jest świadomy.
 Procesy w korze przedczołowej i hipokampie dają się przywołać jako
stan mózgu, epizod, dają się skomentować (skojarzyć z rep. pojęć).
13
EE141
Różne potencjalne problemy
Są rzeczy łatwe, dla których wystarczą proste modele, i rzeczy trudne
wymagające szczegółowych modeli.
Pokutuje dużo nieporozumień: sieci neuronowe MLP nie są modelami
mózgu, są tylko luźno inspirowane przez uproszczone spojrzenie na
aktywność sieci neuronów; właściwy model neuronowy musi mieć
odpowiednia architekturę i reguły uczenia się.
Przykład: katastroficzne zapominanie skojarzeń z list, dużo silniejsze w
sieciach MLP niż u ludzi => prawidłowa architektura, uwzględniająca
dwa rodzaje pamięci (hipokamp + kora) nie ma z tym problemu.
Ludzkie poznanie nie jest doskonałe i dobre modele pozwalają
przeanalizować liczne kompromisy, przed jakimi stoi mózg.
Mózgi są dość elastyczne, chociaż opierają swoje działanie w
większości na reprezentacji specyficznej wiedzy o świecie.
EE141
14
Pamięć
Pamięć jest istniejącym przez pewien czas efektem doświadczenia.
Pamięć pozornie jest jednolita, ale w rzeczywistości bardzo
zróżnicowana: przestrzenna, wzrokowa, słuchowa, rozpoznawcza,
deklaratywna, semantyczna, proceduralna, jawna, utajona ...
Tu badamy mechanizmy, więc podstawowy podział to:
 Pamięć synaptyczna (fizyczne zmiany w synapsach), długotrwała i
wymagająca aktywacji by wywrzeć jakiś wpływ na działanie.
 Pamięć dynamiczna, aktywna, chwilowe pobudzenia, wpływa na
bieżące działanie.
 Torowanie długotrwałe, oparte na pamięci synaptycznej, ulegającej
szybkiej modyfikacji – semantyczna i proceduralna są wynikiem
wolnych procesów.
15
 Torowanie krótkotrwałe, oparte na pamięci aktywnej.
EE141
Rodzaje Pamieci
16
EE141
Aktywna pamięć i torowanie (priming)
Rozproszone nakładające się reprezentacje w PC mogą sprawnie
zapisać informacje o świecie, ale jest mało precyzyjne i zaciera się z
upływem czasu.
FC – kora przedczołowa, przechowuje izolowane reprezentacje;
zwiększa stabilność pamięci.
Efekty torowania są widoczne u osób z uszkodzonym hipokampem,
torowanie korowe w PC jest możliwe.
Wyróżnimy wiele form torowania:
 trwanie (krótkie, długie),
 typ informacji (wzrokowa, leksykalna),
 podobieństwo (powtarzanie, semantyczne).
17
EE141
Hipokamp
Anatomia i połączenia struktur
formacji hipokampa: sygnały
docierają z jedno i
wielomodalnych obszarów
skojarzeniowych przez
węchomózgowie (EC).
18
EE141
Więcej anatomii
Hipokamp = król kory mózgowej
Obustronne połączenia z:
opuszką węchową,
korą oczołodołową,
korą wyspy,
górnym zakrętem skroniowym,
korą zakrętu obręczy.
19
EE141
Formacja hipokampa

EE141
Polaczenia w hipokampie
20
Formacja hipokampa

EE141
Lokalizacja hipokampa
21
Pamięć
Pamięć nie jest jednorodna
1.
Wagi (długoterminowe, wymagają pobudzenia) vs aktywizacje
(krótkoterminowe, juz pobudzone, może wpływać na przetwarzanie)
2.
Oparte na wagach


3.
Kora ma stany początkowe ale cierpi na katastroficzne wpływy.
Hipokampus może uczyć sie szybko bez wpływów używając rzadkich
odseparowanych reprezentacji wzorcow
Oparte na aktywizacji


Kora wykazuje stany początkowe ale
nie nadaje sie do pamięci krótkoterminowej
4.
Współpraca aktywizacji i pamięci w oparciu o wagi
5.
Wideo
1.
2.
pamiec krotkoterminowa u szympansow -30 sek
Porownanie ze studentami – 30 sek
22
EE141
Pamięć robocza
Kora przedczołowa gra centralną rolę w utrzymywaniu
aktywnej pamięci roboczej i ma własności, o które
chodzi: izolowane samopobudzające się sieci
atraktorowe o rozległych basenach.
Neuroanatomia, połączenia i mikrokolumny PFC =>
specjalizowany obszar dla aktywnej pamięci.
Pamięć robocza:
 PR - przestrzenna, działania zależne od woli (self-ordered tasks).
 PR - przestrzenna, obiektów i werbalna, działania zależne od woli i
myślenie analityczne.
 PR - obiektów, myślenie analityczne.
23
EE141
A-nie B
Interakcje pomiędzy pamięcią aktywną i synaptyczną - wagi już się
zmieniły ale pamięć aktywna jest w innym stanie: co zwycięży?
Takie interakcje widoczne są w rozwijającym się mózgu dzieci ~ 8
miesięcznych (Piaget 1954), doświadczenia robiono też na zwierzętach.
Zabawka (jedzenie) chowana jest w pudełku A i po krótkiej przerwie
dziecko (zwierzę) może ją stamtąd wyciągnąć. Po kilku powtórzeniach w
A zabawka chowana jest w miejscu B; dzieci szukają nadal w A.
Pamięć aktywna nie działa u dzieci
równie sprawnie co synaptyczna, lezje
w okolicach kory przedczołowej
wywołują u dorosłych ludzi i rezusów
podobne efekty.
Dzieci robią mniej błędów patrząc w
kierunku miejsca, gdzie schowano
zabawkę, niż sięgając po nią. Jest
wiele interesujących wariantów tego
typu doświadczeń i wyjaśnień na
różnym poziomie.
EE141
24
Inne rodzaje pamięci
Tradycyjne podejście do pamięci zakłada funkcjonalne, kognitywne,
monolityczne kanoniczne reprezentacje w pamięci.
Z modelowania wynika, że jest wiele oddziaływujących ze sobą
systemów odpowiedzialnych za pamięć, o różnej charakterystyce,
odmiennych reprezentacjach i typie informacji.
Pamięć rozpoznawcza: czy element listy był wcześniej widziany?
Wystarczy sygnał „poznaję”, przypomnienie nie jest konieczne.
Model hipokampa jest tu też przydatny, pozwala na przypomnienie, ale
to jest za dużo – w pamięci rozpoznawczej główną rolę wydają się
odgrywać okolice kory okołowęchowe (perirhinal cortex).
Dopełnianie brakującej informacji (cued recall).
Swobodne przypominanie – efekty położenia na liście (najlepiej na
początku i końcu), oraz grupowanie (chunking) informacji.
25
EE141
Podsumowanie

Wiedza kształtująca się w pamięci jest
 obudowana, dynamiczna, ciągła, pojawiająca się





Zachowanie i hamowanie wiedzy są wynikiem
dynamicznego przetwarzania informacji raczej niż z
gory ustalonych struktur oddziaływań
Rozpoznanie polega na umiejętności odróżnienia
wcześniej nauczonych pobudzeń od nowych,
nieznanych pobudzeń
Hipokamp zapewnia wysokiej jakości rozpoznanie o
wysokim progu gwarantującym kojarzenie poznanych
wcześniej pobudzeń
Torowanie przyczynia się do powolnego budowania
niezmienniczych reprezentacji
Dwa mechanizmy uczenia
 W oparciu o wagi połączeń
 W oparciu o aktywizacje neuronow
EE141
26
Podsumowanie







Kora wspomaga rozpoznanie naprowadzając na ślad
Kora prowadzi do nie stymulowanych skojarzeń
Kora odpowiedzialna jest za pamięć roboczą
współdziałając z hipokampem
Sekwencje zgrupowanych reprezentacji przechowane
są w pamięci długoterminowej
Pamięć oparta o aktywizacje wymaga połączenia
szybkiego uaktualniania z ze stabilna reprezentacja
Hipokamp używa rzadkich odseparowanych
reprezentacji do szybkiego uczenia bez mieszania
pojęć
Torowanie (ślad) pamięci może być długoterminowe
(w oparciu o wagi) lub krótkoterminowe (w oparciu o
aktywizacje)
EE141
27