Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Niepewność w wiedzy Realizacja niepewności wiedzy w systemach ekspertowych Agnieszka Nowak - Brzezińska Instytut Informatyki, Uniwersytet Ślaski, ˛ ul. Bedzinska ˛ 39, Sosnowiec, Polska Tel (32) 2 918 381, Fax (32) 2 918 283 21 czerwca 2010 Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Table of contents 1 Wprowadzenie 2 Logika rozmyta 3 Podejście probabilistyczne 4 Niepewność w wiedzy a teoria prawdopodobieństwa 4 Mycin - pionierski system ekspertowy 5 Teoria Dempstera - Shafera 6 Współczynnik pewności CF Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Słowem wstepu... ˛ Od zarania dziejów człowiek staje przed koniecznościa˛ dokonania wyborów o mniejszym badź ˛ wiekszym ˛ znaczeniu. W bardzo złożonych systemach czesto ˛ wkrada sie˛ niepewność, której nie można traktować jako losowość, dajac ˛ a˛ sie˛ opisywać klasycznym rachunkiem prawdopodobieństwa badź ˛ statystyka, ˛ gdyż ona ma zastosowanie tylko dla zjawisk masowych (czesto ˛ powtarzalnych). Nie ma zaś metod radzenia sobie z przypadkami rzadkimi. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF ... Wiedza˛ niepewna˛ bedziemy ˛ określać taka˛ wiedze, ˛ której ekspert te˛ wiedze˛ przekazujacy ˛ ufa w wiekszej ˛ cześci, ˛ i zakłada, że w wiekszości ˛ przypadków ta wiedza sie˛ sprawdza w rzeczywistości. Jednak nie ma on 100% przekonania o tym, że bedzie ˛ ona prawdziwa w każdej sytuacji. Ekspert przekazuje przecież wiedze˛ bed ˛ ac ˛ a˛ wynikiem jego doświadczeń, nie jest zatem powiedziane, że wszyscy eksperci musza˛ podzielać takie samo zdanie. Mało tego, specyfika problemu analizowanego przez eksperta może być na tyle trudna do opisania, że jedyne co ekspert może zrobić to określić stopień swojego subiektywnego przekonania o spełnialności tej wiedzy w rzeczywistości. Z niepewnościa˛ w wiedzy wiaż ˛ a˛ sie˛ także tzw. pojecia ˛ nieostre oraz po prostu wiedza niespójna. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF ... ... pojecia ˛ nieostre, Niepewność wiedzy jest zagadnieniem bardzo złożonym i powodowana jest wieloma pojecia ˛ niespójne, czynnikami. Wiedza˛ niepewna˛ w bazie wiedzy zarówno w cześciach ˛ warunkowych jak i szum informacyjny, decyzyjnych reguł, moga˛ być: dane niekompletne. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Pojecia ˛ nieostre Pojecia ˛ nieostre Pojecia ˛ nieostre wystepuj ˛ a˛ zawsze wtedy gdy wiedza zapisana jest przy użyciu pojeć ˛ typu: ”stan pacjenta stabilny” czy ”odpowiednia dawka leku”. Bez odpowiedniego aparatu matematycznego wspomagajacego ˛ tak zapisana˛ wiedze˛ np. w postaci współczynników pewności czy np. probabilistyki, wnioskowanie w takim systemie jest niemożliwe Pojecia ˛ niespójne Niepewność objawia sie˛ w ten sposób np., że przy takich samych warunkach w danej bazie wiedzy mamy reguły o innych decyzjach, które uniemożliwiaja˛ podjecie ˛ jednoznacznej decyzji. Ten rodzaj niepewności wiedzy rozwiazuj ˛ a˛ doskonale zbiory przybliżone Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Szum informacyjny Szum informacyjny Jest specyficznym rodzajem niepewności wiedzy, dlatego, że nie istnieje jednoznaczny sposób identyfikacji takiego szumu i sposobów rozwiazania ˛ tego problemu. Szum informacyjny może powstawać z winy eksperta przekazujacego ˛ wiedze, ˛ badź ˛ z winy inżyniera wiedzy, który na etapie akwizycji wiedzy, źle zapisał w systemie ekspertowym wiedze˛ pobrana˛ od eksperta. Nie sa˛ to jedyne przypadki powstania szumu. Źródłem powstania szumu informacyjnego może być chociażby problem techniczny. Mogły zawieść urzadzenia ˛ zapisujace ˛ i odczytujace ˛ dane, które przykładowo na etapie 80% transmisji danych uniemożliwia˛ ich dalsza˛ transmisje˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF ... Dane niekompletne Zapisanej wiedzy, w której nie dysponujemy pełna˛ informacja, ˛ nie można w 100% ufać. W przypadku danych niekompletnych wyróżnia sie˛ wiele metod uzupełniania takich braków w danych (poprzez zastepowanie ˛ brakujacych ˛ danych np. wartościa˛ średnia˛ w zbiorze) jednak metody takie możliwe sa˛ do stosowania jedynie w przypadku gdy takich braków jest stosunkowo mało, zaś obserwacji w zbiorze odpowiednio dużo, by móc np. wartość średnia˛ uznawać za miarodajna. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Niepewność w wiedzy - reprezentacja wiedzy niepewnej w bazach wiedzy Niepewność może wystepować ˛ zarówno w faktach jak i w regułach. Do rozwiazania ˛ problemu niepewności w bazach wiedzy wykorzystuje sie: ˛ prawdopodobieństwo zajścia jakiegoś zdarzenia (faktu), zbiory rozmyte, współczynnik CF, teoria Dempstera-Sheffera, zbiory przybliżone, gdzie wiedza pewna jest określona przez dolne lub górne przybliżenie zbioru, a to, co znajduje sie˛ na brzegu reprezentuje wiedze˛ niepewna˛ (brzeg to różnica miedzy ˛ górnym a dolnym przybliżeniem zbioru). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Pojecie ˛ nieostre Z pojeciami ˛ nieostrymi mamy do czynienia bardzo czesto ˛ w świecie rzeczywistym i przyznamy z pewnościa, ˛ że każdy człowieka przyjmuje własna˛ interpretacje˛ tego typu pojeć. ˛ To samo pojecie ˛ dla dwóch różnych ludzi może mieć zupełnie inne znaczenie. Wracajac ˛ do przykładu naszej bazy wiedzy z regułami rozwiazuj ˛ acymi ˛ problem postepowania ˛ w przypadku awarii pradu. ˛ Z pojeciem ˛ nieostrym mielibyśmy do czynienia w przypadku gdyby reguła: 2: brak_pradu ˛ = ”Zupelny” if dzialaja_gniazdka = ”Nie” and swieci_swiatlo = ”Nie” bedzie ˛ miała postać: 2: brak_pradu = ”Zupełny” if dzialaja_gniazdka = ”Nie” and swieci_swiatlo = ” raczej nie”; bo wówczas, określenie faktu, że świeci_światło z wartościa˛ raczej nie nie pozwala nam być do końca pewnym, czy na pewno nie świeci. Wartość raczej nie sprawia, że jesteśmy bardziej skłonni do przyrównania z wartościa˛ nie, ale to tylko nasze subiektywne przypuszczenie. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Dwa różne podejścia do rozwiazania ˛ problemu pojeć ˛ nieostrych współczynniki pewności, sieci bayesowskie czy teoria Dempstera-Shafera, badź ˛ logika rozmyta. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Dwa różne podejścia do rozwiazania ˛ problemu pojeć ˛ nieostrych współczynniki pewności, sieci bayesowskie czy teoria Dempstera-Shafera, badź ˛ logika rozmyta. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Zbiory rozmyte Zbiory rozmyte wchodza˛ w kolizje˛ z klasyczna˛ logika, ˛ która oparta jest na prawie wyłaczonego ˛ środka "tertium non datur", oznaczajacego, ˛ że zdanie może być albo prawdziwe, albo fałszywe, że dany przedmiot może należeć do zbioru lub nie. W przypadku zbiorów rozmytych owo trzecie wyjście istnieje: przedmiot może bowiem należeć do zbioru w pewnym tylko stopniu (a tym samym jednocześnie w określonym stopniu do niego nie należeć). Dlatego, w teorii zbiorów rozmytych niezwykle istotne sa˛ właściwości charakteryzujace ˛ obiekty, gdyż to one decyduja˛ o przynależności tych obiektów różnych zbiorów obiektów. Właściwość (cecha) dobrze określona wyznacza dla danego zbioru jednoznaczne granice oddzielajace ˛ elementy należace ˛ od nie należacych ˛ do niego. Jeśli bowiem przyjmujemy, że U to przestrzeń rozważanych obiektów, zbiór taki bedziemy ˛ mogli określać przez funkcje˛ f wyznaczajac ˛ a˛ przynależność obiektów do zbioru fw : U → {0, 1} , gdzie w oznacza zbiór obiektów. Jeśli teraz oznaczymy przez X zbiór odpowiadajacy ˛ pewnej właściwości, to funkcja przynależności określona jest nastepuj ˛ aco: ˛ fx (u) = 1 dla u ∈ X lub: fx (u) = 0 dla u < X Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Logika rozmyta Niestety, istnieja˛ takie właściwości, dla których trudno jest określić granice˛ rozdzielajac ˛ a˛ elementy spełniajace ˛ te˛ właściwość od elementów jej nie spełniajacych. ˛ W tym celu wykorzystuje sie˛ właśnie funkcje˛ przynależności, która przekształca przestrzeń U w odcinek [0, 1] . Po prostu, zdanie postaci: "Prawdopodobieństwo chłodu w dniu 1 stycznia 2000 wynosi 60 %źnaczy co innego niż stwierdzenie "Tego dnia jest chłodno w 60 % ". Stosujac ˛ logike˛ rozmyta˛ możemy tym zdaniem wyrazić stopień naszego przekonania o istniejacych, ˛ rzeczywistych warunkach atmosferycznych, że jest raczej zimno niż ciepło. Wnioskowanie rozmyte przebiegać powinno zgodnie z algorytmem: wyznaczenie wartości funkcji f dla poszczególnych pojeć ˛ rozmytych wystepuj ˛ acych ˛ w warunkach reguł, wyznaczenie obszarów rozmytych na podstawie wartości obliczonych w punkcie pierwszym, zestawienie obszarów rozmytych, wyznaczenie wynikowego obszaru rozmytego, dokonanie defuzyfikacji wynikowego obszaru rozmytego, czyli zamiany tego zbioru na pewna˛ wartość liczbowa. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Geneza LOGIKI ROZMYTEJ 1 2 3 4 Kamienie milowe znaczace ˛ rozwój tej teorii to: koncepcja zbioru rozmytego, zbiory rozmyte a miary prawdopodobieństwa, zmienne lingwistyczne i wnioskowanie przybliżone, rozmyte programowanie dynamiczne i podejmowanie decyzji, rozmyta interpretacja jezyka, ˛ rozmyta algebra, rozmyte procesy stochastyczne i inne prace matematyczne. Twórcy logiki rozmytej (ang. fuzzy logic) powołuja˛ sie˛ na polskiego matematyka Łukasiewicza, który pierwszy wprowadził logike˛ wielowartościowa. ˛ Praktyczne zastosowanie: układy sterowania. Wiele prac konstrukcyjnych i teoretycznych dotyczacych ˛ doboru reguł sterowania i parametrów sterownika.Powstały systemy samoorganizujace ˛ sie, ˛ systemy człowiek-maszyna, których pieknym ˛ przykładem jest zbudowany przez japończyków helikopter sterowany głosem, rozumiejacy ˛ polecenia takie jak: leć troche˛ wyżej, skreć ˛ nieco w lewo,itp. Urzadzenia ˛ powszechnego użytku, takich jak pralki, odkurzacze, odbiorniki radiowe i telewizyjne. Systemem ogniskowania niektórych modeli kamer Cannon zarzadza ˛ układ rozmyty, który samodzielnie decyduje co jest obiektem filmowania i odpowiednio ustawia ostrość. W latach 1988-90 japończycy opracowali i wprowadzili do produkcji (firma Omron) pierwszy rozmyty mikroprocesor FP1000. Od tej pory rozmyte układy scalone toruja˛ sobie coraz śmielej droge˛ na rynek, chociaż z pewnym trudem upowszechniaja˛ sie, ˛ gdyż inżynierowie nie znaja˛ podstaw nowej techniki. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Pojecie ˛ zbioru rozmytego W klasycznej teorii zbiorów obowiazuj ˛ a˛ m.in. dwa prawa: prawo niesprzeczności prawo wyłaczonego ˛ środka. Inaczej mówiac, ˛ każdy element należy albo do zbioru, albo do jego dopełnienia. Nie może należeć do obu naraz. Jeśli mamy np. pojecia: ˛ dzień i noc, to one sie˛ wzajemnie wykluczaja. ˛ Temperatura otoczenia może być tylko albo ujemna, albo nieujemna. W teorii zbiorów rozmytych przyjmuje, że element może należeć cześciowo ˛ do zbioru jak i do jego dopełnienia. Stopień przynależności elementu x do zbioru A określa funkcja przynależności, oznaczana zwykle mA (X ), o wartościach w przedziale [0, 1].Zbiory rozmyte opisuja˛ najcześciej ˛ pojecia ˛ lingwistyczne używane czesto ˛ w życiu codziennym jak np. chłodno, goraco. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Chłodno czy goraco ˛ Przykład funkcji przynależności dla zbioru rozmytego chłodno, określonego w przestrzeni temperatur (np. −40.. + 500C). Sytuacja, gdy mA (X ) = 1 oznacza pełna˛ przynależność elementu x do zbioru A . Sytuacja, gdy mA (X ) = 0 oznacza brak tej przynależności. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Zmienne lingwistyczne Pojecie ˛ zmiennej lingwistycznej,zawdzieczane ˛ Zadehowi jest w zasadzie proste i intuicyjne, chociaż formalizm matematyczny jest dość skomplikowany. W potocznej mowie posługujemy sie˛ takimi pojeciami ˛ jak zimno i goraco. ˛ Możemy utworzyć zmienna˛ lingwistyczna˛ o nazwie temperatura, rozbudowujac ˛ powyższy przykład nastepuj ˛ aco: ˛ x - temperatura - nazwa zmiennej lingwistycznej, X - przestrzeń temperatur, czyli przedział [-20,+40]0C, {Mróz, Zimno, Chłodno, Ciepło, Goraco} ˛ - wartości zmiennej lingwistycznej, przy czym: - dla temperatur [-20,0] zmienna lingwistyczna przyjmuje wartość mróz, - dla temperatur [-5,10] zmienna lingwistyczna przyjmuje wartość zimno, - dla temperatur [5,20] zmienna lingwistyczna przyjmuje wartość chłodno, - dla temperatur [15,30] zmienna lingwistyczna przyjmuje wartość ciepło, - dla temperatur [25,40] zmienna lingwistyczna przyjmuje wartość goraco. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Temperatura Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Zmienne lingwistyczne Założymy, że funkcje przynależności poszczególnych zbiorów rozmytych: mróz..goraco ˛ maja˛ kształt trapezowy o parametrach odpowiednio dobranych dla powyższych zbiorów: Dana wartość zmiennej x może należeć jednocześnie do kilku zbiorów rozmytych, z różnym stopniem przynależńości. Na przykład temperatura 14C należy do zbioru chłodno ze stopniem przynależności 0, 4 i zbioru ciepło ze stopniem przynależności 0, 6. Proces wyznaczania nazw zbiorów i stopni przynależności dla danego x nazywa sie˛ fuzzyfikacja. ˛ Podobnie wzrost człowieka, poziom wody w zbiorniku, możemy traktować jako zmienna˛ lingwistyczn a˛ wprowadzajac ˛ wartości lingwistyczne: niski, średni, wysoki oraz określajac ˛ odpowiednie funkcje przynależności. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Zbiory rozmyte Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Zastosowanie Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Funkcje przynależności Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Operacje na zbiorach rozmytych Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Reguły rozmyte Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Wnioskowanie rozmyte Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Schemat przetwarzania danych z wykorzystaniem wnioskowania rozmytego Przetwarzanie wstepne, ˛ przetwarzanie końcowe Celem jest przekształcenie danych doprowadzonych do wejścia systemu do formatu akceptowanego przez moduł wnioskowania.Analogicznie przetwarzanie końcowe służy do konwersji danych wyjściowych z tego modułu do postaci zgodniej z wymogami układów zewnetrznych.Sam ˛ moduł wnioskowania oczekuje na wejściu ciagu ˛ liczb rzeczywistych i zwraca również ciag ˛ takich liczb (crisp values) fuzyfikacja (rozmywanie): polega na transformacji wartości z dziedziny liczb rzeczywistych na wartości z dziedziny zbiorów rozmytych. w Tym celu dokonuje sie˛ wyznaczenia wartości funkcji przynależności dla kolejnych zmiennych lingwistycznych i dla danej rzeczywistej wartości wejściowej. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Schemat przetwarzania danych z wykorzystaniem wnioskowania rozmytego interpretacja reguł rozmytych W pierwszej kolejności realizowany jest proces obliczenia mocy reguł. w tym celu dla każdej zmiennej w przesłankach reguły wyznaczane sa˛ stopnie przynależności do odpowiedniego zbioru rozmytego. Jeśli moc reguły jest zerowa, uznaje sie, ˛ że nie nastapiła ˛ aktywacja reguły. Wyznaczany jest też zbiór rozmyty bed ˛ acy ˛ rezultatem uaktywnienia reguły. Zależy on od kształtu odpowiedniej funkcji przynależności oraz obliczonej mocy reguły. W najstepnym ˛ kroku nastepuje ˛ agregacja aktywnych reguł. Polega ona na sumowaniu rozmytych zbiorów wynikowych ze wszystkich reguł. Otrzymany zbiór rozmyty jest zbiorem wynikowym wnioskowania rozmytego. defuzyfikacja : po zakończeniu procedury agregacji reguł, wynikiem wnioskowania jest zbiór rozmyty. Zadaniem defuzyfikacji (zwanej też wyostrzaniem), jest zatem przekształcenie odwrotne do rozmywania, czyli transformacja wartości z dziedziny liczb rzeczywistych, której to można dokonać na wiele sposobów w zależności od konkretnego zastosowania. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Etapy projektowania systemu rozmytego określenie zadania oraz sposobu jego realizacji określenie zmiennych lingwistycznych i odpowiadajacych ˛ ich atrybutów rozmytych określenie funkcji przynależności określenie bazy reguł rozmytych wybór metody defizyfikacji Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF 1 Firma ufundowała wakacyjne praktyki dla studentów, którzy uzyskali najlepsze wyniki z przedmiotów ścisłych (elektronika, informatyka, matematyka) oraz z jezyków ˛ (angielski, niemiecki). 2 Słowo „najlepszy” to wartość lingwistyczna, która˛ opisano oddzielnie dla przedmiotów ścisłych (NS) i jezyków ˛ (NJ). 3 Celem jest teraz określenie funkcji przynależności... Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Funkcja przynależności dla zbioru rozmytego NS Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Funkcja przynależności dla zbioru rozmytego NJ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Szukamy najlepszych studentów w ramach przedmiotów Najlepszy z elektroniki: G1 = 1 0.2 1 0.4 1 1 + + + + + x1 x2 x3 x4 x5 x6 Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Szukamy najlepszych studentów w ramach przedmiotów Najlepszy z informatyki: G2 = 1 0.8 1 1 0.6 0.4 + + + + + x1 x2 x3 x4 x5 x6 Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Szukamy najlepszych studentów w ramach przedmiotów Najlepszy z matematyki: G3 = 0.6 0 0.2 0 1 1 + + + + + x1 x2 x3 x4 x5 x6 Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Szukamy najlepszych studentów w ramach przedmiotów Najlepszy z jezyka ˛ angielskiego: G4 = 0 0.2 0.4 0.6 0.8 0.6 + + + + + x1 x2 x3 x4 x5 x6 Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Szukamy najlepszych studentów w ramach przedmiotów Najlepszy z jezyka ˛ niemieckiego: G5 = 1 0.2 0.4 0.2 0.8 1 + + + + + x1 x2 x3 x4 x5 x6 Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Szukamy najlepszych studentów w ramach przedmiotów Najlepszy z elektroniki: G1 = 1 1 0.2 1 0.4 1 + + + + + x1 x2 x3 x4 x5 x6 Najlepszy z informatyki: G2 = 1 0.8 1 1 0.6 0.4 + + + + + x1 x2 x3 x4 x5 x6 Najlepszy z matematyki: 0 0.2 0 1 1 0.6 + + + + + x1 x2 x3 x4 x5 x6 Najlepszy z jezyka ˛ angielskiego: 0.6 0 0.2 0.4 0.6 0.8 G4 = + + + + + x1 x2 x3 x4 x5 x6 Najlepszy z jezyka ˛ niemieckiego: 1 0.2 0.4 0.2 0.8 1 G5 = + + + + + x1 x2 x3 x4 x5 x6 G3 = Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Szukamy najlepszych studentów w ramach przedmiotów Podstawiajac ˛ dane do wzoru: D = G1 [ G2 [ G3 [ G4 [ G5 Decyzja rozmyta typu minimum jest postaci: D= 0 0 0.2 0 0.6 0.4 + + + + + x1 x2 x3 x4 x5 x6 Czyli x5 Charakteryzuje sie˛ najwiekszym ˛ stopniem przynależności ! Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Zastosowania sterowniki – fuzzy controllers sterowanie swiatlami na wjezdzie na autostrade sprzet powszechnego uzytku (np. pralki) w polaczeniu z innymi narzedziami AI, np. sieciami neuronowymi rozpoznawanie slów (cyfr itp.) Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Pojecia ˛ niespójne Zbiory przybliżone pozwalaja˛ reprezentować niepewność w wiedzy za pomoca˛ pojeć ˛ dolnego i górnego przybliżenia zbioru. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Sieci bayesowskie łacz ˛ ace ˛ w sobie cechy: graficznej reprezentacji pozwalajacej ˛ przedstawiać zależności przyczynowe oraz warunkowych prawdopodobieństw zmiennych wzgledem ˛ ich bezpośrednich przyczyn, ciesza˛ sie˛ dość duża˛ popularnościa˛ w pracach zwiazanych ˛ z wnioskowaniem w systemach ekspertowych opartych na wiedzy niepewnej. Prekursorem sieci bayesowskich był Judea Pearl, który w 1988 roku zaproponował je jako reprezentacje˛ wiedzy niepewnej w sztucznej inteligencji. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Prawdopodobieństwo warunkowe - sieci Bayes’a Wykorzystuje sie˛ w tym celu twierdzenie Bayes’a, określajace ˛ prawdopodobieństwo warunkowe. Jest to oczywiście prawdopodobieństwo zajścia zdarzenia A pod warunkiem zdarzenia B - co odpowiada prostej regule "Jeżeli B to A ", którego ogólna postać wyglada ˛ nastepuj ˛ aco: ˛ P(B/A ) ∗ P(A ) P(A /B) = P(B) i oznacza, że stwierdzenia A może być uznane jako prawdziwe wtedy, kiedy stwierdzenie B jest uznane jako prawdziwe. Znajomość prawdopodobieństwa warunkowego pozwala na realizacje˛ procesów wnioskowania, które polegaja˛ na rozpatrywaniu prawdopodobieństwa stwierdzeń traktowanych jako pewne hipotezy. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Prawdopodobieństwo warunkowe - sieci Bayes’a Aby np. określić prawdopodobieństwo faktu, że dany student ma przyznane stypendium, przy założeniu, że nie posiadamy żadnej wiedzy na ten temat, zgodnie z teoria˛ prawdopodobieństwa musimy określić zdarzenia elementarne dotyczace ˛ badanej dziedziny. Zatem jeśli założymy, że istnieja˛ tylko dwa elementarne zdarzenia D = {α, β} , gdzie odpowiednio: α - to zdarzenie polegajace ˛ na tym, że dany student ma przyznane stypendium, β - to zdarzenie polegajace ˛ na tym, że dany student nie ma przyznanego stypendium, to wykorzystujac ˛ rachunek prawdopodobieństwa możemy stwierdzić, że: prawdopodobieństwo zajścia zdarzenia αjest równe prawdopodobieństwu zajścia zdarzenia β i wynosi P(α) = P(β) = 12 . Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Prawdopodobieństwo warunkowe - sieci Bayes’a Dostosowujac ˛ sie˛ do wzoru Bayes’a, w przypadku, gdy mamy dwa fakty: A - jeżdże˛ na rowerze, oraz B- jest ładna pogoda, gdzie P(A ) = 0, 2i P(B) = 0, 4 oraz równocześnie w bazie wiedzy istnieja˛ reguły : R1 : Jeżeli jest ładna pogoda to jeżdże˛ na rowerze- co po prostu oznacza P(A /B) R2 : Jeżeli jeżdże˛ na rowerze to jest ładna pogoda- co odpowiednio oznacza P(B/A ) , to znajac ˛ prawdopodobieństwo zajścia zdarzenia B pod warunkiem A , tzn., gdy wiemy, że P(B/A ) = 0, 8 , możemy także określić prawdopodobieństwo zajścia zdarzenia A pod warunkiem B . Korzystajac ˛ z wzoru Bayes’a otrzymujemy wartość P(A /B) = [(0, 8 ∗ 0, 4)/0, 2] = 0, 4 . Wzór ten pozwala nam ustalić pewna˛ hipoteze˛ pod warunkiem, że znamy hipoteze˛ przeciwna. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Prawdopodobieństwo warunkowe to prawdopodobieństwo zajścia zdarzenia A pod warunkiem zdarzenia B - co odpowiada prostej regule ”Jeżeli B to A”, którego ogólna postać wyglada ˛ nastepuj ˛ aco: ˛ P(B/A ) ∗ P(A ) P(A /B) = P(B) i oznacza, że stwierdzenie A może być uznane jako prawdziwe wtedy, kiedy stwierdzenie B jest uznane jako prawdziwe. Znajomość prawdopodobieństwa warunkowego pozwala na realizacje˛ procesów wnioskowania, które polegaja˛ na rozpatrywaniu prawdopodobieństwa stwierdzeń traktowanych jako pewne hipotezy. O ich popularności w dużej mierze zadecydowały wydajne metody wnioskowania. Znaleźć można wiele zastosowań w sztucznej inteligencji, ekonomii, medycynie, genetyce czy statystyce. Sieć Bayesa stanowi numeryczny model zwiazków ˛ przyczynowo-skutkowych zachodzacych ˛ pomiedzy ˛ elementami zbioru obserwacji i hipotez. Stosujac ˛ twierdzenie Bayesa, można dokonywać zarówno wnioskowania progresywnego (wnioskowanie w przód), jak i wnioskowania regresywnego (wnioskowanie wstecz). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przetwarzanie wiedzy niepewnej - Podejście probabilistyczne Zastosowanie teorii prawdopodobieństwa do reprezentacji wiedzy niepewnej wydaje sie˛ stosunkowo oczywiste. Określenia w postaci: prawdopodobnie, najcześciej ˛ itp. skłaniaja˛ do wykorzystania rachunku prawdopodobieństwa. Liczba reprezentujaca ˛ prawdopodobieństwo odzwierciedla jedynie wiedze˛ obserwatora o świecie, nie oddaje wiec ˛ prawdopodobieństwa obiektywnego. Punktem wyjścia dla różnych metod probabilistycznych jest twierdzenie Bayesa. Załóżmy, że mamy zbiór wzajemnie wyłaczaj ˛ acych ˛ sie˛ hipotez: H = {h1 , . . . , hn }, dla których jest spełnione P(hi ) > 0, i = 1, 2, . . . , n. Mamy również do dyspozycji zbiór obserwacji E = {e1 , . . . , em }. Każdy fragment obserwacji ei jest niezależny warunkowo wzgledem ˛ każdej hipotezy. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Reprezentacja wiedzy niepewnej Rozważmy przykład w którym n = m = 1 . Mamy zatem jedna˛ obserwacje˛ e oraz jedna˛ hipoteze˛ h . Załóżmy, że interesuje nas zwiazek ˛ przyczynowo skutkowy pomiedzy ˛ obserwacja˛ e a hipoteza˛ h reprezentowany przez regułe: ˛ Jeżeli e To h 89:; ?>=< e co może być przedstawione graficznie: ?>=< / 89:; h Obserwacja e oraz hipoteza h sa˛ reprezentowane przez wierzchołki grafu, natomiast natomiast wnioskowanie przez krawedź. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Reprezentacja wiedzy niepewnej Rozpatrywana reguła może być rozpatrywana w modelu Bayesa nastepuj ˛ aco: ˛ P(e|h)P(h) P(h|e) = P(e) Powyższy wzór jest szczególnym przypadkiem wzoru Bayesa, który w jednej ze swych postaci może być podany nastepuj ˛ aco: ˛ Qm P(hi )P(e1 , . . . , em |hi ) j=1 P(ej |hi ) P(hi |e1 , . . . , em ) = Pn = Pn Qm P(hi ) k =1 P(e1 , . . . , em |hk )P(hk ) k =1 j=1 P(ej |hk )P(hk ) co uzyskujemy wykorzystujac ˛ założona˛ uprzednio warunkowa˛ niezależność każdej obserwacji ei wzgledem ˛ każdej hipotezy, co można opisać wzorem: m Y P(e1 , . . . , em |hi ) = P(ej |hi ), dlai = 1, . . . , n j=1 Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Reprezentacja wiedzy niepewnej W warunkach rzeczywistych nigdy nie wystepuje ˛ jedna reguła, zatem również zamiast prostego grafu z jedna˛ krawedzi ˛ a˛ i dwoma wierzchołkami otrzymamy sieć. Taka sieć nazywana siecia˛ wnioskowań może mieć nastepuj ˛ ac ˛ a˛ postać: 89:; ?>=< a RR 33 RRR RRR 33 RRR 33 RRR RRR 89:; ?>=< 89:; 89:; / ?>=< / )?>=< b d = E == == == 89:; ?>=< ? 89:; >=< 89:; ?>=< / F c G gdzie: a, b, c, d to obserwacje, zaś E, F, G to hipotezy. Taka sieć wnioskowań może być opisana poprzez zbiór wierzchołków oraz zbiór krawedzi. ˛ Każdy wierzchołek reprezentuje obserwacje˛ lub hipoteze, ˛ każda krawedź ˛ jest określona w ten sposób, że podaje sie˛ dla niej informacje o wierzchołkach które dana krawedź ˛ łaczy, ˛ oraz ewentualnie dla grafów skierowanych informacje˛ o kierunku krawedzi. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Definicja sieci Bayesowskiej G to graf określony zbiorem wierzchołków N i krawedzi ˛ E . CP to zbiór prawdopodobieństw warunkowych opisujacych ˛ prawdopodobieństwo przejścia od jednego wierzchołka grafu do drugiego. Pod pojeciem ˛ sieci Bayesowskiej rozumieć bedziemy ˛ trójke: ˛ B = {N, E, CP} , gdzie dwójka {N, E} jest zorientowanym grafem acyklicznym zbudowanym na podstawie zadanych prawdopodobieństw warunkowych zawartych w zbiorze CP. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Definicja sieci Bayesa Sieć Bayesa Sieć Bayesa stanowi numeryczny model zwiazków ˛ przyczynowo-skutkowych zachodzacych ˛ miedzy ˛ elementami zbioru obserwacji i hipotez. Stosujac ˛ twierdzenie Bayesa, można dokonywać zarówno wnioskowania progresywnego (wnioskowanie w przód), jak i wnioskowania regresywnego (wnioskowanie wstecz). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przykład syntezy sieci Bayesa 89:; ?>=< A ?>=< 89:; G 333 Niech zbiór pewnych zmiennych identyfikujacych ˛ 33 3 obserwacje i hipotezy ma nastepuj ˛ ac ˛ a˛ postać: Z = {A , B, C, D, E, F, G, H}, 89:; ?>=< 89:; ?>=< 89:; ?>=< B F H 33 33 P(G), P(H|G)} CP = {P(A ), P(B|A ), P(C|B), P(C|F), P(D|C), P(E|CH), P(F|G), 33 To pozwala zbudować graf skierowany, który 89:; ?>=< C J opisuje sieć Bayesa:B = {N, E, CP} , co można JJ JJ przedstawić graficznie: JJ JJ J% 89:; ?>=< 89:; ?>=< D Sieć Bayesa stanowi numeryczny model zwiazków ˛ przyczynowo-skutkowych zachodzacych ˛ pomiedzy ˛ elementami zbioru obserwacji i hipotez. Możliwe jest wówczas wnioskowanie progresywne (w przód), jak i wnioskowanie regresywne (wstecz). Agnieszka Nowak - Brzezińska Niepewność w wiedzy E Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Podsumowanie Prezentowana metoda reprezentacji i przetwarzania wiedzy niepewnej ma Metoda probabilistyczna ma charakter wybitnie numeryczny. Zarówno struktura sieci Bayes’a jak również metody wnioskowania oparte sa˛ całkowicie o metody probabilistyczne (czy podobne jak np. teoria Dempster’a-Shafer’a). Wady: realizacja praktyczna takiej reprezentacji wiedzy, umiarkowana zdolność do generowania objaśnień (ang. explanations ) procesu wnioskowania powodowana wybitnie numerycznym jego charakterem, złożoność obliczeniowa i pamieciowa ˛ procesu wnioskowania. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Problemy wynikajace ˛ ze stosowania reprezentacji niepewności opartej na probabilistyce Wartość prawdopodobieństwa musi sie˛ sumować do jedynki, co oznacza, że jeśli P(a) = 0.3, to P(¬A ) = 1 − P(a) = 1 − 0.3 = 0.7. Gdy za pomoca˛ teorii prawdopodobieństwa modelujemy wybrany fragment rzeczywistości (czesto ˛ bardzo złożony), nie możemy sie˛ ograniczać do logiki dwuwartościowej i prawa ”tertium non datur” tłumaczonego jako trzeciego wyjścia nie ma. Czasami jesteśmy w stanie jedynie powiedzieć, że prawdopodobieństwo zajścia pewnego zdarzenia wynosi np. 0.7 i, że jest ono możliwe przy zajściu pewnych zdarzeń je warunkujacych. ˛ Możemy jednak zauważyć, że zdarzenie to zajdzie jeśli choć jedno z tych zdarzeń je warunkujacych ˛ nastapi, ˛ ale i gdy np. wszystkie trzy zajda˛ w rzeczywistości. Fakt, że zdarzenia nie sa˛ niezależne nie pozwala w łatwy sposób operować rachunkiem prawdopodobieństwa. Twórca˛ wiedzy w bazie wiedzy jest ekspert z danej dziedziny, który najcześciej ˛ nie potrafi posługiwać sie˛ statystykami i umiejetności ˛ a˛ określania prawdopodobieństwa poprawnie. Ekspert przedstawia tylko swoja˛ subiektywna˛ ocene. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Budowa sieci bayesowskiej dla bazy wiedzy zasilanie.bw A : co_zrobic = ”Zgłosić awari˛ e w rejonie energetycznym” B: brak_pradu = ”Zupełny” C: prad_u_sasiadow = ”Nie maj˛ a” D: prad_u_sasiadow = ”Maj˛ a” E: bezpiecznik_glowny = ”Bezpiecznik główny wł˛ aczony” Reguły w bazie wiedzy zasilanie.bw sa˛ budowane przy użyciu dwójek <atrybut, wartość>. Jeśli podstawimy za zmienne zdania symbolizujace ˛ pewne zdarzenia opisywane w tej bazie wiedzy to otrzymamy nastepuj ˛ acy ˛ wejściowy zbiór danych: Agnieszka Nowak - Brzezińska F: co_zrobic = ”Wł˛ aczyć główny bezpiecznik” G: bezpiecznik_glowny = ”Bezpiecznik główny wył˛ aczony” H: co_zrobic = ”Kontrola bezpiecznika obwodu gniazdek” I: brak_pradu = ”W obwodzie gniazdek” J: co_zrobic = ”Kontrola bezpiecznika obwodu świateł” K: brak_pradu = ”W obwodzie świateł” L : co_zrobic = ”Wszystko działa normalnie” M: brak_pradu = ”Jest jak zawsze” N: dzialaja_gniazdka = ”Nie” O: P: swieci_swiatlo = ”Nie” dzialaja_gniazdka = ”Tak” R: swieci_swiatlo = ”Tak” = ”Nie” Niepewność w S:wiedzy lodowka_dziala Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Analizujac ˛ reguły w bazie zasilanie.bw możemy wyróżnić zbiory obserwacji i hipotez N, z których bedzie ˛ można zbudować sieć. Dopiero gdy te˛ sieć opatrzymy zbiorem prawdopodobieństw warunkowych CP nazwiemy sieć siecia˛ bayesowska˛ - o ile oczywiście spełni ona założenia sieci bayesowskich o grafach acyklicznych i skierowanych. W naszym zbiorze obserwacjami bed ˛ a: ˛ B, C, D, E, G, I, K , M, N, O, P, R, S, T , U oraz V zaś do zbioru hipotez zaliczymy A , F, H, J, L , B, I, K , M, N oraz P. Schemat sieci bayesowskiej (bez uwzglednienia ˛ wartości prawdopodobieństw warunkowych) dla takiej bazy wiedzy wyglada ˛ nastepuj ˛ aco: ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Niech zbiór prawdopodobieństw warunkowych CP dla takich obserwacji i hipotez bedzie ˛ nastepuj ˛ acy: ˛ CP = {P(A |B&C), P(A |B&D&E), P(F|B&D&G) , P(B), P(D), P(G), P(E), P(H|D&I), P(I|N&R), P(R), P(N|S&T ), P(S), P(T ), P(J|K &O), P(P|U&V ), P(U), P(V ), P(O), P(L |M), P(M|P&R)}. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Rozkład prawdopodobieństw: P(A , . . . , V ) = p(A |B&C)p(A |B&D&E)p(F|B&D&G)p(B)p(D)p(G)p(E)p(H|D&I)p(I|N&R)p(R)p(N|S&T ) p(S)p(T )p(J|K &O)p(P|U&V )p(U)p(V )p(O)p(L |M)p(M|P&R). Jak widać, powstały graf jest grafem skierowanym i acyklicznym, a wiec ˛ spełnia podstawowe założenia sieci bayesowskiej. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przykład 1 2 3 4 5 A B X C D – pogoda (słonecznie/pochmurno/deszczowo/wietrznie) – czas wolny (tak/nie) – humor (bardzo dobry/dobry/nietegi) ˛ – zajecie ˛ na zewnatrz ˛ (spacer/basen/rower) – zajecie ˛ w domu(komputer/ksiażka/gotowanie) ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przykład Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przykład Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przykład Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Narzedzia ˛ do budowy sieci bayesowskich Bardzo wiele grup naukowców na całym świecie zajmuje sie˛ sieciami bayesowskimi, ich budowa, ˛ analiza˛ i optymalizacja. ˛ Ogromne zasługi ma zespół profesora Marka Drużdżela z University of Pittsburgh. Zespół opracował narzedzie ˛ SMILE+ (ang. Structural Modeling, Inference, and Learning Engine) dostarczajace ˛ graficznej metody reprezentacji dla systemów decyzyjnych w postaci sieci bayesowskich. Do zbioru bibliotek stanowiacych ˛ system SMILE zbudowano interfejs użytkownika GeNIe. Narzedzie ˛ cieszy sie˛ sporym zainteresowaniem na całym świecie. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Inne narzedzia: ˛ Microsoft Bayesian Network Editor - narzedzie ˛ wspomagajace ˛ budowe˛ sieci wnioskowań bayesowskich. Realizacja dwóch algorytmów rekomendacji kolejnych kroków w procesie ewaluacji sieci (czyli na przykład wskazuja˛ zmienna, ˛ której zmiana wartości najbardziej wpłynie na uzyskane wyniki). W praktyce pozwala to na uzyskanie listy zmiennych (wezłów) ˛ uporzadkowanych ˛ według ich wagi i wpływu na proces wnioskowania, co jest możliwe dzieki ˛ przypisaniu wezłom ˛ pewnych typów decyzyjnych reprezentujacych ˛ role, ˛ jaka˛ pełni dany wezeł ˛ w sieci. HUGIN EXPERT - narzedzie ˛ służace ˛ do obliczeń prawdopodobieństw i niepewności parametrów. Dedykowane jest nie tylko na platforme˛ Windows ale również UNIXowe stacje robocze. Dostepna ˛ na stronie http://www.hugin.dk/, Netica Bayesian Network Software from Norsys - oprogramowanie, którego wersja demonstracyjna (jest dostepna ˛ poprzez witrynehttp://www.norsys.com/) ˛ jest zupełnie wystarczajaca ˛ by zaprojektować sieć bayesowska˛ i przeprowadzić w takiej sieci wnioskowanie. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Mycin System Mycin, który powstał w latach siedemdziesiatych ˛ na Uniwersytecie Stanford i którego autorem jest Edward H. Shortliffe, jest uznawany za wzorcowy (medyczny) system ekspertowy. Prace nad jego powstaniem rozpoczeły ˛ sie˛ w roku 1972 (i trwały kilka lat) w ramach Projektu Programowania Heurystycznego realizowanego w Stanford University, rozwijanego we współpracy z Zespołem Chorób Infekcyjnych (Infectious Diseases Group) ze Stanford Medical School. Prace˛ Shortliffe’a nadzorował m.in. Bruce Buchanan. System Mycin cechuje sie˛ wysokim poziomem kompetencji w zakresie generowanych konkluzji. Jego zadaniem jest diagnoza bakteryjnej choroby krwi i zaproponowanie odpowiedniej terapii. System prowadzi swego rodzaju dialog z lekarzem, w którym lekarz przekazuje swoja˛ wiedze˛ dotyczac ˛ a˛ badanej próbki krwi (m.in. wiek i płeć pacjenta, data pobrania krwi, itp), a system - po zadaniu około 50-60 pytań - wyświetla wyniki do jakich doszedł. Zaleta˛ systemu była szybkość podejmowania trafnych decyzji, do których nie potrzebuje wyników czasochłonnych badań krwi ani wszystkich odpowiedzi na zadane lekarzowi pytania. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Pamietajmy, ˛ że zwłaszcza medyczne systemy ekspertowe sa˛ narażone na to, że wiedza w nich zakodowana nie bedzie ˛ wolna od niepewności. Bardzo czesto ˛ spotykamy sie˛ z opisami typu: ”stan pacjenta stabilny” czy ”odpowiednia dawka leku”. Zawsze wtedy rodzi sie˛ problem reprezentacji takich nieostrych pojeć ˛ w bazie wiedzy systemu ekspertowego, tak by były one przez system tak samo dobrze rozumiane jak przez eksperta - człowieka. Oczywiście nieostrość pojeć ˛ nie jest jedynym przykładem niepewności wiedzy w medycznych bazach wiedzy. Reguły, o których spełnialności nawet lekarz przekazujacy ˛ wiedze˛ inżynierowi wiedzy, nie jest przekonany w 100% powinno sie˛ etykietować dodatkowymi informacjami mówiacymi ˛ jak pewna jest ta reguła. Zwykle do tego typu oszacowań wykorzystuje sie˛ rachunek prawdopodobieństwa i statystyke. ˛ Dla objawów (e) pacjenta pasujacych ˛ do opisu danej choroby (h), P(h|e) bedzie ˛ określać prawdopodobieństwo warunkowe, że pacjent jest chory na chorobe˛ h w świetle znanych faktów (objawów e), zaś P(e|h) bedzie ˛ odpowiednio oznaczać warunkowe prawdopodobieństwo, że pacjent bedzie ˛ wykazywał objawy e skoro zdiagnozowano u niego chorobe˛ h. Prawdopodobieństwo warunkowe P(h|e) obliczymy jako: P(e|h) ∗ P(h) P(h|e) = P(e|h) ∗ P(h) Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Zauważmy, że w przykładowej regule bazy wiedzy systemu Mycin wszystkie przesłanki: Kultura bakteryjna rozwin˛ eła si˛ e we krwi, odczyn jest gramopozytywny, bakterie wnikn˛ eły przez jelito i żoł˛ adek lub miednica jest miejscem infekcji musza˛ być prawdziwe (spełnione) by można było uznać hipoteze˛ tej reguły za spełniona˛ w stopniu 0.7. Warto w tym momencie dodać, że wartość ta (0.7) nie jest wartościa˛ prawdopodobieństwa warunkowego, lecz pewnym liczbowym określeniem stopnia przekonania eksperta dziedzinowego o spełnialności danej reguły. Wartości te ekspert przekazywał inżynierowi wiedzy w procesie akwizycji wiedzy. Nie możemy traktować takich danych jako prawdopodobieństwa warunkowego, gdyż gdyby było tak, że P(h|e1 &e2 &e3 ) = 0.7 to zgodnie z teoria˛ prawdopodobieństwa musielibyśmy założyć, że w takim razie P(¬h|e1 &e2 &e3 ) = 0.3 co jak wiemy nie jest prawda. ˛ Takiej wiedzy ekspert nie przekazał. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Mycin Mycin – regułowy system ekspertowy stworzony w latach 70-tych XX wieku na uniwersytecie w Stanford. Napisany został w jezyku ˛ LISP. Zadaniem systemu Mycin było zdiagnozowanie bakteryjnej choroby krwi i zaproponowanie odpowiedniej terapii. Baze˛ wiedzy stanowił zestaw reguł IF-THEN stworzony przez konsylium lekarskie z tego zakresu. Poczatkowo ˛ reguł tych było 200, po późniejszych modyfikacjach wzrosła ona do około 600. Przykładowa reguła: IF Kultura bakteryjna rozwineła ˛ sie˛ we krwi AND odczyn jest gramopozytywny AND bakterie wnikneły ˛ przez jelito i żoładek ˛ OR miednica jest miejscem infekcji THEN Istnieja˛ silne poszlaki (0,7), że klasa˛ bakterii, które sa˛ za to odpowiedzialne jest Enterobacteriacae. 0,7 to poziom ufności danej reguły (z przedziału -1 do +1). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Mycin c.d. Praca systemu Mycin polegała na dialogu z lekarzem, w czasie którego lekarz przekazywał swoja˛ wiedze˛ dotyczac ˛ a˛ badanej próbki krwi (m.in. wiek i płeć pacjenta, data pobrania krwi, itp). Po zadaniu około 50-60 pytań Mycin wyświetlał wyniki do jakich doszedł. Zaleta˛ systemu była szybkość podejmowania trafnych decyzji, do których nie potrzebował wyników czasochłonnych badań krwi ani wszystkich odpowiedzi na zadane lekarzowi pytania. Uważany dziś za niemal wzorcowy, był pierwszym dużym systemem ekspertowym o wysokim poziomie kompetencji w zakresie generowanych konkluzji. Pomaga lekarzom w wyborze terapii przeciwbakteryjnej dla pacjentów z chorobami infekcyjnymi krwi. System diagnozował przyczyny infekcji, poprzez identyfikacje˛ drobnoustroju odpowiedzialnego za jej powstanie. Ponadto proponował terapie˛ poprzez wybór leku (typu i dawkowania). Nie był wyłacznie ˛ systemem diagnostycznym - co jest czesto ˛ powtarzanym błedem ˛ - lecz również zajmował sie˛ strona˛ terapeutyczna˛ chorób. Typowa konsultacja trwała około 20 minut. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Mycin c.d. Podstawowym sposobem reprezentacji wiedzy były reguły i fakty. W procesie rozwiazywania ˛ problemu wykorzystywał wnioskowanie wstecz. System zrealizowano z wykorzystaniem jezyka ˛ Lisp na maszyny DEC-20 (mainframe). Nakład pracy obliczono na 52 osobo-lata, z czego znaczna cześć ˛ zawarta jest w oprogramowaniu. W 1974 dokonano oceny konkluzji systemu przez grupe˛ ekspertów-ludzi. Zaakceptowali oni 72% zaleceń systemu MYCIN w odniesieniu do 15 faktycznych przypadków infekcji. Testy porównawcze przeprowadzone w 1979 roku w odniesieniu do ulepszonej wersji tego systemu wykazały, że poprawność rozwiaza ˛ ń generowanych przez ten system dorównuje lekarzom ekspertom (z ośrodka Stanford) i przewyższa rozwiazania ˛ proponowane przez lekarzy niespecjalistów. Był to jednocześnie poważny dowód, że system ekspertowy może z powodzeniem rozwiazywać ˛ specjalistyczne problemy do tej pory „zarezerwowane” wyłacznie ˛ dla ekspertów-ludzi. Prace nad systemem MYCIN doprowadziły m.in do opracowania systemu narzedziowego ˛ EMYCIN (od Empty MYCIN). System EMYCIN ułatwił z kolei rozwój dziedzinowego (diagnostyka medyczna) systemu ekspertowego o nazwie PUFF. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Mycin c.d. Strukture˛ wnioskowania można przedstawić nastepuj ˛ aco: ˛ wiadomości o pacjencie ⇒ choroba ⇒ leczenie Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Wnioskowanie w systemie MYCIN: W trakcie przeprowadzania wywiadu powstaje drzewo zawierajace ˛ informacje (fakty) o pacjencie, gdzie korzeń drzewa stanowi identyfikator pacjenta. Fakty zostały zawarte w trójelementowych krotkach ( obiekt - atrybut - wartość ). Jako atrybuty wystepuj ˛ a˛ tu: kultura dajaca ˛ pozytywny wynik, podejrzana choroba, poprzednie i teraźniejsze metody leczenia. Wysokość drzewa może być powiekszana. ˛ Obiektem może stać sie˛ np. org. nr 1, dla którego określono atrybut i wartość. Powyższa struktura zapisu faktów dotyczacych ˛ pacjenta pozwala na szybkie uzyskiwanie potrzebnych informacji. W trakcie procesu wyszukiwania danych przesuwamy sie˛ w dół drzewa i ukonkretniamy dane. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Mycin c.d. IF warunek akcja Baza wiedzyTHEN zawieraj aca ˛ zbiór 600 reguł mówiacych ˛ o diagnozowaniu i wybieraniu lub odpowiedniego leczenia. Maja˛ one nastepuj ˛ ac ˛ a˛ postać: IF warunek AND ... AND warunek THEN akcja Kolekcja użytecznych procedur, zbierajacych ˛ informacje, orzekajacych ˛ konieczność przeprowadzenia dodatkowych badań, oraz wybierajacych ˛ twierdzenia, które moga˛ być użyte w procesie wnioskowania. LABDATA - procedura ta decyduje o tym, które z badań moga˛ być wykonane tylko w drodze testów laboratoryjnych, a nie np. podane przez pacjenta, UPDATEBY - procedura ta wyszukuje reguły, które można zastosować do wnioskowania z aktualnie aktywnego twierdzenia, FINDOUT - funkcja ta zbiera informacje potrzebne do sprawdzenia cześci ˛ warunkowej rozważanej reguły. W przypadku, gdy informacja jest dostepna ˛ - blokuje system, przed powtórnym pytaniem o to samo. W przypadku braku informacji zostaje wywołana procedura UPDATEBY (wyszukuje reguły mogace ˛ przetworzyć niesprawdzalny warunek) lub LABDATA (wywołanie testów użytkownika). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Mycin c.d. - Procedura FINDOUT Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Mycin c.d. Aparat wnioskujacy ˛ sterujacy ˛ poprawnym stosowaniem reguł. Wnioskowanie rozpoczyna sie˛ reguła: ˛ IF organizm potrzebuje leczenia AND przeprowadzone zostały rozważania dotyczace ˛ możliwości istnienia organów wymagajacych ˛ leczenia THEN przetwórz liste˛ możliwych leczeń i znajdź najlepsze Do tego twierdzenia stosowane jest wnioskowanie wstecz, majace ˛ doprowadzić do sprawdzenia warunków, a jednocześnie jest konstruowana lista możliwych sposobów leczenia. Procedura kontrolujaca ˛ wnioskowanie nazywa sie˛ MONITOR,gdzie jest wykorzystywana procedura FINDOUT. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Mycin c.d. - Procedura MONITOR Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Dialog w systmie MYCIN MYCIN dostaje dane bakteriologiczne, czasy pobierania próbek, nazwisko, płeć, wiek. Czy określono mikrobiologicznie rodzaj możliwej infekcji? odp: Tak Jakiego rodzaju jest to infekcja? Odp: Primary-Bacteremia Prosze˛ podać kiedy nastapiły ˛ pierwsze objawy infekcji. Odp: 15-Stycz-93 11:30 Skad ˛ pochodza˛ próbki pierwszej kultury bakteryjnej? Odp: Krew Kiedy otrzymano próbki kultury bakteryjnej z krwi? Odp: 16-Stycz-93 12:00 Pierwsza bakteria wyhodowana w tej próbce krwi bedzie ˛ określana jako Organizm-1. Zidentyfikuj organizm-1. Odp: Nieznany. Czy organizm-1 jest pałeczka˛ czy ziarnkowcem? Odp: Pałeczka˛ Jaki jest odczyn organizmu-1 Odp: gramonegatywny Czy organizm-1 rozwijał sie˛ aerobowo? Odp: tak Czy organizm-1 rozwijał sie˛ anaerobowo? Odp: tak Moje zalecenia terapeutyczne bed ˛ a˛ oparte o nastepuj ˛ ace ˛ prawdopodobne infekcje spowodowane przez nast. bakterie. INFEKCJA-1 typu Primary-bacteremia: 1 2 1. E. Coli (Organizm-1) 2. Pseudomonas-aeruginosa (Organizm-1) Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF W 1973 roku Richard Swinburne przedstawił nowa˛ wizje˛ klasyfikacji teorii statystycznych. Zgodnie z nimi, teoria tradycyjnego prawdopodobieństwa ze statystyki nie nadaje sie˛ do procesu podejmowania decyzji w takich systemach, które w wiekszości ˛ bazuja˛ na jakościowych a nie ilościowych reprezentacjach wiedzy. Z tego wzgledu ˛ twórcy systemu Mycin zrezygnowali z klasycznego podejścia probabilistycznego. Zainteresowani byli natomiast możliwościami sprawdzania wiarygodności hipotez czy prawdziwości przypuszczeń (domniemań). W pracy Swinburne’a można znaleźć m.in. definicje˛ tzw. logicznej teorii prawdopodobieństwa (ang. Logical Theory) zgodnie z która˛ prawdopodobieństwo jest logiczna˛ relacja˛ pomiedzy ˛ obserwacja˛ a hipoteza˛ i jest to stopień potwierdzenia prawdziwości hipotezy h gdy prawdziwe sa˛ obserwacje e. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Reprezentacja wiedzy niepewnej za pomoca˛ teorii Dempstera - Shafera Alternatywa˛ dla słabych stron współczynników pewności CF oraz sieci bayesowskich i rachunku prawdopodobieństwa przez nie wykorzystywanego miała być matematyczna teoria ewidencji Arthura Dempster’a. Teoria Arthura Dempster’a została wprowadzona w roku 1960, a później rozwijana dalej m.in. przez Glenn Shafer - stad ˛ o teorii mówi sie˛ najcześciej ˛ teoria Dempster’a - Shafer’a. Wprowadzenie teorii do systemów ekspertowych nastapiło ˛ po tym jak w roku 1976 Glenn Shafer opublikował prace: ˛ ”A mathematical theory of evidence”. Podzbiorom przestrzeni zdarzeń przypisuje sie˛ podstawowa˛ miare˛ prawdopodobieństwa (BPA , ang. Basic Probability Assignement) oznaczana˛ czesto ˛ m. Różnica w stosunku do klasycznego rachunku prawdopodobieństwa polega na tym głównie, że miara m nie musi być określona na wszystkich elementach przestrzeni zdarzeń a jedynie na niektórych z podzbiorów. Miara m musi spełniać dwa warunki: m(∅) = 0, P A ⊆Θ m(A ) = 1. Definiuje sie˛ dwie nowe miary: miare˛ przekonania (ang. belief) oraz wiarygodności (ang. plausability). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Miara przekonania wyraża sie˛ wzorem: Bel(A ) = X m(B), B⊆A zaś miara wiarygodności wzorem: Pl(A ) = X m(B). A ∩B,∅ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Teoria Dempstera-Shafera Wiedza reprezentowana jest w postaci funkcji przekonania, stad ˛ też model ten nazywany jest także teoria˛ funkcji przekonania. Każdemu zdaniu logicznemu przypisuje nie jedna˛ lecz dwie wartości. Użycie dwóch wartości zamiast jednej umożliwia, oprócz modelowania niepewności, reprezentacje˛ ilości pozyskanej informacji. Proste modelowanie wspierania zbioru hipotez przez obserwacje. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przykład Rozważamy przestrzeń U wszystkich możliwych zdarzeń. Zdarzenia te bedziemy ˛ określać jako zmienne x. Każdemu stwierdzeniu typu: prawdopodobna wartość zmiennej x zawarta jest w zbiorze A , gdzie A ⊂ U (A jest podzbiorem U), może być przyporzadkowany ˛ pewien współczynnik zwany stopniem przekonania. Jeśli m(B) to liczba m(B) określajaca ˛ prawdopodobieństwo bed ˛ ace ˛ miara˛ stwierdzenia, że prawdziwa wartość x jest podzbiorem A , to funkcje˛ przekonania określimy jako sume˛ wszystkich możliwych wartości m(B). Obie miary przekonania i wiarygodności sa˛ liczbami z przedziału: [0, 1]. Zatem, w sytuacji, gdy przy pełnej niewiedzy mamy za zadanie określić na ile prawdopodobne jest zdarzenie α: pr˛ ad_u_s˛ asiadów = Maj˛ a oraz zdarzenie β: pr˛ ad_u_s˛ asiadów = Nie maj˛ a, omawiane współczynniki bed ˛ a˛ nastepuj ˛ ace: ˛ Bel(α) = Bel(β) = 0, ponieważ obydwa zdarzenia sa˛ równie niewiarygodne, P(α) = P(β) = 1/2, gdyż prawdopodobieństwo zajścia któregokolwiek z nich jest takie samo przy pełnej niewiedzy, Pl(α) = Pl(β) = 1, ponieważ pozornie słuszne sa˛ obydwa fakty, Dou(α) = Dou(β) = 0, ponieważ obydwa zdarzenia sa˛ równie watpliwe. ˛ W tym konkretnym przypadku, wiarygodność faktów jest zawsze taka sama, niezależnie od wprowadzonych zdarzeń elementarnych. Z formalnego punktu widzenia teoria ta stanowi próbe˛ stworzenia ogólnego formalizmu umożliwiajacego ˛ operowanie i przetwarzanie subiektywnych sadów ˛ i opinii. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Teoria Dempstera-Sheffera W teorii Dempstera - Sheffera wprowadza sie˛ tzw. funkcje˛ wiarygodności oraz współczynnik pozornej słuszności. Wprowadzone tu zostało pojecie przestrzeni U , a stwierdzenia sa˛ rozpatrywane jako pewne podzbiory w tej przestrzeni. Przestrzeń U rozpatrywana jest jako zbiór wszystkich możliwych wartości zmiennej x . Wówczas każdemu stwierdzeniu typu: Prawdopodobna wartość zmiennej x zawarta jest w zbiorze A , gdzie A ⊂ U (A jest podzbiorem U ), może być przyporzadkowany ˛ pewien współczynnik wiarygodności zwany stopniem wiarygodności. Wówczas, funkcje˛ wiarygodności otrzymujemy jako sume˛ wszystkich wiarygodności liczb m(B) po wszystkich podzbiorach, gdzie liczba m(B) to elementarna liczba prawdopodobieństwa bed ˛ aca ˛ miar P a˛ stwierdzenia, że prawdziwa wartość x jest podzbiorem A . Bel(A ) = B∈A m(B) Inaczej mówiac, ˛ w sytuacji, gdy jest zbiorem wszystkich podzbiorów zbioru U , to funkcja wiarygodności jest definiowana w najogólniejszy sposób jako: Bel : → [0, 1] i spełnia założenia: Bel(∅) = 0 oraz Bel(U) = 1. Generalnie wiarygodność jest liczba˛ ze zbioru [0, 1] . Funkcja wiarygodności służy do określenia stopnia wiarygodności: Dou(A ) = Bel(¬A ). Z kolei dopełnienie stopnia watpliwości ˛ do 1 to inaczej stopień pozornej słuszności, co zapisujemy jako: Pl(A ) = 1 − Dou(A ) = 1 − Bel(¬A ). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF teoria Dempstera-Sheffera Zatem, w sytuacji, gdy przy pełnej niewiedzy mamy za zadanie określić na ile prawdopodobne jest zajście zdarzenia polegajacego ˛ na tym, że dany student ma lub nie ma przyznanego stypendium, gdzie odpowiednio α i β to zdarzenia elementarne, w sytuacji gdy konkluzja˛ jest β , współczynniki Dempstera - Sheffera bed ˛ a˛ wynosiły: Bel(α) = Bel(β) = 0, ponieważ obydwa zdarzenia sa˛ równie niewiarygodne, P(α) = P(β) = 1/2, gdyż prawdopodobieństwo zajścia któregokolwiek z nich jest takie samo przy pełnej niewiedzy, Pl(α) = Pl(β) = 1, ponieważ pozornie słuszne sa˛ obydwa fakty, Dou(α) = Dou(β) = 0, ponieważ obydwa zdarzenia sa˛ równie watpliwe. ˛ W tym konkretnym przypadku, wiarygodność faktów jest zawsze taka sama, niezależnie od wprowadzonych zdarzeń elementarnych. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Teoria Dempstera-Shafera Funkcja gestości ˛ prawdopodobieństwa (ang. density probability function) m : 2θ → [0, 1] m[θ] = 0 P A ⊆θ m(A ) = 1 Przekonanie (ang. belief) Przekonanie oznaczane w skrocie Bel ∈ [0, 1] mierzy siłe˛ pozyskanych obserwacji wspierajacych ˛ P przekonanie o prawdziwości rozważanego zbioru hipotez. Bel(A ) = B⊆A m(B) Wyobrażalność (ang. plausibility) Wyobrażalność oznaczana w skrócie Pl ∈ [0, 1] określa na ile przekonanie o prawdziwości A jest ograniczone przez dowody wspierajace ˛ ¬A . Pl(A ) = 1 − Bel(¬A ) Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF To pozwoliło powiazać ˛ logiczna˛ teorie˛ prawdopodobieństwa z potwierdzaniem i niepewnościa. ˛ Pojecie ˛ potwierdzenia (ang. confirmation) dla hipotezy h może być użyte w trzech różnych ujeciach: ˛ klasyfikacji: gdzie obserwacja e potwierdza hipoteze˛ h, porównywania: gdy możemy stwierdzać, że ”obserwacja e1 mocniej niż e2 potwierdza hipoteze˛ h”, jakościowa: ˛ gdy stwierdzamy, że obserwacja e potwierdza hipoteze˛ h z siła˛ x. Twórcy systemu Mycin wykorzystali ostatnia˛ droge, ˛ i wybrali ilościowe metody potwierdzania reguł, gdzie użyli pewnej nowej ilościowej miary C[h, e], która miała odpowiadać P(h|e) i być po prostu stopniem potwierdzenia prawdziwości hipotezy h przy prawdziwych przesłankach reguły (e). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Pamietaj ˛ ac, ˛ że ekspert wyraża swoja˛ subiektywna˛ ocene˛ dla prawdziwości badź ˛ fałszywości danej hipotezy, możemy rozróżnić tak naprawde˛ dwie różne wartości: miary wiarygodności (zaufania): zgodnie z która, ˛ jeśli P(h|e) jest wieksze ˛ niż P(h), obserwacja e zwieksza ˛ zaufanie eksperta w prawdziwość hipotezy h i zmniejsza watpliwość ˛ w te˛ sama˛ hipoteze. ˛ Wyraża sie˛ to wzorem: P(h, e) − P(h) MB[h, e] = 1 − P(h) oraz watpliwości ˛ w prawdziwość danej hipotezy. Jeśli P(h|e) jest mniejsze niż P(h) to obserwacja e zmniejsza zaufanie eksperta w prawdziwość hipotezy h i zwieksza ˛ tym samym jego watpliwość ˛ w prawdziwość takiej hipotezy co można wyrazić wzorem: P(h) − P(h|e) MD[h, e] = . P(h) Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Zaznaczmy w tym momencie jeszcze tylko, że takie pojmowanie zaufania i watpliwości ˛ odpowiada dokładnie pojeciom ˛ potwierdzania oraz nie potwierdzenia hipotezy. Przyjać ˛ możemy także nastepuj ˛ ace ˛ założenia: jeśli MB[h, e] > 0 to MD[h, e] = 0, jeśli MD[h, e] > 0 to MB[h, e] = 0, zaś jeśli P(h|e) = P(h) wówczas MB[h, e] = MD[h, e] = 0. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF W klasycznym prawdopodobieństwie relacja miedzy ˛ wiara˛ w prawdziwość pewnej hipotezy i w jej nieprawdziwość jest znana, i ma sie˛ sumować do jedności (zgodnie z założeniem, że P(A ) = 1 − P(¬A )). Eksperci nie zawsze przedstawiajac ˛ w formie liczbowej wartość swojego zaufania wobec pewnej hipotezy potrafia˛ określić wartość takiego zaufania wobec negacji tej hipotezy (jej zaprzeczenia). Takie problemy stały sie˛ argumentami do odrzucenia klasycznej teorii prawdopodobieństwa w systemie Mycin i do zastosowania tzw. współczynników pewności (ang. certainity factor). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Dlaczego współczynnik pewności ? Współczynnik ten jest miara˛ łacz ˛ ac ˛ a˛ w sobie dwie wyżej wymienione miary MB oraz MD i wyraża sie˛ wzorem: CF[h, e] = MB[h, e] − MD[h, e]. W systemie Mycin implementacja współczynników pewności sprowadza sie˛ do tego, że jeśli reguła ma przyporzadkowany ˛ taki współczynnik, to wyraża on wiare˛ eksperta w poprawność takiej reguły i jej konkluzji. Sam współczynnik jest w systemie Mycin liczba˛ z przedziału [−1, +1] i określa wiare˛ w prawdziwości hipotezy h pod warunkiem prawdziwości obserwacji e. Przedział przyjmuje takie zakresy dlatego, że jeśli 0 ≤ MB[h, e] ≤ 1 oraz 0 ≤ MD[h, e] ≤ 1 to −1 ≤ CF[h, e] ≤ 1. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Ograniczenia systemu Mycin Przesłanki o bardzo niskim współczynniku pewnościa˛ moga˛ niestety wpływać negatywnie na wartość współczynników pewności reguł. W systemie Mycin zastosowano pewne ograniczenie polegajace ˛ na tym, że nie sa˛ uwgledniane ˛ reguły, które czy to w cześci ˛ warunkowej czy decyzyjnej maja˛ wartość współczynnika pewności mniejsza˛ od 0.2. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Cechy systemu MYCIN W 1974 dokonano oceny konkluzji systemu przez grupe˛ ekspertów-ludzi, którzy zaakceptowali 72% zaleceń systemu w odniesieniu do 15 faktycznych przypadków infekcji. Testy porównawcze, które przeprowadzono pieć ˛ lat później i w odniesieniu do ulepszonej wersji systemu, wykazały, że poprawność generowanych rozwiaza ˛ ń dorównuje lekarzom ekspertom (z ośrodka Stanford) i przewyższa rozwiazania ˛ proponowane przez lekarzy niespecjalistów. Był to jednocześnie poważny dowód, że system ekspertowy może z powodzeniem rozwiazywać ˛ specjalistyczne problemy do tej pory zarezerwowane wyłacznie ˛ dla ekspertów-ludzi. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF współczynnik CF Współczynnikiem pewności CF (ang. Certainy Factor) obarczone moga˛ być zarówno fakty jak i reguły. Zapis: < student, srednia_ocen, wysoka, CF = 0.5 > określa, że nie wiemy na pewno, że tak jest w rzeczywistości, wiemy natomiast, że stopień pewności wynosi 0, 5 . Wystepowanie ˛ CF zarówno w przesłance jak i w konkluzji wpływa na cała˛ regułe, ˛ na jej pewność, gdyż ostateczny CF jest iloczynem CF w przesłance i w konkluzji. Zatem zapis stwierdzeń niepewnych (hipotez, przypuszczeń), uzupełniajacy ˛ każda˛ trójke˛ < O, A , V > o stopień pewności CF (ang.: Certainty Factor ), powoduje, że ostatecznie ta metoda reprezentacji wiedzy ma postać czwórki: < O, A , V , CF >. W takim przypadku zapis postaci < student, przyznane_stypendium, tak , 0.8 > oznaczać ma po prostu fakt, że dany student ma przyznane stypendium ze stopniem pewności CF = 0.8. Wielkość ta ma określać stopień naszego przekonania o prawdziwości konkluzji danej reguły w przypadku prawdziwości jej przesłanki. Taki sposób przetwarzania wiedzy niepewnej w obrebie ˛ regułowej reprezentacji wiedzy stanowi dość istotny problem i jako taki nie jest raczej stosowany. Powodem tego jest fakt, iż współczynnik pewności jest oszacowaniem ilościowym o zbyt małym stopniu ekspresji. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Reprezentacja wiedzy niepewnej za pomoca˛ współczynników pewności Współczynnikiem pewności CF (ang. certainity factor) obarczone moga˛ być zarówno fakty jak i reguły zapisane w bazie wiedzy. Zapis: lodówka_działa = ”Tak” with CF=0.9 określa, że nie wiemy na pewno, ale jesteśmy niemal przekonani, że lodówka działa. Wystepowanie ˛ CF zarówno w przesłance jak i w konkluzji wpływa na cała˛ regułe, ˛ na jej pewność, gdyż ostateczny CF jest iloczynem CF w przesłance i w konkluzji. To rozszerzenie modelu regułowego o pewne numeryczne oszacowanie stopnia pewności eksperta i może mieć postać: Jeżeli e1 &e2 &...&en To h ze stopniem pewności CF gdzie e1 , e2 , . . ., en to przesłanki reguły a h to konkluzja, & to operator logiczny and. Wnioskowanie odbywa sie˛ w sposób klasyczny, i w systemie Mycin realizowane było metoda˛ wnioskowania wstecz. W trakcie tego procesu niepewność jest uwzgledniana ˛ w kolejnych krokach wnioskowania poprzez obliczenie współczynnika pewności poszczególnych konkluzji. Operacja ta nosi nazwe˛ procesu propagacji współczynnika pewności. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Metoda współczynników pewności CF W systemach zbliżonych do modelu MYCIN wnioskowanie odbywa sie˛ w sposób klasyczny, z wykorzystaniem interpretera reguł produkcji, który np. w systemie MYCIN pracuje w trybie wnioskowania wstecz. W trakcie tego procesu niepewność jest uwzgledniana ˛ w kolejnych krokach wnioskowania poprzez obliczenie współczynnika pewności poszczególnych konkluzji. Proces ten ma jednak charakter pomocniczy i to nie on steruje procesem wnioskowania, główna˛ role˛ odgrywa tutaj interpreter reguł. Innymi słowy, przetwarzanie niepewności jest tutaj procesem równoległym, majacym ˛ na celu określenie stopnia pewności konkluzji generowanych przez interpreter reguł. Przypomnijmy, że w systemach Bayes’owskich (i podobnych) to mechanizm przetwarzania wiedzy niepewnej decydował o konkluzji i określał pewne numeryczne oszacowanie jej pewności (w postaci prawdopodobieństw czy np. Dempster’owko-Shafer’owskich mas). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Metoda współczynników pewności CF Również współczynnik pewności CF nie jest tutaj bezpośrednio rozumiany jako klasyczne prawdopodobieństwo. Jak podaja˛ autorzy systemu MYCIN, Shortliffe i Bachman, współczynnik pewności jest chwytem pozwalajacym ˛ połaczenie ˛ stopnia wiedzy oraz niewiedzy i odwzorowanie ich w postaci jednej liczby. Do odwzorowania wiedzy służy współczynnik MB zwany miara˛ wiarygodności (ang. measure of belief ), do opisania niewiedzy służy zaś współczynnik MD zwany miara˛ niewiarygodności (ang. measure of disbelief ). Ponieważ współczynnik CF wiazany ˛ jest z reguła, ˛ również współczynniki MB i MD sa˛ wiazane ˛ z reguła. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Metoda współczynników pewności CF Załóżmy, że dana jest reguła: Jeżeli e to h. Współczynniki dla takiej reguły bed ˛ a˛ określone odpowiednio MB(h, e) , MD(h, e), CF(h, e) . Współczynnik CF(h, e) jest zdefiniowany jako różnica pomiedzy ˛ miara˛ wiarygodności a miara˛ niepewności: CF(h, e) = MB(h, e) − MD(h, e) Interpretacja miar wiarygodności i niewiarygodności (w powiazaniu ˛ z prawdopodobieństwem warunkowym) może być nastepuj ˛ aca: ˛ jeżeli P(h|e) = 1 to h jest prawdziwe na pewno, wtedy MB(h, e) = 1 , MD(h, e) = 0 , oraz CF(h, e) = 1 , jeżeli P(¬h|e) = 1 to h jest fałszywe na pewno, wtedy MB(h, e) = 0 , MD(h, e) = 1, oraz CF(h, e) = −1 , jeżeli P(h|e) = P(h) to h co znaczy, że h i e sa˛ niezależne, wtedy MB(h, e) = 0 , oraz MD(h, e) = 0 , CF(h, e) = 0 . Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Metoda współczynników pewności CF Powyższe zależności można przedstawić w bardziej zwartej postaci: 1 P(h) = 1 MB(h, e) P(h|e) > P(h) 0 P(h|e) = P(h) CF(h|e) = −MD(h, e) P(h|e) < P(h) −1 P(h) = 0 Wartość współczynnika CF należy zatem do przedziału od [−1, +1] . Dodatnie wartości odpowiadaja˛ wzrastaniu wiarygodności hipotezy, natomiast ujemne odpowiadaja˛ zmniejszaniu sie˛ wiarygodności. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Propagacja niepewności w modelu współczynników pewności Wnioskowanie w modelu współczynnika pewności CF odbywa sie˛ w oparciu o działanie interpretera reguł. Przebieg tego procesu: W trybie wnioskowania wstecz, określa on cel wnioskowania, tzn. hipoteze˛ której prawdziwość ma być dowiedziona, w trybie wnioskowania do przodu poszukuje sie˛ konkluzji jaka˛ można wywieść ze znanych faktów. Rozpoczeciu ˛ wnioskowania towarzyszy zwykle ustalenie pewnych faktów inicjujacych ˛ proces wnioskowania. Fakty te zwykle odpowiadaja˛ obserwacjom, które skłoniły użytkownika do konsultacji z systemem ekspertowym. Fakty sa˛ składowane w pamieci ˛ podrecznej ˛ interpretera reguł (ang. working memory) zwanej także czesto ˛ globalna˛ baza˛ danych. Interpreter określa regułe˛ lub reguły, które moga˛ być w danych warunkach zastosowane (min. w oparciu o zawartość pamieci ˛ podrecznej), ˛ wybiera jedna˛ z nich i wykonuje. Efekt zastosowania danej reguły prowadzi zwykle do modyfikacji zawartości pamieci ˛ podrecznej, ˛ polegajacej ˛ np. na dopisaniu nowych faktów ustalonych w trakcie wnioskowania. Proces doboru i wykonywania reguł jest powtarzany tak długo aż hipoteza zostanie potwierdzona (wnioskowanie wstecz) lub zostanie wyprowadzona konkluzja (wnioskowanie do przodu) badź ˛ ani jedno ani drugie nie może być osiagni ˛ ete. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Metoda współczynników pewności CF W czasie wnioskowania nastepuje ˛ zatem zjawisko przechodzenia od reguły do reguły, czego efektem jest jest budowa drzewa wywodu odwzorowujacego ˛ wybrane i uaktywnione reguły oraz ich kolejność. W trakcie tego procesu nastapić ˛ musi równoległy proces obliczania współczynników pewności. Dochodzi do propagowania niepewności co jest wynikiem odpowiednich złożeń jakim podlega współczynnik CF w trakcie budowy drzewa wywodu. Również fakty moga˛ posiadać swój współczynnik pewności, który ma odwzorowywać przekonanie użytkownika systemu o pewności danej obserwacji. Fakty te zwykle wchodza˛ w skład przesłanki (nazwijmy ja˛ e) pewnej reguły, która˛ umownie nazwiemy R. Sama reguła R też posiada współczynnik pewności CF. Jeżeli e to h ze stopniem pewności CF Konkluzja (h) reguły R jest zatem obarczona niepewnościa˛ wynikajac ˛ a˛ zarówno z niepewności faktu wchodzacego ˛ do przesłanki e jak również współczynnika CF samej reguły R. Końcowy współczynnik pewności wyznaczany jako: CF(h, e) = CF(e) ∗ CF(h) gdzie: CF(e) to współczynnik pewności przesłanki, a CF(h) to współczynnik pewności reguły R. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Metoda współczynników pewności CF W przypadku gdy przesłanka reguły zawiera wyrażenie zawierajace ˛ operator AND (&) : Jeżeli e1&e2 to h ze stopniem pewności CF to współczynnik pewności konkluzji h wyznaczany jest w nastepuj ˛ acy ˛ sposób: CF(h, e1&e2) = Minimum{CF(e1), CF(e2)} ∗ CF(h) W przypadku gdy przesłanka reguły zawiera wyrażenie zawierajace ˛ funktor OR (|) : Jeżeli e1 | e2 to h ze stopniem pewności CF to współczynnik pewności konkluzji h wyznaczany jest w nastepuj ˛ acy ˛ sposób: CF(h, e1|e2) = Maksimum{CF(e1), CF(e2)} ∗ CF(h) Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Metoda współczynników pewności CF W przypadku, gdy jedna hipoteza h jest konkluzja˛ wiecej ˛ niż jednej reguły: Jeżeli e1 to h Jeżeli e2 to h 89:; ?>=< ?>=< / 89:; e1 h E 89:; ?>=< e2 Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Metoda współczynników pewności CF 89:; ?>=< e1 ?>=< / 89:; h E 89:; ?>=< e2 CF(h, e1 ) + CF(h, e2 ) − CF(h, e1 ) ∗ CF(h, e2 ) CF(h, e1 ) + CF(h, e2 ) + CF(h, e1 ) ∗ CF(h, e2 ) CF(h, e1 , e2 ) = CF(h,e1 )+CF(h,e2 ) 1−min{(|CF(h,e )|)(|CF(h,e )|)} 1 2 Agnieszka Nowak - Brzezińska Niepewność w wiedzy CF(h, e1 ), CF(h, e2 ) > 0 CF(h, e1 ), CF(h, e2 ) < 0 CF(h, e1 ) ∗ CF(h, e2 ) < 0 Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Metoda współczynników pewności CF W przypadku połaczenia ˛ ”szeregowego” reguł Jeżeli e1 to e2 Jeżeli e2 to h co można przedstawić graficznie: 89:; ?>=< e1 89:; / ?>=< e2 ?>=< / 89:; h obowiazuje ˛ nastepuj ˛ acy ˛ wzór: CF(h, e1 ) = CF(e2 , e1 ) ∗ CF(h, e2 ) Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Metoda współczynników pewności CF - Zalety Prostota i łatwość w interpretacji, Powiazanie ˛ z najbardziej popularna˛ reprezentacja˛ wiedzy w postaci reguł produkcji, Stosunkowo łatwe obliczenia nie obciażaj ˛ ace ˛ czasowo ani pamieciowo. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Metoda współczynników pewności CF -Wady Mało stabilna podbudowa teoretyczna, Bardzo luźny zwiazek ˛ z teoria˛ prawdopodobieństwa, Udowodniono wyraźne rozbieżności pomiedzy ˛ wynikami wnioskowania czysto probabilistycznego a w oparciu o model CF, Pojedynczy współczynnik CF jest zbyt słabym narzedziem ˛ do odwzorowania wiedzy i niewiedzy. Wartość CF = 0, może oznaczać zarówno sytuacje w której współczynniki wiarygodności i niewiarygodności maja˛ wartość równa˛ zeru : MB(h, e) = MD(h, e) = 0, jak również sytuacje w której współczynniki te maja˛ jednakowe wartości : MB(h, e) = MD(h, e) = 1 (CF jest równy różnicy tych wartości). Problem, gdy ekspert nie jest w stanie podać pojedynczej wartości liczbowej, lecz powie raczej, że w przypadku prawdziwości określonej przesłanki dana reguła bedzie ˛ prawdziwa na co jest szansa wahajaca ˛ sie˛ od 40% do 60%. Wówczas trzeba dokonać decyzji o wyborze pojedynczej liczby (kres dolny lub górny przedziału). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przykład modelu ze współczynnikiem CF ?>=< 89:; e1 0.9 89:; / ?>=< e2 ?>=< /89:; @h −0.2 0.5 89:; ?>=< e5 0.5 89:; ?>=< e3 89:; / ?>=< e @ 4 0.6 CF(e4 , e1 e2 ) = CF(e2 , e1 ) ∗ CF(h, e2 ) = 0.9 ∗ 0.5 = 0.45 @ABC GFED e1 e2 0.6 89:; ?>=< / ?>=< /89:; @h >} e4 } } }} 0.5 }} −0.2 } } 89:; ?>=< 89:; ?>=< e3 e5 CF(e4 , e1 e2 e3 ) = 0.45 CF(e4 , e1 e2 ) + CF(e4 , e3 ) 0.45 + (−0.2) = 1 − min{(|CF(e4 , e1 e2 )|), (|CF(e4 , e3 )|)} 1 − min{(|0.45|), (| − 0.2|)} = 0.25 0.25 0.25 = = = 0.3125 1 − min{0.45, 0.2} 1 − 0.2 0.8 Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przykład modelu ze współczynnikiem CF WVUT PQRS e1 e2 e3 0.3125 89:; / ?>=< e4 ?>=< /89:; h A 0.5 89:; ?>=< e5 0.6 CF(h, e1 e2 e3 e4 ) = CF(h, e4 ) ∗ CF(e4 , e1 e2 e3 ) = 0.3125 ∗ 0.6 = 0.1875 0.1875 `abc gfed e1 e2 e3 e4 ?>=< /89:; h z= z z zz zz0.5 z z zz 89:; ?>=< e5 CF(h, e1 e2 e3 e4 e5 ) = CF(h, e1 e2 e3 e4 ) + CF(h, e5 ) − CF(h, e1 e2 e3 e4 ) ∗ CF(h, e5 ) = 0.1875 + 0.5 − 0.1875 ∗ 0.5 = 0.6875 − 0.1875 ∗ 0.5 = 0.5937 `abc gfed e1 e2 e3 e4 e5 Agnieszka Nowak - Brzezińska 0.5937 ?>=< /89:; h Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Propagacja niepewności dla współczynników CF - baza zasilanie.bw Załóżmy, że omawiana˛ przez nas w całym podreczniku ˛ baza zasilanie.bw, przedstawimy z użyciem współczynników pewności. if B and C then A with cf=0.7 if B and D and E then A with cf=0.9 if B and D and G then F with cf = 1.0 if S then N with cf=0.4 if T then N with cf=0.4 if N and R then I with cf = 0.5 if I and D then H with cf = 0.6 if U then P with cf = 0.2 if V then P with cf = 0.2 if P and O then K with cf = 0.4 if K and D then J with cf = 0.6 if P and R then M with cf = 0.8 if M then L with cf = 0.6 Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Załóżmy także, że znamy wartości współczynników pewności niektórych faktów: B with cf = 1 C with cf = 1 E with cf = 1 D with cf = 0.5 G with cf = 1 S with cf = 1 T with cf = 1 R with cf = 1 U with cf = 1 V with cf = 1. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przedstawimy teraz procedure˛ propagacji niepewności w takiej bazie wiedzy dla wyżej wymienionych założeń. if B and C then A with cf = 0.7 if B and D and E then A with cf = 0.9 Dwie pierwsze reguły można przedstawić graficznie jako: ?>=< 89:; BC >> 0.7 >> > 89:; ?>=< ?A 0.9 @ABC GFED BDE Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Korzystajac ˛ z odpowiednich wzorów otrzymujemy nastepuj ˛ ac ˛ a˛ wartość współczynnika pewności hipotezy A : CF(A , BCorBDE) = CF(A , BC) + CF(A , BDE) − CF(A , BC) ∗ CF(A , BDE) = 0.7 + 0.9 − 0.7 ∗ 0.9 = 1.6 − 0.63 = 0.97. (B and C) or (B and D and E) Agnieszka Nowak - Brzezińska 0.97 Niepewność w wiedzy /A Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Jak widać, współczynnik pewności hipotezy A , która przypomnijmy odpowiada zdarzeniu: co_zrobic = ”Zgłosić awari˛ e w rejonie energetycznym” jest wysoki i wynosi 0.97. Wynika to z faktu, że hipoteza ta była konkluzja dwóch reguł w bazie wiedzy, z których prawie wszystkie (prócz przesłanki D) przesłanki były prawdziwe, lecz konkluzje reguł były obarczone pewnym mniejszym niż 100% przekonaniem eksperta. Reguły 4, 5, 6 oraz 7 da sie˛ zobrazować graficznie jako: 89:; ?>=< 89:; ?>=< S D K :: KKK ? 0.4 :: KKK : K% 89:; ?>=< 89:; ?>=< H A N LLL B L L LL ? 0.4 L% ? 89:; ?>=< 7654 0123 T BI 0.5 89:; ?>=< R Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Z kolei propagacja współczynnika pewności hipotezy H: co_zrobic = ”Kontrola bezpiecznika obwodu gniazdek” przedstawia sie˛ nastepuj ˛ aco: ˛ CF(N, SorT ) = CF(N, S) + CF(N, T ) − CF(N, S) ∗ CF(N, T ) = 0.4 + 0.4 − 0.4 ∗ 0.4 = 0.8 − 0.16 = 0.64 CF(I, NandR) = CF(I, N) ∗ CF(I, R) = 0.64 ∗ 1 = 0.64 CF(H, IandD) = CF(H, I) ∗ CF(H, D) = 0.64 ∗ 0.5 = 0.032 (((S or T → N) and R) → I) and D 0.032 /H Ostatecznie wartość tego współczynnika jest dość mała i wynosi 0.032. Wynika to z faktu, że przesłanki poszczególnych reguł prowadzacych ˛ do tej hipotezy były niepewne, a zatem finalnie i sama hipoteza obarczona została przez to mniejszym stopniem pewności. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Hipoteza J: co_zrobic = ”Kontrola bezpiecznika obwodu świateł” może być wykazana poprzez uaktywnienie kolejno reguł: 8, 9, 10 oraz 11. 89:; ?>=< 89:; ?>=< U D L :: LLL ? ::0.2 LLL : LL& 89:; ?>=< 89:; ?>=< P L BJ LLL A LLL LL& ? ? 0.2 89:; ?>=< 89:; ?>=< V K A ? 89:; ?>=< O Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Propagacji współczynnika pewności dla tej hipotezy przedstawia sie˛ nastepuj ˛ aco: ˛ CF(P, UorV ) = CF(P, U) + CF(P, V ) − CF(P, U) ∗ CF(P, V ) = 0.2 + 0.2 − 0.2 ∗ 0.2 = 0.4 − 0.04 = 0.36 CF(K , PandO) = CF(K , P) ∗ CF(K , O) = 0.36 ∗ 0.8 = 0.288 CF(J, KandD) = CF(J, K ) ∗ CF(J, D) = 0.288 ∗ 0.5 = 0.0144 Wartość 0.0144 jest niewatpliwie ˛ niska, na co z pewnościa˛ wpływ ma fakt, że każda z przesłanek reguły była obarczona małym współczynnikiem pewności. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF (((U or V → P) and O) → K ) and D 0.0144 /J Hipoteza L : co_zrobic = ”Wszystko działa normalnie” może być wykazana dzieki ˛ uaktywnieniu reguł 8, 9 a nastepnie ˛ 12 i 13. ?>=< 89:; U: :: 0.2 :: 89:; ?>=< A P ;; 0.2 ;;? ; 89:; ?>=< 89:; ?>=< V AM ? 89:; ?>=< R Agnieszka Nowak - Brzezińska ? ?>=< / 89:; L Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Obliczenia: CF(M, PandR) = CF(M, P) ∗ CF(M, R) = 0.36 ∗ 1 = 0.36 CF(L , M) = CF(L ) ∗ CF(M) = 0.36 ∗ 0.7 = 0.252 pozwalaja˛ wnioskować, że współczynnik pewności hipotezy L wynosi 0.252. ((S or T → R) and P) → M Agnieszka Nowak - Brzezińska 0.252 Niepewność w wiedzy /L Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Problemy ze współczynnikami pewności Współczynniki pewności wnosza˛ pewien problem w proces wnioskowania w warunkach niepewnej wiedzy. Mianowicie, gdy liczba reguł wyprowadzajacych ˛ decyzje˛ h jest dość duża, może sie˛ zdarzyć, że nawet przy niskich wartościach wszystkich współczynników CF (ważne żeby były to wartości dodatnie), może dażyć ˛ do wartości maksymalnej równiej 1. Np. gdybyśmy mieli w naszej bazie wiedzy reguły postaci: if a then h with cf=0.1 if b then h with cf=0.1 if c then h with cf=0.1 if d then h with cf=0.1 if e then h with cf=0.1 Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF co da sie˛ zobrazować nastepuj ˛ aco: ˛ 89:; ?>=< a ?>=< 89:; 0.1 b < << <<0.1 << < 0.1 ?>=< 89:; ?>=< / 89:; c h A O 0.1 89:; ?>=< 0.1 d 89:; ?>=< e Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Możemy powiedzieć, że propagacja współczynnika pewności hipotezy h wyglada ˛ nastepuj ˛ aco: ˛ CF(h|a&b) = CF(h|a) + CF(h|b) − CF(h|a) ∗ CF(h|b) = 0.1 + 0.1 − 0.1 ∗ 0.1 = 0.19 CF(h|a&b&c) = CF(h|a&b) + CF(h|c) − CF(h|a&b) ∗ CF(h|c) = 0.19 + 0.1 − 0.19 ∗ 0.1 = 0.29 − 0.019 = 0.271 CF(h|a&b&c&d) = CF(h|a&b&c) + CF(h|d) − CF(h|a&b&c) ∗ CF(h|d) = 0.271 + 0.1 − 0.271 ∗ 0.1 = 0.371 − 0.0271 = 0.3439 CF(h|a&b&c&d&e) = CF(h|a&b&c&d) + CF(h|e) − CF(h|a&b&c&d) ∗ CF(h|e) = 0.3439 + 0.1 − 0.3439 ∗ 0.1 = 0.4439 − 0.03439 = 0.4095 Łatwo zauważyć, że gdyby takich reguł było jeszcze wiecej ˛ to szanse, że współczynnik pewności takiej hipotezy h byłby bliski wartości maksymalnej równiej 1 byłyby jeszcze wieksze. ˛ Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przetwarzanie wiedzy niepewnej - wybrane metody W warunkach rzeczywistych czesto ˛ trudno jest arbitralnie stwierdzić, że dana konkluzja jest pewna w stu procentach czy też określić, że dany fakt na pewno miał miejsce. Prowadzi to do konieczności uwzglednienia ˛ w metodach reprezentacji wiedzy pewnego sposobu określania stopnia pewności informacji. Osobnym zagadnieniem jest problematyka przetwarzania wiedzy niepełnej co nie jest jednak tematem tego opracowania. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przetwarzanie wiedzy niepewnej - przykład Załóżmy, że zadaniem inżyniera wiedzy jest dobór właściwej reprezentacji wiedzy dla nastepuj ˛ acego ˛ fragmentu wiedzy medycznej, która bedzie ˛ zapisana w bazie wiedzy przyszłego systemu ekspertowego wspomagajacego ˛ diagnoze˛ w przypadku chorób serca: "Miażdżyca powoduje czesto ˛ zweżenie ˛ tetnic ˛ wieńcowych. Prowadzi to zazwyczaj do zmniejszenia przepływu krwi w tych naczyniach, co może wywołać niedotlenienie mieśnia ˛ sercowego, zwłaszcza przy wysiłku fizycznym". Zwraca uwage˛ nieostrość stwierdzeń spowodowana stosowaniem przysłówków czesto, ˛ zazwyczaj, czy określeniem może powodować. Wykorzystujac ˛ reprezentacje wiedzy w postaci rachunku perceptów czy predykatów (czy np. reguł w postaci klauzul Horna bez współczynnika CF) inżynier wiedzy zmuszony byłby do przekształcenia powyższego zdania do ścisłej formy umożliwiajacej ˛ zastosowanie klarownych implikacji: "Miażdżyca powoduje zweżenie ˛ tetnic ˛ wieńcowych. Prowadzi to do zmniejszenia przepływu krwi w tych naczyniach, co wywołuje niedotlenienie mieśnia ˛ sercowego, zwłaszcza przy wysiłku fizycznym". Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przetwarzanie wiedzy niepewnej - wybrane metody "Miażdżyca powoduje zweżenie ˛ tetnic ˛ wieńcowych. Prowadzi to do zmniejszenia przepływu krwi w tych naczyniach, co wywołuje niedotlenienie mieśnia ˛ sercowego, zwłaszcza przy wysiłku fizycznym". Niestety prowadzi to do znacznej radykalizacji prezentowanych stwierdzeń oraz potencjalnych problemów z odwzorowaniem ostatniej cześci ˛ zdania. Najważniejsza˛ wada˛ jest uniemożliwienie przywiazania ˛ różnych wag do poszczególnych symptomów. Lekarz bowiem jest zainteresowany informacjami o dużo subtelniejszej naturze niż stwierdzenie, że pacjent z miażdżyca˛ ma niedotleniony miesie ˛ ń sercowy (co wydaje sie˛ oczywiste lecz nie zawsze prawdziwe). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przetwarzanie wiedzy niepewnej - wybrane metody Kardiolog może oczekiwać od przyszłego systemu ekspertowego, że bedzie ˛ "umiałón odpowiedzieć np. na pytania: jaki ma wpływ wysiłek fizyczny na niedotlenienie mieśnia ˛ sercowego u ludzi z jednakowo posuniet ˛ a˛ miażdżyca, ˛ wykonujacych ˛ wysiłek fizyczny o różnym nateżeniu? ˛ w jakim stopniu człowiek u którego nie wystepuje ˛ niedotlenienie z powodu wysiłku, narażony jest na zweżenie ˛ tetnic ˛ z powodu miażdżycy? Zauważmy, że kardiologa nie interesuje wyłacznie ˛ wystepowanie ˛ pewnej cechy (atrybutu) a głównie pewna miara np. czestości ˛ czy stopnia wystepowania ˛ danej cechy. Powoduje to, że nie możemy ograniczyć sie˛ do cech majacych ˛ charakter dwuwartościowy (np. cecha wystepuje ˛ lub cecha nie wystepuje) ˛ lecz dokonać w pewien sposób dyskretyzacji wartości danej cechy lub określić inny sposób stopniowania nateżenia ˛ w jakiej ona wystepuje. ˛ Istnieja˛ różne podejścia umożliwiajace ˛ odwzorowanie takiej wiedzy medycznej oraz umożliwiajace ˛ realizacje˛ procesu wnioskowania. Zwykle sa to metody numeryczne: probabilistyczne, wielowartościowe, rozmyte czy wykorzystujace ˛ teorie˛ Dempstera-Shafera. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Przetwarzanie wiedzy niepewnej - wybrane metody Pierwszym etapem automatyzacji przetwarzania informacji niepewnej jest ustalenie konkretnej metody przydzielania i stopniowania niepewności informacji wchodzacych ˛ w skład bazy wiedzy. W potoczym określaniu niepewności używa sie˛ pewnych arbitralnie przyjetych ˛ określeń, takich jak : prawdopodobny, możliwy, konieczny, wiarygodny, czesty, ˛ zwykle spotykany itp.Określenia te w każdej ze wspomnianych metod nabieraja˛ konkretnego wymiaru, zwykle o przekonywujacej ˛ interpretacji matematycznej. Drugim etapem jest określenie metody wnioskowania uwzgledniaj ˛ acej ˛ zagadnienie propagacji niepewności informacji. Załóżmy, że do określenia stopnia pewności faktów jak i hipotez użyjemy oszacowania procentowego. Jeżeli u danego pacjenta lekarz stwierdzi miażdżyce˛ pewna˛ na 30% oraz wpływ miażdżycy na potencjalne niedotlenienie określi wartościa˛ 40%, to hipoteza, że pacjent ten ma niedotlenienie mieśnia ˛ sercowego, posiada pewien wynikowy stopień pewności bed ˛ acy ˛ wynikiem nie tylko stopnia pewności implikacji lecz również stopnia pewności obserwacji, że pacjent cierpi na miażdżyce.Mówi ˛ sie˛ zatem o propagacji niepewności informacji, a zagadnienia sposobu składowania i kumulowania niepewności w trakcie wnioskowania sa˛ przedmiotem sygnalizowanych metod modelowania wiedzy niepewnej. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Zadania z wiedzy niepewnej - sieci Bayes’a W podanym niżej tekście wystepuj ˛ a˛ pewne zależności przyczynowo skutkowe opisane liczbowo prawdopodobieństwami warunkowymi. Prosze˛ podać zbiór CP takich prawdopodobieństwa warunkowych oraz narysować graf przyczynowo-skutkowy. Czy otrzymany graf jest siecia˛ Bayes’a - prosze˛ uzasadnić odpowiedź. Jeżeli masz sporo pieniedzy, ˛ lubisz szybkie samochody i masz mała˛ rodzine˛ to stawiam 10 do 100, że kupisz mały, czerwony, sportowy samochód. Ale jeśli masz sporo pieniedzy, ˛ lubisz szybkie samochody i masz sporo dzieci to kupisz na pewno kombi z mocnym silnikiem. Jeżeli jesteś na stanowisku kierowniczym i dbasz o prestiż to na 50 % kupisz sedana ze skórzana˛ tapicerka. ˛ Jeżeli potrzebujesz jedynie wygodnego, prostego samochodu to na pewno kupisz auto klasy kompaktowej. Jeżeli jest ci wszystko jedno to na 30 % kupisz malucha. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Sieci Bayes’a - Rozwiazanie ˛ O - obserwacje: H - hipotezy: a - mała rodzina (mało dzieci) D - czerwony, sportowy samochód b - sporo pieniedzy ˛ G - kombi c - lubić szybkie samochody I - sedan ze skórzana˛ tapicerka˛ e - spora rodzina (sporo dzieci) L - samochód kompaktowy f - stanowisko kierownicze M - maluch h - posiadany prestiż j - cheć ˛ wygodny i prostoty k - obojetność ˛ Reprezentacja graficzna: CP = {P(D|a, b, c) = 0.1, P(G|b, c, e) = 1.0, P(I|f , h) = 0.5, P(L |j) = 1.0, P(M|k ) = 0.3} ?>=< 89:; a ---89:; ?>=< b -- - -0123 7654 c 89:; ?>=< e 0.1 1.0 >=< / ?89:; D >=< / ?89:; G 7654 0123 f ---- ?>=< 89:; h 89:; ?>=< j 654 /70123 I 0.5 89:; ?>=< k 1.0 0.3 654 /70123 I 89:; / ?>=< M Jak widać graf jest skierowany (dokładnie określone sa˛ kierunki wnioskowania), jest on acykliczny (gdyż nie zawiera żadnych cykli), zatem jest on siecia˛ Bayesa. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Zadania z wiedzy niepewnej - sieci Bayes’a O = {A , B, C, D, E, G} H = {X , Y , Z, F} CP = {P(A ), P(B), P(D), P(E), P(F), P(G), P(D|B), P(X |A , B), P(F|G), P(C|X ), P(Y |C, D, E), P(Z|C, E), P(B|Z)} Rozwiazanie ˛ - reprezentacja graficzna: o 0123 7654 0123 / 7654 B D CC 22 CC 22 CC ! 654 7 0123 654 7 0123 654 / / / 70123 X C F = Y ( { { ( ( {{ {({( 0123 7654 654 / 70123 A E MMM ( MMM (( MM( 0123 7654 654 654 / 70123 / 70123 G F Z Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Zadania z wiedzy niepewnej - sieci Bayes’a Jak widać otrzymany graf jest skierowany, ale niestety jest cykliczny w drodze wnioskowania: ?>=< 89:; B 89:; / ?>=< X 89:; / ?>=< C ?>=< / 89:; Z ?>=< / 89:; B , w zwiazku ˛ z czym nie możemy powiedzieć, że otrzymany graf jest siecia˛ Bayesa.Widzimy też pewien odłamek w grafie: 89:; ?>=< G ?>=< / 89:; F , który jest cześci ˛ a˛ naszej sieci, ale nie powiazan ˛ a˛ w całościa, ˛ jednak nie ma w definicji sieci Bayesa warunku, aby graf był spójny. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Podsumowanie Warto zauważyć, że już pierwsze, powstajace ˛ w latach 70-tych systemy ekspertowe z niepewnościa˛ projektowano i implementowano jako systemy regułowe (MYCIN, ONCOCIN-OPAL). Od połowy lat 80-tych, uwaga projektantów skupia sie˛ bardziej na metodzie reprezentowania wiedzy niepewnej w postaci sieci przekonań (HEPAR, PROSTANET). Jak ostatnio pokazano, używane w systemach regułowych współczynniki pewnosci sa˛ w istocie blisko zwiazane ˛ z modelem niepewności, stosowanym w sieciach przekonań. Ze wzgledu ˛ na specyfike, ˛ każda z metod śprawdza sie"w ˛ określonych zastosowaniach. I tak, w przypadkach, gdy wiedza dziedzinowa ma charakter prostych, liniowych zależności przyczynowo-skutkowych, wygodne okazuja˛ sie˛ sieci przekonań. Z kolei, w przypadkach, gdy wiedza ma charakter złożonych implikacji, odzwierciedlajacych tok myślenia specjalistów w dziedzinie i wiażacych ˛ wieloparametrowa˛ dana˛ wejściowa˛ z wieloparametrowym wynikiem końcowym, lepiej sprawdzaja˛ sie˛ systemy regułowe. w zastosowaniach medycznych, reprezentacja wiedzy w postaci sieci przekonań dobrze zdaje egzamin w systemach diagnostycznych, zaa˛ w postaci regułowej - w systemach przeznaczonych do planowania i prognozowania skutków terapii farmakologicznych. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Podsumowanie cd. Implementacja systemu regułowego z niepewnościa˛ wymaga zastosowania narzedzi ˛ silniejszych niż logika zdaniowa. W szczególności, można ja˛ przeprowadzić przy użyciu: logiki modalnej: fakt: możliwe, że A reguła: jeśli (możliwe, że A ),to (konieczne, że B i możliwe, że nie C) zbiorów rozmytych: fakt: (A , prawie_pewne) reguła: jeśli (A , watpliwe) ˛ to ((B, pewne) i (nie C, niewiadome)) stopni ufności: fakt:(A z prawdopod. 0.8) reguła: jeśli (A z prawdop. 0.3), to (B z prawdop. 1.0 i nie C z prawdop. 0.5) Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Podsumowanie cd. W najcześciej ˛ stosowanej implementacji, niepewność wiedzy wyraża sie˛ za pomoca˛ stopni ufności przypisywanych faktom i regułom. Przebieg i ostateczny rezultat wnioskowania zależa˛ tutaj zarówno od kształtu bazy wiedzy (dopuszczenie niezgodnosci pomiedzy konkluzjami reguł o podobnych przesłankach), algorytmu rozstrzygania konfliktów w zbiorze reguł aktywnych, sposobu obliczania stopni ufnosci konkluzji oraz przyjetej procedury wnioskowania. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Regułowe systemy ekspertowe w zastosowaniach medycznych Systemy ekspertowe z niepewnościa˛ znajduja˛ zastosowanie w wielu różnych obszarach. Jednym z najbardziej spektakularnych jest medycyna. Systemy ekspertowe wykorzystuje sie˛ w medycynie do wspomagania procesów diagnozowania, projektowania terapii farmakologicznych i stawiania prognoz dotyczacych postepów leczenia. Potrzeba operowania pojeciem niepewnosci wynika tutaj z szeregu przesłanek, miedzy innymi: niepewnej wiedzy jednostkowej, na temat skali i czestotliwosci wystepowania poszczególnych symptomów choroby, niepewnej wiedzy medycznej na temat skutków własciwych i ubocznych działania różnych srodków farmakologicznych. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Podsumowanie Model współczynników pewności (Mycin) cieszy sie˛ duża˛ popularnościa˛ ze wzgledu ˛ na naturalność tworzenia reguł obarczonych pewnym stopniem pewności reguły w rozumieniu eksperta dziedzinowego. Dużym zainteresowaniem cieszyły sie˛ także tzw. sieci bayesowskie, które potrafiły graficznie przedstawiać łaczny ˛ rozkład prawdopodobieństwa, bazujac ˛ na tzw. czestości ˛ warunkowej. Metoda ta doczekała sie˛ kilku metod efektywnego wnioskowania z wykorzystaniem ich graficznej struktury. Opracowano też szereg metod odkrywania sieci bayesowskich z danych. W powszechnym przekonaniu formalizm probabilistyczny nie jest w stanie wyrazić wielu form niepewności toteż model ten podlegał ciagłym ˛ modyfikacjom wspierajac ˛ sie˛ m.in. teoria˛ zbiorów rozmytych, zbiorów przybliżonych czy choćby teoria˛ Dempstera-Shafera. Ta ostatnia pozwalała w łatwy sposób reprezentować ignorancje˛ oraz cechowała sie˛ spójnościa˛ z klasyczna˛ teoria˛ prawdopodobieństwa, zgodnościa˛ z logika˛ boolowska˛ oraz stosunkowo niewielka˛ złożonościa˛ obliczeniowa˛ opracowanych metod wnioskowania w tzw. strukturach hiperdrzew [?]. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Znane medyczne systemy ekspertowe: Oncocin - Stanford, lata 80-te; wspomaganie leczenia pacjentów z zaawansowana choroba nowotworowa (chemioterapia); reprezentacja wiedzy w postaci zbioru reguł; uwzglednienie czynnika czasowego - decyzje uwarunkowane przebiegiem terapii w czasie; VM - 1984, system diagnostyczny (m. in. monitorowanie pacjentów z niewydolnościa˛ oddechowa), ˛ z reprezentacja˛ wiedzy wzorowana˛ na systemie MYCIN, z dodatkowa˛ możliwościa˛ wnioskowan temporalnych; implementacja bezwzglednej ˛ skali czasowej; MED2 - 1987, system diagnostyczny, z możliwościa˛ reprezentacji czasu wzorowanej na VM; zamiast bezwzglednej ˛ skali czasowej używa czasów relatywizowanych w stosunku do pewnego, poczatkowego ˛ punktu odniesienia. HEPAR – system regułowy, przeznaczony do wspomagania diagnozowania chorób watroby; system pracuje przy wykorzystaniu współczynników pewności; z tego powodu, konkluzje formułowane przez system okazuja sie czesto trudne do interpretacji. Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF Jezyki ˛ i narzedzia ˛ do wspomagania tworzenia systemów ekspertowych z niepewnościa˛ Zarówno w przeszłości, jak i współcześnie projektuje sie˛ i eksploatuje środowiska do tworzenia gotowych systemów ekspertowych. Takie srodowiska nie tylko zapewniaja˛ środki dla formalnej reprezentacji wiedzy oraz mechanizmy do prowadzenia wnioskowań, lecz także wspomagaja˛ strukturalizacje wiedzy, oferuja˛ gotowy interfejs użytkownika, umożliwiaja tworzenie systemu objaśniajacego ˛ i wspomagaja˛ projektowanie modułów TMS. Przykładami takich środowisk sa EMYCIN oraz SPHINX/PC-SHELL. Zamiast korzystać z gotowych środowisk szkieletowych, do projektowania systemów ekspertowych można stosować specjalizowane jezyki ˛ programowania. Przykładem takiego jezyka ˛ jest FuzzyCLIPS. Wymagajac ˛ znajomości metodologii programowania, jezyki ˛ specjalizowane gwarantuja˛ wieksze ˛ możliwosci aplikacyjne i wieksz ˛ a˛ elastyczność systemów. Systemy ekspertowe można też projektować przy użyciu wszelkich ”jezyków ˛ sztucznej inteligencji” (Lisp, Prolog, a nawet imperatywnych i obietowych (C, Pascal, Fortra, C++, Java). Agnieszka Nowak - Brzezińska Niepewność w wiedzy Wprowadzenie Logika rozmyta Podejście probabilistyczne Niepewność w wiedzy a teoria prawdopodobieństwa Mycin - pionierski system ekspertowy Teoria Dempstera - Shafera Współczynnik pewności CF literatura Wierzbicki J., Augustyn G.Ł., Usuwanie szumu i zakłóceń z wykorzystaniem inteligentnych systemów wnioskowania rozmytego, AGH, Kraków, Elektronika praktyczna, Układy rozmyte cz.1, Marzec 2000. Elektronika praktyczna, Układy rozmyte cz.2, Kwiecień 2000. Wróblewski J., http://www.jakubw.pl/zajecia/nai/naiarch/index.html, materiały dydaktyczne http://http.cs.berkeley.edu/People/Faculty/Homepages/zadeh.html http://www.cms.dmu.ac.uk/~rij/fuzzy.html http://www.abo.fi/~rfuller/fuzs.html http://www.ncrg.aston.ac.uk/NN/software.html Mulawka J., Systemy Ekspertowe, WNT, Warszawa, Poland, 1996r. Cholewa W., Pedrycz W., Systemy doradcze, skrypt Politechniki Ślaskiej ˛ nr 1447,Gliwice, Poland, 1987r. Levesque H.J., Incompleteness in Knowledge Bases,Communications of the ACM, Vol. 600 (1980) 150-152, Dept. of Computer Science, University of Toronto, Toronto, Ontario, 1980r. Agnieszka Nowak - Brzezińska Niepewność w wiedzy