Ilustracja twierdzenia Bayesa przy pomocy dwóch nakładanych na siebie
drzew decyzyjnych
Twierdzenie Bayesa – twierdzenie teorii prawdopodobieństwa, wiążące prawdopodobieństwa warunkowe dwóch zdarzeń warunkujących się nawzajem, sformułowane przez Thomasa Bayesa. Twierdzenie stanowi podstawę teoretyczną wnioskowania bayesowskiego, oraz sieci bayesowskich stosowanych w eksploracji danych.
Wzór Bayesa
Twierdzenie (wzór) Bayesa w swej podstawowej formie mówi, że[1]
| | |
|
(B) |
gdzie i są zdarzeniami oraz przy czym
- oznacza prawdopodobieństwo warunkowe, tj. prawdopodobieństwo zajścia zdarzenia o ile zajdzie zdarzenie
- oznacza prawdopodobieństwo zajścia zdarzenia o ile zajdzie zdarzenie
Dowód
Z definicji prawdopodobieństwa warunkowego
W przypadku, gdy twierdzenie zachodzi, ponieważ wtedy Załóżmy zatem, że Wtedy
Stąd
Dzieląc stronami powyższą równość przez otrzymujemy tezę.
Wersja twierdzenia dla wielu zdarzeń
Niech będą takimi zdarzeniami, że
- i
Wtedy
W szczególności, gdy jest dowolnym zdarzeniem oraz to
| | |
|
(B2) |
Dowód
Ze wzoru Bayesa (B) wynika, że
Jednocześnie
Zastosowania
Przykład 1
Niech będzie zdarzeniem „u pacjenta występuje wysoka gorączka”, a będzie zdarzeniem „pacjent ma grypę”. Jeśli znane są odsetek gorączkujących i odsetek chorych na grypę w całej populacji, oraz odsetek gorączkujących wśród chorych na grypę, tj. to twierdzenie Bayesa pozwala wyznaczyć odsetek chorych na grypę wśród gorączkujących
Na przykład jeżeli wiadomo, że oraz to na mocy wzoru (B):
Przykład 2
Twierdzenia Bayesa można użyć do interpretacji rezultatów badania przy użyciu testów wykrywających narkotyki. Załóżmy, że przy badaniu narkomana test wypada pozytywnie w 99% przypadków, zaś przy badaniu osoby nie zażywającej narkotyków wypada negatywnie w 99% przypadków. Pewna firma postanowiła przebadać swoich pracowników takim testem, wiedząc, że 0,5% z nich to narkomani. Chcemy obliczyć prawdopodobieństwo, że osoba, u której test wypadł pozytywnie, rzeczywiście zażywa narkotyki. Oznaczmy następujące zdarzenia:
- – dana osoba jest narkomanem,
- – dana osoba nie jest narkomanem,
- – u danej osoby test dał wynik pozytywny,
- – u danej osoby test dał wynik negatywny.
Wiemy, że:
- gdyż 0,5% pracowników to narkomani,
- gdyż taką skuteczność ma test przy badaniu narkomana,
- gdyż taką skuteczność ma test przy badaniu osoby niebędącej narkomanem,
Mając te dane, chcemy obliczyć prawdopodobieństwo, że osoba, u której test wypadł pozytywnie, rzeczywiście jest narkomanem. Ze wzoru (B2) wynika, że
Mimo potencjalnie wysokiej skuteczności testu, prawdopodobieństwo, że narkomanem jest badany pracownik, u którego test dał wynik pozytywny, jest równe około 33%, więc jest nawet bardziej prawdopodobnym, że taka osoba nie zażywa narkotyków. Ten przykład pokazuje, dlaczego ważne jest, aby nie polegać na wynikach tylko pojedynczego testu.
Innymi słowy, pozorny paradoks polegający na dużej dokładności testu (99% wykrywalności narkomanów wśród narkomanów i nieuzależnionych wśród nieuzależnionych) i niskiej dokładności badania bierze się stąd, że w badanej próbie tylko niewielka część osób to narkomani.
Przykładowo jeśli badamy 1000 osób, 0,5% z nich, czyli 5 to narkomani, a 995 nie. Natomiast test wskaże jako narkomanów 1% nieuzależnionych (995 · 1% ≈ 10), oraz 99% uzależnionych (5 · 99% ≈ 5). Ostatecznie test wypadł pozytywnie dla 15 osób, jednak tylko 5 z nich to narkomani.
Interpretacje
Prawdopodobieństwo subiektywistyczne
W interpretacji subiektywistycznej jest twierdzeniem wręcz podstawowym[2]. Otóż niech będzie pewnym zdarzeniem, zaś pewną teorią.
jest obserwowanym prawdopodobieństwem zdarzenia zaś to prawdopodobieństwo, że zdarzenie nastąpi według teorii Z kolei to prawdopodobieństwo, że teoria jest prawdziwa, to prawdopodobieństwo, że teoria jest prawdziwa, jeśli zaobserwowano
Zdania typu „prawdopodobieństwo, że teoria jest prawdziwa” są z punktu widzenia interpretacji obiektywistycznej nie do przyjęcia – teoria jest prawdziwa (prawdopodobieństwo równe jedności) lub też nie (prawdopodobieństwo równe zeru), czyli prawdziwość teorii nie jest zdarzeniem losowym.
Zobacz też
Przypisy
Linki zewnętrzne
- ThomasT. Bayes ThomasT., An essay towards solving a Problem in the Doctrine of Chances [dostęp 2018-10-15] [zarchiwizowane z adresu 2011-04-10] (ang.). (Opracowanie Bayesa w zapisie oryginalnym)
- JamesJ. Joyce JamesJ., Bayes’ Theorem, [w:] Stanford Encyclopedia of Philosophy [online], CSLI, Stanford University, 30 września 2003, ISSN 1095-5054 [dostęp 2017-12-30] (ang.). (Twierdzenie Bayesa)
- Grant Sanderson, Bayes theorem, 3blue1brown, YouTube, 22 grudnia 2019 [dostęp 2021-03-14].