Prawdopodobieństwo warunkowe i Bayes | Matematyka Krok po Kroku

Poziom rozszerzony

Prawdopodobieństwo warunkowe

Prawdopodobieństwo warunkowe $P(A\mid B)$ oznacza prawdopodobieństwo zdarzenia $A$, gdy wiadomo, że zaszło zdarzenie $B$. Informacja o zajściu $B$ ogranicza przestrzeń możliwych wyników do zdarzenia $B$.

$$P(A\mid B)=\frac{P(A\cap B)}{P(B)},\qquad P(B)>0.$$

$P(A\mid B)$Prawdopodobieństwo $A$ pod warunkiem, że zaszło $B$.

$P(B\mid A)$Prawdopodobieństwo $B$ pod warunkiem, że zaszło $A$.

$P(A\cap B)$Prawdopodobieństwo, że zajdą jednocześnie $A$ i $B$.

Kolejność ma znaczenie: na ogół $P(A\mid B)\neq P(B\mid A)$. Zdarzenie zapisane po kresce jest informacją, którą już znamy.

Przykład 1: karta z talii

Z pełnej talii $52$ kart wylosowano kartę. Wiadomo, że jest czerwona. Oblicz prawdopodobieństwo, że jest królem.

Oznaczamy zdarzenia: $A$ — wylosowano króla, $B$ — wylosowano kartę czerwoną.
Po uwzględnieniu warunku rozpatrujemy tylko $26$ czerwonych kart.
Wśród czerwonych kart są dwa króle: kier i karo.
Obliczamy: $$P(A\mid B)=\frac{2}{26}=\frac{1}{13}.$$

Odpowiedź: prawdopodobieństwo wylosowania króla wynosi $\frac{1}{13}$.

Odczytywanie warunku z tabeli

W tabeli dwudzielczej mianownik wybieramy z wiersza lub kolumny opisującej warunek. Licznik stanowią wyniki spełniające jednocześnie warunek i poszukiwane zdarzenie.

Przykład 2: dwa różne kierunki warunku

W grupie $200$ osób sprawdzono aktywność sportową i wynik egzaminu.

	Zdany egzamin $Z$	Niezdany egzamin $Z'$	Razem
Uprawia sport $S$	$90$	$30$	$120$
Nie uprawia sportu $S'$	$40$	$40$	$80$
Razem	$130$	$70$	$200$

Aby obliczyć $P(S\mid Z)$, ograniczamy grupę do $130$ osób, które zdały egzamin.
Wśród nich $90$ osób uprawia sport, więc: $$P(S\mid Z)=\frac{90}{130}=\frac{9}{13}.$$
Aby obliczyć $P(Z\mid S)$, ograniczamy grupę do $120$ osób uprawiających sport.
Wśród nich egzamin zdało $90$ osób, więc: $$P(Z\mid S)=\frac{90}{120}=\frac34.$$
Dla porównania prawdopodobieństwo jednoczesnego zajścia obu zdarzeń liczymy względem wszystkich $200$ osób: $$P(S\cap Z)=\frac{90}{200}=\frac{9}{20}.$$

Wniosek: $P(S\mid Z)=\frac{9}{13}$, natomiast $P(Z\mid S)=\frac34$. Zamiana kolejności zmienia mianownik i wynik.

Reguła mnożenia

Po przekształceniu definicji prawdopodobieństwa warunkowego otrzymujemy regułę mnożenia. Pozwala ona obliczyć prawdopodobieństwo jednoczesnego zajścia dwóch zdarzeń.

Najpierw $B$, potem $A$$$P(A\cap B)=P(B)\cdot P(A\mid B).$$

Najpierw $A$, potem $B$$$P(A\cap B)=P(A)\cdot P(B\mid A).$$

Związek z niezależnością: jeżeli $A$ i $B$ są niezależne oraz $P(B)>0$, to $P(A\mid B)=P(A)$. Informacja o zajściu $B$ nie zmienia wtedy prawdopodobieństwa $A$.

Przykład 3: losowanie bez zwracania

W urnie są $3$ kule czerwone i $2$ niebieskie. Losujemy kolejno dwie kule bez zwracania. Oblicz prawdopodobieństwo wylosowania dwóch kul czerwonych.

Niech $C_1$ oznacza czerwoną kulę w pierwszym losowaniu, a $C_2$ — czerwoną kulę w drugim losowaniu.
W pierwszym losowaniu: $$P(C_1)=\frac35.$$
Po wylosowaniu czerwonej kuli pozostają $2$ czerwone kule wśród $4$ wszystkich, więc: $$P(C_2\mid C_1)=\frac24=\frac12.$$
Stosujemy regułę mnożenia: $$P(C_1\cap C_2)=\frac35\cdot\frac12=\frac{3}{10}.$$

Odpowiedź: prawdopodobieństwo wylosowania dwóch czerwonych kul wynosi $\frac{3}{10}$.

Prawdopodobieństwo całkowite

Załóżmy, że zdarzenia $B_1,B_2,\ldots,B_n$ są parami rozłączne, każde ma dodatnie prawdopodobieństwo i razem tworzą całą przestrzeń $\Omega$. Zdarzenie $A$ może wówczas zajść dokładnie jedną z tych dróg.

$$P(A)=\sum_{i=1}^{n}P(B_i)P(A\mid B_i).$$

Wypisz wszystkie rozłączne przyczyny $B_1,B_2,\ldots,B_n$.
Dla każdej przyczyny oblicz prawdopodobieństwo pełnej drogi $P(B_i)P(A\mid B_i)$.
Dodaj prawdopodobieństwa wszystkich dróg prowadzących do $A$.
Sprawdź, czy nie pominięto żadnej przyczyny i czy drogi nie nakładają się na siebie.

Przykład 4: wadliwy produkt

Maszyna $M_1$ produkuje $60\%$ wyrobów i ma $2\%$ braków. Maszyna $M_2$ produkuje $40\%$ wyrobów i ma $5\%$ braków. Oblicz prawdopodobieństwo, że losowo wybrany produkt jest wadliwy.

Niech $W$ oznacza produkt wadliwy. Produkty pochodzą wyłącznie z $M_1$ albo $M_2$.
Zapisujemy dane: $$P(M_1)=0{,}6,\quad P(W\mid M_1)=0{,}02,$$ $$P(M_2)=0{,}4,\quad P(W\mid M_2)=0{,}05.$$
Prawdopodobieństwo drogi przez $M_1$: $$P(M_1)P(W\mid M_1)=0{,}6\cdot0{,}02=0{,}012.$$
Prawdopodobieństwo drogi przez $M_2$: $$P(M_2)P(W\mid M_2)=0{,}4\cdot0{,}05=0{,}020.$$
Dodajemy rozłączne drogi: $$P(W)=0{,}012+0{,}020=0{,}032.$$

Odpowiedź: prawdopodobieństwo wady wynosi $0{,}032$, czyli $3{,}2\%$.

Wzór Bayesa

Wzór Bayesa odwraca kierunek warunku. Znamy prawdopodobieństwo skutku przy danej przyczynie, na przykład $P(A\mid B_j)$, a po zaobserwowaniu skutku chcemy obliczyć prawdopodobieństwo przyczyny $P(B_j\mid A)$.

$$P(B_j\mid A)=\frac{P(B_j)P(A\mid B_j)}{\displaystyle\sum_{i=1}^{n}P(B_i)P(A\mid B_i)},\qquad P(A)>0.$$

LicznikPrawdopodobieństwo jednej wybranej drogi prowadzącej do obserwacji $A$.

MianownikPrawdopodobieństwo obserwacji $A$ otrzymane przez zsumowanie wszystkich możliwych dróg.

Przykład 5: z której maszyny pochodzi wada?

Korzystamy z danych z poprzedniego przykładu. Wylosowany produkt okazał się wadliwy. Oblicz prawdopodobieństwo, że wyprodukowała go maszyna $M_2$.

Rozwiązanie krok po kroku

Szukamy prawdopodobieństwa $P(M_2\mid W)$. Warunkiem jest zaobserwowana wada $W$.
Prawdopodobieństwo właściwej drogi wynosi: $$P(M_2\cap W)=P(M_2)P(W\mid M_2)=0{,}4\cdot0{,}05=0{,}02.$$
Z poprzedniego przykładu wiemy, że: $$P(W)=0{,}032.$$
Stosujemy wzór Bayesa: $$P(M_2\mid W)=\frac{P(M_2)P(W\mid M_2)}{P(W)}=\frac{0{,}02}{0{,}032}=\frac58.$$
Zamieniamy wynik na procent: $$\frac58=0{,}625=62{,}5\%.$$

Odpowiedź: wadliwy produkt pochodzi z maszyny $M_2$ z prawdopodobieństwem $62{,}5\%$.

Przykład 6: dodatni wynik testu

Pewna cecha występuje u $1\%$ osób. Test daje wynik dodatni u $95\%$ osób mających tę cechę oraz u $5\%$ osób, które jej nie mają. Oblicz prawdopodobieństwo posiadania cechy po otrzymaniu dodatniego wyniku.

Rozwiązanie krok po kroku

Oznaczamy: $C$ — osoba ma cechę, $+$ — wynik testu jest dodatni.
Zapisujemy dane: $$P(C)=0{,}01,\quad P(C')=0{,}99,$$ $$P(+\mid C)=0{,}95,\quad P(+\mid C')=0{,}05.$$
Obliczamy prawdopodobieństwo dodatniego wyniku: $$P(+)=0{,}01\cdot0{,}95+0{,}99\cdot0{,}05=0{,}0095+0{,}0495=0{,}059.$$
Stosujemy wzór Bayesa: $$P(C\mid +)=\frac{0{,}01\cdot0{,}95}{0{,}059}=\frac{0{,}0095}{0{,}059}\approx0{,}161.$$

Odpowiedź: po dodatnim wyniku prawdopodobieństwo posiadania cechy wynosi około $16{,}1\%$.

Dlaczego wynik nie wynosi $95\%$? Liczy się nie tylko skuteczność testu, lecz także początkowa częstość cechy. Gdy cecha jest rzadka, wyniki dodatnie w znacznej części mogą pochodzić od dużo liczniejszej grupy osób bez tej cechy.

Schemat rozwiązania zadania

Nazwij zdarzenia. Zapisz jasno, co oznaczają symbole $A$, $B$, $B_1$, $B_2$.
Rozpoznaj warunek. W zapisie $P(A\mid B)$ zdarzenie $B$ jest informacją już znaną.
Wybierz narzędzie. Użyj definicji warunkowej, reguły mnożenia, wzoru całkowitego albo wzoru Bayesa.
Zbuduj pełne drogi. Na jednej drodze mnożysz prawdopodobieństwa, a rozłączne drogi dodajesz.
Przy Bayesie oblicz mianownik. Jest nim prawdopodobieństwo zaobserwowanego zdarzenia ze wszystkich możliwych przyczyn.
Sprawdź wynik. Musi należeć do przedziału $[0,1]$ i odpowiadać dokładnie warunkowi z treści.

Jak wybrać właściwy wzór?

Sytuacja	Najlepszy zapis	Pytanie kontrolne
Znamy część wspólną i warunek	$P(A\mid B)=\frac{P(A\cap B)}{P(B)}$	Do jakiej grupy ogranicza mnie warunek?
Liczymy jedną pełną drogę	$P(A\cap B)=P(B)P(A\mid B)$	Jakie zdarzenia muszą zajść kolejno?
Zdarzenie może zajść przez kilka przyczyn	Wzór na prawdopodobieństwo całkowite	Czy wypisałem wszystkie rozłączne drogi?
Znamy skutek i pytamy o przyczynę	Wzór Bayesa	Czy odwracam kierunek warunku?

Typowe błędy

Mylenie $P(A\mid B)$ z $P(B\mid A)$.
Użycie wzoru na prawdopodobieństwo warunkowe, mimo że $P(B)=0$.
Dzielenie przez prawdopodobieństwo zdarzenia przed kreską zamiast zdarzenia po kresce.
Traktowanie $P(A\cap B)$ jak iloczynu $P(A)P(B)$ bez sprawdzenia niezależności.
Dodawanie prawdopodobieństw na jednej ścieżce zamiast ich mnożenia.
Pominięcie jednej z możliwych przyczyn w mianowniku wzoru Bayesa.
Dodawanie dróg, które nie są rozłączne.
Mieszanie procentów i ułamków dziesiętnych bez wcześniejszego ujednolicenia zapisu.

Krótkie zadania z rozwiązaniami

Zadanie 1: warunek ogranicza przestrzeń

Rzucamy uczciwą sześcienną kostką. Wiadomo, że otrzymano liczbę parzystą. Oblicz prawdopodobieństwo, że wynik jest większy od $3$.

Rozwiązanie krok po kroku

Warunek „wynik parzysty” ogranicza możliwe wyniki do zbioru $\{2,4,6\}$.
Większe od $3$ są dwa z nich: $4$ i $6$.
Zatem: $$P(\text{wynik}>3\mid\text{wynik parzysty})=\frac23.$$

Odpowiedź: $\frac23$.

Zadanie 2: prawdopodobieństwo całkowite

Zakład $A$ dostarcza $70\%$ części i produkuje $1\%$ braków. Zakład $B$ dostarcza pozostałe $30\%$ części i produkuje $4\%$ braków. Oblicz prawdopodobieństwo wylosowania części wadliwej.

Rozwiązanie krok po kroku

Niech $W$ oznacza część wadliwą.
Droga przez zakład $A$ ma prawdopodobieństwo: $$0{,}7\cdot0{,}01=0{,}007.$$
Droga przez zakład $B$ ma prawdopodobieństwo: $$0{,}3\cdot0{,}04=0{,}012.$$
Drogi są rozłączne, więc je dodajemy: $$P(W)=0{,}007+0{,}012=0{,}019.$$

Odpowiedź: prawdopodobieństwo wady wynosi $1{,}9\%$.

Zadanie 3: odwrócenie warunku

Jedną z dwóch urn wybieramy z jednakowym prawdopodobieństwem. W urnie $U_1$ czerwona kula stanowi $60\%$ kul, a w urnie $U_2$ — $20\%$. Wylosowano kulę czerwoną. Oblicz prawdopodobieństwo, że pochodziła z urny $U_1$.

Rozwiązanie krok po kroku

Obie urny wybieramy z prawdopodobieństwem $\frac12$.
Prawdopodobieństwo czerwonej kuli wynosi: $$P(C)=\frac12\cdot0{,}6+\frac12\cdot0{,}2=0{,}3+0{,}1=0{,}4.$$
Prawdopodobieństwo drogi „urna $U_1$ i czerwona kula” to: $$P(U_1\cap C)=\frac12\cdot0{,}6=0{,}3.$$
Stosujemy wzór Bayesa: $$P(U_1\mid C)=\frac{0{,}3}{0{,}4}=\frac34.$$

Odpowiedź: kula pochodziła z urny $U_1$ z prawdopodobieństwem $\frac34$.

Zadanie 4: sprawdzanie niezależności

Dane są $P(A)=0{,}4$, $P(B)=0{,}5$ oraz $P(A\cap B)=0{,}2$. Sprawdź, czy zdarzenia $A$ i $B$ są niezależne, a następnie oblicz $P(A\mid B)$.

Rozwiązanie krok po kroku

Obliczamy iloczyn prawdopodobieństw: $$P(A)P(B)=0{,}4\cdot0{,}5=0{,}2.$$
Ponieważ $P(A\cap B)=P(A)P(B)$, zdarzenia są niezależne.
Obliczamy prawdopodobieństwo warunkowe: $$P(A\mid B)=\frac{P(A\cap B)}{P(B)}=\frac{0{,}2}{0{,}5}=0{,}4.$$
Otrzymaliśmy $P(A\mid B)=P(A)$, co potwierdza, że informacja o $B$ nie zmienia prawdopodobieństwa $A$.

Odpowiedź: zdarzenia są niezależne i $P(A\mid B)=0{,}4$.