Рассмотрим четыре несовместных события (рис. 1). Совместно с каждым из этих 4-х событий может произойти некоторое событие A. Требуется найти вероятность этого события.
Рис. 1.
Вероятность события A условно можно представить в виде площади множества A. Площади каждых из четырех частей этого множества равны:
Тогда вероятность события A можно записать как
Учитывая, что вероятность произведения двух событий в общем виде записывается в виде
можем записать, что
или обобщая данный пример на n-мерный случай, имеем
Эта формула получила название формулы полной вероятности и позволяет вычислять вероятность события A через вероятности и условные вероятности .
Формула полной вероятности, в частности используется в широко применяемой на практике формуле Байеса (Формулу Байеса также называют формулой проверки гипотез). Ценность формулы Байеса заключается в возможности вычисления вероятности появления той или иной гипотезы в зависимости от появления некоторого события A. Например, для каналов связи она позволяет вычислить вероятность передачи бита 0 или 1 (гипотезы и ) при возникновении ошибки в канале связи (т.е. при возникновении события ).
Формула Байеса получается из формулы вычисления произведения вероятности двух событий. В качестве событий рассмотрим несовместные события , которые в формуле Байеса называются гипотезами, и некоторое событие A, которое может появиться с одной из гипотез. Тогда вероятность , равна
откуда получаем
Учитывая формулу полной вероятности для события A, получим
Эта формула получила название формулы Байеса.