Il teorema di Bayes mette in relazione le probabilità condizionate, consentendo di invertire la direzione del condizionamento:
Date la probabilità a priori (la tua convinzione prima dell'evidenza) e la verosimiglianza , si calcola la probabilità a posteriori — la tua convinzione aggiornata dopo aver osservato .
Classico esempio del test medico: prevalenza della malattia 1%, sensibilità del test 99%, tasso di falsi positivi 1%. La probabilità di avere la malattia dato un test positivo:
Nonostante un test accurato al 99%, un risultato positivo significa solo il 50% di probabilità di essere malati — perché la malattia è rara. La "fallacia del tasso di base" (dimenticare la probabilità a priori) è l'errore più comune con Bayes.
Bayes alimenta l'inferenza bayesiana, i classificatori naïve Bayes, i filtri antispam e il ragionamento forense.