]>
Szokás szerint, kiindulási pontunk egy véletlen kísérlet az alapjául szolgáló mintatérrel és egy valószínűségi mértékkel. Az alap statisztikai modellben van egy megfigyelhető valószínűségi változónk, ami halmazbeli értékeket vesz fel. Általánosságban elég összetett struktúrájú lehet. Például, ha a kísérlet egy populáció objektumának mintavételezése, és különböző mérőszámokat jegyzünk fel, akkor
ahol az -edik objektum mérőszámainak vektora. A legfontosabb speciális eset amikor függetlenek és azonos eloszlásúak. Ebben az esetben van egy elemű véletlen mintánk a közös eloszlásból.
Tegyük fel azt is, hogy eloszlása függ egy paramétertől, ami paramétertérbeli értékeket vesz fel. A paraméter lehet vektor értékű is, amikor valamilyen -ra, és a paraméter a következő alakú:
Emlékezzünk vissza, hogy a Bayes-i analízisben az ismeretlen paramétert valószínűségi változóként kezeljük. Tegyük fel, hogy az adatvektor feltételes sűrűségfüggvényét adott esetén jelöli. Továbbá a paraméter a-priori eloszlásának sűrűségfüggvénye . (Az a-priori eloszlást úgy választjuk, hogy tükrözze ismeretünket a paraméterről, ha van ilyen). Az adatvektor és a paraméter együttes sűrűségfüggvénye
Ezután, (nem feltételes) sűrűségfüggvénye a függvény, ami
ha a paraméter diszkrét eloszlású, vagy
ha a paraméter folytonos eloszlású. Végül a Bayes tétel szerint a-posteriori sűrűségfüggvénye adott esetén
Most legyen egy konfidencia halmaz (azaz a paramétertér egy részhalmaza, ami függ az adatváltozótól, de nem függ ismeretlen paraméterektől). Az szintű Bayes-i konfidencia halmaz egyik lehetséges definíciója megkívánja, hogy
Ebben a definícióban csak véletlen, és így a fenti valószínűséget a a-posteriori sűrűségfüggvénnyel kell kiszámolni. Egy másik lehetséges definíció azt kívánja meg, hogy
Ebben a definícióban és mindketten véletlenek, és így a fenti valószínűséget az együttes sűrűségfüggvény felhasználásával kell kiszámítani. Filozófiai érvek ide vagy oda, de a kiszámítást tekintve biztosan az első definíció a könnyebb, és így ez a leginkább használatos.
Hasonlítsuk össze a klasszikus és a Bayes-i megközelítést! A klasszikus megközelítésben a paraméter determinisztikus, de ismeretlen. Mielőtt adatokat gyűjtenénk, a konfidencia halmaz (ami véletlen) valószínűséggel fogja tartalmazni a paramétert. Miután összegyűjtöttük az adatokat, a kiszámított konfidencia halmaz vagy tartalmazza a paramétert vagy nem, és rendszerint nem tudjuk, melyik áll fenn. Ezzel szemben a Bayes-i konfidencia halmaz esetén a véletlen paraméter valószínűséggel beleesik a kiszámított, determinisztikus konfidencia halmazba.
Tegyük fel, hogy egy valószínűségi minta a Bernoulli eloszlásból sikerparaméterrel. Így , ha az -edik próba sikeres volt, és , ha az -edik próba sikertelen volt. Továbbá tegyük fel, hogy a-priori eloszlása béta eloszlás bal-paraméterrel és jobb-paraméterrel. Jelölje a sikerek számát
Emlékezzünk vissza, hogy adott értéke esetén eloszlása binomiális eloszlás és paraméterekkel.
Mutassuk meg, hogy adott esetén igaz:
Speciálisan, tegyük fel, hogy van egy érménk, amire a fej ismeretlen valószínűsége és legyen a-priori eloszlása egyenletes eloszlás. Tízszer feldobjuk az érmét, és 7 fejet figyelünk meg. Számítsuk ki a 90%-os Bayes-i konfidencia intervallumot -re!
Tegyük fel, hogy egy elemű véletlen minta a Poisson eloszlásból paraméterrel. Továbbá tegyük fel, hogy a-priori eloszlása gamma eloszlás alakparaméterrel és skálaparaméterrel. A mintaértékek összegét jelölje
.Mutassuk meg, hogy adott esetén igaz: