]>
A centrális határeloszlás tétele és a nagy számok törvénye a valószínűségszámítás két alapvető tétele. Nagyjából, a központi határeloszlás tétele nagy számú független, azonos eloszlású változók összegének az eloszlása, mely közelítőleg normális, tekintet nélkül az alapeloszlásra. A központi határeloszlás tétel fontosságát nehéz lenne túlértékelni; valóban, ez az alapja annak, hogy számos statisztikai eljárás működik.
Tételezzük fel, hogy független, azonos eloszlású, valós értékű véletlen váltóknak egy sorozata közös valószínűségsűrűség függvénnyel, melynek várható értéke , és szórásnégyzete . Legyen
Megállapodunk abban, hogy , mivel az indexhalmaz üres halmaz. A véletlen folyamatot az -hez tartozó részletösszegek folyamatának nevezzük. A részletösszeg folymatok speciális típusait ebben a projektben több helyen tanulmányozzuk, a részleteket lásd
Emlékeztetünk arra, hogy a statisztikai szóhasználatban az sorozat megfelel egy alapeloszlásból vett mintavételnek. Speciálisan egy az alapeloszlásból vett elemű véletlen minta, melynek mintabeli átlaga
A nagy számok törvénye miatt ha 1 valószínűséggel.
Mutassuk meg, hogy ha akkor változónak ugyanaz az eloszlása, mint az változónak. Így az folyamat stacionáris növekményű.
Mutassuk meg, hogy ha akkor független véletlen változóknak egy sorozata. Így az folyamat független növekményű.
Fordítva, tegyük fel, hogy egy stacionárius, független növekményű véletlen folyamat az 1. gyakorlat és 2. gyakorlat szerint. Definíció szerint legyen esetén. Mutassuk meg, hogy független, azonos eloszlású változóknak egy sorozata és hogy az -hoz tartozó részletöszeg folyamat.
Így a részletösszeg folyamatok egyedüli diszkrét idejű véletlen folyamatok, amelyek stacionáriusak és független növekményűek. Érdekes és jóval nehezebb probléma a folytonos idejű, stacionárius, független növekményű folyamatok jellemzése. A Poisson féle számláló folymat stacionárius, független növekményű, mimt a Brown mozgás folyamat.
Tételezzük fel, hogy . A várható érték és a szórásnégyzet alaptulajdonságait felhasználva mutassuk meg, hogy
Tételezzük fel, hogy és úgy, hogy . Felhasználva a kovariancia, a stacionaritás és a függetlenség tulajdonságait, ellenőrizzük a következő eredményeket. Útmutatás: Emlékezzünk arra, hogy .
Tételezzük fel, hogy -nek van momentum generáló függvénye: . Mutassuk meg, hogy -nek is van momentum generáló függvénye:
Tételezzük fel, hogy diszkrét eloszlású vagy folytonos eloszlású sűrűségfüggvénnyel. Emlékeztetünk arra, hogy valószínűségi sűrűségfüggvénye , ami -ed rendű konvolúciós hatványa.
Általában felhasználhatjuk a stacionaritás és függetlenség tulajdonságait arra, hogy megadjuk a részletösszeg folyamatok együttes eloszlásait:
Tételezzük fel, hogy . Mutassuk meg, hogy -nek van együttes sűrűségfüggvénye
Most precizen belátjuk a centrális határeloszlás tételt. Nem várhatjuk, hogy a - 4. gyakorlatban szereplő - változónak magának legyen határeloszlása. Megjegyezzük, hogy
Ahhoz, hogy megkapjuk a nem elfajult határeloszlást, nem -t kell vizsgálnunk, hanem standardizáltját. Így legyen
Mutassuk meg, hogy
Mutassuk meg, hogy az mintaátlagnak is a standardizáltja:
A centrális határeloszlás tétel kimondja, hogy konvergál a standard normális eloszláshoz ha . A centrális határeloszlás tételének egy speciális esete (a Bernoulli kísérletekhez) Abraham De Moivre nevéhez fűződik. A centrális határeloszlás tétel kifejezést Pólya György vezette be 1920-ban.
Meg kell mutatnunk, hogy ha minden , esetén, ahol eloszlásfüggvénye és a standard normális eloszlásfüggvény. Ugyanígy megmutatjuk, hogy
-re, ahol karakterisztikus függvénye és a kifejezés jobboldala a standard normális eloszlás karakterisztikus függvénye.
A következő gyakorlatok vázolják a centrális határeloszlás tétel bizonyítását. Végül, a bizonyítás az analízisből ismert határérték általánosításán múlik.
Tételezzük fel, hogy ha . Mutassuk meg, hogy
Jelölje az mintaváltozó standardizáltjának karakterisztikus függvényét és jelölje standardizáltjának karakterisztikus függvényét:
Mutassuk meg, hogy
Mutassuk meg, hogy
A karakterisztikus függvény tulajdonságait felhasználva mutassuk meg, hogy
Felhasználva a Taylor tételt (a tétel névadója Brook Taylor) mutassuk meg, hogy
Az előző gyakorlattal összefüggésben mutassuk meg, hogy és innen, hogy ha .
Végül mutassuk meg, hogy
A centrális határeloszlás tétel magába foglalja, hogy ha az
elemű minta nagy
, akkor az
részletösszeg eloszlása közelítőleg normális eloszlású
várható értékkel és
szórásnégyzettel.
Ezzel analóg módon az
mintaátlag közelítőleg normális eloszlású
átlaggal és
szórásnégyzettel.
A központi határeloszlás tétel alapfontosságú, mivel azt jelenti, hogy bizonyos statisztikák eloszlását képesek vagyunk közelíteni még akkor is, ha az alapminta eloszlásáról keveset tudunk.
Természetesen, a nagy
kifejezés relatív. Minél inkább eltér a normális
eloszlástól az alapeloszlás, annál nagyobb
érték szükséges, hogy a normálissal való közelítés megfelelő legyen. Hozzávetőleges számítás szerint legalább 30 elemű minta általában elegendő; bár sok eloszlás esetén ennél kisebb minta is jó.
Jelölje a intervallumon egyenletes eloszlásból vett 30 elemű véletlen mintában a változók összegét. Adjuk meg az alábbi esetek mindegyikére a normális közelítéseket:
Jelölje az sűrűségfüggvényű eloszlásból vett 50 elemű véletlen minta mitaátlagát. Ez az un. Pareto eloszlás, az eloszlást Vilfredo Pareto-ról nevezték el. Adjuk meg az alábbiak mindegyikére a normális közelítéseket:
Egy kis technikai probléma merül fel, amikor a mintaeloszlás diszkrét. Ebben az esetben a részletösszeg is diszkrét eloszlású és ezért a diszkrét elsozlást folytonossal közelítjük.
Tételezzük fel, hogy egész értékű, így részletösszege szintén egész értékű. Mutassuk meg, hogy minden esetén és esetén az esemény ekvivalens az eseménnyel.
Az előző gyakorlattal összefüggésben különböző értékei különböző normális approximációkhoz vezetnek, annak ellenére, hogy az események ekvivalensek. A legkisebb approximáció 0, ekkor és az approximáció nő, ha nő. Normális approximáció esetén a szokásos feosztás Ezt néha folytonossági korrekciónak hívjuk. A folytonossági korrekciót más eseményekre is kiterjesztjük a valószínűség additivitását felhasználva.
Jelölje 20 szabályos dobokocka feldobása esetén a dobott számok összegét. Számítsuk ki normális közelítését.
A kockakísérletben legyen a kocka szabályos, és legyen a dobott számok összege az változó és . Futtassuk le a szimulációt 1000-szer, mindegyik 10 futás után frissítve. Számítsuk ki a következő valószínűségeket és hasonlítsuk össze az előző gyakorlat eredményével:
Ha gamma eloszlású és paraméterekkel, akkor
ahol független változóknak egy sorozata, mindegyik exponenciális eloszlású skála-paraméterrel. Mivel és , következik hogy, ha nagy, a gamma eloszlást közelíteni tudjuk átlagú és szórásnégyzetű normális eloszlással. Tulajdonképpen hasonló állítás érvényes, amikor nem egész; pontosabban a következő standardizált változó eloszlása konvergál a standard normális eloszláshoz, ha .
A gamma kísérletben változtassuk , értékeit és figyeljük meg a valószínűségi sűrűségfüggvény formáját. -re és , re végezzük el a kísérletet 1000-szer mindegyik 10 futás után frissítve és figyeljük meg az empirikus sűrűségfüggvény nyilvánvaló konvergenciáját az elméleti sűrűségfüggvényhez.
Tételezzük fel, hogy gamma eloszlású alak-paraméterrel és skála-paraméterrel. Adjunk az alábbiak mindegyikére normális approximációt:
Az paraméterű (szabadságfokú) khi-négyzet eloszlás egy alakparaméterű és alak-paraméterű gamma eloszlás. Az előző alfejezetből következik, hogy ha nagy, akkor a khi-négyzet eloszlás közelíthető várható értékű és szórásnégyzetű normális eloszlással. Pontosabban, ha khi-négyzet eloszlású szabadságfokkal. akkor az alábbi standardizált változó standard normális eloszlású, ha
A khi-négyzet eloszlásban változtassuk értékét és figyeljük meg a sűrűségfüggvény formáját. esetén végezzük el a kísérletet 1000-szer mindegyik 10 futás után frissítve és figyeljük meg az empirikus sűrűségfüggvény nyilvánvaló konvergenciáját az elméleti sűrűségfüggvényhez.
Tételezzük fel, hogy khi-négyzet eloszlású szabadságfokkal. Adjuk meg az alábbi esetekre a normális approximációt:
Ha binomiális eloszlású és paraméterekkel, akkor
ahol egy Bernoulli kísérletsorozat független indikátor változóknak egy sorozata minden esetén. Ebből következik, hogy ha nagy, akkor az , paraméterű binomiális eloszlás várható értékű és szórásnégyzetű normális eloszlással közelíthető. Hozzávetőlegesen akkor elegendően nagy, ha és . Pontosabban az alábbiakban megadott standardizált változó eloszlása a standard normális eloszláshoz konvergál, ha :
Az binomiális idővonal kísérletben változtassuk és értékeit és figyeljük meg a valószínűségi sűrűségfüggvény alakját. és értékekre 1000-szer végezzük el a kísérletet 10-esével frissítve. Számítsuk ki a következőket:
Tételezzük fel, hogy binomiális eloszlású és paraméterekkel. Számítsuk ki a normális approximációját (ne feledkezzünk meg a folytonossági korrekcióról) és hasonlítsuk össze az eredményeket az előző gyakorlat eredményével!
Ha Poisson eloszlású paraméterrel, akkor
ahol független változóknak egy sorozata, melyek mindegyike 1 paraméterű Poisson eloszlású. Mivel , a centrális határeloszlás tételéből következik, hogy ha nagy, akkor az paraméterű Poisson eloszlás várható értékű és szórásnégyzetű normális eloszlással approximálható. Hasonló állítás igaz, amikor nem egész; pontosabban az alábbi standardizált változó eloszlása a standard normális eloszláshoz konvergál, ha .
Tételezzük fel, hogy 20 várható értékű Poisson eloszlású.
A Poisson kísérletben, változtassuk a idő és az mérték (az adott idő alatt bekövetkező események száma) paramétereket. A Poisson eloszlás paramétere a kísérletben az szorzat. Figyeljük meg a sűrűségfüggvény alakját. Az és értékekkel végezzük el a kísérletet 1000-szer, 10-esével frissítve a gyakoriságot, látható az empirikus sűrűségfüggvény konvergenciája az elméleti sűrűségfüggvényhez.
Ha negatív binomiális eloszlás paraméterrel és valószínűséggel, akkor
ahol független változóknak egy sorozata, ahol mindegyik változó geometriai eloszlású az halmazon, paraméterrel. Mivel és , következik, hogy ha nagy, akkor a negatív binomiális eloszlás várható értékű és szórásnégyzetű normális eloszlással approximálható. Pontosabban, az alábbi standardizált változó eloszlása standard normális eloszláshoz konvergál, ha .
A negatív binomiális kísérletben változtassuk és értékét és figyeljük meg a sűrűségfüggvény alakját. és értékekkel végezzük el a kísérletet 1000-szer, 10-esével frissítve a gyakoriságot, látható az empirikus sűrűségfüggvény konvergenciája az elméleti sűrűségfüggvényhez.
Tételezzük fel, hogy negatív binomiális eloszlású paraméterrel és valószínűséggel. Adjuk meg a következők normális approximációját:
Tételezzük fel, hogy egy véletlen (egész értéket felvevő) változó, mely az értékeit az halmazból veszi, várható értéke és szórásnégyzete véges. Ekkor
egy független, azonos eloszlású véletlen tagszámú összeg. Azaz, a tagok természetesen véletlen változók, de a tagok száma, is az. Minket elsősorban momentumai érdekelnek.
Tételezzük fel először, hogy , a kifejezések száma független az változótól, azaz az összegben szereplő tagoktól. Számítsuk ki gyakorlatként momentumát a feltételes várható érték segítségével.
Mutassuk meg, hogy
Mutassuk meg, hogy
Jelölje az valószínűségi generátorfüggvényét. Mutassuk meg, hogy momentum generálófüggvénye .
A következő eredmények némelyike a véletlen tagszámú összegekre vonatkozó általánosítás, ahol a megállási idő az sorozatra. Ez azt jelenti, hogy az esemény csak -től függ minden esetén (csak ezen sorozat figyelembevételével mérhető).
Bizonyítsuk be a Wald azonosságot, amely Abraham Wald-ról van elnevezve: .