]> Feltételes várható érték
  1. Virtual Laboratories
  2. 3. Várható érték >
  3. 1
  4. 2
  5. 3
  6. 4
  7. 5
  8. 6

5. Feltételes várható érték

Mint általában, tekintsünk egy Ω eseménytéren egy véletlen kísérletet és egy valószínűségi mértéket. Tegyük fel, hogy X egy S értékű, Y pedig egy T értékű valószínűségi változó. Ebben a fejezetben ismét egy alapvető fontosságú fogalommal ismerkedünk meg: Y X -re vonatkozó feltételes várható értékével. Amint látni fogjuk, Y X -re vonatkozó feltételes várható értéke X -nek azon függvénye, amely a legjobban közelíti Y -t olyan értelemben, hogy minimális az átlagon négyzetes hiba. Fontos megjegyezni, hogy X itt általános valószínűségi változó, nem feltétlenül valós értékű. Ebben a fejezetben végig feltesszük, hogy minden valós értékű valószínűségi változónknak létezik a második momentuma..

Általános elmélet

Egyszerű definíció

Az X Y párra úgy gondolunk, mint egy valószínűségi változóra, melynek értékkészlete S T egy részhalmaza. Először tegyük fel, hogy S n valamely n -ra, és X Y együttesen folytonos eloszlású valamilyen f sűrűségfüggvénnyel. Ekkor az X változó g (marginális) sűrűségfüggvénye a következő:

g x y T f x y ,  x S ,

valamint Y feltételes sűrűségfüggvénye az X x feltétel esetén:

h y x f x y g x ,  x S ,  y T .

Tehát Y feltételes várható értéke az X x feltétel mellett épp a fenti feltételes eloszlás várható értéke:

Y X x y T y h y x ,  x S .

Természetesen Y feltételes várható értéke függ attól, hogy X mely x értéket veszi fel. Ideiglenesen jelöljük el az alábbi függvényt v -vel (ennek értelmezési tartománya S , értékkészlete pedig ):

v x Y X x ,  x S .

A fenti v függvényt szokás Y X -re vonatkozó regressziós függvényének nevezni. A v X valószínűségi változót nevezik Y X -re vonatkozó feltételes várható értékének, jelölése Y X . Ha X Y együttesen diszkrét eloszlásúak, a fenti definíció értelemszerűen átírható (az integrálokat összegzésekre kell cserélni). Intuitívan úgy gondolunk X -re, mint egy ismert mennyiségre, majd a maradék véletlenség szerint kiátlagoljuk Y -t.

Általános definíció

Az Y X valószínűségi változó eleget tesz egy olyan feltételnek, amely alapján egyértelmű X összes függvény között.

Legyen r egy S -ből -be képező függvény. A változócserére vonatkozó tétel segítségével igazoljuk, hogy

r X Y X r X Y .

Tulajdonképpen az 1. feladat eredményét tekinthetjük a feltételes várható érték definíciójának, függetlenül X Y eloszlásának típusától. Tehát, definiáljuk általánosan Y X -et úgy, hogy az a valószínűségi változó, amely kielégíti az 1. feladatban szereplő egyenletet, és Y X v X alakú, valamely v , S -ből -be képező függvénnyel. Ekkor legyen Y X x épp v x , amint x S . (Precízebben Y X -nak mérhetőnek kell lennie X -re nézve.)

Tulajdonságok

Az 1. feladat következményeként adódik egy formula, mellyel meghatározható Y várható értéke.

Legyen r a konstans 1 függvény az 1. feladatban. Így beláthatjuk, hogy Y X Y .

Kétségtelenül fontos elméleti szempontból a 2. feladat eredménye, de a gyakorlatban is hasznos, ha meg szeretnénk határozni Y -et, miközben csak Y X -re vonatkozó feltételes eloszlását ismerjük. Erre azt mondjuk, hogy úgy számoljuk ki Y várható értékét, hogy X -re feltételezünk (vagy kondicionálunk).

Lássuk be, hogy a 2. feladat szellemében az 1. feladat feltételét a következő módon is megfogalmazhatjuk: Bármely r S függvényre az Y Y X és a r X valószínűségi változók korrelálatlanok.

A következő feladatban belátjuk, hogy az 1. feladatban adott feltétel meghatározza Y X -et:

Tegyük fel, hogy u X és v X eleget tesznek az 1. feladatban adott feltételnek, és így igaz rájuk a 2. feladat és a 3. feladat eredménye. Igazoljuk, hogy u X és v X ekvivalensek:

  1. először lássuk be, hogy u X v X 0 ,
  2. ezután igazoljuk, hogy u X v X 1 .

Legyen s S függvény. Az 1. feladatban adott képlet segítségével igazoljuk, hogy

s X Y X s X Y X .

Az előző feladat szemléletes jelentése: ha ismerjük X -et, akkor ismerjük X összes (determinisztikus) függvényét is. Minden ilyen függvény konstansnak tekinthető, ha X -re vonatkozó feltételes várható értéket számolunk. A következő feladat ezt általánosítja az úgynevezett feltételes várató értékre vonatkozó helyettesítési szabállyá.

Legyen s S T függvény. Igazoljuk, hogy

s X Y X x s x Y X x .

Az 5. feladat vagy a 6. feladat következménye, hogy s X X s X . A másik szélsőséges eset a következő feladat: ha X és Y függetlenek akkor X ismerete semmilyen információt nem ad Y -ra, tehát Y X -re vonatkozó feltételes várható értéke ugyanaz, mint a feltétel nélküli (hagyományos) várható értéke.

Tegyük fel, hogy X és Y függetlenek. Az 1. feladat segítségével igazoljuk, hogy

Y X Y .

A következő feladatokban a feltételes várható érték alapvető tulajdonságait igazolhatjuk, ehhez használjuk az általános definíciót! Legyenek Y és Z valós értékű valószínűségi változók, c pedig konstans. Az alábbi tulajdonságok hasonlóak a hagyományos várható érték tulajdonságaihoz (e várható érték fogalmakkal szemben általános elvárás a linearitás és a monotonicitás).

Igazoljuk, hogy Y Z X Y X Z X .

Igazoljuk, hogy c Y X c Y X .

Igazoljuk, hogy ha Y 0 1 valószínűséggel, akkor Y X 0 1 valószínűséggel.

Igazoljuk, hogy ha Y Z 1 valószínűséggel, akkor Y X Z X 1 valószínűséggel.

Igazoljuk, hogy Y X Y X 1 valószínűséggel.

Legyen most Z valós értékű, X és Y pedig általános valószínűségi változók (természetesen mind ugyanazon a valószínűségi mezőn definiáltak). A következő feladat eredménye szerint az iterált feltételes várható érték megegyezik egy, a minimális információra vonatkozó feltételes várható értékkel:

Igazoljuk, hogy

Z X Y X Z X X Y Z X .

Feltételes valószínűség

Az A esemény X valószínűségi változóra vonatkozó feltételes valószínűsége egy speciális feltételes várható érték. Mint általában, jelölje A az A esemény indikátor valószínűségi változóját. Definíció szerint:

A X A X .

A feltételes várható érték fent bizonyított tulajdonságai természetesen speciálisan a feltételes valószínűségre is igazak.

Igazoljuk, hogy A A X .

Az előző feladat eredménye hasznos eszköz, ha A -t akarjuk meghatározni, miközben A X -re vonatkozó feltételes valószínűségét ismerjük. Ekkor azt mondjuk, hogy A valószínűségét úgy számítjuk ki, hogy feltételezünk X -re. Így rendkívül elegáns módon tárgyalható a feltétele valószínűség (lásd korábban a Valószínűségi mezők fejezetben a Feltételes valószínűség részt, vagy az Eloszlások fejezetben a Diszkrét eloszlások részt.

A legjobb becslő

A következő két feladat azt igazolja, hogy X összes függvény közül Y X becsüli legjobban Y -t abban az értelemben, hogy minimalizálja az átlagos négyzetes hibát. Ez alapvető fontosságú az olyan statisztikai problémák esetén, amikor az X magyarázó változó (ami lehet vektor is) megfigyelhető, az Y magyarázott változó viszont nem.

Legyen v X Y X és u S függvény. A 3. feladat felhasználásával és algebrai átalakításokkal igazoljuk, hogy

Y u X 2 Y v X 2 v X u X 2 .

Az előző feladat eredményét felhasználva lássuk be, hogy ha u S , akkor

Y X Y 2 u X Y 2 ,

és az egyenlőség pontosan akkor áll, ha u X Y X 1 valószínűséggel.

Legyen most X valós értékű valószínűségi változó. A kovariancia és korreláció részben beláttuk, hogy Y legjobb lineáris becslője X ismeretében

L Y X Y X Y X X X .

Másrészt Y X épp Y legjobb becslője X összes függvénye közül. Következésképp ha Y X lineáris X -ben, akkor szükségszerűen Y X L Y X .

Igazoljuk, hogy X Y X X Y .

Igazoljuk közvetlen számolással, hogy ha Y X a X b , akkor

  1. a X Y X ,
  2. b Y X Y X X .

Feltételes szórásnégyzet

Y X -re vonatkozó feltételes szórásnégyzetét a következőképp definiáljuk:

Y X Y Y X 2 X .

Igazoljuk, hogy Y X Y 2 X Y X 2 .

Igazoljuk, hogy Y Y X Y X .

Az előző feladat ismét jó módszert biztosít Y meghatározásához, ha ismert Y X -re vonatkozó feltételes eloszlása. Erre a módszerre azt mondjuk, hogy Y szórásnégyzetét X -re vonatkozó feltételezéssel határozzuk meg.

Foglalkozzunk ismét az Y valós értékű valószínűségi változó eddig tanult becslőivel, és hasonlítsuk ezeket össze!

  1. Y legjobb konstans becslője μ Y , ekkor az átlagos négyzetes hiba Y Y μ 2 .
  2. Ha X egy másik valós értékű valószínűségi változó, akkor (ahogy azt a kovariancia és korreláció részben megmutattuk), Y -nak az X -en alapuló legjobb lineáris becslője L Y X Y X Y X X X , ekkor az átlagos négyzetes hiba Y L Y X 2 Y 1 X Y 2 .
  3. Végül, ha X egy általános valószínűségi változó, akkor Y -nak a legjobb X -en alapuló becslője (ahogy ebben a részben láttuk), épp Y X . Ekkor az átlagos négyzetes hiba Y X Y Y X .

Példák, alkalmazások

Legyen az X Y pár együttes sűrűségfüggvénye f x y x y ,  0 x 1 ,  0 y 1 .

  1. Határozzuk meg L Y X -et!
  2. Határozzuk meg Y X -et!
  3. Ábrázoljuk az L Y X x és az Y X x függvényeket (mint x függvényeit) ugyanabban a koordinátarendszerben!
  4. Határozzuk meg Y -t!
  5. Határozzuk meg Y 1 X Y 2 -t!
  6. Határozzuk meg Y Y X -t!

Legyen az X Y pár együttes sűrűségfüggvénye f x y 2 x y ,  0 x y 1 .

  1. Határozzuk meg L Y X -et!
  2. Határozzuk meg Y X -et!
  3. Ábrázoljuk az L Y X x és az Y X x függvényeket (mint x függvényeit) ugyanabban a koordinátarendszerben!
  4. Határozzuk meg Y -t!
  5. Határozzuk meg Y 1 X Y 2 -t!
  6. Határozzuk meg Y Y X -t!

Legyen az X Y pár együttes sűrűségfüggvénye f x y 6 x 2 y ,  0 x 1 ,  0 y 1 .

  1. Határozzuk meg L Y X -et!
  2. Határozzuk meg Y X -et!
  3. Ábrázoljuk az L Y X x és az Y X x függvényeket (mint x függvényeit) ugyanabban a koordinátarendszerben!
  4. Határozzuk meg Y -t!
  5. Határozzuk meg Y 1 X Y 2 -t!
  6. Határozzuk meg Y Y X -t!

Legyen az X Y pár együttes sűrűségfüggvénye f x y 15 x 2 y ,  0 x y 1 .

  1. Határozzuk meg L Y X -et!
  2. Határozzuk meg Y X -et!
  3. Ábrázoljuk az L Y X x és az Y X x függvényeket (mint x függvényeit) ugyanabban a koordinátarendszerben!
  4. Határozzuk meg Y -t!
  5. Határozzuk meg Y 1 X Y 2 -t!
  6. Határozzuk meg Y Y X -t!

Legyenek X , Y és Z valós értékű valószínűségi változók, és Y X X 3 , továbbá Z X 1 1 X 2 . Határozzuk meg Y X Z X X -t!

Egyenletes eloszlás

Legyen az X Y pár egyenletes eloszlású az S a b c d 2 négyzeten. Határozzuk meg Y X -t!

A kétváltozós egyenletes eloszlás kísérletében válasszunk négyzet alaphalmazt. Szimuláljunk 2000 kísérletet (frissítsük az ábrát minden tizediknél), és figyeljük meg a pontfelhő és a regressziós egyenes viszonyát!

Legyen az X Y pár egyenletes eloszlású a T x y 2 a x y a háromszögön, ahol a 0 paraméter. Határozzuk meg Y X -t!

A kétváltozós egyenletes eloszlás kísérletében válasszunk háromszög alaphalmazt. Szimuláljunk 2000 kísérletet (frissítsük az ábrát minden tizediknél), és figyeljük meg a pontfelhő és a regressziós egyenes viszonyát!

Legyen X egyenletes eloszlású a 0 1 intervallumon, adott X esetén pedig Y egyenletes eloszlású 0 X -en. Határozzuk meg a következő kifejezések értékét:

  1. Y X ,
  2. Y ,
  3. Y X ,
  4. Y .

Érme- és kockadobások

Két szabályos kockát feldobtunk, a kapott eredmények X 1 X 2 . Legyen Y X 1 X 2 a dobott számok összege, U X 1 X 2 pedig a kisebbik dobott szám. Határozzuk meg a következő kifejezések értékét:

  1. Y X 1 ,
  2. U X 1 ,
  3. Y U ,
  4. X 2 X 1 .

Egy dobozban 10 érme van, melyeket 0-tól 9-ig megszámoztunk. Az i -edik érme esetén a fejdobás valószínűsége i 9 . Kiválasztunk véletlenszerűen (egyenletes eloszlással) egy érmét a dobozól, majd azt feldobjuk. Mennyi a valószínűsége annak, hogy fejet dobunk? Ez a feladat egy konkrét esete a Laplace szabálynak.

Véletlen tagszámú összegek

Tegyük fel, hogy X X 1 X 2 egy független, azonos eloszlású valós értékű valószínűségi változókból álló sorozat. A közös várható értéket, szórásnégyzetet és momentum generáló függvényt jelölje rendre: μ X i , σ 2 X i és G t t X i . Legyen

Y n i 1 n X i ,  n ,

és Y Y 0 Y 1 az X -hez tartozó részletösszegek folyamata. Legyen N egy értékű valószínűségi változó, amely független X -től. Ekkor

Y N i 1 N X i

valószínűségi változók egy véletlen tagszámú összege; azaz nemcsak maguk az összeadandók, hanem azok száma is véletlen. Ilyen valószínűségi változók sokszor előfordulnak a gyakorlatban. Gondoljunk például arra, hogy N jelöli az egy adott üzletbe megérkező vásárlók számát, X i pedig azt az időt, amennyit az i -edik vásárló az üzletben tölt.

Igazoljuk, hogy

  1. Y N N N μ ,
  2. Y N N μ .

A Wald azonosság (amely nevét Wald Ábrahám magyar matematikusról kapta) az előző feladat általánosítása arra az esetre, amikor N nem feltétlenül független X -től, hanem esetleg egy megállási idő az X sorozatra nézve. A Wald azonosság részletes tárgyalása a Véletlen minták fejezet Részletösszegek című fejezetében található.

Igazoljuk, hogy

  1. Y N N N σ 2 ,
  2. Y N N σ 2 N μ 2 .

Jelölje H az N valószínűségi változó valószínűségi generátorfüggvényét. Az alábbi feladatok segítségével igazoljuk, hogy Y N momentum generáló függvénye H G :

  1. t Y N N G t N ,
  2. t Y N H G t .

A következő kísérletet végezzük: dobunk egy dobókockával, majd egy szabályos érmét annyiszor dobunk fel, amennyit dobtunk a kockával. Legyen N a kockadobás eredménye, és Y a dobott fejek száma.

  1. Határozzuk meg Y N -re vonatkozó feltételes eloszlását!
  2. Határozzuk meg Y N -t!
  3. Határozzuk meg Y N -t!
  4. Határozzuk meg Y -t!
  5. Határozzuk meg Y -t!

Szimuláljunk 1000 kísérletet a kocka- és érmedobás kísérletben, és frissítsük az ábrát minden tizedik után! Figyeljük meg, hogyan konvergál az empirikus várható érték és szórás a valódi várható értékhez és szóráshoz!

Egy üzletbe egy óra alatt véletlen számú vásárló érkezik, de azt tudjuk, hogy az érkező vásárlók számának várható értéke 20, szórása pedig 3. Minden egyes vásárló mindenki mástól függetlenül véletlen mennyiségű pénzt költ, melynek várható értéke 50$, szórása 5$. Határozzuk meg az egy óra alatt a boltban elköltött összes pénz várható értékét és szórását!

Egy olyan furcsa pénzérmét dobálunk, melynél egy V valószínűségi változó jelöli a fejdobás valószínűségét (tehát a fejdobás valószínűsége is függ a véletlentől). Az érmét N alkalommal dobjuk fel. Tegyük fel, hogy V egyenletes eloszlású 0 1 -en; N pedig a 0 paraméterű Poisson eloszlású, továbbá V és N függetlenek. Jelölje Y a dobott fejek számát. Határozzuk meg a következő kifejezések értékét:

  1. Y N V ,
  2. Y N ,
  3. Y V ,
  4. Y ,
  5. Y N V ,
  6. Y .

Eloszlások keveréke

Legyen X X 1 X 2 valós értékű valószínűségi változók sorozata. Vezessük be a μ i X i , σ i 2 X i és a M i t t X i jelöléseket, amint i . Legyen továbbá N egy értékű valószínűségi változó, amely független az X sorozattól. N súlyfüggvényére vezessük be a p i N i jelölést, amint i . Ekkor az X N valószínűségi változó eloszlása az X X 1 X 2 eloszlások keveréke az N eloszlása, mint keverő eloszlás szerint.

Igazoljuk, hogy X N N μ N .

Igazoljuk, hogy X N i 1 p i μ i .

Igazoljuk, hogy X N i 1 p i σ i 2 μ i 2 i 1 p i μ i j 1 p j μ j .

Igazoljuk, hogy t X N i 1 p i M i t .

A kocka- és érmedobás kísérletében feldobunk egy hamis érmét, amely 13 valószínűséggel mutat fejet. Ha írást dobtunk, akkor feldobunk egy igazságos dobókockát, ha pedig fejet dobtunk, akkor egy egy-hat irányban lapos kockát dobunk fel (ez utóbbinál az 1 és a 6 valószínűsége 14 a 2, 3, 4 és 5 valószínűsége pedig 18 ). Határozzuk meg a kockával dobott szám várható értékét és szórását!

Szimuláljunk 1000 kísérletet az előző feladat adataival a kocka- és érmedobás kísérletben, és frissítsük az ábrát minden tizedik után! Figyeljük meg, hogyan konvergál az empirikus várható érték és szórás, a valódi várható értékhez és szóráshoz!

Alapfogalmak a vektorterek elméletéből

A feltételes várható értéket vektorterek nyelvén is meg lehet fogalmazni. Ha ezt a definíciót is megértjük, az segít abban, hogy a fogalmak jobban és mélyebben rögzüljenek.

Ebben a fejezetben a V 2 vektortér az olyan Ω valószínűségi mezőn értelmezett valós értékű valószínűségi változókból áll, melyeknek véges a második momentumuk. Két valószínűségi változót ekvivalensnek nevezünk, ha 1 valószínűséggel megegyeznek. Két ilyen valószínűségi változóhoz rendeljük ugyanazt a vektort, így precízen a vektorterünk a fenti ekvivalencia reláció szerinti ekvivalencia osztályokból áll. Az összeadás legyen a valószínűségi változók, mint függvények összeadása, a skalárral való szorzás pedig a valószínűségi változó, mint függvény, adott (determinisztikus) számmal való szorzása.

Szerepelt korábban, hogy V 2 egy skalárszorzat tér is, ahol a skalárszorzat (belső szorzat):

U V U V .

Projekciók

Legyen most X egy tetszőleges, S -beli értékeket felvevő valószínűségi változó, Y pedig egy V 2 -beli valós értékű valószínűségi változó.

Igazoljuk, hogy a következő halmaz V 2 altere:

U U V 2 U u X  valamely   u S  függvénnyel  .

A 3. feladat segítségével igazoljuk, hogy Y X épp Y vetítése (projekciója) az U altérre!

Legyen most X V 2 . Ekkor a

W W V 2 W a X b  valamely   a  és   b  esetén  

halmaz szintén altér V 2 -ben, és nyilván egyúttal U altere is. Beláttuk, hogy L Y X épp Y projekciója a W altérre.