Momentos de Funciones de Vectores Aleatorios

Transcripción

1 Capítulo 1 Momentos de Funciones de Vectores Aleatorios 1.1 Esperanza de Funciones de Vectores Aleatorios Definición 1.1 Sea X = (X 1,..., X n ) un vector aleatorio (absolutamente continuo o discreto) con función de densidad conjunta f X y g : R n R tal que Z = g(x 1,..., X n ) es una variable aleatoria. Diremos que Z tiene esperanza finita si 1. x 1,...,x n g(x 1,..., x n ) f X (x 1,..., x n ) <, si X es un vector aleatorio discreto. 2. g(x 1,..., x n ) f X (x 1,..., x n )dx x dx n <, si X es un vector aleatorio absolutamente continuo, Si la esperanza de Z existe, entonces se define por: 1. E[Z] = g(x 1,..., x n )f X (x 1,..., x n ), x 1,...,x n si X es un vector aleatorio discreto. 1

2 2 CAPÍTULO 1. MOMENTOS DE FUNCIONES DE V.A. 2. E[Z] = g(x 1,..., x n )f X (x 1,..., x n )dx x dx n, si X es un vector aleatorio absolutamente continuo, Teorema 1.1 Sea X = (X 1,..., X n ) un vector aleatorio y g i : R n R, funciones tales que Z i = g i (X i ), es una variable aleatoria con esperanza finita i = 1,..., n. Entonces para cada a 1,..., a n R, Z = n a i Z i tiene esperanza finita y n E[Z] = a i E[Z i ] En general, la existencia de la esperanza de n variables aleatorias no garantiza la existencia de la esperanza del producto de éstas, sin embargo, si las variables aleatorias son independientes se tiene el siguiente resultado: Teorema 1.2 Sean X 1,..., X n variables aleatorias independientes y g i : R R, funciones tales que Z i = g i (X i ), es una variable aleatoria con esperanza finita, i = 1,..., n. Entonces Z = n g i (X i ) tiene esperanza finita y [ n ] n E[Z] = E g i (X i ) = E[g i (X i )]. Definición 1.2 Sean X y Y variables aleatorias con segundo momento finito. 1. La covarianza de X y Y denotada Cov[X, Y ] (o σ XY ), está definida por: Cov[X, Y ] = E[(X E[X])(Y E[Y ])]. 2. El coeficiente de correlación, denotado ρ(x, Y ) de X, Y está definido por: ρ(x, Y ) = Cov[X, Y ] σ X σ Y, donde σ 2 X, σ 2 Y son la varianza de X y Y respectivamente.

3 1.2. ESPERANZA CONDICIONAL 3 Corolario 1.1 Sean X 1,..., X n variables aleatorias independientes con esperanza finita. Entonces la Cov(X i, X j ), i j, i, j = 1,..., n existe y Cov(X i, X j ) = 0. Si adems las variables aleatorias tienen segundo momento finito, entonces n V ar[x 1 + X n ] = V ar[x i ]. El recíproco de este Corolario no es en general válido, es decir si la Cov(X i, X j ) = 0 esto no implica que las variables aleatorias sean independientes. Hay dos casos en los que el recíproco es válido, si las variables aleatorias son Gaussianas o si las variables aleatorias toman sólo dos valores. (ver Ejercicios ). Si X 1, X 2 son variables aleatorias tales que Cox(X 1, X 2 ) = 0 diremos que X 1 y X 2 son no correlacionadas. Teorema 1.3 Desigualdad de Cauchy-Schwarz. Sean X y Y variables aleatorias con segundo momento finito. Entonces (E[XY ]) 2 E[X 2 ]E[Y 2 ]. La igualdad se satisface si y sólo si existe una constante c tal que - P [X = cy ] = Esperanza Condicional En esta sección consideraremos X = (X 1,..., X n ) un vector aleatorio, denotaremos por Y 1 y Y 2 a los vectores (X 1,..., X k ) y (X k+1,..., X n ) respectivamente. Definición 1.3 Sea X = (X 1,..., X n ) un vector aleatorio (discreto o absolutamente continuo) y g : R n R una función tal que Z = g(x 1,..., X n ) es variable aleatoria. Supongamos que Z tiene esperanza finita. Definimos a la esperanza condicional de Z dado que X 1 = x 1,..., X k = x k por:

4 4 CAPÍTULO 1. MOMENTOS DE FUNCIONES DE V.A. 1. E[Z X 1 = x 1,..., X k = x k ] = g(x 1,..., x n )f Y2 Y 1 (x k+1,..., x n x 1,..., x n ). x k+1,...,x n Si X es un vector aleatorio discreto. 2. = E[Z X 1 = x 1,...X k =, x k ] g(x 1,..., x n )f Y2 Y 1 (x k+1,..., x n x 1,..., x n )dx k+1 dx n. si X es un vector absolutamente continuo. Obsérvese que si f Y1 (x 1,..., x k ) > 0, la E[Z X 1 = x 1,..., X k = x k ] no es otra cosa que la esperanza de g(x 1,..., x k, X k+1,.., X n ) con respecto a la densidad condicional, por lo que hereda las propiedades de la esperanza. Las siguientes definiciones se refieren a vectores aleatorios que no son ni discretos ni absolutamente continuos. Definición 1.4 Sea X = (X 1,..., X n ) un vector aleatorio y g : R n R una función tal que Z = g(x 1,..., X n ) es variable aleatoria. Sea Y 1 un vector aleatorio discreto y dado que X 1 = x 1,..., X k = x k el vector aleatorio Y 2 es absolutamente continuo con función de densidad f Y2 Y 1 para cada x 1,..., x k tal que f Y1 (x 1,..., x k ) > 0. Sea f Y2 Y 1 (x k+1,..., x n x 1,..., x k ) = 0 si f Y1 (x 1,..., x k ) = Decimos que Z tiene esperanza finita si [ g(x 1,...x n ) (x 1,...,x k ) f Y2 Y 1 (x k+1,..., x n x 1,..., x k )dx k+1 dx n ] fy1 (x 1,..., x k ) <, y en este caso la E[Z] estará definida por: E[Z] = [ g(x 1,...x n ) (x 1,...,x k ) f Y2 Y 1 (x k+1,..., x n x 1,..., x k )dx k+1 dx n ] fy1 (x 1,..., x k ),

5 1.2. ESPERANZA CONDICIONAL 5 2. Si Z tiene esperanza finita, definimos la esperanza condicional de Z dado que X 1 = x 1,..., X k = x k por E[Z X 1 = x 1,..., X k = x k ] [ ] = g(x 1,...x n )f Y2 Y 1 (x k+1,..., x n x 1,..., x k )dx k+1 dx n. Definición 1.5 Sea X = (X 1,..., X n ) un vector aleatorio y g : R n R una función tal que Z = g(x 1,..., X n ) es variable aleatoria. Sea Y 1 un vector aleatorio absolutamente continuo y dado que X 1 = x 1,..., X k = x k el vector aleatorio Y 2 es discreto con función de densidad f Y2 Y 1 para cada x 1,..., x k tal que f Y1 (x 1,..., x k ) > 0. Sea f Y2 Y 1 (x k+1,..., x n x 1,..., x k ) = 0 si f Y1 (x 1,..., x k ) = Decimos que Z tiene esperanza finita si (x k+1,...,x n) g(x 1,...x n ) f Y2 Y 1 (x k+1,..., x n x 1,..., x k ) ] f Y1 (x 1,..., x k )dx 1 dx k < y en este caso la esperanza de Z está definida por: E[Z] = (x 1,...,x k ) g(x 1,...x n ) f Y2 Y 1 (x k+1,..., x n x 1,..., x k ) ] f Y1 (x 1,..., x k )dx 1 dx k, 2. Si Z tiene esperanza finita, definimos la esperanza condicional de Z dado que X 1 = x 1,..., X k = x k por E[Z X 1 = x 1,..., X k = x k ] = g(x 1,...x n )f Y2 Y 1 (x k+1,..., x n x 1,..., x k ). (x k+1,...,x n) Claramente E[Z X 1 = x 1,..., X k = x k ] es una función de x 1,..., x k, que denotaremos h(x 1,..., x k ).

6 6 CAPÍTULO 1. MOMENTOS DE FUNCIONES DE V.A. Definición 1.6 Sea X = (X 1,..., X n ) un vector aleatorio y g : R n R una función tal que Z = g(x 1,..., X n ) es variable aleatoria. Supongamos que Z tiene esperanza finita. Definimos a la esperanza condicional de Z dado X 1,..., X k (denotada E[Z X 1,..., X k ]) por h(x 1,..., X k ), es decir: E[Z X 1,..., X k ] = E[Z X 1 = x 1,..., X k = x k ] (X 1,..., X k ). Así, la E[Z X 1,..., X k ] es una variable aleatoria, por lo que podemos preguntarnos acerca de la existencia de su esperanza. Teorema 1.4 Sea X = (X 1,..., X n ) un vector aleatorio y para i = 1,..., k, sea g i : R n R una función tal que Z i = g i (X 1,..., X n ) es variable aleatoria. Supongamos que Z i tiene esperanza finita. Entonces 1. Para cada a 1,..., a n R, n n E[ a i Z i X 1 = x 1,..., X k = x k ] = a i E[Z i X 1 = x 1,..., X k = x k ]. 2. Para cada a 1,..., a n R, n n E[ a i Z i X 1,..., X k ] = a i E[Z i X 1,..., X k ]. 3. E[Z i ] = E[E[Z i X 1,..., X k ]]. Teorema 1.5 Sean X y Y variables aleatorias independientes y g : R 2 R una función tal que Z = g(x, Y ) es una variable aleatoria con esperanza finita, entonces si f X (x) > 0, 1. E[g(X, Y ) X = x] = E[g(x, Y )], E[g(x, Y ) X] = E[g(x, Y )] X. 2. Si g(x, y) = g 1 (y). E[g 1 (Y ) X = x] = E[g 1 (Y )], E[g 1 (Y ) X] = E[g 1 (Y )].

7 1.3. FUNCIÓN GENERADORA DE MOMENTOS CONJUNTA 7 3. Si g(x, y) = g 1 (x)g 2 (y), tenemos E[g 1 (X)g 2 (Y ) X = x] = g 1 (x)e[g 2 (Y )], E[g 1 (X)g 2 (Y ) X] = g ( X)E[g 2 (Y )]. Definición 1.7 Varianza Condicional. Sea Y una variable aleatoria con segundo momento finito. Definimos la varianza condicional de Y dado que X = x por: V ar[y X = x] = E[Y 2 X = x] (E[Y X = x]) 2. Análogamente a lo anterior, la varianza condicional de Y dado X estará dada por: V ar[y X] = E[Y 2 X = x] (E[Y X = x]) 2 X. Teorema 1.6 Sea Y una variable aleatoria con segundo momento finito. Entonces: V ar[y ] = E[V ar[y X]] + V ar[e[y X]] Teorema 1.7 Sean X y Y variables aleatorias, supongamos que Y tiene segundo momento finito. Entonces, para cada función g : R R tal que g(x) es variable aleatoria, se tiene: E[(Y g(x)) 2 ] E[(Y E[Y X]) 2 ]. La igualdad se satisface si y sólo si g(x) = E[Y X]. Corolario 1.2 Sea Y una variable aleatoria con segundo momento finito. Entonces V ar[y ] V ar[e[y X]]. La igualdad se satisface si y sólo si Y = E[Y X]. 1.3 Función Generadora de Momentos Conjunta Al igual que en el caso de variables aleatorias la función generadora de momentos conjunta caracteriza a la función de distribución conjunta y de ésta se pueden obtener los momentos de la forma E[X n i X k j ].

8 8 CAPÍTULO 1. MOMENTOS DE FUNCIONES DE V.A. Definición 1.8 Sea X = (X 1,..., X n ) un vector aleatorio, definimos la función generadora de momentos conjunta M X por: [ ( n )] M X (t 1,..., t n ) = E exp t i X i, si la esperanza existe para todo t 1,..., t n tales que t i ( h, h) para alguna h > 0, i = 1,..., n. Teorema 1.8 Propiedades de la Función Generadora Conjunta. 1. Sean X = (X 1,..., X n ) y Y = (Y 1,..., Y n ) dos vectores aleatorios. Si para alguna h > 0 y t i ( h, h), i = 1,..., n, M X (t 1,..., t n ) = M Y (t 1,..., t n ) entonces X y Y tienen la misma distribución. 2. Si X = (X 1,..., X n ) es un vector aleatorio tal que la función generadora de momentos conjunta existe entonces, Xi r Xj k tiene esperanza finita para toda i, j {1,..., n}, y para toda r, k 1. Además E[X r i X k j ] = lim t i 0,,...,n r+k M t r i t k X (t 1,..., t n ) j 3. Si X = (X 1,..., X n ) es un vector aleatorio con función generadora conjunta M X, entonces existe la función generadora de cada una de las variables aleatorias X i, i = 1,..., n y M Xi (t i ) = M X (0,..., 0, t i, 0,..., 0) = lim M X(t 1,..., t n ). t j 0,j i 4. Si X 1,..., X n son variables aleatorias independientes con función generadora M Xi entonces el vector aleatorio X = (X 1,..., X n ) tiene función generadora y n M X (t 1,..., t n ) = M Xi (t i ).

9 1.4. EJERCICIOS Ejercicios 1. Sean X y Y variables aleatorias con función de densidad conjunta dada por: f X,Y (x, y) = 3(x + y) 1 (0,1) (x + y) 1 (0,1) (x) 1 (0,1) (y). (a) Calcular Cov[X, Y ]. (b) Calcular E[Y X = x] y E[X Y = y]. (c) Calcular E[Y X] y E[X Y ]. 2. Sean X y Y variables aleatorias tales que la función de densidad de X está dada por: f X (x) = { x, 3 si x = 1, 2, 0, en otro caso. Supongamos que la densidad condicional de Y dado que X = x, es una densidad Binomial con parámetros p = 1/2 y n = x, x = 1, 2. (a) Calcular E[X] y V ar[x]. (b) Calcular E[Y ]. 3. Sean X y Y variables aleatorias con función de densidad conjunta dada por: f X,Y (x, y) = (a) Calcular E[Y X = x] y E[Y X]. { 8xy, si 0 < x < y < 1, 0, en otro caso. (b) Calcular E[XY X = x] y E[XY X]. (c) Calcular V ar[y X = x]. 4. Sean X y Y variables aleatorias con función de densidad conjunta dada por: f X,Y (x, y) = 1 8 (6 x y) 1 (0,2) (x) 1 (2,4) (y).

10 10 CAPÍTULO 1. MOMENTOS DE FUNCIONES DE V.A. (a) Calcular E[Y X = x] y E[Y X]. (b) Calcular E[XY X = x] y E[XY X]. (c) Calcular V ar[y X = x]. (d) Calcular E[Y 2 X = x] y E[Y 2 X]. 5. Sean X y Y variables aleatorias tales que E[Y X = x] = µ, donde µ es una constante. Demostrar que V ar[y ] = E[V ar[y X]]. 6. Dar un ejemplo de dos variables aleatorias X y Y NO independientes tales que Cov[X, Y ] = Sean X y Y variables aleatorias que toman sólo los valores a ó b. Demostrar que X y Y son independientes si y sólo si Cov[X, Y ] = 0. Indicación: Considere primero X y Y variables aleatorias Bernoulli con parámetros p X y p Y respectivamente. Después transforme a las variables aleatorias X y Y en variables aleatorias Bernoulli. 8. Sea X = (X, Y ) un vector aleatorio con distribución Normal bivariada. Demostrar que X y Y son independientes si y sólo si Cov[X, Y ] = Sean X y Y variables aleatorias con segundo momento finito, tales que V arx > 0, V ary > 0. Demostrar que la mejor aproximación en términos de mínimos cuadrados de Y por una función afin de X (esto es, de la forma ax + b) está dada por Cov(X, Y ) (X E[X]) + E[Y ] V arx Indicación: Se quiere determinar a y b de suerte que E[[Y (ax + b)] 2 ] sea mínimo. Qué ocurre si las variables aleatorias son independientes? 10. Sean U, V, W variables aleatorias independientes con varianza común igual a σ 2. Definimos X = U + W, Y = V W. Calcular la Cov(X, Y ).

11 1.4. EJERCICIOS Sean X 1,..., X N variables aleatorias independientes idénticamente distribuídas con segundo momento finito y denotemos por X = X 1 + +X n n. (a) Calcular E[X]. (b) Calcular E[ n (X i X) 2. En Estadística se conoce a X como la media muestral y a n n (X n 1 i X) 2 como la varianza muestral. Podría dar una interpretación de esto?. 12. Sean X 1 y X 2 variables aleatorias independientes con distribución Normal(0, 1). Definimos Y 1 = X 1 + X 2 y Y 2 = X 2 X 1. Demuestre que Y 1 y Y 2 son variables aleatoprias independientes. Indicación: Usar la función generadora conjunta. 13. Sean X 1, X 2 variables aleatorias independientes con distribución Normal(0, 1). y Y = X 1 X 2. Calcular la función generadora de Y. Indicación: Usar que X 1 X 2 = (X 1+X 2 ) 2 (X 2 X 1 ) 2 4, usar el ejercicio anterior y recordar cual es la distribución del cuadradao de una variable aleatoria Normal(0, σ 2 ). 14. Sean X 1 y X 2 variables aleatorias independientes con distribución Normal(0, 1). Definimos Y 1 = X 1 + X 2 y Y 2 = X X 2 2. (a) Calcular la función generadora conjunta de Y = (Y 1, Y 2 ). (b) Calcular el coeficiente de correlación de Y 1 y Y Sea X 1 una variable aleatoria Beta con parámetros α 1 y α 2. Supongamos que dado que X 1 = x, la variable aleatoria X 2 tiene una distribución Binomial con parámetros n y x. Calcular (a) E[X 2 X 1 = x], E[X 2 X 1 ]. (a) Calcular E[X 2 ]. 16. Sea X 1 una variable aleatoria Gamma(α, λ). Supongamos que dado que X 1 = x, la variable aleatoria X 2 tiene una distribución Exponencial con parámetro β.

12 12 CAPÍTULO 1. MOMENTOS DE FUNCIONES DE V.A. (a) Calcular E[X 2 X 1 = x] y E[X 2 X 1 ]. (b) Calcular E[X 2 ]. 17. Sea {X n } n 1 una sucesión de variables aleatorias, independientes, idénticamente distribuídas con esperanza finita igual a µ. Sea N una variable aleatoria con valores en N {0}, independiente de {X n } n 1, con esperanza finita igual a M. Definimos S N = { X X n si N = n 0 si N=0 (a) Calcular E[S N ] en función de µ y M. (b) Si las variables aleatorias X n son variables aleatorias Bernoulli con parámetro p, y N una variable aleatoria geométrica con parámetro a (0, 1). Calcular la distribución de S N. (c) Si las variables aleatorias X n son Bernoulli con parámetro p, y N una variable aleatoria Poisson con parámetro λ > 0. Calcular la distribución de S N. 18. Sea {X n } n 1 una sucesión de variables aleatorias independientes, idénticamente distribuídas con esperanza finita igual a µ. Sea N una variable aleatoria con valores en N {0}, independiente de {X n } n 1, con esperanza finita igual a M. Definimos Z N = { X1 X 2 X n si N = n 0 si N=0 (a) Calcular E[Z N ] en función de µ y G N, la función generatriz de momentos factoriales de N. (b) Si las variables aleatorias X n son Bernoulli con parámetro p, y N una variable aleatoria Poisson con parámetro λ > 0. Calcular la E[Z N ]. 19. Sean X 1,..., X n variables aleatorias independientes idénticamente distribuídas exponenciales con parámetro λ. Sea N una variable aleatoria tal que dado que X X n = t, N es una variable

13 1.4. EJERCICIOS 13 aleatoria Poisson con parámetro λt. Calcular la distribución de N, Indicación: Usar función generadora.