En Teoria de la probabilitat l'estudi de la convergència de variables aleatòries és fonamental, tant per la seva riquesa matemàtica (lleis dels grans nombres, teorema del límit central, llei del logaritme iterat, etc.) com per les seves aplicacions a l'Estadística. En aquest article estudiarem les convergències més habituals: en distribució o llei, en probabilitat, quasi segura i en mitjana d'ordre . La referència general d'aquesta pàgina és Serfling [1] on es troben les demostracions o les referències corresponents, i nombrosos exemples i contraexemples.
Considerem una successió de variables aleatòries i sigui una altra variable aleatòria, amb funcions de distribució i respectivament. Es diu que la successió convergeix en distribució (o llei) a si S'escriu També s'utilitza la notació
1. Atès que la propietat (1) només depèn de les funcions de distribució, els espais de probabilitat on estan definides les variables no tenen cap paper; de fet, ni cal que les variables estiguin definides en el mateix espai de probabilitat. A vegades, si la distribució del límit és d'un tipus conegut, per exemple, si és una llei normal de mitjana i variància s'escriu Això fa que algunes propietats de la convergència en llei semblin antiintuïtives; per exemple, com comentarem més endavant, el límit no és únic, només ho és la seva distribució.
2. Malgrat el comentari anterior, en aquest punt, per simplificar l'exposició, suposarem que totes estan definides al mateix espai . La propietat (1) equival a que per tot punt on sigui contínua, o, escrit d'una altra manera, L'objectiu de la convergència en llei és donar condicions per poder aproximar les probabilitats relatives a , del tipus , per probabilitats , les quals se suposa que són més fàcils de calcular. Però demanar que per tot conjunt borelià és massa exigent, com es veu en el següent exemple. Sigui (variable degenerada en 1/n) i (variable degenerada en 0) ; sembla molt clar que hauria de convergir a , però si considerem el conjunt , tenim que En canvi, aquesta successió sí que compleix la propietat (1). En efecte, la funció de distribució de és i, per tant, no és contínua en Vegeu la Figura 1. D'altra banda, Vegeu la Figura 2. Per tenim que . Per tant, .
Sigui una variable aleatòria uniforme discreta en el conjunt i una variable aleatòria uniforme contínua a l'interval [0,1]. Aleshores . En efecte, la funció de distribució de és (vegeu la Figura 3):Equivalentment, aquesta funció es pot escriure com on és la part entera del nombre . D'altra banda, la funció de distribució de és (vegeu la Figura 4):
Atès que és contínua a tot arreu, hem de veure la convergència per tot , la qual cosa es dedueix del fet que .
De la següent propietat s'obté una definició alternativa:
si i només si per qualsevol funció afitada i contínua Les convergències (1) i (2) semblen molt diferents. Per veure la seva relació, notem que on és la funció indicatriu del conjunt ; recordem que per un conjunt qualsevol , Però el pas de (1) a (2) no és directe ja la funció no és contínua, i llavors cal fer una aproximació a per funcions contínues.
Alguns autors prefereixen utilitzar la condició (2) per definir la convergència en distribució perquè es pot estendre directament a variables aleatòries definides en espais més generals.
Continuació de l'exemple de les variables uniformes. Sigui contínua i afitada. Llavors que convergeix a , ja que el sumatori anterior és una suma de Riemann que aproxima a la integral. Vegeu la Figura 5.
Les funcions característiques són una eina essencial per la convergència en llei. Els següents resultats són essencialment deguts al genial Paul Lévy.
Teorema. Designem per i les funcions característiques de i respectivament. De fet, es té una propietat encara més forta:
Teorema.[2] Considerem una successió de variables aleatòries Designem per la funció característica de . Suposem que on és una funció contínua en el 0. Aleshores és una funció característica i existeix una variable aleatòria amb funció característica i .
Aquest últim teorema és important perquè estableix que no necessitem conèixer per endavant el límit de la successió. D'altra banda, proporciona un mètode per construir funcions característiques o reconèixer que determinada funció és una funció característica, la qual cosa no sempre és fàcil.
Exemple. Aproximació de la distribució binomial per una distribució de Poisson. Sigui una successió de variables aleatòries tals que té una distribució de binomial de paràmetre ,
amb Aleshores on te una distribució de Poisson de paràmetre .
La prova consisteix senzillament en utilitzar que la funció característica d'una binomial és i calcular el límit tipus número e: és a dir, utilitzant que si són nombres complexos tals que , aleshores . Llavors tenim que és, precisament, la funció característica d'una distribució de Poisson de paràmetre . Molt sovint per construir l'aproximació es parteix d'un nombre >0 i es defineix . O, més general, es parteix d'una successió tal que i es pren .
Aquesta aproximació és deguda a Poisson (1873) [3] .
La convergència en llei de vectors aleatoris de dimensió es formula exactament igual com el cas de les variables aleatòries, ja sigui amb la definició (1) utilitzant funcions de distribució multidimensionals, o amb la (2) amb funcions afitades i contínues. L'equivalència amb la convergència de les corresponents funcions característiques també és certa. A la pràctica, però, el que més s'utilitza és el següent resultat degut a Cramer i Wold i que s'anomena <<Cramer-Wold device>> [4], que permet reduir el cas multidimensional a l'unidimensional.
Teorema. Sigui una successió de vectors aleatoris dimensionals i sigui un altre vector aleatori de dimensió . Aleshores si i només si tota combinació lineal de les components de convergeix en llei a la mateixa combinació lineal de les components de .
Sigui una successió de variables aleatòries i una altra variable aleatòria definides en un espai de probabilitat . Es diu que la successió convergeix en probabilitat a si per qualsevol , En aquest cas, s'escriu, o
Observacions.
La condició (4) és equivalent a . Tant en aquesta condició com a (4) es poden canviar les desigualtats per desigualtats estrictes, ja que la condició ha de ser veritat per a qualsevol .
En paraules, aquesta convergència diu que la probabilitat que les variables i siguin gaire diferents (diferència més gran que ) es tant petita com es vulgui quan .
Exemple. Suposem que les variables venen donades per Vegem que : en efecte, donat qualsevol , si ,
1. Unicitat de límit. El límit d'una successió convergent en probabilitat és únic (q.s.): 2. Convergència en probabilitat i propietat de Cauchy. Si aleshores la successió és de Cauchy en probabilitat, és a dir, per a qualsevol , Recíprocament, si una successió és de Cauchy en probabilitat, aleshores convergeix en probabilitat.
3. Composició amb una funció contínua. 4. Operacions amb successions convergents en probabilitat. El mateix és cert per a successions i contínua.
D'aquí es dedueix: 5. Relacions amb la convergència en llei
(a) .
(b) , on és una constant.
La propietat (a) també es formula dient que la convergència en probabilitat és més forta que la convergència en distribució, o que la convergència en distribució és més feble que la convergència en probabiliat.
6. Teorema de convergència dominada (vegeu a l'apartat de convergència en mitjana una altra versió d'aquest teorema). Suposem que i sigui una variable aleatòria positiva amb tal que per a tot tenim (es diu que la successió està dominada per . Aleshores totes les variables i tenen esperança finita i
Recordem que es diu que dues variables aleatòries i són iguals quasi segurament (o amb probabilitat 1) si existeix un esdeveniment de probabilitat zero, , tal que per a qualsevol S'escriu Designem per el conjunt de totes les variables aleatòries, que és un espai vectorial. Definim la relació Es demostra que és una relació d'equivalència i designem el conjunt quocient per . En general s'utilitza la mateixa notació per a una variable aleatòria i per a la seva classe d'equivalència, i tàcitament es tracten les classes d'equivalència com si fossin variables aleatòries; això es pot fer perquè moltes propietats només depenen de la classe d'equivalència: per exemple, si un element d'una classe té esperança finita, aleshores tots els elements de la classe tenen esperança finita, i l'esperança és la mateixa per a tots. A definim Es comprova que és una distància:
Finalment, es demostra que
Es diu que la convergència en probabilitat és metritzable. Aquesta és una propietat important, ja que les convergències en espais mètrics tenen moltes propietats que es poden aplicar directament a la convergència en probabiitat. Atès que hem vist que les successions de Cauchy en probabilitat són convergents en probabilitat, tenim que amb la distància és un espai mètric complet.
Sigui una successió de vectors aleatoris dimensionals i sigui un altre vector aleatori de dimensió . Es diu que la successió convegeix en probabilitat a si per qualsevol ,on és la norma habitual de : si , .
Tenim la següent propietat: siguin , ,..., i . Aleshores
Sigui una successió de variables aleatòries i una altra variable aleatòria definides en un espai de probabilitat . Es diu que la successió convergeix quasi segurament a si sexisteix un esdeveniment de probabilitat zero, , tal que per a qualsevol , S'escriu Malgrat l'aparent simplicitat de la definició, en general és difícil provar la convergència q.s., ja que normalment es coneixen les probabilitats associades amb les variables, però no el seu valor per a cada . El següent criteri és de molta utilitat. Noteu que el criteri diu que si una successió convergeix en probabilitat de manera ràpida aleshores hi ha convergència q.s.
Exemple 1. (Aquest exemple és trivial però ens ajudarà a veure la dificultat que comentavem abans.) Sigui una variable aleatòria i definim Aleshores és evident que Exemple 2. Sigui una successió de variables aleatòries independents, totes amb la mateixa distribució (i.i.d.), amb esperança finita. Definim Anem a veure que Aquest cas, però, és completament diferent que l'exemple 1, ja que ara el valor de pot canviar amb . Malgrat que la convergència a 0 sembla força intuitiva, la demostració ja no és directa i tilitzarem el criteri de convergència q.s. Per qualsevol tenim ja que totes les variables tenen la mateixa distribució. Llavors, on hem utilitzat que per una varible aleatòria positiva (vegeu [5]),
1. Unicitat del límit. Evidentment, el límit d'una successió convergent q.s. és únic q.s.
2. Operacions amb successions que convergeixen q.s. La convergència q.s. hereta moltes de les propietats de les successions de nombres reals. Per exemple, 3. Composició amb funcions contínues. També tenim 4. Relacions entre la convergència q.s. i la convergència en probabilitat.
(a) La convergència q.s. iimplica la convergència en probabilitat:
Es diu que la convergència q.s. és més forta que la convergència en probabilitat, o que la convergència en probabilitat és més feble que la convergència q.s. Com a conseqüència de les propetats de la convergència en probabilitat, es té que la convergència q.s. també és més forta que la convergència en distribució.
(b) Si , aleshores existeix una successió parcial tal que
5. Teorema de convergència dominada (vegeu a l'apartat de convergència en mitjana una altra versió d'aquest teorema). El teorema de convergència dominada també és veritat si tenim convergència q.s. Suposem que i sigui una variable aleatòria positiva amb tal que per a tot tenim (es diu que la successió està dominada per . Aleshores totes les variables i tenen esperança finita i
6. Teorema de representació de Skorohod. Suposem que . Aleshores existeix un espai de probabilitat , una succesó de variables aleatòries i una variable aleatòria , definides en aquest espai, tals que:
Considerem un nombre real i sigui una successió de variables aleatòries i una altra variable aleatòria definides en un espai de probabilitat , totes les variables amb moment d'ordre , és a dir, i . Direm que la successió convergeix a en mitjana d'ordre o en si
En aquest cas s'escriu o bé El cas s'anomena convegència en mitjana i convergència en mitjana quadràtica.
1. Unicitat del límit. El límit d'una successió convergent en mitjana d'ordre és únic q.s.
2. Si , i , llavors .
3. Convergència dels moments. Si , llavorsEn particular, si , tenim que
4. Operacions amb succesions.
(a)
(b)
(c) Més generalment [6], si i , aleshores
(d) Si les variables i són independents de les variables i , aleshores 5. Propietat de Cauchy. Si , aleshores la successió és de Cauchy en mitjana d'ordre :
Recíprocament, tota successió de Cauchy en mitjana d'ordre convergeix en mitjana d'ordre .
6. La convergència en mitjana d'ordre implica la convergència en probabilitat:7. Teorema de convergència dominada. Suposem que o i sigui una variable aleatòria positiva amb tal que per a tot tenim , aleshores .
Els espais associats a un espai de probabilitat són un cas particular dels espais associats a un espai de mesura general, i aquí ens limitarem a comentar les propietats relacionades amb la convergència. Designarem per el conjunt de les variables aleatòries amb moment d'ordre . Es tracta d'un espai vectorial. A l'igual com hem fet en l'apartat de la convergència en probailitat, considerem la relació d'equivalència i designem per el conjunt quocient.
Quan , definim que és una distància a .
Quan tenim que és una norma i defineix una distància en aquest espai:En ambdós casos tenim que La propietat de Cauchy que hem esmentant abans implica que els espais mètrics siguin complets. A més, quan és un espai de Banach.
El cas mereix atenció especial, ja que es pot definir un producte escalar: Aleshores és un espai de Hilbert.
Quadre de les implicacions entre els diversos tipus de convergència