Usuari:Freutci/mixtura

Figura 1. Densitat d'una mixtura de tres distribucions normals (μ=5, 10, 15, σ=2) amb iguals pesos (1/3). Cada component es representa com una funció de densitat ponderada amb àrea igual a 1/3.

En Probabilitat i Estadística, una mixtura de distribucions de probabilitat o distribució de probabilitat composta és una distribució de probabilitat que s'ha obtingut combinant diverses distribucions de probabilitat. Exemples importants són les mixtures de distribucions normals que permeten obtenir distribucions multimodals (Figura 1), o la distribució de Poisson composta que permet modelar el total de reclamacions en un període de temps d'una companyia d'assegurances o, des del punt de vista teòric, és una peça clau en l'estudi de les distribucions infinitament divisibles i els processos de Lévy. Les notacions i nomenclatures varien entre els autors.

L'expressió distribució de probabilitat composta té principalment dues accepcions: la primera la considera equivalent a mixtura de probabilitats , és a dir, informalment, una distribució de probabilitat que depèn d'un paràmetre, el qual també és una variable aleatòria; mentre que la segona es refereix a la distribució d'una suma d'un nombre aleatori de variables aleatòries independents, totes amb la mateixa distribució ; Johnson et al. les anomenen distribucions de suma aturada (stopped sum distribution) i dediquen tot un capítol al cas que les variables siguin discretes. Atès que hi ha un article dedicat a les mixtures de distribucions de probabilitat, en el present article tractarem breument de la segona accepció. Un exemple especialment important és la distribució de Poisson composta que, des del punt de vista aplicat, s'utilitza com a model del total de reclamacions en un període de temps d'una companyia d'assegurances o, des del punt de vista teòric, és una peça clau en l'estudi de les distribucions infinitament divisibles i els processos de Lévy .

Definició i primeres propietats

Considerem una successió $Y_{1},\,Y_{2},\dots$ de variables aleatòries independents, totes amb la mateixa distribució. Definim $${\begin{aligned}S_{0}&=0,\\S_{n}&=Y_{1}+\cdots +Y_{n},\ n\geq 1.\end{aligned}}$$La successió $Y_{1},\,Y_{2},\dots$ s'anomena una passejada aleatòria.

Sigui $N$ una variable aleatòria que pren valors 0, 1, 2,... amb probabilitats $$P(N=j)=p_{j},\ j\geq 0,$$independent de $Y_{1},\,Y_{2},\dots$ La distribució de la variable aleatòria $$X=S_{N}$$ s'anomena distribució de probabilitat composta (compound probability distribution) .

El cas més important és quan $N$ té una distribució de Poisson i aleshores la distribució de $S_{N}$ s'anomena distribució de Poisson composta (compound Poisson distribution) .

La funció de distribució d'una distribució de probabilitat composta, que designarem per $F_{X}$ , es calcula mitjançant el teorema de les probabilitats totals i la independència entre $N$ i $Y_{1},\,Y_{2},\dots$: $$F_{X}(t)=P(X\leq t)=\sum _{k=0}^{\infty }P(S_{N}\leq k\,|\,N=k)\,P(N=k)=\sum _{k=0}^{\infty }P(S_{k}\leq k\,|\,N=k)\,P(N=k)=\sum _{k=0}^{\infty }p_{k}F_{k}(t),$$on $F_{k}$ és la funció de distribució de $S_{k}$, que és $$F_{k}(t)=F_{Y}^{*k}(t),$$on $*$ denota l'operació de convolució. Per tant, identifiquem una distribució de Poisson composta com una mixtura amb un nombre infinit numerable de components.

Si designem per $\varphi _{Y}$ la funció característica comuna de $Y_{1},\,Y_{2},\dots$, i per $\varphi _{X}$ la de $X$, aleshores, pel teorema de les esperances totals i la independència entre $N$ i $Y_{1},\,Y_{2},\dots$,$$\varphi _{X}(t)=E{\big [}e^{itX}{\big ]}=\sum _{k=0}^{\infty }E(e^{itS_{N}}\,|\,N=k)\,P(N=k)=\sum _{k=0}^{\infty }E{\big [}e^{itS_{k}}{\big ]}\,P(N=k)=\sum _{k=0}^{\infty }{\big (}\varphi _{Y}(t){\big )}^{k}\,p_{k}=E{\Big [}{\big (}\varphi _{Y}(t){\big )}^{N}{\Big ]}.$$En el cas de la funció de distribució de Poisson composta, si $N$ té paràmetre $\lambda$, és a dir, $N\sim {\text{Poiss}}(\lambda )$, aleshores la funció característica és $$\varphi _{X}(t)=e^{-\lambda }\,\sum _{k=0}^{\infty }{\big (}\varphi _{Y}(t){\big )}^{k}\,{\frac {\lambda ^{k}}{k!}}=e^{\lambda (\varphi _{Y}(t)-1)}.$$

Exemples introductoris

Mixtura de tres distribucions normals

Considerem tres distribucions normals, amb mitjanes $\mu _{1},\,\mu _{2}$ i $\mu _{3}$ , totes amb variància $\sigma$. Siguin $f_{1},\,f_{2}$ i $f_{3}$ les funcions de densitats respectives: $$f_{i}(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\,e^{-(x-\mu _{i})^{2}/(2\sigma ^{2})},\quad ,i=1,2,3.$$Considerem tres nombres $p_{1},p_{2},p_{3}\in (0,1)$ , tals que $p_{1}+p_{2}+p_{2}=1$. Definim $$f(x)=p_{1}f_{1}(x)+p_{2}f_{2}(x)+p_{3}f_{3}(x),\quad x\in \mathbb {R} .$$Aleshores $f$ és una funció de densitat que s'anomena mixtura de les distribucions ${\mathcal {N}}(\mu _{1},\sigma ),\,{\mathcal {N}}(\mu _{2},\sigma )$ i ${\mathcal {N}}(\mu _{3},\sigma )$ amb pesos respectius $p_{1},\,p_{2}$ i $p_{3}$. Vegeu la figura 1 per un exemple.

Si designem per $F_{i}$ la funció de distribució corresponent a la densitat $f_{i}$ , aleshores tenim que la funció de distribució corresponent a la densitat $f$ és $$F(x)=p_{1}F_{1}(x)+p_{2}F_{2}(x)+p_{3}F_{3}(x).$$

Interpretació del paràmetre com una variable aleatòria

En molts casos, com aquest que estem estudiant, les distribucions que considerem pertanyen a una família paramètrica de distribucions; en aquest exemple, les tres components són distribucions normals parametritzades per la mitjana $\mu$ . Aquest paràmetre pot ser considerat com una variable discreta $\Theta$ que pren els valors $\mu _{1},\,\mu _{2}$ i $\mu _{3}$ amb probabilitats $$P(\Theta =\mu _{i})=p_{i},\quad i=1,2,3.$$Aleshores

Interpretació en termes de variables aleatòries. Marginalització

Per simplificar l'exposició ens limitarem a comentar una mixtura finita. Anem a calcular la mixtura de les funcions de distribució $F_{1},\dots ,F_{n}$ amb pesos $w_{1},\dots ,w_{n}$. Considerem una variable aleatòria $M$ que prengui els valors $1,\dots ,n$ amb probabilitat $w_{1},\dots ,w_{n}$: $$P(M=i)=w_{i},\quad i=1,\dots ,n.$$D'altra banda, considerem $n$ variables aleatòries, $X_{1},\dots ,X_{n}$, tals que $X_{i}$ condicionada a $M=i$ tingui funció de distribució $F_{i}$: $$P(X_{i}\leq t\,|\,M=i)=F_{i}(t),\quad i=1,\dots ,n.$$ Aleshores, pel teorema de les probabilitats totals, la funció de distribució (no condicionada) de $M$ serà. $$P(X\leq t)=\sum _{i=1}^{n}P(M=i)\,P(X_{i}\leq t\,|\,M=i)=\sum _{i=1}^{n}w_{i}F_{i}(t),$$ i per tant, coincideix amb la funció de distribució de la mixtura.

Aquest procediment s'anomena marginalització, ja que el que hem fet correspon a calcular la distribució marginal de $X$ a partir de la informació que tenim sobre el vector $(X,M)$.

Considerem un vector aleatori $(X,\Theta )$ on $\Theta$ és discret i només pot prendre els valors 1, 2 i 3 amb probabilitats:$$P(\Theta =i)=p_{i},\quad i=1,2,3.$$També coneixem que les distribucions de $X$ condicionada per $\Theta =i$ són normals ${\mathcal {N}}(\mu _{i},\sigma )$, $i=1,2,3$. Aleshores, pel teorema de les probabilitats totals,$${\begin{aligned}P(X\leq t)&=P(X\leq t\,|\,\Theta =1)\,P(\Theta =1)+P(X\leq t\,|\,\Theta =2)\,P(\Theta =2)+P(X\leq t\,|\,\Theta =3)\,P(\Theta =3)\\&=p_{1}F_{1}(t)+p_{2}F_{2}(t)+p_{2}F_{3}(t).\end{aligned}}$$Per tant, la distribució de $X$ és la mixtura de distribucions normals que hem introduït al paràgraf anterior. Aquest procediment s'anomena marginalització, ja que el que hem fet correspon a calcular la distribució marginal de $X$ a partir de la informació que tenim sobre el vector $(X,\Theta )$.

En el cas general, suposem que tenim una família de funcions de distribució $F(x,\theta ),\quad \theta \in \Theta$, i els pesos venen donats per una distribució de probabilitat (discreta o contínua) $M$ sobre $\Theta$ . Així, en el cas discret, si $\Theta =\{\theta _{1},\theta _{2},\dots \}$, llavors $P(M=\theta _{i})=w_{i}$. El el cas continu, la distribució de $M$ vindrà donada per una funció de densitat $g(\theta )$. Considerem una variable aleatòria $X$ tal que la distribució condicionada $X\,|\,M=\theta$ tingui funció de distribució $F(x,\theta ).$ Aleshores la mixtura correspondrà a la distribució (no condicionada) de la variable $X$ obtinguda per marginalització del vector $(X,M)$ . D'aquesta interpretació es dedueix la següent fórmula que permet calcular els moments o la funció característica de la mixtura. Sigui $h$ una funció tal que $E[\vert h(X)\vert ]<\infty$ . Aleshores $$E[h(X)]=E_{\theta }{\big [}E[h(X\,|\,M=\theta ]{\big ]},$$o, escrit d'una altra manera, $$E[h(X)]=E{\big [}E[h(X\,|\,M]{\big ]}.$$Vegeu a la pàgina esperança matemàtica l'apartat corresponent a l'esperança condicionada.

Mixtura de distribucions gamma

En aquest exemple de Dubey es considera una distribució gamma on el seu paràmetre d'escala inversa té també una distribució inversa. Considerem una distribució gamma amb paràmetre d'escala $1/\gamma$, amb $\gamma >0$ (també es diu que $\gamma$ és el paràmetre d'escala inversa), i paràmetre de posició $\alpha >0$ , amb funció de densitat (condicionada)$$f(x\,|\,\gamma )={\frac {\gamma ^{\alpha }\,x^{\alpha -1}e^{-\gamma x}}{\Gamma (\alpha )}},\quad x>0,$$on $\Gamma (\alpha )$ és la funció gamma d'Euler. Suposem que el paràmetre $\gamma$ segueix una distribució gamma amb paràmetre de posició $1/q$ (amb $q>0$ ) i paràmetre de posició $\beta >0$, amb funció de densitat

$$f(\gamma )={\frac {q^{\beta }\,\gamma ^{\beta -1}e^{-q\gamma }}{\Gamma (\beta )}},\quad \gamma >0.$$Aleshores la funció de densitat de la mixtura és$$f(x)=\int _{0}^{\infty }f(x\,|\,\gamma )\,f(\gamma )\,d\gamma ={\frac {x^{\alpha -1}\,q^{\beta }}{B(\alpha ,\beta )\,(x+q)^{\alpha +\beta }}},$$on $B(\alpha ,\beta )$ és la funció beta. Aquesta distribució és un cas particular d'una distribució beta prima que també s'anomena distribució gamma composta .