Procés de renovació de Markov

Una il·lustració d'un procés de renovació de Markov

Els processos de renovació de Markov són una classe de processos aleatoris en probabilitat i estadístiques que generalitzen la classe de processos de salt de Markov. Altres classes de processos aleatoris, com les cadenes de Markov i els processos de Poisson, es poden derivar com a casos especials entre la classe de processos de renovació de Markov, mentre que els processos de renovació de Markov són casos especials entre la classe més general de processos de renovació.

Definició

En el context d'un procés de salt que pren estats en un espai d'estats $\mathrm {S}$, considereu el conjunt de variables aleatòries $(X_{n},T_{n})$, on $T_{n}$ representa els temps de salt i $X_{n}$ representa els estats associats en la seqüència d'estats (vegeu la figura). Sigui la seqüència de temps entre arribada $\tau _{n}=T_{n}-T_{n-1}$. Per a la seqüència $(X_{n},T_{n})$ Per ser considerat un procés de renovació de Markov, s'ha de complir la condició següent:

${\begin{aligned}&\Pr(\tau _{n+1}\leq t,X_{n+1}=j\mid (X_{0},T_{0}),(X_{1},T_{1}),\ldots ,(X_{n}=i,T_{n}))\\[5pt]={}&\Pr(\tau _{n+1}\leq t,X_{n+1}=j\mid X_{n}=i)\,\forall n\geq 1,t\geq 0,i,j\in \mathrm {S} \end{aligned}}$

Aplicacions

Els sistemes de la teoria de les cues, per exemple, tenen propietats que no sempre es poden representar mitjançant processos simples de Markov. Un exemple és l'autocorrelació. Per aconseguir-ho, sovint s'utilitzen processos semi-Markov per modelar les taxes d'arribada.