Procesos aleatorios

Introducción

Fabián Abarca Calderón

IE0405 – Modelos Probabilísticos de Señales y Sistemas

13
Tema IV

EIE Escuela de
Ingeniería Eléctrica
Los procesos aleatorios (o estocásticos) son los terceros
“objetos aleatorios” que analizaremos.
Incorporan una segunda variable independiente, el
tiempo, que los hace útiles en la descripción de
fenómenos cambiantes o dinámicos tales como. . .
las señales y los sistemas.
 Estocástico
Definición de diccionario

DRAE Perteneciente o relativo al azar.

Vox Que está sometido al azar y que es objeto de análisis estadístico.
Oxford Determinado aleatoriamente; que tiene una distribución de probabilidad
aleatoria o patrón que puede ser analizado estadísticamente pero no
predicho con precisión.
Es sinónimo de “aleatorio” y puede ser usado de forma intercambiable, excepto porque
suena más elegante
(en español, porque en inglés sigue siendo random processes).
De aquí se definen dos casos:

• Proceso estocástico • Secuencia estocástica

. . . en donde. . .

◦ Definiciones 1 / 40
 Proceso
Definición de diccionario

Vox Conjunto de fases sucesivas de un fenómeno o hecho complejo.

En este contexto, procesos será utilizado para procesos continuos en el tiempo.

◦ Definiciones 2 / 40
 Secuencia
Definición de diccionario

Vox 1 Serie de elementos que se suceden unos a otros y guardan relación entre
sí. 2 Orden o disposición de una serie de elementos que se suceden unos a
otros.

En este contexto, secuencias será utilizado para procesos discretos en el tiempo.

◦ Definiciones 3 / 40
 Tipos de objetos aleatorios

A partir de un espacio de eventos aleatorios S con resultados elementales s (a veces

denominados ζ), se obtendrán los siguientes “objetos aleatorios”:

X (s) X(s) X (t, s)

variable aleatoria vector aleatorio proceso aleatorio
X [X1 , . . . , XN ] X (t)
X (s) −→ R X(s) −→ RN X (t) −→ R, t

◦ Definiciones 4 / 40
 Mapeo de la variable aleatoria

s6
s4
s1 s2
s3 s5 s7 S

X (s)

x1 x2 x3 x4 x5 x6 x7 X ∈R

◦ Definiciones 5 / 40
 Mapeo de las variables aleatorias múltiples
SA
Y ∈R
sA1
sA2
sA3
sA4
sA5
sA6
X ∈R

SB
sB1 sB2 sB3 sB4 sB5 sB6

◦ Definiciones 6 / 40
 Mapeo del proceso aleatorio

X (t, s)
S
X (s)
s1
s2
s3
s4
s5
s6
t

◦ Definiciones 7 / 40
Concepto de un proceso estocástico
 Concepto de un proceso estocástico

Proceso aleatorio
Una variable aleatoria X es una función de los posibles resultados s de un expe-
rimento, pero ahora es una función tanto de s como del tiempo. Se asigna una
función

x(t, s) (1)
a cada resultado s. La familia de todas estas funciones, denotada X (t, s), es deno-
minada un proceso aleatorio o proceso estocástico.

Todo resultado elemental s genera una función del tiempo.

◦ Concepto de un proceso estocástico 8 / 40

 Visualización de un proceso estocástico

40
X (t, s)

20

0
0 30
2
4 20
6 10
s 8 t
10 0
Figura: Muestras de un proceso aleatorio continuo.

◦ Concepto de un proceso estocástico 9 / 40

 Funciones muestra del proceso estocástico

Se usará a menudo la notación abreviada x(t), para representar una onda específica de
un proceso aleatorio denotado por X (t).
• Un proceso aleatorio X (t, s) representa una familia o agregado de funciones del
tiempo cuando t y s son variables.
• Cada una de las funciones del tiempo, miembro del proceso estocástico, se llama
una función muestra o miembro del agregado y, a veces, una realización del
proceso.

◦ Concepto de un proceso estocástico 10 / 40

 Ejemplo de la caminata aleatoria (random walk) I
Una caminata aleatoria es una sucesión de decisiones donde las opciones en cada
decisión tienen una distribución de probabilidad particular. En un ejemplo sencillo, en
cada paso se elige aleatoriamente entre 1 y −1 con igual probabilidad. A continuación se
grafican diez funciones muestra distintas. Cada una de estas realizaciones es una entre
infinitas posibilidades.

x(t, si )

Figura: Ejemplo del proceso aleatorio llamada “caminata aleatoria” (random walk).

◦ Concepto de un proceso estocástico 11 / 40

 Casos especiales del proceso estocástico I

Función del tiempo Un proceso aleatorio representa una simple función del tiempo
cuando t es una variable y s está fijo en un valor específico.
Variable aleatoria Un proceso aleatorio representa una variable aleatoria cuando t es
fijo y s es una variable.
Número Un proceso aleatorio representa un simple número cuando t y s son ambos
fijos.

◦ Concepto de un proceso estocástico 12 / 40

 Casos especiales del proceso estocástico II

• La variable aleatoria X (t1 , s) = X (t1 ) se obtiene del proceso cuando el tiempo se

congela al valor t1 . A menudo se usa la notación X1 para denotar la variable
aleatoria asociada con el proceso X (t) en el tiempo t1 .
• X1 corresponde a una tajada transversal por el agregado en el tiempo t1 . Las
propiedades estadísticas de X1 = X (t1 ) describen las propiedades estadísticas del
proceso aleatorio en el tiempo t1 .
• Se visualiza cualquier número de variables aleatorias Xi derivadas de un proceso
aleatorio X (t) en tiempos ti , i = 1, 2, . . . , como

Xi = X (ti , s) = X (ti )

◦ Concepto de un proceso estocástico 13 / 40

 Valor esperado de un proceso estocástico

• El valor esperado de Xi es denominado el promedio del agregado así como el valor

medio o esperado del proceso aleatorio en el tiempo ti .
• Dado que ti puede tener cualquier valor, el valor medio de un proceso puede no ser
constante: es una función del tiempo:

E[X (t)]

◦ Concepto de un proceso estocástico 14 / 40

Clasificación de procesos
 Clasificación de procesos

Proceso aleatorio continuo El caso si X es un proceso continuo y t toma un continuo de

valores.
Proceso aleatorio discreto Corresponde a la variable aleatoria X que toma solamente
valores discretos mientras que t es continuo.
Secuencia aleatoria continua Un proceso aleatorio para el que X es continuo pero el
tiempo tiene solamente valores discretos (al muestrear periódicamente los
miembros del agregado de un proceso aleatorio continuo).
Secuencia aleatoria discreta Corresponde al caso de variables aleatorias discretas y
tiempo discreto.

Valores continuos Valores discretos

Tiempo continuo Proceso aleatorio continuo Proceso aleatorio discreto
Tiempo discreto Secuencia aleatoria continua Secuencia aleatoria discreta

◦ Clasificación de procesos 15 / 40
 Ejemplo de una secuencia aleatoria continua I

0,6

0,4
X (t, s)

0,2
4
0 3
−4 −2 2
0 2 t
4 1
s

◦ Clasificación de procesos 16 / 40
Procesos determinísticos y no determinísticos
 Procesos determinísticos y no determinísticos

Un proceso aleatorio puede describirse por la forma de sus funciones muestra.

• Si valores futuros de cualquier función muestra no pueden ser predichos
exactamente de valores observados pasados, el proceso se denomina no
determinístico.
• Un proceso se llama determinístico si los valores futuros de cualquier función
muestra pueden ser predichos de valores pasados.

◦ Procesos determinísticos y no determinísticos 17 / 40

 Ejemplo de proceso aleatorio determinístico con función exponencial I
Sea un proceso aleatorio definido por

X (t) = Ae−t u(t)

donde A es una variable aleatoria discreta que puede tomar los valores {1, 2, 3} con igual
probabilidad.

X (t)
3
2
1
t
1 2 3 4 5
Figura: Familia de funciones del proceso aleatorio X (t)

◦ Procesos determinísticos y no determinísticos 18 / 40

 Ejemplo de variaciones en la amplitud para una onda sinusoidal I

Una señal tiene la forma deseada v(t) = v0 + a cos(ω0 t + θ0 ), pero su recepción puede
estar seriamente afectada por un canal de transmisión que agrega ruido, inflexiones de
onda, reverberaciones, etc. Se puede por ahora asumir que existen únicamente
variaciones aleatorias en la amplitud, modeladas como un proceso aleatorio

X (t) = v0 + A cos(ω0 t + θ0 )
y que A ∼ unif(−1, 1).

◦ Procesos determinísticos y no determinísticos 19 / 40

 Ejemplo de variaciones en la amplitud para una onda sinusoidal II
Para A ∼ unif(−1, 1), v0 = 0, ω0 = 2π y θ0 = 0 se tiene:

x(t) x(t)
1
1

t t
1 2 1 2

−1 −1
(a) A = {0,9, 0,7, −0,8} (b) A ∼ unif(−1, 1)
Figura: Ejemplo de variaciones aleatorias de amplitud en una función sinusoidal

◦ Procesos determinísticos y no determinísticos 20 / 40

 Ejemplo de variaciones en la amplitud para una onda sinusoidal III

En general, para una función de la forma

X (t) = A cos (ω0 t + Θ) (2)

A, Θ u ω0 (o todos) pueden ser variables aleatorias. Cualquier función muestra
corresponde a la ecuación (2) con valores particulares de estas variables aleatorias. Por
consiguiente, el conocimiento de la función muestra con anterioridad a cualquier
instante del tiempo, permite automáticamente la predicción de los valores futuros de la
función muestra porque su forma es conocida, determinística.

◦ Procesos determinísticos y no determinísticos 21 / 40

Funciones de distribución de un proceso aleatorio
 Función de probabilidad acumulativa de primer orden

Para un tiempo particular t1 , la función de probabilidad acumulativa asociada con la

variable aleatoria X1 = X (t1 ), será denotada FX (x1 ; t1 ) y es conocida más precisamente
como la función acumulativa de primer orden del proceso X (t). Se le define como

FX (x1 ; t1 ) = P{X (t1 ) ≤ x1 } (3)

para cualquier número real x1 .

◦ Funciones de distribución de un proceso aleatorio 22 / 40

 Función de probabilidad acumulativa de segundo orden

Para dos variables aleatorias X1 = X (t1 ) y X2 = X (t2 ), la función acumulativa conjunta

de segundo orden es la extensión bidimensional de la fórmula anterior:

FX (x1 , x2 ; t1 , t2 ) = P{X (t1 ) ≤ x1 , X (t2 ) ≤ x2 } (4)

De manera similar, para N variables aleatorias Xi = X (ti ), i = 1, 2, . . . , N, la función
acumulativa conjunta de orden N es

FX (x1 , . . . , xN ; t1 , . . . , tN ) = P{X (t1 ) ≤ x1 , . . . , X (tN ) ≤ xN } (5)

◦ Funciones de distribución de un proceso aleatorio 23 / 40

 Funciones de densidad de probabilidad

Las funciones de densidad conjunta de interés se encuentran de las derivadas

apropiadas de las tres fórmulas anteriores:

d
fX (x1 ; t1 ) = FX (x1 ; t1 ) (6)
dx1
∂ 2 FX (x1 , x2 ; t1 , t2 )
fX (x1 , x2 ; t1 , t2 ) = (7)
∂x1 ∂x2
∂ N FX (x1 , . . . , xN ; t1 , . . . , tN )
fX (x1 , . . . , xN ; t1 , . . . , tN ) = (8)
∂x1 · · · ∂xN

◦ Funciones de distribución de un proceso aleatorio 24 / 40

 Ejemplo de función de densidad de un proceso con función exponencial I
¿Cuál es la función de densidad para este proceso aleatorio definido con anterioridad?

X (t) = Ae−t u(t)

donde A es una variable aleatoria discreta que puede tomar los valores {1, 2, 3} con igual
probabilidad.

X (t)
3
2
1
t
0,5 1 1,5 2 2,5 3 3,5 4
Figura: Familia de funciones del proceso aleatorio X (t)

◦ Funciones de distribución de un proceso aleatorio 25 / 40

 Ejemplo de función de densidad de un proceso con función exponencial II
La función de densidad probabilística fX (x, t) puede deducirse analizando que:
• En t = 1 el proceso aleatorio X (1) puede tomar los valores e−1 , 2e−1 o 3e−1 , cada
uno con probabilidad 13 , por tanto
1 1 1
fX (x, 1) = δ(x − e−1 ) + δ(x − 2e−1 ) + δ(x − 3e−1 )
3 3 3

fX (x, 1)

1/3

x
e−1 2e−1 3e−1
Figura: Función de densidad de probabilidad para el tiempo t = 1.

◦ Funciones de distribución de un proceso aleatorio 26 / 40

 Ejemplo de función de densidad de un proceso con función exponencial III

• Esto se puede generalizar para cualquier t como

1 1 1
fX (x, t) = δ(x − e−t ) + δ(x − 2e−t ) + δ(x − 3e−t )
3 3 3
La función de densidad, por tanto, es una secuencia de funciones definidas para
cada instante de tiempo (ya sea discreto o continuo).

◦ Funciones de distribución de un proceso aleatorio 27 / 40

 Ejemplo de función de densidad de un proceso con función exponencial IV

• De la misma forma, puede definirse la función de densidad conjunta para dos

va X (t1 ) y X (t2 ), que vienen del mismo proceso aleatorio pero en dos instantes de
tiempo t1 y t2 ,

1
fX (x1 , x2 , t1 , t2 ) = δ(x1 − e−t1 , x2 − e−t2 )
3
1
+ δ(x1 − 2e−t1 , x2 − 2e−t2 )
3
1
+ δ(x1 − 3e−t1 , x2 − 3e−t2 )
3

◦ Funciones de distribución de un proceso aleatorio 28 / 40

Independencia estadística
 Independencia estadística

Dos procesos X (t) e Y (t) son estadísticamente independientes si el grupo de variables

aleatorias X (t1 ), X (t2 ), . . . , X (tN ) es independiente del grupo Y (t10 ), Y (t20 ), . . . , Y (tM
0 )

para cualquier escogencia de tiempos t1 , t2 , . . . , tN , t10 , t20 , . . . , tM

0 . La independencia

requiere que la densidad conjunta sea factorizable por grupos:

fX ,Y (x1 , . . . , xN , y1 , . . . , yM ; t1 , . . . , tN , t10 , . . . , tM
0
)=
(9)
0
fX (x1 , . . . , xN ; t1 , . . . , tN )fY (y1 , . . . , yM ; t10 , . . . , tM )

◦ Independencia estadística 29 / 40
Estacionaridad
 Estacionaridad

• Un proceso aleatorio se convierte en una variable aleatoria cuando el tiempo se

fija en un valor particular.
• La variable aleatoria poseerá propiedades estadísticas, tales como valor medio,
momentos, varianza, etcétera, relacionados con su función de densidad.
• Si dos variables aleatorias se obtienen del proceso para dos instantes del tiempo,
tendrán propiedades estadísticas (medias, varianzas, momentos conjuntos,
etcétera) relacionados con su función de densidad conjunta.

Un proceso aleatorio se dice que es estacionario si todas sus propiedades estadís-

ticas no cambian con el tiempo.

Otros procesos son denominados no estacionarios.

◦ Estacionaridad 30 / 40
Estacionaridad de primer orden
 Procesos estacionarios de primer orden I

Un proceso aleatorio es llamado estacionario de orden uno si su función de densidad de

primer orden no cambia con un desplazamiento en el origen del tiempo. Es decir,

fX (x1 ; t1 ) = fX (x1 ; t1 + ∆) (10)

debe ser cierto para cualquier t1 y cualquier número real ∆.
Como consecuencia de la ecuación (10), fX (x1 ; t1 ) es independiente de t1 y el valor medio
del proceso E[X (t)] es una constante:

E[X (t)] = X = constante (11)

◦ Estacionaridad de primer orden 31 / 40

 Procesos estacionarios de primer orden II

Para probar lo anterior se encuentra los valores medios de las variables aleatorias
X1 = X (t1 ) y X2 = X (t2 ). Para X1 :
Z ∞
E[X1 ] = E[X (t1 )] = x1 fX (x1 ; t1 ) dx1 (12)
−∞

Para X2 :
Z ∞
E[X2 ] = E[X (t2 )] = x1 fX (x1 ; t2 ) dx1 (13)
−∞

La variable x2 de integración ha sido reemplazada por la variable alternativa x1 por

conveniencia.

◦ Estacionaridad de primer orden 32 / 40

 Procesos estacionarios de primer orden III

Si se pone ahora t2 = t1 + ∆ en la ecuación 13,

Z ∞
E[X2 ] = E[X (t2 )] = x1 fX (x1 ; t1 + ∆) dx1 = E[X (t1 + ∆)]
−∞
Z ∞
= x1 fX (x1 ; t1 ) dx1 = E[X (t1 )]
−∞
= E[X1 ]
Se concluye finalmente

E[X (t1 + ∆)] = E[X (t1 )]

que debe ser constante porque t1 y ∆ son arbitrarios.

◦ Estacionaridad de primer orden 33 / 40

Estacionaridad de segundo orden
 Estacionaridad de segundo orden I

Un proceso se llama estacionario de orden dos si su función de densidad de segundo

orden cumple que

fX (x1 , x2 ; t1 , t2 ) = fX (x1 , x2 ; t1 + ∆, t2 + ∆) (14)

para todo t1 , t2 y ∆.
Pero aquí interviene una nueva relación de interés:

RXX (t1 , t2 ) = E[X1 X2 ] = E[X (t1 )X (t2 )] (15)

recibe el nombre de autocorrelación de un proceso aleatorio X (t) y será en general
una función de t1 y t2 .

◦ Estacionaridad de segundo orden 34 / 40

 Estacionaridad de segundo orden II
Una consecuencia de la ecuación (14) es que la autocorrelación de un proceso
estacionario de segundo orden es una función solamente de las diferencias temporales y
no del tiempo absoluto; es decir, si τ = t2 − t1 , entonces

RXX (t1 , t1 + τ ) = E[X (t1 )X (t1 + τ )] = RXX (τ ) (16)

= RXX (τ )
τ = t4 − t1 = t11 − t8
RXX (t1 , t4 ) RXX (t8 , t11 )

X (t) t
X (t1 ) X (t4 ) X (t8 ) X (t11 )

◦ Estacionaridad de segundo orden 35 / 40

 Ejemplo de la distribución de estatura de una población I

X (h, a)

16
14
120 140 12
160 180 8 10
Estatura h / cm Edad a / años

Figura: Ejemplo de una secuencia aleatoria no estacionaria.

Fuente: Trussell, J. Bloom, D. A Model Distribution of Height or Weight at a Given Age. Human
Biology, Vol. 51, No. 4 (Diciembre 1979), pp. 523-536
◦ Estacionaridad de segundo orden 36 / 40
Estacionaridad en sentido amplio
 Estacionaridad en sentido amplio I

Muchos problemas prácticos requieren que se trate con la función de autocorrelación y

el valor medio de un proceso aleatorio. Las soluciones se simplifican mucho si tales
cantidades no dependieran del tiempo absoluto. La estacionaridad de segundo orden es
suficiente para garantizar estas características. Empero, es a menudo más restrictivo que
necesario y es deseable una forma más relajada de estacionaridad. La forma más útil es
el proceso estacionario en sentido amplio, definido como aquel en donde

E[X (t)] = X (constante) (17)

E[X (t)X (t + τ )] = RXX (τ ) (18)

En inglés se conoce como WSS, de wide sense stationarity

◦ Estacionaridad en sentido amplio 37 / 40

 Estacionaridad en sentido amplio II

Estacionaridad conjunta
Dos procesos aleatorios X (t), Y (t) son conjuntamente estacionarios en sentido amplio si
cada uno es estacionario en sentido amplio y su función de correlación cruzada
(crosscorrelation)

RXY (t1 , t2 ) = E[X (t1 )Y (t2 )] (19)

es una función solamente de la diferencia temporal τ = t2 − t1 y no del tiempo absoluto,
es decir,

RXY (t, t + τ ) = E[X (t)Y (t + τ )]

(20)
= RXY (τ )

◦ Estacionaridad en sentido amplio 38 / 40

 Ejemplo de estacionaridad en sentido amplio I

Se demostrará que el proceso aleatorio

X (t) = A cos (ω0 t + Θ)

es estacionario en sentido amplio si se supone que A y ω0 son constantes y Θ es una
variable aleatoria distribuida uniformemente en el intervalo [0, 2π]. El valor medio es
Z 2π
1
E[X (t)] = A cos(ω0 t + θ) dθ
0 2π
=0

◦ Estacionaridad en sentido amplio 39 / 40

 Ejemplo de estacionaridad en sentido amplio II

La función de autocorrelación con t1 = t y t2 = t + τ se convierte1 en

RXX (t, t + τ ) = E [A cos(ω0 t + Θ) A cos(ω0 t + ω0 τ + Θ)]

A2
E [cos(ω0 τ ) + cos(2ω0 t + ω0 τ + 2Θ)]
=
2
A2
= cos(ω0 τ )
2
La función de autocorrelación depende solamente de τ y el valor medio es una
constante, por lo que X (t) es estacionario en sentido amplio.

1
Se utiliza la identidad cos(x) cos(y) = 21 (cos(x − y) + cos(x + y)).
◦ Estacionaridad en sentido amplio 40 / 40