Análisis de Regresión Múltiple

y = b0 + b1x1 + b2x2 + . . . bkxk + u

Heterocedasticidad

Econometría I - Prof. Santamaria 1

¿Qué es la Heterocedasticidad?
El supuesto de homocedasticidad establece que la
varianza del error no observable, 𝑢, condicional
sobre las variables explicativas, es constante
La homocedasticidad es necesaria para justificar
las pruebas 𝑡 y 𝐹 usuales y los intervalos de
confianza para la estimación por MCO del modelo
de regresión lineal, incluso con tamaños de
muestra grandes

Econometría I - Prof. Santamaria 2

 Ejemplo de Heterocedasticidad
f(y|x)

.
. E(y|x) = b0 + b1x

.
x1 x2 x3 x
Econometría I - Prof. Santamaria 3
Consecuencias para MCO
Considere de nuevo el modelo de regresión lineal
múltiple: 𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 + ⋯ + 𝛽𝑘 𝑥𝑘 + 𝑢
Es importante recordar que la heterocedasticidad
no ocasiona sesgo ni inconsistencia en los
estimadores MCO de las 𝛽𝑗 .
Entonces, ¿por qué se introduce como uno de los
supuestos de Gauss-Markov?
Sin el supuesto de homocedasticidad los
estimadores de las varianzas, 𝑉𝑎𝑟(𝛽መ𝑗 ), son
sesgados
Econometría I - Prof. Santamaria 4
Consecuencias para MCO
Como los errores estándar de MCO se basan
directamente en estas varianzas, dejan de ser
válidos para la construcción de intervalos de
confianza y de estadísticos 𝑡
En presencia de heterocedasticidad los estadísticos
𝑡 usuales de MCO no tienen distribuciones 𝑡, y el
problema no se resuelve empleando muestras
grandes
Si 𝑉𝑎𝑟 𝑢 𝑥 no es constante, MCO ya no es
MELI

Econometría I - Prof. Santamaria 5

Inferencia Robusta a la
Heterocedasticidad
Primero, considere el modelo con una sola
variable independiente 𝑦𝑖 = 𝛽0 + 𝛽1 𝑥𝑖 + 𝑢𝑖
Se supondrá que se satisfacen los cuatro primeros
supuestos de Gauss-Markov
Si los errores contienen heterocedasticidad,
entonces 𝑉𝑎𝑟 𝑢𝑖 𝑥𝑖 = 𝜎𝑖2 , donde el subíndice 𝑖
de 𝜎𝑖2 indica que la varianza del error depende del
valor particular de la 𝑥𝑖
Se pueden expresar los estimadores de MCO
σ𝑛𝑖=1 𝑥𝑖 −𝑥ҧ 𝑢𝑖
መ
como 𝛽1 = 𝛽1 + σ𝑛
𝑖=1 ҧ 2
𝑥𝑖 −𝑥
Econometría I - Prof. Santamaria 6
Inferencia Robusta a la
Heterocedasticidad
Bajo los supuestos clásicos (sin el supuesto de
homocedasticidad) y condicionando sobre los
valores 𝑥𝑖 de la muestra, puede mostrarse que
σ𝑛 𝑥 − 𝑥ҧ 𝜎 2
𝑉𝑎𝑟 𝛽መ1 = σ𝑖=1 𝑛
𝑖
ҧ 2
𝑖
𝑖=1 𝑥𝑖 −𝑥
Esta ecuación muestra que, en el caso de la
regresión simple, la fórmula para la varianza
obtenida bajo homocedasticidad, en presencia de
heterocedasticidad ya no es válida, dado que el
error estándar de 𝛽መ1 se basa directamente en la
estimación de la 𝑉𝑎𝑟(𝛽መ1 )
Econometría I - Prof. Santamaria 7
Inferencia Robusta a la
Heterocedasticidad
Una manera de estimar la ecuación anterior en
presencia de heterocedasticidad es propuesta por
White (1980)
Sean 𝑢ො 𝑖 los residuales de MCO de la regresión
inicial de 𝑦 sobre 𝑥.
Entonces, un estimador válido de 𝑉𝑎𝑟 𝛽መ1 , para
σ𝑛
𝑖=1 𝑖𝑥 − 𝑥ҧ 2𝑢
ෝ 2
𝑖
heterocedasticidad es σ𝑛 4 el cual puede
𝑖=1 𝑥𝑖 −𝑥ҧ
calcularse fácilmente a partir de los datos de la
regresión de MCO

Econometría I - Prof. Santamaria 8

Pruebas ML Robustas a la
Heterocedasticidad
Para ilustrar el cálculo del estadístico ML robusto,
considere el modelo
𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 + 𝛽3 𝑥3 + 𝛽4 𝑥4 + 𝛽5 𝑥5 +
𝑢
Y suponga que se desea probar 𝐻0 : 𝛽4 = 0, 𝛽5 = 0
Para obtener el estadístico ML, primero se
estimará el modelo restringido (es decir, el modelo
sin 𝑥4 ni 𝑥5 ) para obtener los residuales, 𝑢෤
Después, se regresa 𝑢෤ sobre todas las variables
independientes y 𝑀𝐿 = 𝑛𝑅 2
Econometría I - Prof. Santamaria 9
Pruebas ML Robustas a la
Heterocedasticidad
Obtener una versión robusta a la
heterocedasticidad requiere aún más
Una manera de calcular el estadístico requiere sólo
regresiones de MCO
Se necesitan los residuales, por ejemplo, 𝑟෤1 , de la
regresión de 𝑥4 sobre 𝑥1 , 𝑥2 , 𝑥3
También, se necesitan los residuales, por ejemplo,
𝑟෤2 , de la regresión de 𝑥5 sobre 𝑥1 , 𝑥2 , 𝑥3

Econometría I - Prof. Santamaria 10

Pruebas ML Robustas a la
Heterocedasticidad
Así, cada una de las variables independientes
excluidas bajo la hipótesis nula se regresa sobre
todas las variables independientes incluidas
En el paso final se corre la regresión de 1 sobre
𝑟෤1 𝑢, 𝑟෤2 𝑢 sin intercepto. Donde se define una
variable dependiente igual al uno para todas las
observaciones y esta variable se regresa sobre los
productos 𝑟෤1 𝑢 y 𝑟෤2 𝑢.
El estadístico ML robusto resulta ser n − 𝑆𝑅𝐶1 ,
donde 𝑆𝑅𝐶1 es la suma usual de residuales
cuadrados de la regresión
Econometría I - Prof. Santamaria 11
Pruebas ML Robustas a la
Heterocedasticidad
Ahora se resume el cálculo del estadístico ML
robusto a la heterocedasticidad en el caso general
1. Obtener los residuales 𝑢෤ del modelo restringido
2. Regresar cada una de las variables
independientes excluidas sobre todas las variables
independientes incluidas. Si hay 𝑞 variables
excluidas, esto conduce a 𝑞 conjuntos de
residuales (෤𝑟1 , 𝑟෤2 , … , 𝑟෤𝑞 )
3. Obtener los productos entre cada 𝑟෤𝑗 y 𝑢෤ (para
todas las observaciones)
Econometría I - Prof. Santamaria 12
Pruebas ML Robustas a la
Heterocedasticidad
4. Correr la regresión de 1 sobre 𝑟෤1 𝑢,
෤ 𝑟෤2 𝑢,
෤ … , 𝑟෤𝑞 𝑢,
෤
sin intercepto
5. Estimar el estadístico ML robusto a la
heterocedasticidad haciendo 𝑛 − 𝑆𝑅𝐶1 , donde
𝑆𝑅𝐶1 es la suma usual de residuales cuadrados de
esta regresión final
Bajo 𝐻0 , la distribución de ML es
aproximadamente 𝜒𝑞2

Econometría I - Prof. Santamaria 13

Pruebas para Heterocedasticidad
Para realizar estas pruebas no se requiere saber si
existe o no heterocedasticidad
Como de costumbre, se parte del modelo lineal
𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 + ⋯ + 𝛽𝑘 𝑥𝑘 + 𝑢
Como hipótesis nula se fija
𝐻0 : 𝑉𝑎𝑟 𝑢 𝑥1 , 𝑥2 , … , 𝑥𝑘 = 𝜎 2
Como se supone que 𝑢 tiene una esperanza
condicional cero, 𝑉𝑎𝑟 𝑢 𝑥 = 𝐸 𝑢2 𝑥 , entonces
la hipótesis nula de homocedasticidad es
𝐻0 : 𝐸 𝑢2 𝑥1 , 𝑥2 , … , 𝑥𝑘 = 𝐸 𝑢2 = 𝜎 2
Econometría I - Prof. Santamaria 14
Pruebas para Heterocedasticidad
Esto muestra que, con objeto de probar la
violación del supuesto de homocedasticidad, se
prueba si 𝑢2 está relacionada con una o más de las
variables explicativas
Si 𝐻0 es falsa, el valor esperado de 𝑢2 , dadas las
variables independientes, puede ser prácticamente
cualquier función de 𝑥𝑗
Un método sencillo es suponer una función lineal:
𝑢2 = 𝛿0 + 𝛿1 𝑥1 + 𝛿2 𝑥2 + ⋯ + 𝛿𝑘 𝑥𝑘 + 𝑣

Econometría I - Prof. Santamaria 15

Pruebas para Heterocedasticidad
La hipótesis nula de homocedasticidad es 𝐻0 : 𝛿1 =
𝛿2 = ⋯ = 𝛿𝑘 = 0
En el modelo poblacional nunca se conocen los
errores reales, pero se tienen estimaciones de
ellos: el residual de MCO, 𝑢ො 𝑖 , es una estimación
del error 𝑢𝑖 para la observación 𝑖
𝑅 2ෝ 2 Τ𝑘
𝑢
El estadístico 𝐹 = 2
1−𝑅𝑢
ෝ2
/ 𝑛−𝑘−1
A la versión ML se le llama prueba Breusch-Pagan
(prueba BP). Donde 𝐿𝑀 = 𝑛 ∗ 𝑅𝑢2ෝ2
Econometría I - Prof. Santamaria 16
Pruebas para Heterocedasticidad
La prueba de Breusch-Pagan para
Heterocedasticidad:
1. Estimar el modelo 𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 +
⋯ + 𝛽𝑘 𝑥𝑘 + 𝑢 por MCO y obtener los residuales
cuadrados de MCO, 𝑢ො 2
2. Ejecutar la regresión en 𝑢ො 2 = 𝛿0 + 𝛿1 𝑥1 +
𝛿2 𝑥2 + ⋯ + 𝛿𝑘 𝑥𝑘 + 𝑣. Conservar la R-cuadrada
de esta regresión, 𝑅𝑢2ෝ2

Econometría I - Prof. Santamaria 17

Pruebas para Heterocedasticidad
3. Formar, ya sea el estadístico 𝐹 o el estadístico
𝑀𝐿 y calcular el valor-p (usando la distribución de
𝐹𝑘,𝑛−𝑘−1 en el primer caso y la distribución 𝜒𝑞2 en
el último caso)
Si el valor-p es suficientemente pequeño, es decir,
menor que el nivel de significancia elegido, se
rechaza la hipótesis nula de homocedasticidad

Econometría I - Prof. Santamaria 18

Prueba de White
Los errores estándar usuales de MCO y los
estadísticos de prueba usuales son asintóticamente
válidos, siempre que se satisfagan todos los
supuestos de Gauss-Markov
El supuesto de homocedasticidad,
𝑉𝑎𝑟 𝑢1 𝑥1 , 𝑥2 , … , 𝑥𝑘 = 𝜎 2 , puede ser sustituido
por el supuesto de que el error cuadrado, 𝑢2 , no
está correlacionado con las variables
independientes (𝑥𝑗 ), ni con sus cuadrados (𝑥𝑗2 ), ni
con sus productos cruzados (𝑥𝑗 𝑥ℎ para 𝑗 ≠ ℎ)

Econometría I - Prof. Santamaria 19

Prueba de White
Esta observación motivó a White (1980) a
proponer una prueba para heterocedasticidad que
agrega a la ecuación 𝑢ො 2 = 𝛿0 + 𝛿1 𝑥1 + 𝛿2 𝑥2 +
⋯ + 𝛿𝑘 𝑥𝑘 + 𝑣 los cuadrados y los productos
cruzados de todas las variables independientes
Si el modelo contiene 𝑘 = 3 variables
independientes, la prueba de White se basa en la
estimación de 𝑢ො 2 = 𝛿0 + 𝛿1 𝑥1 + 𝛿2 𝑥2 + 𝛿3 𝑥3 +
𝛿4 𝑥12 + 𝛿5 𝑥22 + 𝛿6 𝑥32 + 𝛿7 𝑥1 𝑥2 + 𝛿8 𝑥1 𝑥3 +
𝛿9 𝑥2 𝑥3 + 𝑒𝑟𝑟𝑜𝑟

Econometría I - Prof. Santamaria 20

Prueba de White
Comparada con la prueba de Breusch-Pagan, esta
ecuación tiene seis regresores más
La prueba de White para heterocedasticidad es el
estadístico ML para probar que todas las 𝛿𝑗 en la
ecuación son cero, a excepción del intercepto
Así, en este caso, se prueban nueve restricciones
Es posible obtener una prueba que sea más fácil de
realizar que la de White y que preserve mejor los
grados de libertad

Econometría I - Prof. Santamaria 21

Prueba de White
Para crearla, recuerde que la diferencia entre las
pruebas de White y de Breusch-Pagan es que la
primera incluye los cuadrados y los productos
cruzados de las variables independientes
Recordemos que, para cada observación 𝑖, los
valores ajustados están definidos por 𝑦ො𝑖 = 𝛽መ0 +
𝛽መ1 𝑥𝑖1 + 𝛽መ2 𝑥𝑖2 + ⋯ + 𝛽መ𝑘 𝑥𝑖𝑘
Éstas sólo son funciones lineales de las variables
independientes

Econometría I - Prof. Santamaria 22

Prueba de White
Y si los valores ajustados se elevan al cuadrado, se
obtiene una función particular de todos los
cuadrados y productos cruzados de las variables
independientes
Esto sugiere probar la heterocedasticidad
estimando la ecuación 𝑢ො 2 = 𝛿0 + 𝛿1 𝑦ො + 𝛿2 𝑦ො 2 +
𝑒𝑟𝑟𝑜𝑟
Para la 𝐻0 : 𝛿1 = 0, 𝛿2 = 0 en la ecuación anterior
pueden utilizarse los estadísticos 𝐹 o 𝑀𝐿

Econometría I - Prof. Santamaria 23

Prueba de White
Un caso especial de la prueba de White para
Heterocedasticidad:
1. Estimar el modelo 𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 +
⋯ + 𝛽𝑘 𝑥𝑘 + 𝑢 mediante MCO, como de
costumbre
Obtener los residuales 𝑢ො de MCO y los valores
ajustados 𝑦ො
Calcular los cuadrados de los residuales de MCO,
𝑢ො 2 y los cuadrados de los valores ajustados 𝑦ො 2

Econometría I - Prof. Santamaria 24

Prueba de White
2. Ejecutar la regresión de la ecuación 𝑢ො 2 = 𝛿0 +
𝛿1 𝑦ො + 𝛿2 𝑦ො 2 + 𝑒𝑟𝑟𝑜𝑟. Conservar la R-cuadrada de
esta regresión, 𝑅𝑢2ෝ2
3. Formar, ya sea el estadístico 𝐹 o el estadístico
𝑀𝐿, y calcular el valor-p (empleando la
distribución 𝐹2,𝑛−3 en el primer caso y la
distribución 𝜒22 en el último)

Econometría I - Prof. Santamaria 25

Mínimos Cuadrados Ponderados
Si empleando una de las pruebas vistas se detecta
heterocedasticidad, se sabe, que una posible
solución es utilizar estadísticos robustos a la
heterocedasticidad después de la estimación por
MCO
Antes del desarrollo de los estadísticos robustos a
la heterocedasticidad, la solución, era especificar
su forma y utilizar un método de mínimos
cuadrados ponderados

Econometría I - Prof. Santamaria 26

Mínimos Cuadrados Ponderados
Si se ha especificado correctamente la forma de la
varianza (como función de las variables
explicativas), entonces el método de mínimos
cuadrados ponderados (MCP) es más eficiente que
el de MCO y MCP conduce a nuevos estadísticos
𝑡 y 𝐹 que tienen distribuciones 𝑡 y 𝐹
Denótense con 𝒙 todas las variables explicativas
de la ecuación 𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 + ⋯ +
𝛽𝑘 𝑥𝑘 + 𝑢 y suponga que 𝑉𝑎𝑟 𝑢 𝒙 = 𝜎 2 ℎ 𝒙
donde ℎ 𝒙 es alguna función de las variables
explicativas que determina la heterocedasticidad
Econometría I - Prof. Santamaria 27
Heterocedasticidad Conocida
¿Cómo puede utilizarse la información de la
ecuación 𝑉𝑎𝑟 𝑢 𝒙 = 𝜎 2 ℎ 𝒙 para estimar los 𝛽𝑗 ?
En esencia se toma la ecuación original, 𝑦𝑖 = 𝛽0 +
𝛽1 𝑥𝑖1 + 𝛽2 𝑥𝑖2 + ⋯ + 𝛽𝑘 𝑥𝑖𝑘 + 𝑢𝑖 que contiene
errores heterocedásticos, y se transforma en una
ecuación que tenga errores homocedásticos
Como ℎ𝑖 es una función de 𝒙𝑖 , 𝑢𝑖 Τ ℎ𝑖 tiene valor
esperado cero condicional sobre 𝒙𝑖

Econometría I - Prof. Santamaria 28

Heterocedasticidad Conocida
Además, como 𝑉𝑎𝑟 𝑢𝑖 𝒙𝑖 = 𝐸 𝑢𝑖2 𝒙𝑖 = 𝜎 2 ℎ𝑖 ,
la varianza de 𝑢𝑖 Τ ℎ𝑖 (condicional sobre 𝒙) es
2
2
𝜎 :𝐸 𝑢𝑖 Τ ℎ𝑖 = 𝐸 𝑢𝑖2 /ℎ𝑖 = 𝜎 2 ℎ𝑖 Τℎ𝑖 = 𝜎 2
La ecuación 𝑦𝑖 = 𝛽0 + 𝛽1 𝑥𝑖1 + 𝛽2 𝑥𝑖2 + ⋯ +
𝛽𝑘 𝑥𝑖𝑘 + 𝑢𝑖 puede dividirse entre ℎ𝑖 para obtener
𝑦𝑖 / ℎ𝑖 = 𝛽0 / ℎ𝑖 + 𝛽1 𝑥𝑖1 / ℎ𝑖 + 𝛽2 ൫𝑥𝑖2 /
ℎ𝑖 ൯ + ⋯ + 𝛽𝑘 𝑥𝑖𝑘 / ℎ𝑖 + 𝑢𝑖 / ℎ𝑖

Econometría I - Prof. Santamaria 29

Heterocedasticidad Conocida
𝑦𝑖∗ = 𝛽0 𝑥𝑖0
∗ ∗
+ 𝛽1 𝑥𝑖1 ∗
+ 𝛽2 𝑥𝑖2 ∗
+ ⋯ + 𝛽𝑘 𝑥𝑖𝑘 + 𝑢𝑖∗
∗
donde el 𝑥𝑖𝑗 = 1Τ ℎ𝑖
Pero, en la mayoría de los casos, la forma exacta
de heterocedasticidad no es obvia. Es decir, es
difícil encontrar la función ℎ(𝒙𝑖 )
Sin embargo, en muchos casos puede modelarse la
función ℎ y utilizar los datos para estimar los
parámetros desconocidos del modelo
Esto da como resultado una estimación para
cada ℎ𝑖 , que se denota como ℎ෠ 𝑖
Econometría I - Prof. Santamaria 30
MCG Factibles
Usando ℎ෠ 𝑖 en lugar de ℎ𝑖 en la transformación de
MCG, se obtiene un estimador llamado estimador
de MCG factibles (MCGF)
Suponga que 𝑉𝑎𝑟 𝑢 𝒙 = 𝜎 2 𝑒𝑥𝑝(𝛿0 + 𝛿1 𝑥1 +
𝛿2 𝑥2 + ⋯ + 𝛿𝑘 𝑥𝑘 ). Si se conocieran los
parámetros 𝛿𝑗 simplemente se aplicaría MCP
¿Cómo pueden estimarse las 𝛿𝑗 ? se puede escribir
𝑢2 = 𝜎 2 𝑒𝑥𝑝 𝛿0 + 𝛿1 𝑥1 + 𝛿2 𝑥2 + ⋯ + 𝛿𝑘 𝑥𝑘 𝑣

Econometría I - Prof. Santamaria 31

MCG Factibles
Puede escribirse log 𝑢2 = 𝛼0 + 𝛿1 𝑥1 + 𝛿2 𝑥2 +
⋯ + 𝛿𝑘 𝑥𝑘 + 𝑒 y dado que satisface los supuestos
de Gauss-Markov, pueden obtenerse estimadores
insesgados de 𝛿𝑗 usando MCO
Luego debe sustituirse la 𝑢 no observada por los
residuales de MCO ejecutando la regresión
log 𝑢ො 2 = 𝛼0 + 𝛿1 𝑥1 + 𝛿2 𝑥2 + ⋯ + 𝛿𝑘 𝑥𝑘 + 𝑒
De esta regresión se utilizan los valores ajustados;
llámeseles 𝑔ො𝑖 = 𝛼ො0 + 𝛿መ1 𝑥1 + 𝛿መ2 𝑥2 + ⋯ + 𝛿መ𝑘 𝑥𝑘 .
Entonces, las ℎ𝑖 estimadas son ℎ෠ 𝑖 = 𝑒𝑥𝑝 𝑔ො𝑖
Econometría I - Prof. Santamaria 32
MCG Factibles
Procedimiento con MCG Factibles para
corregir la Heterocedasticidad:
1. Ejecutar la regresión de 𝑦 sobre 𝑥1 , 𝑥2 , … , 𝑥𝑘 y
obtener los residuales, 𝑢ො
2. Obtener log(𝑢ො 2 ) elevando primero al cuadrado
los residuales de MCO y en seguida tomando el
logaritmo natural
3. Ejecutar la regresión de la ecuación log 𝑢ො 2 =
𝛼0 + 𝛿1 𝑥1 + 𝛿2 𝑥2 + ⋯ + 𝛿𝑘 𝑥𝑘 + 𝑒 y obtener los
valores ajustados, 𝑔ො𝑖
Econometría I - Prof. Santamaria 33
MCG Factibles
4. Exponenciar los valores ajustados de ℎ෠ 𝑖 =
𝑒𝑥𝑝 𝑔ො𝑖 .
5. Estimar la ecuación 𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 +
⋯ + 𝛽𝑘 𝑥𝑘 + 𝑢 por MCP, usando como
ponderadores 1/ℎ෠
Otra alternativa útil para estimar ℎ𝑖 es sustituir las
variables independientes de la regresión
log 𝑢ො 2 = 𝛼0 + 𝛿1 𝑥1 + 𝛿2 𝑥2 + ⋯ + 𝛿𝑘 𝑥𝑘 + 𝑒 por
los valores ajustados de MCO y sus cuadrados

Econometría I - Prof. Santamaria 34

MCG Factibles
En otras palabras, obtener las 𝑔ො𝑖 como valores
ajustados de la regresión de log 𝑢ො 2 = 𝛾0 +
𝜃1 𝑦ො + 𝜃2 𝑦ො 2 + 𝑤 y después obtener ℎ෠ 𝑖 = 𝑒𝑥𝑝 𝑔ො𝑖

Econometría I - Prof. Santamaria 35