REGRESIN LINEAL

Regresin Lineal Simple

Planteamiento
El comportamiento de una magnitud econmica puede ser explicada a travs de otra

Y = F(X )
Si se considera que la relacin puede ser de tipo lineal, la formalizacin vendra determinada por una ecuacin como la siguiente

Y = 1 + 2 X

Regresin Lineal Simple

Planteamiento
Dado que las relaciones en la ciencias sociales no son exactas se incluye el trmino de pertubacin aleatoria

Y = 1 + 2 X + U
Supongamos que se dispone de T observaciones de las variable Y y X

Y1 = 1 + 2 X 1 + u1
Y2 = 1 + 2 X 2 + u 2

Yn = 1 + 2 X n + un

Regresin Lineal Simple

Planteamiento
De forma abreviada el sistema de ecuaciones se puede escribir de la siguiente manera

Yt = 1 + 2 X t + U t
t = 1, 2, 3.,T.

Regresin Lineal Simple

Planteamiento
El objetivo del anlisis de regresin es la estimacin de los parmetros. El primer paso es la representacin grfica de las variables (y,x) en un diagrama de dispersin
Relacin Lineal Exacta
14 12 10 8 Y
Y 14 12 10 8 6 4 2 0

Relacin Lineal Exacta

6 4 2 0 0 2 4 X 6 8 10

4 X

10

Regresin Lineal Simple

Planteamiento
Dado que la relacin de dependencia entre ambas variables es aleatoria o estocstica, las observaciones no se encontrarn a lo largo de una recta
Regresion Lineal Simple
18 16 14 12 Y 10 8 6 4 2 0 0 2 4 X 6 8 10

La estimacin de los parmetros supone encontrar la ordenada en el origen y la pendiente de una recta que mejor se aproxime a los puntos

Regresin Lineal Simple

Planteamiento
Recta de Regresin Especificada

Yt = 1 + 2 X t + U t
Recta de Regresin Estimada

+ X = Y t 1 2 t
Errores o residuos

X = t = Yt Y u t 1 2 t

Regresin Lineal Simple

Criterios de Ajuste
a) La suma de todos los residuos sean prximas a cero
T

Minimizar

u
t =1

b) La suma de todos los residuos en trminos absolutos sean prximas a cero Minimizar

n t =1

t u

c) La suma de todos los residuos elevados al cuadrado sean prximas a cero Minimizar
2 u t =1 t n

Regresin Lineal Simple

Obtencin de los estimadores
Los estimadores se obtienen aplicando el criterio de minimizacin de la suma cuadrtica de los errores
n

2 t t =1

= u

S =
t =1

Yt Y t

) = (Y X )
2 n t =1 t 1 2 t

Para minimizar S se derivar la funcin respecto de cada uno de los parmetros

n S X )=0 = 2 (Yt t 1 2 t =1 1

n S X )X = 0 = 2 (Yt 1 2 t t t =1 2

Regresin Lineal
Obtencin de los estimadores
Operando y reagrupando trminos se obtendra, la expresin analtica de los estimadores mnimo-cuadrticos de la regresin lineal simple:

=Y X 1 2

Cov (Y , X ) 2 = var( X )
Cov ( X , X ) Cov (Y , X 2 ) 3 2 3 2 = var( X 2 )

En el caso de un modelo de regresin lineal mltiple, las expresiones anteriores se transformaran del siguiente modo:

=Y X X 1 2 2 3 3

Cov( X , X ) Cov (Y , X 3 ) 2 3 2 3 = var( X 3 )

Modelo Lineal Bsico

Hiptesis

Forma funcional Sobre la perturbacin Aleatoria Sobre las variables independientes Sobre el vector de parmetros

Modelo Lineal Bsico

Hiptesis
Forma funcional
+ X + X + X + LL L + X +u Yt = 1 2 2t 3 3t 4 4t k kt t
a) La relacin entre la variable dependiente y las variables independientes es tipo lineal. La incorporacin del trmino de perturbacin aleatoria de forma aditiva, garantiza a su vez la relacin lineal con el resto de elementos

Modelo Lineal Bsico

Hiptesis
Sobre la perturbacin aleatoria
a) La perturbacin aleatoria es una variable aleatoria no observable La perturbacin aleatoria representa el conjunto de variables que a tono individual poseen un efecto irrelevante, no obstante, el efecto total recogido por esta no es desdeable. Adicionalmente representa la aleatoriedad intrnseca del comportamiento humano, con lo que dicha variable toma valores siguiendo una distribucin de probabilidades Dado que la variable dependiente es una combinacin lineal del trmino de perturbacin aleatoria sta constituye igualmente una variable aleatoria

Modelo Lineal Bsico

Hiptesis
Sobre la perturbacin aleatoria
b) El promedio es igual a cero. Los efectos individuales de las variables incluidas en el trmino de pertubacin aleatoria tienden a compensarse. b) Son homoscedsticas. Las poblaciones de Y dado los distintos valores de X tienen la misma varianza

Modelo Lineal Bsico

Hiptesis
Sobre la perturbacin aleatoria
d) No existe autocorrelacin entre las perturbaciones. Supone que las perturbaciones correspondientes a distintos unidades o perodos del tiempo no estn relacionadas entre si e) Se distribuye como una variable normal. Dado que la perturbacin aleatoria incluye un amplio grupo de variables omitidas de forma explcita en el modelo de regresin lineal, que son independientes entre si, apoyndose en el teorema de lmite central se asume que el vector de las perturbaciones corresponde a una variable normalmente distribuida.

Modelo Lineal Bsico

Hiptesis
Sobre las variables exgenas.
a) Los valores de las variables independientes son fijos en muestreos repetidos. b) No hay multicolinealidad perfecta. No hay relacin perfecta entre las variables

Sobre el vector de parmetros.

a) Las betas son valores fijos. Lo que supone estabilidad en la estructura del fenmeno estudiado.

Modelo Lineal Bsico

Hiptesis
Otras hiptesis
a) El modelo est correctamente especificado. b) Se dispone de informacin estadstica suficiente, como mnimo n>K. En general para tres variables independientes se necesita 15 observaciones.

Modelo Lineal Bsico

Interpretacin de los coeficientes Si las variables introducidas estn expresadas en niveles
Y t jt = X jt
Representa el cambio en la variable dependiente ante un cambio unitario en la variable j, permaneciendo el resto de factores constantes

Si las variables introducidas estn expresadas en logaritmos

log Y t jt = log X jt

Representa el cambio relativo en la variable dependiente ante un cambio en un 1% en la variable j, permaneciendo el resto de factores constantes

Modelo Lineal Bsico

Interpretacin de los coeficientes Si las variables introducidas estn expresadas en la misma unidad de medida (tipificadas)

* jt

Representa la importancia relativa que tiene cada una de las variables en la explicacin de la variable dependiente.

Relacin entre los parmetros estimados con las variable expresadas en niveles y en la misma unidad de medida (tipificadas).

x j * jt = jt y

Donde:

x j y

Corresponde al cociente de las desviaciones tpicas de la variable independiente j y de la variable dependiente y