Zgodna estymacja liniowych modeli

wielorwnaniowych

1. Przypomnienie zaoe
Rozwamy posta strukturaln liniowego modelu wielorwnaniowego:
( ) ( ) ( ) ( ) ( ) m T m k k T m m m T
E X Y

= I + B
Przyjmijmy standardowe zaoenia dotyczce struktury stochastycznej modelu.
Wektor skadnikw losowych kolejnych m rwna to:
( )
| |
tm t
m
t
c c
c
...
1
1
=

zakadamy, e:
( )
| |
( )
( )
( )
( )
( )
( )
( )
( )
( )
0
' . 3
' . 2
0
. 1
1
1
m m
s t dla m m
m m
m m m m
m
m
s t
t t t
t
E
V E
E

=
= =
=
E
c c
c c c
c
, t,s = 1,...,T
W zaoeniu 2 najwaniejsze jest, e E nie ma indeksu t (co oznacza, e wariancje
skadnikw losowych w kadym rwnaniu s takie same dla kadej obserwacji,
podobnie jak kowariancje pomidzy skadnikami losowymi rnych rwna (dla tej
samej obserwacji)). Przyjmujemy ponadto e E jest nieosobliwa, a jako macierz
kowariancji musi by kwadratowa, symetryczna i nieujemnie okrelona. W takim
razie E jest symetryczna i dodatnio okrelona. W przykadowym modelu
trzyrwnaniowym:
( )

=
E

33 23 13
23 22 12
13 12 11
o o o
o o o
o o o
m m

o
22
= var(c
t2
) to wariancja skadnikw losowych drugiego rwnania, o
13
= cov(c
t1
,
c
t3
) to kowariancja pomidzy skadnikami losowymi pierwszego i trzeciego rwnania
DLA TEJ SAMEJ OBSERWACJI.

Zaoenie 3 mona zapisa jako: ( )
) (
0 , cov
s t
sj ti
=
= c c
co oznacza, e skadniki losowe RNYCH OBSERWACJI s nieskorelowane. Tzw.
autokorelacja skadnikw losowych jest w ten sposb wykluczona.

Posta strukturaln zapisujemy:
( )
( )
( )
( )
( ) m
t
m k
k
t
m m
m
t
x y

= I + B
1 1 1
c
dla pojedynczej obserwacji o numerze t, lub cznie dla wszystkich T obserwacji:
( ) ( ) ( ) ( ) ( ) m T m k k T m m m T
E X Y

= I + B
Przypomnijmy, e wektor y
t
grupuje zmienne cznie wspzalene (endogeniczne
nieopnione), za x
t
grupuje zmienne z gry ustalone (tj. opnione endogeniczne,
egzogeniczne i sztuczne).
Zakadamy ponadto, e nie ma zwizkw pomidzy parametrami rnych
rwna. (do tego zaoenia wrcimy w zajciach 19)

2. Problem zgodnej estymacji rwna postaci strukturalnej

Zastanwmy si teraz, czy rwnania postaci strukturalnej mona szacowa zwyk
MNK. Co oznacza pytanie czy mona szacowa? pytamy tu, czy estymator MNK
jest (przynajmniej) zgodny. Jeli nie jest zgodny, nie moemy go stosowa.
Od czego zaley zgodno estymatora zwykej MNK? Omawiajc regresj z
losowymi zmiennymi objaniajcymi, rozwaalimy przypadek 2C w tym
przypadku (w szczeglnoci) gdy biece skadniki losowe s skorelowane z
biecymi zmiennymi objaniajcymi, estymator MNK jest NIEZGODNY. Jeli
estymator MNK jest niezgodny, musimy szuka innych metod estymacji. Tak
metod dla modeli o rwnaniach wspzalenych jest 2MNK.

Dla ilustracji rozwamy przykadowy model:

+ + + + =
+ + + + =
+ + + + =

3 1 3 2 2 1 1 0 3
2 3 3 1 2 2 1 0 2
1 3 3 1 2 2 , 1 1 0 1
t t t t t
t t t t t
t t t t t
x y y y
y y x y
x x y y
c
c | | | |
c o o o o

[notacja y
t-1,2
oznacza y
2
z okresu poprzedniego (t - 1)]

Zmienne cznie wspzalene: y
t
= [y
t1
y
t2
y
t3
]; zmienne z gry ustalone:
x
t
= [y
t-1,2
x
t1
x
t2
x
t3
1], tutaj m = 3 oraz k = 5;
( ) ( ) ( )

=

3 2 1
13 12 11
1
) 3 (
1
) 2 (
1
) 1 (
T T T
T T T
y y y
y y y
y y y Y

;
( ) ( ) ( )

=

3 2 1
13 12 11
1
) 3 (
1
) 2 (
1
) 1 (
T T T
T T T
E
c c c
c c c
c c c
wobec tego:

= I

=
0 0 0
3
1
3 2
1
3
2
1 2
-
0 0 -
0 0
- 0 -
0 0 -
;
1 0
1 0
1
| o
o
|
o
o
|

|
B

Dla celw estymacji przyjmujemy nastpujc notacj:

i-te rwnanie postaci strukturalnej ma posta:
( ) ( )
( )
( ) ( )
( )
( )
( )
( ) 1
1
*
1
*
1
) (

+ + =
T
i
mi
i
mi T
i
ki
i
ki T
i
T
i
Y X y c |
, (i = 1,...,m)

|
*
(i)
to m
i
nieznanych parametrw i-tego rwnania postaci strukturalnej stojcych
przy zmiennych cznie wspzalenych (czyli wektor nieznanych elementw
itej kolumny macierzy B ze zmienionym znakiem)

*
(i)
to k
i
nieznanych parametrw i-tego rwnania postaci strukturalnej stojcych
przy zmiennych z gry ustalonych (czyli wektor nieznanych elementw itej
kolumny macierzy I ze zmienionym znakiem.
Y
i
to macierz wartoci tych zmiennych cznie wspzalenych, ktre s zmiennymi
objaniajcymi (po prawej stronie) w i-tym rwnaniu postaci strukturalnej.
X
i
to macierz wartoci tych zmiennych z gry ustalonych, ktre s zmiennymi
objaniajcymi (po prawej stronie) w i-tym rwnaniu postaci strukturalnej.

W przykadzie dla drugiego rwnania: y
(2)
to wektor wszystkich T wartoci
y
t2
, |
*
(2)
= [|
2
|
3
]' (m
2
= 2) oraz
*
(2)
= [|
1
|
0
]' (k
2
= 2), ponadto typowy
wiersz Y
2
to [y
t1
y
t3
], a typowy wiersz X
2
to [x
t2
1].

Powysze moemy w zwarty sposb zapisa jako:

( ) ( ) ( )
( )
( ) ( )
( )
( ) 1 1
1
) (
+
+
+ =
T
i
ki mi
i
ki mi T
i
T
i
Z y c o

gdzie:
( )
( ) ( )
( )
( )
( )
( )

+
1
*
1
*
1
ki
i
mi
i
ki mi
i

|
o

( ) ( ) ( ) ( )

=
+ ki T
i
mi T
i
ki mi T
i
X Y Z


o
(i)
nieznane parametry i-tego rwnania (czyli m
i
nieznanych elementw i-tej
kolumny B oraz k
i
nieznanych elementw i-tej kolumny I [ze zmienionym
znakiem])
Z
i
macierz wartoci zmiennych objaniajcych i-tego rwnania postaci
strukturalnej

W przykadzie: o
(2)
= [|
2
|
3
|
1
|
0
]' oraz typowy wiersz Z
2
to [y
t1
y
t3
x
t2

1],

Wektora o
(i)
nie moemy szacowa zwyk MNK jako | |
) ( 1 ) (
' '

i i
y Z Z Z

= o ,
poniewa biece skadniki losowe i-tego rwnania c
ti
s skorelowane z niektrymi
biecymi zmiennymi objaniajcymi tego samego rwnania, a dokadniej z
elementami t-tego wiersza Y
i
. W tej estymator MNK jest NIEZGODNY.
Powtrzmy, e problem mog powodowa tu zmienne cznie wspzalene (y)
wystpujce po prawej stronie [jako (losowe) zmienne objaniajce].
Dla estymacji o
(i)
mona wic rozway podejcie tzw. zmiennych
instrumentalnych (instrumental variables, IV). Nie bdziemy szczegowo i
formalnie opisywa tego podejcia; w przyblieniu idea jest nastpujca: jeeli
zmienne objaniajce s silnie skorelowane ze skadnikami i psuj zgodno
estymatora, sprbujmy znale inne, zastpcze zmienne, ktre s silnie skorelowane
z oryginalnymi zmiennymi ale sabo skorelowane z biecymi skadnikami
losowymi. W naszym problemie musimy znale instrumenty (zastpcze
zmienne) dla Z
i
. Pamitajmy, e kopot jest tylko z Y
i
, biece X
i
s nieskorelowane
z biecymi skadnikami losowymi.
Podwjna MNK (2MNK) sprowadza si do przyjcia w miejsce Y
i
wartoci
teoretycznych uzyskanych z estymacji postaci zredukowanej bez restrykcji (URF).
W postaci zredukowanej objaniajce s tylko zmienne z gry ustalone (X),
moemy j wic szacowa zwyk MNK estymator zwykej MNK jest tu zgodny
(przy braku restrykcji jest take asymptotycznie efektywny, ale o tym innym
razem).
Rozwaamy wic posta zredukowan bez restrykcji (URF):
V X Y + H =

macierz H szacujemy zwyk MNK:
| | Y X X X ' '

1
= H

i ostatecznie uzyskujemy:
| | Y X X X X X Y ' '

1
= H =
Elementy Y

wykorzystujemy jako instrumenty w miejsce Y:

W 2MNK wykorzystujemy takie przeksztacenie macierzy Z
i
: odpowiednie kolumny
Y
i
zastpujemy ich odpowiednikami z Y

, X
i
pozostawiamy bez zmian. Jeli nie
chcemy budowa tej macierzy na piechot, zauwamy e: ( )
i i
Z X X X X Z ' '

1
=
(struktura tego wzoru jest taka sama jak | | Y X X X X X Y ' '

1
= H = ). Wyliczamy
wartoci teoretyczne kolumn Z
i
z modelu liniowego wykorzystujcego wszystkie X
jako zmienne objaniajce. Kolumny X
i
ktre s w Z
i
s idealnie przewidywane
same przez siebie wic X
i
teoretyczne to dalej X
i
, za odpowiednie kolumny Y
i
s
zastpowane wartociami teoretycznymi wynikajcymi z regresji wzgldem
wszystkich X jest to dokadnie to samo co
i
Y

z postaci zredukowanej bez restrykcji

oszacowanej MNK.

W naszym przykadzie typowy wiersz
2

Z to | | 1
2 3 1 t t t
x y y .

2MNK pozwala nam prowadzi zgodn estymacj parametrw postaci strukturalnej
liniowego modelu wielorwnaniowego o rwnaniach wspzalenych.

Ostatecznie estymator dwustopniowej MNK (2MNK) parametrw i-tego rwnania
postaci strukturalnej jest dany wzorem:
( ) ( )
| |
) (
1
1
) (
2
'

'

i
i i i
ki mi
i
MNK
y Z Z Z

+
= o
gdzie
( ) ( )
( )
( )
( )
( )

+
1
*
1
*
1
) (
2

ki
i
mi
i
ki mi
i
MNK

|
o
Zgodny estymator asymptotycznej macierzy kowariancji
) (
2

i
MNK
o uzyskujemy jako:
( ) | |
1
2 ) (
2

'


=
i i i
i
MNK as
Z Z s V o
gdzie
( ) ( ) ( ) ( )

=
+ ki T
i
mi T
i
ki mi T
i
X Y Z

( )
( ) ( ) i i
i i
i
k m T
s c c

1 '
2
+
=
oraz
( ) ( ) ( ) ( )
( )
( ) ) (
2 * *

i
MNK i
i i
i
i
i
i i
Z y Y X y o | c = + =
(reszty 2MNK)

Tutaj notacja jest NIEMAL jak u Profesora na wykadzie. Profesor nie
rozrnia macierzy Z
i
z daszkiem oraz bez to co powyej jest z daszkiem, na
wykadzie jest bez daszka. Na zajciach ja nie wydzielaem X
i
oraz Y
i
oraz nie
rozbijaem
) (i
o na
( ) i
*
| oraz
( ) i
*
ale to jest WYCZNIE kolejno kolumn
w Z
i
i przez to te kolejno ocen parametrw w wektorze
) (
2

i
MNK
o oraz
macierzy ( )
) (
2

i
MNK as
V o . W praktyce mog Pastwo wzi kolejno jakkolwiek,
byle si jej trzyma i zdawa sobie spraw z jej konsekwencji.