Apendice Wooldridge Resumo de Álgebra Linear

Prévia do material em texto

Este apêndice resume os conceitos de álgebra matricial, inclusive da álgebra de probabilidade,necessária para o estudo de modelos de regressão linear múltipla usando matrizes, do Apêndice E.Nada deste material é usado no texto principal.
D.1 DEFINIÇÕES BÁSICAS
DEFINIÇÃO D.1 (MATRIZ)
Uma matriz é um arranjo retangular de números. Mais precisamente, uma matriz m � n tem m linhas e n
colunas. O inteiro positivo m é denominado dimensão da linha, e n é denominado dimensão da coluna.
Usamos letras maiúsculas em negrito para representar as matrizes. Podemos escrever, de forma
geral, uma matriz de ordem m � n como
A � [aij] � ,
onde aij representa o elemento na i
-ésima linha e na j-ésima coluna. Por exemplo, a25 corresponde ao
número na segunda linha e na quinta coluna de A. Um exemplo específico de uma matriz 2 � 3 é
A � , (D.1)
onde a13 � 7. A forma abreviada A � [aij] é freqüentemente usada para definir operações de matrizes.
DEFINIÇÃO D.2 (MATRIZ QUADRADA)
Uma matriz quadrada tem o mesmo número de linhas e colunas. A dimensão de uma matriz quadrada
é dada por seus números de linhas e colunas.
DEFINIÇÃO D.3 (VETORES)
(i) Uma matriz 1 � m é chamada vetor linha (de dimensão m) e pode ser escrita como x � (x1, x2, ..., xm).(ii) Uma matriz n � 1 é chamada vetor coluna e pode ser escrita como
� 2�4 �1 5 70�
�
a11
a21
�
a
m1
a12
a22
a
m2
a13
a23
a
m3
…
…
…
a1n
a2n
a
mn
�
D
97
Resumo de Álgebra Matricial
y � .
DEFINIÇÃO D.4 (MATRIZ DIAGONAL)
Uma matriz quadrada A é uma matriz diagonal quando todos os seus elementos fora da diagonal
forem zeros, isto é, aij � 0 para todos i � j. Podemos sempre escrever uma matriz diagonal como
A � .
DEFINIÇÃO D.5 (MATRIZES IDENTIDADE E NULA)
(i) A matriz identidade n � n, chamada de I, ou algumas vezes I
n
para enfatizar sua dimensão, é a
matriz diagonal com a unidade (um) em cada posição diagonal, e zero nas outras posições:
I � In � .
(ii) A matriz nula m � n, chamada de 0, é a matriz m � n com zero em todas as entradas. Ela
não precisa ser um matriz quadrada.
D.2 OPERAÇÕES COM MATRIZES
Adição de Matrizes
Duas matrizes A e B, cada uma de dimensão m � n, podem ser somadas elemento a elemento: A � B
� [aij � bij]. Mais precisamente,
A � B � .
Por exemplo,
� � .
Matrizes de ordens diferentes não podem ser somadas.
�30 �1 7 33��14 02 �4 3�� 2�4 �1 5 70�
�
a11 � b11
a21 � b21
�
a
m1 � bm1
a12 � b12
a22 � b22
a
m 2 � bm 2
…
…
…
a1n � b1n
a2n � b2n
a
mn
 � b
mn
�
�
1
0
�
0
0
1
0
0
0
0
…
…
…
0
0
1
�
�
a11
0
�
0
0
a22
0
0
0
0
…
…
…
0
0
a
nn
�
�
y1
y2
�
y
n
�
98 Introdução à Econometria — Editora Thomson
Multiplicação Escalar
Dado qualquer número real � (freqüentemente chamado de escalar), uma multiplicação escalar é defi-
nida como �A � [�aij], ou
�A = .
Por exemplo, se � = 2, A é a matriz na equação (D.1), então,
.
Multiplicação de Matrizes
Para multiplicar a matriz A pela matriz B de maneira a formar o produto AB, a dimensão das colunas
de A deve ser igual à dimensão das linhas de B. Portanto, seja A uma matriz m � n e seja B uma matriz
n � p. Então, a multiplicação de matrizes será definida como
AB = .
Em outras palavras, o (i,j)-ésimo elemento da nova matriz AB é obtido pela multiplicação de cada
elemento na i-ésima linha de A pelo elemento correspondente na j-ésima coluna de B e somando-se esses
n produtos. Um esquema pode ajudar a tornar esse processo mais transparente:
A B AB
i-ésima linha → � ,
�0
�
p
j-ésima coluna (i, j)-ésimo elemento
onde, pela definição do operador somatório no Apêndice A,
aikbkj � ai1b1j � ai2b2j � ... � ainbnj.
Por exemplo,
�
n
k�1
� �nk�1 ai k bkj �� 
b1j
b2j
b3j
�
b
nj
 ��ai1 ai2 ai3 … ain�
��n
k�1
 aikbkj�
�A � � 4�8 �2 10 14 0�
�
�a11
�a21
�
�a
m1
�a12
�a22
�a
m 2
…
…
…
�a1n
�a2n
�a
mn
�
Wooldridge Apêndice D Resumo de Álgebra Matricial 99
� .
Também podemos multiplicar uma matriz e um vetor. Se A for uma matriz n � m e y for um vetor
m � 1, Ay será um vetor de ordem n � 1. Se x for um vetor 1 � n, xA será um vetor 1 � m.
A adição de matrizes, a multiplicação escalar e a multiplicação de matrizes podem ser combina-
das de várias maneiras, e essas operações satisfazem várias regras das operações básicas com números
que nos são familiares. Na lista de propriedades seguinte, A, B e C são matrizes com dimensões apro-
priadas para aplicar cada operação, e � e � são números reais. A maioria dessas propriedades pode ser
ilustrada facilmente a partir das definições.
PROPRIEDADES DA MULTIPLICAÇÃO DE MATRIZES: (1) (� � �)A � �A � �A; (2) �(A � B)
� �A � �B; (3) (��)A � �(�A); (4) �(AB) � (�A)B; (5) A � B � B � A; (6) (A � B) � C � A
� (B � C); (7) (AB)C � A(BC); (8) A(B � C) � AB � AC; (9) (A � B)C � AC � BC; (10) IA
� AI � A; (11) A � 0 � 0 � A � A; (12) A – A � 0; (13) A0 � 0A � 0; e (14) AB � BA, mesmo
quando ambos os produtos forem definidos.
A última propriedade merece um comentário adicional. Se A for n � m e B for m � p, então, AB será
definida, mas BA somente será definida se n � p (a ordem de linha da A é igual a ordem de coluna da
B). Se A for m � n e B for n � m, então, AB e BA serão ambas definidas, mas normalmente não serão
a mesma matriz; de fato, elas possuem dimensões diferentes, a menos que A e B sejam ambas matri-
zes quadradas. Mesmo quando A e B são quadradas, AB � BA, exceto sob circunstâncias especiais.
Transposta
DEFINIÇÃO D6 (TRANSPOSTA)
Seja A � [aij] uma matriz m � n. A transposta de A, chamada de A� (A linha), é a matriz de ordem
n � m, obtida intercambiando as linhas e colunas de A. Podemos escrevê-la como A� � [aji].
Por exemplo,
A � , A� � .
PROPRIEDADES DA TRANSPOSTA: (1) (A�)� � A; (2) (�A)� = �A� para qualquer escalar �; (3) (A
� B)� � A� � B�; (4) (AB)� � B�A�, quando A for m � n e B for n � k; (5) x�x � x2i, onde x é um
vetor n � 1; e (6) se A for uma matriz n � k com linhas dadas pelos vetores 1 � k a1, a2, ..., an, de
forma que possamos escrever
A � ,
então, A� � (a�1 a�2 . . . a�n).
�
a1
a2
�
a
n
 �
�
n
i�1
� 2�17
�4
5
0�� 2�4 �15 70�
� 1�1 0�2 12�24 �11�� 0�1
 3
1
2
0
6
0
0
0
1
0�� 2�4 �1 1 00�
100 Introdução à Econometria — Editora Thomson
DEFINIÇÃO D.7 (MATRIZ SIMÉTRICA)
Uma matriz quadrada A é uma matriz simétrica se, e somente se, A� � A.
Se X for qualquer matriz n � k, X�X é sempre definida e é uma matriz simétrica, como poderá ser visto
pela aplicação das primeira e quarta propriedades da transposta (veja o Problema D.3).
Multiplicação de Matrizes Particionadas
Seja A uma matriz n � k com linhas dadas pelos vetores 1 � k a1, a2, ..., an, e seja B uma matriz n � m
com linhas dadas pelos vetores 1 � m b1, b2, ..., bn;
A � , B � .
Então,
A�B � a�i bi,
onde para cada i, a�i bi é uma matriz k � m. Portanto, A�B pode ser escrita como a soma de n matrizes,
cada uma delas sendo k � m. Como um caso especial, temos
A�A � a�i ai
onde ai� ai é uma matriz k � k de todos os i.
Traço
O traço de uma matriz é uma operação bastante simples definida somente para matrizes quadradas.
DEFINIÇÃO D.8 (TRAÇO)
Para qualquer matriz A n � n, o traço de uma matriz A, representado por tr(A), será a soma dos ele-
mentos de sua diagonal. Matematicamente,
tr(A) � aii.
PROPRIEDADES DO TRAÇO: (1) tr(In) � n; (2) tr(A�) � tr(A); (3) tr(A � B) � tr(A) � tr(B); (4)
tr(�A) � �tr(A), para qualquer escalar �; e (5) tr(AB) � tr(BA), onde A é m � n e B é n � m.
Inversa
A noção da inversa de uma matriz é muito importante para matrizes quadradas.
�
n
i�1
�
n
i�1
�
n
i�1
�
b1
b2
�
b
n
 ��
a1
a2�
a
n
 �
Wooldridge Apêndice D Resumo de Álgebra Matricial 101
DEFINIÇÃO D.9 (INVERSA)
Uma matriz A n � n tem uma inversa, representada por A�1, desde que A�1A � In e AA�1 � In.
Nesse caso, A é chamada de inversível ou não singular. Caso contrário, ela será chamada de não inver-
sível ou singular.
PROPRIEDADES DA INVERSA: (1) Se existir uma inversa, ela será única; (2) (�A)�1 � (1/�)A�1,
se � � 0 e A for inversível; (3) (AB)�1 � B�1A�1, se A e B forem ambas n � n e inversíveis; e (4)
(A�)�1 � (A�1)�.
Não nos preocuparemos com a mecânica de cálculo da inversa de uma matriz. Qualquer texto de álge-
bra matricial contém exemplos detalhados de tais cálculos.
D.3 INDEPENDÊNCIA LINEAR. POSTO DE UMA MATRIZ
Para um conjunto de vetores tendo a mesma dimensão, é importante saber se um vetor pode ser expresso
como uma combinação linear dos demais vetores.
DEFINIÇÃO D.10 (INDEPENDÊNCIA LINEAR)
Seja {x1, x2, ..., xr} um conjunto de vetores n � 1. Eles serão vetores linearmente independentes se,
e somente se,
�1x1 � �2x2 � ... � �r xr � 0 (D.2)
implicar que �1 � �2 � ... � �r � 0. Se (D.2) se sustentar para um conjunto de escalares que não
sejam todos zeros, então, {x1, x2, ..., xr} será linearmente dependente.
A afirmação de que {x1, x2, ..., xr} será linearmente dependente é equivalente a dizer que pelo menos
um vetor no conjunto pode ser escrito como uma combinação linear dos demais.
DEFINIÇÃO D.11 (POSTO)
(i) Seja A uma matriz n � m. O posto de uma matriz A, denotada posto(A), é o número máximo de
colunas linearmente independentes de A.
(ii) Se A for n � m e posto(A) � m, então, A terá posto de colunas completas.
Se A for n � m, seu posto será no máximo m. Uma matriz terá posto de colunas completas se suas
colunas formarem um conjunto linearmente independente. Por exemplo, a matriz 3 � 2
poderá ter no máximo posto 2. De fato, seu posto será apenas um porquê a segunda coluna é três vezes
a primeira coluna.
�120
3
6
0
 �
102 Introdução à Econometria — Editora Thomson
PROPRIEDADES DO POSTO: (1) posto(A�) = posto(A); (2) Se A for n � k, então, posto(A) �
min(n,k); e (3) Se A for k � k e posto(A) � k, então, A será não singular.
D.4 FORMAS QUADRÁTICAS E MATRIZES POSITIVAS DEFINIDAS
DEFINIÇÃO D.12 (FORMA QUADRÁTICA)
Seja A uma matriz simétrica n � n. A forma quadrática associada à matriz A será a função de valor
real definida para todos os vetores x n � 1:
f(x) � x�Ax � aii x2i � 2 aijxixj.
DEFINIÇÃO D.13 (POSITIVA DEFINIDA E POSITIVA SEMIDEFINIDA)
(i) Uma matriz simétrica A é positiva definida (p.d.) se
x�Ax � 0 para todos os vetores x n � 1, exceto x � 0.
(ii) Uma matriz simétrica A é positiva semidefinida (p.s.d.) se
x�Ax 	 0 para todos os vetores n � 1.
Se uma matriz for positiva definida ou positiva semidefinida, ela será automaticamente assumida como
sendo simétrica.
PROPRIEDADES DAS MATRIZES POSITIVAS DEFINIDAS E POSITIVAS SEMIDEFINIDAS:
(1) Uma matriz positiva definida tem elementos diagonais que são estritamente positivos, enquanto
uma matriz p.s.d. tem elementos diagonais não negativos; (2) Se A for uma p.d., então, A�1 existe e
será p.d.; (3) Se X for n � k, então, X�X e XX� serão p.s.d.; e (4) Se X for n � k e posto(X) � k, então,
X�X será p.d. (e, portanto, não singular).
D.5 MATRIZES IDEMPOTENTES
DEFINIÇÃO D.14 (MATRIZ IDEMPOTENTE)
Seja A uma matriz simétrica n � n. Então, A é uma matriz idempotente se, e somente se, AA � A.
Por exemplo,
é uma matriz idempotente, como é possível verificar pela multiplicação direta.
�100
0
0
0
0
0
1�
� 
n
i�1
 �
j � i
�
n
i�1
Wooldridge Apêndice D Resumo de Álgebra Matricial 103
PROPRIEDADES DAS MATRIZES IDEMPOTENTES: Seja A uma matriz idempotente n � n. (1) posto(A)
� tr(A), e (2) A é positiva semidefinida.
Podemos construir matrizes idempotentes de forma bem generalizada. Seja X uma matriz n � k
com posto(X) � k. Defina
P � X(X�X)�1X�
M � In � X(X�X)�1X� � In � P.
Então, P e M serão matrizes simétricas idempotentes, com posto(P) � k e posto(M) � n � k. Os postos
são obtidos com mais facilidade usando a Propriedade 1: tr(P) � tr[(X�X)�1X�X] (da Propriedade 5 do
traço) � tr(Ik) � k (pela Propriedade 1 do traço). Facilmente segue que tr(M) � tr(In) � tr(P) � n � k.
D.6 DIFERENCIAÇÃO DE FORMAS LINEARES E QUADRÁTICAS
Para um dado vetor a n � 1, considere a função linear definida por
f(x) � a�x,
para todos os vetores x n � 1. A derivada de f em relação a x será o vetor 1 � n das derivadas parciais,
que é simplesmente
f(x)/
x � a�.
Para uma matriz simétrica n � n A, defina a forma quadrática
g(x) � x�Ax.
Então,
g(x)/
x � 2x�A,
que é um vetor 1 � n.
D.7 MOMENTOS E DISTRIBUIÇÕES DE VETORES ALEATÓRIOS
Para derivar o valor esperado e a variância dos estimadores MQO usando matrizes, precisamos definir
o valor esperado e a variância de um vetor aleatório. Como seu nome sugere, um vetor aleatório é sim-
plesmente um vetor de variáveis aleatórias. Também precisamos definir a distribuição normal multiva-
riada. Esses conceitos são simples extensões daqueles tratados no Apêndice B.
104 Introdução à Econometria — Editora Thomson
Valor Esperado
DEFINIÇÃO D.15 (VALOR ESPERADO)
(i) Se y for um vetor aleatório n � 1, o valor esperado de y, representado por E(y), é o vetor dos valo-
res esperados: E(y) � [E(y1), E(y2),..., E(yn)]�.
(ii) Se Z for uma matriz aleatória n � m, E(Z) é a matriz n � m dos valores esperados: E(Z)
�[E(zij)].
PROPRIEDADES DO VALOR ESPERADO: (1) Se A for uma matriz m � n e b for um vetor n � 1,
onde ambos são não-aleatórios, E(Ay � b) � AE(y) � b e (2) Se A for p � n e B for m � k, onde
ambas são não-aleatórios, E(AZB) � AE(Z)B.
Matriz de Variância-Covariância
DEFINIÇÃO D.16 (MATRIZ DE VARIÂNCIA-COVARIÂNCIA)
Se y for um vetor aleatório n � 1, sua matriz de variância-covariância, representada por Var(y) é
definida como
Var(y) � ,
onde �2j � Var(yj) e �ij � Cov(yi,yj). Em outras palavras, a matriz de variância-covariância tem as
variâncias de cada elemento de y em sua diagonal, com os termos de covariância fora dela. Como
Cov(yi,yj) � Cov(yj,yi), segue imediatamente que uma matriz de variância-covariância é simétrica.
PROPRIEDADES DA VARIÂNCIA: (1) Se a for um vetor não-aleatório n � 1, então, Var(a�y) �
a�[Var(y)]a 	 0; (2) Se Var(a�y) � 0 para todo a � 0, Var(y) é positiva definida; (3) Var(y) � E[(y �
�)(y � �)�], onde � � E(y); (4) Se os elementos de y forem não-correlacionados, Var(y) é uma matriz
diagonal. Se, além disso, Var(yj) � �2 para j � 1, 2, ..., n, então Var(y) � �2 In e (5) Se A for uma
matriz não-aleatória m � n e b for um vetor não-aleatório n � 1, então, Var(Ay � b) � A[Var(y)]A�.
Distribuição Normal Multivariada
A distribuição normal de uma variável aleatória foi discutida em alguma medida no Apêndice B.
Precisamos estender a distribuição normal aos vetores aleatórios. Não forneceremos uma expressão da
função de distribuição de probabilidade, já que não precisaremos dela. É importante saber que um vetor
aleatório normal multivariado é totalmente caracterizado por sua média e pela matriz de variância-
covariância. Portanto, se y for um vetor aleatório normal multivariado n � 1, com média � e matriz de
variância-covariância �, escrevemos y � Normal(�,�). Agora, apresentamos várias propriedades úteis
da distribuição normal multivariada.
PROPRIEDADES DA DISTRIBUIÇÃO NORMAL MULTIVARIADA: (1) Se y � Normal(�,�), então,
cada elemento de y é normalmente distribuído; (2) Se y ~ Normal(�,�), então, yi e yj, quaisquer dois
elementos de y, serão independentes se, e somente se, eles forem não-correlacionados, isto é, �ij � 0;
(3) Se y � Normal(�,�), então, Ay � b � Normal(A� � b,A�A�), onde A e b são não-aleatórios;
(4) Se y � Normal(0,�), então, para matrizes A e B não-aleatórias, Ay e By serão independentes se, e
somente se, A�B� � 0. Particularmente,se � � �2In, então, AB� � 0 será necessária e suficiente para
�
�1
2
�21
�
�
n1
�12
�2
2
�
n2
…
…
…
�1n
�2n
�
n
2
 �
Wooldridge Apêndice D Resumo de Álgebra Matricial 105
106 Introdução à Econometria — Editora Thomson
a independência de Ay e By; (5) Se y � Normal(0,�2In), A é uma matriz não-aleatória k � n, e B é
uma matriz simétrica idempotente n � n, então, Ay e y�By serão independentes se, e somente se, AB
� 0; e (6) Se y � Normal(0,�2In) e A e B forem matrizes simétricas idempotentes não-aleatórias,
então, y�Ay e y�By serão independentes se, e somente se, AB � 0.
DISTRIBUIÇÃO QUI-QUADRADO
No Apêndice B, definimos uma variável aleatória qui-quadrada como a soma dos quadrados das
variáveis aleatórias normais padrão independentes. Em notação vetorial, se u � Normal(0,In), então,
u�u ~ �2n 
PROPRIEDADES DA DISTRIBUIÇÃO QUI-QUADRADO: (1) Se u � Normal(0,In) e A for uma
matriz simétrica idempotente n � n com posto(A) � q, então, u�Au � �2q ; (2) Se u � Normal(0,In) e
A e B forem matrizes simétricas idempotentes n � n de tal forma que AB � 0, então, u�Au e u�Bu
serão variáveis aleatórias qui-quadradas independentes; e (3) Se z � Normal(0,C) onde C é uma matriz
não singular m � m, então, z�C�1z � �2m .
DISTRIBUIÇÃO t
Também já definimos a distribuição t no Apêndice B. Agora adicionamos uma propriedade importante.
PROPRIEDADE DA DISTRIBUIÇÃO t: Se u � Normal(0,In), c é um vetor não-aleatório n � 1, A é
uma matriz não-aleatória simétrica idempotente n � n com posto q, e Ac � 0,
então,{c�u/(c�c)1/2}/(u�Au)1/2 � tq.
DISTRIBUIÇÃO f
Recorde-se de que uma variável aleatória F é obtida tomando-se duas variáveis aleatórias qui-qua-
dradas independentes e encontrando-se a razão entre elas, padronizadas pelos graus de liberdade.
PROPRIEDADE DA DISTRIBUIÇÃO f: Se u � Normal(0,In) e A e B forem matrizes simétricas
idempotentes não-aleatórias n � n com posto(A) � k1, posto(B) � k2 e AB � 0, então,
(u�Au/k1)/(u�Bu/k2) � Fk1,k2.
RESUMO
Este apêndice contém uma forma condensada das informações básicas necessárias ao estudo do modelo
linear clássico usando matrizes. Embora o material aqui apresentado não dependa de outros, ele é
apresentado com a intenção de servir como uma revisão para os leitores familiarizados com álgebra
matricial e estatística multivariada, e será amplamente usado no Apêndice E.
PROBLEMAS
D.1 (i) Encontre o produto AB usando
A � , B � .
(ii) BA existe?
D.2 Se A e B forem matrizes diagonais n � n, demonstre que AB � BA.
D.3 Seja X qualquer matriz n � k. Mostre que X�X é uma matriz simétrica.
D.4 (i) Use as propriedades do traço para demonstrar que tr(A�A) � tr(AA�) para qualquer matriz
A n � m.
(ii) Para A = , verifique se tr(A�A) = tr(AA�).
D.5 (i) Use a definição da inversa para provar o seguinte: se A e B forem matrizes não singulares
n � n, então, (AB)�1 � B�1A�1.
(ii) Se A, B e C forem todas matrizes não singulares n � n, encontre (ABC)�1 em termos de
A�1, B�1 e C�1.
D.6 (i) Mostre que, se A for uma matriz positiva definida, simétrica n � n, então, A deve ter ele-
mentos diagonais estritamente positivos.
(ii) Escreva uma matriz simétrica 2 � 2 com elementos diagonais estritamente positivos que
não seja positiva definida.
D.7 Seja A uma matriz positiva definida, simétrica n � n. Mostre que, se P for qualquer matriz não
singular n � n, então, P�AP será positiva definida.
D.8 Prove a Propriedade 5 das variâncias dos vetores, usando a Propriedade 3.
�20 03 �10 �
�013
1
8
0
6
0
0
 �� 2�4 �15 70 �
Wooldridge Apêndice D Resumo de Álgebra Matricial 107