Heij - 3 2 4 ; 3 2 5

Prévia do material em texto

Heij - CAP 3.2 – Adicionando ou Deletando Variáveis
3.2.4 – Consequências de Variáveis Redundantes:
· Variáveis Redundantes Levam à Ineficiência: uma variável é dita redundante se ela não desempenha nenhum papel no modelo “verdadeiro”. Suponha que
satisfaça as premissas de 1 a 6 com . Na prática, não sabemos que é zero. Suponha que a variável é incluída como um regressor adicional, levando a
Apesar de o modelo estimado negligenciar o fato de , não está errado, uma vez que satisfaz as premissas de 1 a 6. O resultado
mostra que e que , nesse caso. Por isso é um estimador não viesado. Contudo, esse estimador é ineficiente uma vez que é positiva semidefinida. Ou seja, se o modelo contêm variáveis redundante, então os parâmetros são estimados com menos precisão (maiores desvios padrão) quando comparados com o modelo que exclui as variáveis redundantes. Para provar isso, escrevemos com . Então, o resultado
segue do fato de . Devido ao fato de ser positiva definida, temos que é positivo semidefinido. Então as variâncias dos elementos de são maiores do que os elementos de , ao não ser que as linhas correspondentes de sejam zero. Ou seja, se , então ganhamos eficiência deletando a variável irrelevante do modelo. Isso mostra a importância de impormos restrições aos modelos. 
· PROVA de que : Primeiro expressamos e em termos de . Como , temos 
Para expressar em termos de , primeiro provamos, como resultado auxiliar, que a matriz é invertível. Como , é suficiente para a prova que a matriz , , tem posto . Uma vez que e que , temos
A última matriz é invertível e a premissa 1 nos dá que a matriz , , tem posto . Então, também tem posto , ou seja, todas as colunas são linearmente independentes. Isso também significa que todas as colunas da matriz são linearmente independentes, então essa matriz tem posto . Isso prova que é invertível. 
O resultado nos dá que . Se pré-multiplicarmos isso por , temos , uma vez que . Como é invertível, temos que 
Agora substituímos o modelo real em . Como , temos 
A partir de e , que expressa e em termos de , temos que (umas vez que )
RESUMO: se incluirmos variáveis redundantes () no modelo, então temos uma perda de eficiência dos estimadores dos parâmetros () de variáveis relevantes. Assim, excluindo variáveis irrelevantes ganhamos eficiência. Contudo, se excluirmos variáveis relevantes (), isso causa um viés no estimador. Então, a escolhe entre um modelo restrito e um modelo não restrito está no trade-off entre viés e eficiência dos estimadores. 
	
	DATA GENERATING PROCESS
	Modelo Estimado
	
	
	
	 viesado, mas com menos variância que 
	 melhor linear não viesado
	
	 não viesado, mas com maior variância que 
	 não viesado, mas não eficiente
3.2.5 – Regressão Parcial
· Regressão Múltipla e Regressão Parcial: Consideramos o modelo onde a matriz das variáveis explicativas é separado em duas partes , onde é uma matriz e é uma matriz . A regressão de e e nos dá
Um dos jeitos de se estimar o efeito de no modelo é seguindo o método da regressão parcial.
· Regressão Parcial: 
1. Remova os efeitos de : aqui removemos os efeitos que são causados por . Ou seja, fazemos a regressão de em com resíduos , onde . Também regredimos cada coluna de em com os resíduos . Aqui, e podem ser interpretados como variáveis puras obtidas depois d e removermos os efeitos de . Note que, como consequência do fato de os resíduos serem ortogonais às variáveis explicativas, as variáveis puras e não são correlacionadas com .
2. Estime o efeito da “limpeza” de em : agora estimamos o efeito da “limpeza” de em regredindo em . Isso nos retorna 
onde e são os resíduos correspondentes.
· O Resultado de Frisch-Waugh: o resultado de Frisch-Waugh nos dá que
Ou seja, incluindo no modelo de regressão, o efeito estimado de em é automaticamente limpo pelos efeitos causados por .
PROVA: para esta prova, escrevemos a equação normal em termos da matriz particionada .
De temos que , e, substituindo e rearranjando os termos, temos
onde . Sabemos (de 3.2.4) que é invertível e, por argumento similar, que também é. Isso mostra que . E, além disso, de e dos fatos e que
Como , temos que .