Inferencia estatistica

Prévia do material em texto

Probabilidade e Estatística
Felipe Guimarães Pacheco
Inferência estátística é o processo pelo qual podemos tirar conclusões a parir de uma
população usando uma amostra, isto é, informações de um conjunto menor. População é
todos os casos os quais o pesquisador quer fazer inferências. Amostra é um subconjunto
da população usado para se obter informação acerca do todo.
O conjunto Θ aonde θ assume valores denominado espaço paramétrico. Podemos esti-
mar o parâmetro θ usando a informação de nossa amostra. Este número é chamado de
estimador.
1 Estimadores de Máxima Verossimilhança
O princípio de máxima versossimilhança é um dos procedimentos usados para se obter
estimadores. Consideremos uma população e uma variável aleatória X,relacionada a essa
população, com função de probabilidade (se X é uma variável aleatória discreta) ou fun-
ção densidade de probabilidade (se X é uma variável aleatória contínua) f(x, θ), sendo θ
o parâmetro desconhecido. Retiremos uma amostra aleatória simples de X, de tamanho
n, X1, . . . , Xn, e sejam x1, . . . , xn os valores efetivamente observados.
A função de verossimilhança L é definida por
L(θ;x1, . . . , xn) = f(x1; θ)× . . .× f(xn; θ) =
n∏
i=1
f(xi; θ). (1)
Se X é uma variável aleatória discreta com função de distribuição p(x, θ), a função de
verossimilhança é dada por
L(θ;x1, . . . , xn) = p(x1; θ)× . . .× p(xn; θ) =
n∏
i=1
p(xi; θ) (2)
que deve ser interpretada como uma função de θ. O estimador de máxima verossimilhança
de θ é o valor que maximiza L(θ;x1, . . . , x− n).
Em muitos casos, o estimador de máxima verossimilhança pode ser encontrado se-
guindo os passos abaixo:
1. Encontrar a função de verossimilhança;
2. Aplicar a função ln;
3. Derivar em relação ao parâmetro θ ;
1
4. Igualar o resultado a zero.
5. Verificar que este estimador é ponto de máximo.
2 Distribuição de Bernoulli
Seja X uma variável aleatória com distribuição Bernoulli(p). Tomemos uma amostra
aleatória X1, . . . , Xn de X.
Como X ∼ Bernoulli(p), a função de probabilidade de X é:
fp(x) = p
x(1− p)1−x (3)
Desta forma, a função de verossimilhança é dada por
L(p;x1, ..., xn) =
n∏
i=1
pxi(1− p)1−xi = p
∑n
i=1 xi(1− p)
∑n
i=1 xi
(4)
Aplicando a função logaritmo natural (ln) na função de verossimilhança L(p;x1, . . . , xn),
temos que:
lnL(p;x1, ..., xn) =
n∑
i=1
xiln(p) +
n∑
i=1
(1− p)ln(1− p) (5)
Derivando em relação a p, segue que:
dlnL(p;x1, ..., xn)
dp
=
(1− p)
n∑
i=1
xi − p
n∑
i=1
(1− xi)
p(1− p) (6)
Igualando o resultado a zero, obtemos que:
(1− pˆ)
n∑
i=1
xi − pˆ
n∑
i=1
(1− xi)
p(1− pˆ) = 0 (7)
pˆ =
1
n
n∑
i=1
xi = X¯ (8)
2
3 Distribuição de Poisson
Seja X uma variável aleatória com distribuição de Poisson e parâmetro λ. Tomemos uma
amostra aleatória X1, . . . , Xn independente e igualmente distribuída de X.
Como X ∼ Poisson(λ), a função de probabilidade de X é:
fλ(x) =
λxe−λ
x!
, k ∈ N (9)
Desta forma, a função de verossimilhança é dada por:
L(p;x1, ..., xn) =
n∏
i=1
λxie−λ
xi!
(10)
Ou seja:
L(p;x1, ..., xn) =
1
n∏
i=1
x1!
λ
n∑
i=1
xi
e−nλ
(11)
Aplicamos a função logaritmo natural (ln) na função de verossimilhança L(λ;x1, . . . , xn).
Desta forma, temos que:
lnL(p;x1, ..., xn) = ln
(
1∏n
i=1 x1!
)
+
∑
i=1
nxilnλ− nλ (12)
e, derivando em relação a λ, segue que:
dlnL(p;x1, ..., xn)
dλ
=
1
λ
∑
i=1
nxi − n (13)
Igualando o resultado a zero, segue que:
1
λˆ
n∑
i=1
xi − n = 0 (14)
λˆ =
∑
i=1 xi
n
= X¯ (15)
Portanto, concluímos que λˆ = X é um estimador de máxima verossimilhança para o
parâmetro λ.
3
4 Distribuição Normal
Seja X uma variável aleatória com distribuição Normal com média µ e variância σ2. To-
memos uma amostra aleatória independente e igualmente distribuída X1, . . . , Xn de X.
Qual o estimador de máxima verossimilhança para θ = (µ, σ2)?
Como X ∼ N(µ, σ2), a função densidade de X é:
fµ,σ2(x) =
1√
2piσ2
exp
[
−1
2
(
x− µ
σ
)2]
,−∞ < x <∞
(16)
Assim, a função de verossimilhança é dada por:
L(µ;σ2, x1..., xn) =
n∏
i=1
1√
2piσ2
exp
[
−1
2
(
xi − µ
σ
)2]
(17)
Ou seja,
L(µ;σ2, x1..., xn) = (2pi)
−n
2
(
σ2)
−n
2 exp
[
−1
2
n∑
i=1
(
xi − µ
σ
2
)]
(18)
Para encontrar o estimador de máxima verossimilhança para θ = (µ, σ2) devemos en-
contrar os valores de µ e σ2 para os quais a função de verossimilhança, L(µ, σ2;x1, . . . , xn),
é máxima.
Para isso primeiramente aplicaremos a função ln:
lnL(µ;σ2, x1..., xn) = −n
2
ln (2pi) − n
2
ln
(
σ2) − 1
2
n∑
i=1
(xi − µ)2
σ2
(19)
Agora vamos derivar em relação a µ:
∂lnL(µ;σ2, x1..., xn)
∂µ
= − 2
2σ2
n∑
i=1
(xi − µ)(−1) (20)
∂lnL(µ;σ2, x1..., xn)
∂µ
=
n∑
i=1
(
xi − µ
σ2
)
(21)
Igualando o resultado a zero obtemos:
n∑
i=1
(
xi − µ
σ2
)
= 0⇔ 1
σ2
n∑
i=1
(xi − µˆ) = 0⇔
n∑
i=1
(xi − µˆ) = 0⇔ nµˆ =
n∑
x=1
xi ⇔ µˆ = x¯(22)
4
E então, o possível estimador de máxima verossimilhança da média populacional µ é
X. Basta avaliar agora se realmente x é ponto de máximo. Para isto,
∂2L(µ;σ2, x1..., xn)
∂µ2
=
∂2
∂µ2
[
1
σ2
n∑
i=1
(xi − µ)
]
= − n
σ2
< 0 (23)
Assim, concluimos que x é realmente um ponto de máximo e, portanto, o estimador de
máxima verossimilhança para µ é µˆ = X. Vamos agora encontrar o estimador de máxima
verossimilhança para a variância σ2. Para isso, derivamos a função em relação a σ2:
∂lnL(µ;σ2, x1..., xn)
∂µ2
= − n
2σ2
+
1
2
n∑
i=1
(
xi − µ
σ2
)
(24)
Igualando a zero, temos que:
− n
2σ2
+
1
2
n∑
i=1
(
xi − µ
σ2
)
= 0⇔ −n+
n∑
i=1
(xi − µ)2
σ2
= 0⇔ σ¯2 = (n− 1)
n
s2 (25)
Como,
∂2L(µ;σ2, x1..., xn)
∂(σ2)2
=
1
(σ2)2
(
n
2
− (n− 1)s
2
σ2
)
(26)
que avaliado em σˆ2 =
(n− 1)s2
n
é tal que:
∂2L(µ;σ2, x1..., xn)
∂(σ2)2
=
n
2
1
σˆ
2 < 0 (27)
Portanto, o estimador de máxima verossimilhança para σ2 é σˆ2 =
(n− 1)
n
s2, onde
s2 =
∑n
i=1(xi − µ)2
n− 1 .
5 Distribuição Exponencial
Seja X uma variável aleatória com distribuição exponencial e parâmetro λ. Tomemos
uma amostra aleatória X1, . . . , Xn independente e igualmente distribuída de X.
Como X ∼ Bernoulli(p), a função densidade de X é:
fX(x) = λe
−λx
(28)
Assim, a função de verossimilhança é dada por:
5
L(x1..., xn|λ) =
n∏
i=1
λe−λxi (29)
Ou seja,
L(x1..., xn|λ) = λne
−λ
n∑
n=1
xi

(30)
Para encontrar o estimador de máxima verossimilhança para θ = (µ, σ2) devemos en-
contrar os valores de µ e σ2 para os quais a função de verossimilhança, L(µ, σ2;x1, . . . , xn),
é máxima.
Para isso primeiramente aplicaremos a função ln:
lnL(x1..., xn|λ) = nlnλ− λ
n∑
i=1
xi (31)
Agora vamos derivar em relação a λ:
∂lnL(x1..., xn|λ)
∂λ
=
n
λ
−
n∑
i=1
xi (32)
Igualando o resultado a zero obtemos:
n
λˆ
−
n∑
i=1
xi = 0 (33)
λˆ =
n
n∑
i=1
xi
=
1
X¯
(34)
6 Referências
ACTION, Portal. Estimadores de Máxima Verossimilhança. Disponível em:< http://www.portalaction.com.br/533-
2-estimadores-de-m
EHLERS, Ricardo. Interferência Estatística. Departamento de Estatística, Universidade
Federal do Paraná, s/p, ano 2003-2006.
MSPC: Informações Técnicas. Probabilidades e estatística III-35: Estimador pontual -
Método da máxima verossimilhança. Disponível em:< http://www.mspc.eng.br/matm/probest335.shtml >
Acessoem : 19deJAN2015.
6