aula 19 PI-handout

Prévia do material em texto

Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Produto Interno
Motivação:
introduzir noção de comprimento;
introduzir noção de ângulo
(em particular, ortogonalidade);
complemento ortogonal;
projeções;
mínimos quadrados.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 1 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Norma em R2 ou R3
Norma (comprimento) de v = (x , y) ∈ R2:
‖v‖ =
√
x2 + y2.
Norma (comprimento) de v = (x , y , z) ∈ R3:
‖v‖ =
√
x2 + y2 + z2.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 2 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
(Cosseno de) Ângulo em R2 ou R3
Lei dos Cossenos:
‖u− v‖2 = ‖u‖2 − 2‖u‖‖v‖ cos θ + ‖v‖2.
‖u− v‖2 = ∑ni=1(ui − vi)2
=
∑n
i=1 u
2
i − 2
∑n
i=1 uivi +
∑n
i=1 v
2
i
= ‖u‖2 − 2∑ni=1 uivi + ‖v‖2
cos θ =
∑n
i=1 uivi
‖u‖‖v‖
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 3 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Produto Interno (Canônico) em R2 ou R3
Definição (produto interno em R2 ou R3)
Prod. interno (ou escalar) em R2 ou R3: 〈u,v〉 =
n∑
i=1
uivi .
〈u,v〉 = u · v = uTv
‖u‖ =√〈u,u〉
cos θ =
〈u,v〉
‖u‖‖v‖
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 4 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Propriedades do PI Canônico em R2 ou R3
simetria
〈u,v〉 = 〈v,u〉 ∀u,v ∈ R2 ou R3
bilinearidade
〈αu1 + u2,v〉 = α 〈u1,v〉+ 〈u2,v〉
∀α ∈ R, ∀u1,u2,v ∈ R2 ou R3
〈u, αv1 + v2〉 = α 〈u,v1〉+ 〈u,v2〉
∀α ∈ R, ∀u,v1,v2 ∈ R2 ou R3
positividade
〈u,u〉 > 0 ∀0 6= u ∈ R2 ou R3
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 5 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Definição de Produto Interno
Definição (produto interno)
Espaço com PI é um espaço vetorial V munido de uma
função 〈·, ·〉 : V × V → R que satisfaz às propriedades:
simetria
〈u,v〉 = 〈v,u〉
bilinearidade
〈αu1 + u2,v〉 = α 〈u1,v〉+ 〈u2,v〉
〈u, αv1 + v2〉 = α 〈u,v1〉+ 〈u,v2〉
positividade
〈u,u〉 > 0
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 6 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Exemplos
Produto interno canônico de Rn
〈u,v〉 =
n∑
i=1
uivi
Outro produto interno em R2
〈u,v〉 = uT
[
7 2
2 7
]
v
Bilinear, simétrico.
〈u,u〉 = 7u21 + 4u1u2 + 7u22
2ab ≥ −a2 − b2
}
⇒ 〈u,u〉 ≥ 5u21 + 5u22 > 0
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 7 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Mais Exemplos
Produto interno em um espaço de funções
〈u,v〉 =
∫ 1
−1
u(t)v(t)dt
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 8 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Norma de um Espaço com PI
Definição (norma)
Se (V , 〈·, ·〉) é espaço com produto interno, define-se, para
v ∈ V,
‖v‖ =
√
〈v,v〉.
Teorema (Desigualdade de Cauchy-Schwarz)
Se (V , 〈·, ·〉) é espaço com produto interno e ‖ · ‖ é definida
como acima, vale a desigualdade
〈u,v〉 ≤ ‖u‖‖v‖ ∀u,v ∈ V .
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 9 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Prova de Cauchy-Schwarz
0 ≤ ‖u+ tv‖2 = 〈u+ tv,u+ tv〉
= 〈u,u〉+ 2t 〈u,v〉+ t2 〈v,v〉
= ‖u‖2 + 2t 〈u,v〉+ t2‖v‖2 ∀t ∈ R.
Temos at2 + bt + c ≥ 0 ∀t . Minimizando, obtemos
−b
2 − 4ac
4a
≥ 0.
Como a > 0, temos b2 ≤ 4ac, i.e., (2 〈u,v〉)2 ≤ 4‖u‖2‖v‖2.
Portanto, 〈u,v〉 ≤ ‖u‖‖v‖.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 10 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Propriedades da Norma
Propriedades da norma:
‖0‖ = 0
‖v‖ > 0 ∀ 0 6= v ∈ V
‖αv‖ = |α|‖v‖ ∀ α ∈ R, ∀ v ∈ V
‖u+ v‖ ≤ ‖u‖+ ‖v‖ ∀ u,v ∈ V
(Desigualdade Triangular)
De fato,
‖u+ v‖2 = ‖u‖2 + 2 〈u,v〉+ ‖v‖2 ≤ ‖u‖2 + 2‖u‖‖v‖+ ‖v‖2.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 11 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Ortogonalidade
Cauchy-Schwarz ⇒
∣∣∣∣ 〈u,v〉‖u‖‖v‖
∣∣∣∣ ≤ 1
Definição (ângulo entre vetores)
cos θ =
〈u,v〉
‖u‖‖v‖
Definição (vetores ortogonais)
Diz-se que u e v são ortogonais se 〈u,v〉 = 0.
Observação
0 é ortogonal a qualquer vetor.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 12 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Conjunto Ortonormal
Definição (vetor unitário)
vˆ é dito unitário se ‖vˆ‖ = 1.
Observação (normalização)
Se v é não-nulo, vˆ = 1‖v‖v é unitário.
Definição (conjunto ortogonal)
{v1, . . . ,vp} é ortogonal se
〈
vi ,vj
〉
= 0 ∀i 6= j .
Definição (conjunto ortonormal)
Um conjunto ortonormal é um conjunto ortogonal de
vetores unitários.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 13 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Conjunto Ortonormal
Observação (conjunto ortonormal)
{v1, . . . ,vp} é ortonormal s.s.s.
〈
vi ,vj
〉
= δij ∀i , j .
Teorema
Um conjunto ortogonal de vetores não nulos é sempre LI.
Corolário
Um conjunto ortonormal é sempre LI.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 14 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Conjunto Ortonormal
Prova (do teorema)
{v1, . . . ,vp} ortogonal. Então
p∑
i=1
αivi = 0 ⇒
〈 p∑
i=1
αivi ,vj
〉
=
〈
0,vj
〉
⇒
p∑
i=1
αi
〈
vi ,vj
〉
= αj‖vj‖2 = 0 ∀j
⇒ αj = 0 ∀j (já que vj 6= 0.)
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 15 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Coordenadas em Base Ortogonal
β = {v1, . . . ,vn} base ortogonal, u qualquer.
u =
∑n
i=1 αivi .〈
u,vj
〉
=
〈∑n
i=1 αivi ,vj
〉
=
∑n
i=1 αi
〈
vi ,vj
〉
= αj‖vj‖2.
αj =
〈
u,vj
〉
‖vj‖2
∀j .
u =
∑n
i=1
〈u,vi〉
‖vi‖2
vi , [u]β =

〈u,v1〉
‖v1‖2
...
〈u,vn〉
‖vn‖2
 .
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 16 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Coordenadas em Base Ortonormal
β = {vˆ1, . . . , vˆn} base ortonormal, u qualquer.
Como ‖vˆi‖2 = 1 ∀i ,
u =
∑n
i=1 〈u, vˆi〉 vˆi , [u]β =
 〈u, vˆ1〉...
〈u, vˆn〉
 .
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 17 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Processo de Gram-Schmidt
A partir de uma base qualquer {v1, . . . ,vp} de um
subespaço H, queremos construir uma base ortogonal
{u1, . . . ,up} para este subspaço.
Podemos exigir que:
u1 = v1
u2 = v2 + αv1
u3 = v3 + βv1 + γv2
... =
...
up = vp + . . . .
Desta forma, 〈u1, . . . ,uk 〉 = 〈v1, . . . ,vk 〉 ∀k .
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 18 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Processo de Gram-Schmidt
Como 〈u1, . . . ,uk 〉 = 〈v1, . . . ,vk 〉, podemos reescrever:
u1 = v1
u2 = v2 + α˜u1
u3 = v3 + β˜u1 + γ˜u2
... =
...
up = vp + . . . .
Como calcular α˜, β˜, γ˜, . . . ? Ortogonalidade!
Álgebra Linear II 2008/2 Prof.Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 19 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Processo de Gram-Schmidt
u2 = v2 + α˜u1
〈u2,u1〉 = 0
}
⇒ 〈v2,u1〉+ α˜ 〈u1,u1〉 = 0
⇒ α˜ = −〈v2,u1〉〈u1,u1〉
u3 = v3 + β˜u1 + γ˜u2
〈u3,u1〉 = 0
〈u2,u1〉 = 0
 ⇒ 〈v3,u1〉+ β˜ 〈u1,u1〉 = 0
⇒ β˜ = −〈v3,u1〉〈u1,u1〉
u3 = v3 + β˜u1 + γ˜u2
〈u3,u2〉 = 0
〈u1,u2〉 = 0
 ⇒ 〈v3,u2〉+ γ˜ 〈u2,u2〉 = 0
⇒ γ˜ = −〈v3,u2〉〈u2,u2〉
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 20 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Processo de Gram-Schmidt
Assim,
u1 = v1
u2 = v2 − 〈v2,u1〉〈u1,u1〉u1
u3 = v3 − 〈v3,u1〉〈u1,u1〉u1 −
〈v3,u2〉
〈u2,u2〉u2
... =
...
up = vp − 〈vp,u1〉〈u1,u1〉u1 −
〈vp,u2〉
〈u2,u2〉u2 . . .−
〈
vp,up−1
〉〈
up−1,up−1
〉up−1
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 21 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Complemento Ortogonal
Definição (complemento ortogonal)
H ⊂ V subespaço vetorial. O complemento ortogonal de H,
denotado H⊥, é o conjunto dos vetores de V ortogonais a
todos os vetores de H,
H⊥ = {v ∈ V | 〈v,u〉 = 0 ∀u ∈ H}.
Observação
H⊥ é subespaço.
Se {u1, . . . ,up} é base de H, então
H⊥ = {v ∈ V | 〈v,ui〉 = 0 i = 1, . . . ,p}.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 22 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Complemento Ortogonal
Lema
Sejam βH = {u1, . . . ,up} base ortogonal de H e
β = {u1, . . . ,up,up+1, . . . ,un} uma extensão de βH a uma
base ortogonal de V . Então βH⊥ = {up+1, . . . ,un} é base
de H⊥.
Corolário
Se H ⊂ V com dim(V ) = n e dim(H) = p, então
dim(H⊥) = n − p.
Corolário
(H⊥)⊥ = H
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 23 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Relação entre Nuc(A) e Im(AT )
Sejam A ∈ Rm×n,
Rn 3 v ∈ Nuc(A) e
Rn 3 y = ATx ∈ Im(AT ).
Então
〈v,y〉 = vTy = vTATx = (Av)Tx = 〈Av,x〉 = 〈0,x〉 = 0.
Qualquer vetor de Nuc(A) é ortogonal a qualquer vetor de
Im(AT ). Além disso, dim(Nuc(A)) + dim(Im(AT )) = n.
Portanto, Nuc(A)⊥ = Im(AT ) e Nuc(A) = Im(AT )⊥.
Analogamente, Nuc(AT )⊥ = Im(A) e Nuc(AT ) = Im(A)⊥.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 24 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Base para H⊥
Seja H = 〈v1, . . . ,vm〉. Queremos base para H⊥.
v ∈ H⊥ ⇐⇒ 〈v,vi〉 = vTvi = vTi v = 0, i = 1, . . . ,m
⇐⇒

vT1
vT2
...
vTm
v =

0
0
...
0

⇐⇒ ATv = 0
H⊥ = Nuc(AT ), onde A =
[
v1 · · · vm
]
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 25 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Notação
V espaço vetorial, dim(V ) = n
H ⊂ V subespaço vetorial, dim(H) = p
γ = {u1, . . . ,up} base ortogonal de H
β =
{
u1, . . . ,up,up+1, . . . ,un
}
base ortogonal de V
Observação
δ =
{
up+1, . . . ,un
}
é base ortogonal de H⊥.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 26 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Teorema de Pitágoras
Teorema (de Pitágoras)
Sejam vH ∈ H e vH⊥ ∈ H⊥. Então
‖vH + vH⊥‖2 = ‖vH‖2 + ‖vH⊥‖2.
Prova
‖vH + vH⊥‖2
= 〈vH + vH⊥ ,vH + vH⊥〉
= 〈vH ,vH〉+ 〈vH ,vH⊥〉︸ ︷︷ ︸
=0
+ 〈vH⊥ ,vH〉︸ ︷︷ ︸
=0
+ 〈vH⊥ ,vH⊥〉
= 〈vH ,vH〉+ 〈vH⊥ ,vH⊥〉
= ‖vH‖2 + ‖vH⊥‖2
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 27 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Decomposição Ortogonal
Teorema
Dado v ∈ V, existe uma única decomposição v = vH + vH⊥ .
Prova
Existência: v =
n∑
i=1
αiui =
p∑
i=1
αiui︸ ︷︷ ︸
∈ H
+
n∑
i=p+1
αiui︸ ︷︷ ︸
∈ H⊥
Unicidade: Suponha v = vH + vH⊥ = wH +wH⊥ . Então
vH −wH︸ ︷︷ ︸
∈H
= wH⊥ − vH⊥︸ ︷︷ ︸
∈H⊥
∈ H ∩ H⊥ = {0}.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 28 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Projeção Ortogonal
Definição (projeção ortogonal)
Projeção ortogonal sobre H:
PH : V → H
v 7→ vH tal que v = vH + vH⊥
Observação
Fica claro da definição que v = PHv+ PH⊥v ∀v ∈ V.
Portanto, PH + PH⊥ = I e
PH⊥ = I − PH .
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 29 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Propriedades da Projeção Ortogonal
PH é linear
PHv = 0⇔ v ∈ H⊥, ou seja, N(PH) = H⊥
PHv = v⇔ v ∈ H
A imagem de PH é Im(PH) = H
P2H = PH
PTH = PH
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 30 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Cálculo da Projeção Ortogonal
v =
n∑
i=1
〈v,ui〉
〈ui ,ui〉ui
=
p∑
i=1
〈v,ui〉
〈ui ,ui〉ui︸ ︷︷ ︸
∈H
+
n∑
i=p+1
〈v,ui〉
〈ui ,ui〉ui︸ ︷︷ ︸
∈H⊥
PHv =
p∑
i=1
〈v,ui〉
〈ui ,ui〉ui
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 31 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Cálculo da Projeção Ortogonal
PHv =
p∑
i=1
〈v, uˆi〉 uˆi =
[
uˆ1 · · · uˆp
] 〈v, uˆ1〉...
〈v, uˆp〉

=
[
uˆ1 · · · uˆp
] uˆ
T
1 v
...
uˆTp v

=
[
uˆ1 · · · uˆp
] uˆ
T
1
...
uˆTp
v
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 32 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Cálculo da Projeção Ortogonal
Lema
Seja H = 〈uˆ1, . . . , uˆp〉, onde {uˆ1, . . . , uˆp} é ortonormal.
Defina Q =
[
uˆ1 · · · uˆp
]
. Então
PH = QQT .
Definição (matriz ortogonal)
Uma matriz é ortogonal se suas colunas são ortonormais.
Observação
Qm×n é ortogonal s.s.s. QTQ = In×n.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 33 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Exemplo 1
H =
〈 12
3
〉 e v =
 20
0
. Calcule PHv e PH⊥v.
PHv =
〈v,u1〉
〈u1,u1〉u1 =
〈 20
0
 ,
 12
3
〉
〈 12
3
 ,
 12
3
〉
 12
3

=
2
14
 12
3
 =
 1/72/7
3/7
 .
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 34 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Exemplo 1 - cont.
PH⊥v = (I − PH)v =
 20
0
−
 1/72/7
3/7
 =
 13/7−2/7
−3/7
 .
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 35 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Problema da Dieta
Kcal/g gord. (%)
arroz 2.5 3
carne 3.1 21
peso total: 150 g
cal. total: 450 Kcal
gordura total: 25 g

arroz + carne = 150
2.50 arroz + 3.10 carne = 450
0.03 arroz + 0.21 carne = 25
 1 1 1502.50 3.10 450
0.03 0.21 25
 ∼
 1 1 1500 0.60 75
0 0 −2

Não tem solução!
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 36 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Problema da Dieta
No entanto, tomando-se 38 g de arroz e 113 g de carne, 1 12.50 3.10
0.03 0.21
[ 38
113
]
=
 151445.3
24.87
 ≈
 150450
25
 .
Existe uma boa solução para um problema sem solução!
DESENHO
Álgebra Linear II 2008/2 Prof. MarcoCabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 37 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Mínimos Quadrados
Ax = b (ou, equiv., b− Ax = 0) pode não ter solução,
mas sempre é possível
minimizar ‖b− Ax‖ (ou, equiv., ‖b− Ax‖2).
Definição (mínimos quadrados)
A solução no sentido de mínimos quadrados do sistema
Ax = b é aquela que minimiza (o quadrado d)o resíduo
associado a x, onde o resíduo é dado por r = b− Ax.
Note que ‖r‖2 =∑i r2i , donde segue o nome mínimos
quadrados.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 38 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Um Problema Correlato
Dado b 6∈ H, encontrar vH ∈ H mais próximo de b.
Podemos decompor b = bH + bH⊥ , de forma que
‖vH − b‖2 = ‖vH − bH︸ ︷︷ ︸
∈H
−bH⊥‖2 = ‖vH − bH‖2 + ‖bH⊥‖2.
O mínimo é atingido quando vH = bH = PHb.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 39 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
De Volta aos Mínimos Quadrados
min
x∈Rn
‖b− Ax‖ = min
y∈Im(A)
‖b− y‖
Ax = y = PIm(A)b
Mínimos Quadrados
x é solução de Ax = b no sentido dos mínimos quadrados
s.s.s. x é solução (no sentido clássico) de Ax = PIm(A)b.
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 40 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Mínimos Quadrados
r = b− Ax = b− PIm(A)b
= (I − PIm(A))b = P(Im(A))⊥b
= PNuc(AT )b ∈ Nuc(AT ).
0 = AT r = AT (b− Ax) = ATb− ATAx
Ax = PIm(A)b ⇒ ⇔ ATAx = ATb
Vale também a volta!
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 41 / 42
Produto
Interno
Espaços c/ PI
Produto Interno
Projeções
Ortogonais
Mínimos Quadrados
Mínimos Quadrados
x é solução de Ax = b no sentido dos mínimos quadrados
s.s.s. x é solução (no sentido clássico) de ATAx = ATb.
Observação
Ax = PIm(A)b ⇔ ATAx = ATb
Se Ax = b tem solução no sentido clássico, a solução
no sentido dos mínimos quadrados coincide com ela
A solução no sentido dos mínimos quadrados é única
s.s.s. Nuc(A) é trivial. Neste caso,
PIm(A) = A(ATA)−1AT .
Álgebra Linear II 2008/2 Prof. Marco Cabral & Prof. Paulo Goldfeld DMA / IM / UFRJ 42 / 42
	Produto Interno
	Espaços c/ PI
	Produto Interno
	Projeções Ortogonais