Aula 19

Prévia do material em texto

Melhor Aproximac¸a˜o; M´ınimos Quadrados
Sec¸a˜o 6.4
Fa´bio S. Bemfica
EC&T - UFRN
11 de outubro de 2012
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4
Melhor Aproximac¸a˜o
Projec¸o˜es ortogonais vistas como aproximac¸o˜es: Se P e´ um ponto no
espac¸o tridimensional usual e W e´ um plano pela origem, enta˜o a menor
distaˆncia entre o ponto P e o plano W e´
||~u − projW~u|| .
Ou seja, o vetor projW~u e´ a “melhor aproximac¸a˜o” de ~u por vetores em W .
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4
Melhor Aproximac¸a˜o
Theorem (Teorema 6.4.1: Teorema da Melhore Aproximac¸a˜o)
Se W e´ um subespac¸o de dimensa˜o finita de um espac¸o com produto interno V e
se u ∈ V , enta˜o projW u e´ a melhor aproximac¸a˜o de u em W no seguinte
sentido:
||u− projW u|| < ||u−w||
para cada vetor w ∈W distinto de projW u.
Demonstrac¸a˜o.
Para cada vetor w 6= projW u ∈W podemos escrever
u−w = (u− projW u) + (projW u−w). Note que u− projW u ∈W⊥, enquanto
que projW u−w ∈W , ou seja, sa˜o vetores ortogonais pois pertencem a`
subespac¸os ortogonais complementares. Pelo teorema de Pita´goras para vetores
ortogonais temos que
||u−w||2 = ||u− projW u||2 + ||projW u−w||2 < ||projW u−w||2
pois w 6= projW u. Ou seja, ||u− projW u|| < ||u−w|| para todo
w 6= projW u ∈W .
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4
M´ınimos Quadrados
Soluc¸o˜es de m´ınimos quadrados em sistemas lineares: Na natureza,
devido a erros de medida em experimentos, eventualmente um sistema
A~x = ~b que deveria possuir soluc¸a˜o pode na˜o possuir devido a esses erros.
Sendo assim, devemos estudar o seguinte problema:
Problema dos M´ınimos Quadrados
Dado um sistema A~x = ~b de m equac¸o˜es e n varia´veis encontre, se
poss´ıvel, um vetor ~x que minimiza ||A~x − ~b|| em relac¸a˜o ao produto
interno euclidiano de Rm. Um tal vetor e´ chamado uma soluc¸a˜o de
m´ınimos quadrados de A~x = v.
Seja o vetor erro ~e = A~x − ~b = (e1, e2, · · · , em). Uma soluc¸a˜o de m´ınimos
quadrados minimiza ||~e|| =
√
e21 + e
2
2 + · · ·+ e2m. Da´ı o nome m´ınimos
quadrados.
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4
M´ınimos Quadrados
Para resolver o problema de m´ınimos quadrados, seja W o espac¸o-coluna
de A. Lembrem que se A~x = ~b possui soluc¸a˜o, enta˜o ~b e´ um vetor do
espac¸o-coluna de A! Por outro lado, se v na˜o esta´ no espac¸o-coluna de A,
enta˜o o sistema na˜o possui soluc¸a˜o. No entanto, pelo teorema da melhor
aproximac¸a˜o, a soluc¸a˜o mais pro´xima desse sistema sera´ aquela dada pela
projec¸a˜o de ~b sobre W . Neste sentido, o sistema linear
A~x = projW~b
possui soluc¸a˜o e a soluc¸a˜o e´ a que mais se aproxima da soluc¸a˜o real.
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4
M´ınimos Quadrados
Theorem (Teorema 6.4.2)
Para qualquer sistema linear A~x = ~b, o sistema normal associado
ATA~x = AT~b
e´ consistente e todas as soluc¸o˜es do sistema normal sa˜o soluc¸o˜es de
m´ınimos quadrados de A~x = ~b. Ale´m disso, se W e´ o espac¸o-coluna de A
e ~x e´ qualquer vetor soluc¸a˜o de m´ınimos quadrados de A~x = ~b, enta˜o a
projec¸a˜o ortogonal de ~b em W e´
projW~b = A~x .
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4
M´ınimos Quadrados
Demonstrac¸a˜o.
Seja W o espac¸o-coluna de A. O sistema linear A~x = ~b e´ inconsistente se
~b na˜o esta´ em W . O sistema que possui soluc¸a˜o e que mais se aproxima
deste e´ aquele contendo a projec¸a˜o do vetor ~b em W , ou seja,
A~x = projW~b. Do teorema 6.3.4 decorre que o vetor erro
~b − A~x = ~b − projW~b e´ ortogonal a` W e, portanto, pelo teorema 6.2.6
W⊥ e´ o espac¸o-nulo de AT . Sendo assim
~b − A~x = ~b − projW~b ∈W⊥
e, portanto, deve obedecer a` equac¸a˜o
AT
(
~b − A~x
)
= ~0 =⇒ ATA~x = AT~b
corresponde a` soluc¸a˜o de m´ınimos quadrados A~x = projW~b.
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4
M´ınimos Quadrados
Theorem (Teorema 6.4.4)
Se A e´ uma matriz m × n com vetores-coluna linearmente independentes,
enta˜o para cada matriz ~b de tamanho n × 1, o sistema linear A~x = ~b tem
uma u´nica soluc¸a˜o de m´ınimos quadrados. Esta soluc¸a˜o e´ dada por
~x = (ATA)−1ATv .
Ale´m disto, se W e´ o espac¸o-coluna de A, enta˜o a projec¸a˜o ortogonal de ~b
em W e´
projW~b = A~x = A(A
TA)−1AT~b . Formula (6)
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4
M´ınimos Quadrados
Exemplo 1
Encontre a soluc¸a˜o de m´ınimos quadrados do sistema linear A~x = ~b dado
por
x1 − x2 = 4
3x1 + 2x2 = 1
−2x1 + 4x2 = 3
Exemplo 2
Encontre a projec¸a˜o ortogonal do vetor ~u = (−3,−3, 8, 9) no subespac¸o de
R4 gerado pelos vetores
~u1 = (3, 1, 0, 1) , ~u2 = (1, 2, 1, 1) , ~u3 = (−1, 0, 2,−1) .
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4
M´ınimos Quadrados
Definic¸a˜o
Se W e´ um subespac¸o de Rm, enta˜o a transformac¸a˜o P : Rm →W que
leva cada vetor ~x de Rm em sua projec¸a˜o ortogonal projW~x em W e´
chamada projec¸a˜o ortogonal de Rm sobre W .
Exemplo
Obtenha a matriz canoˆnica da projec¸a˜o ortogonal P de R2 sobre a reta
real l que passa pela origem e faz um aˆngulo θ com o eixo ~x positivo.
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4
Exerc´ıcios Referentes a` Sec¸a˜o 6.4 do livro texto
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4
Respostas Referentes a` Sec¸a˜o 6.4 do livro texto
Fa´bio Sperotto Bemfica Melhor Aproximac¸a˜o; M´ınimos QuadradosSec¸a˜o 6.4