Baixe o app para aproveitar ainda mais
Prévia do material em texto
Sistemas Lineares O´timos Processos Estoca´sticos Sistemas Lineares O´timos Bruno Barbosa Albert Universidade Federal de Campina Grande Centro de Engenharia Ele´trica e Informa´tica Departamento de Engenharia Ele´trica 8 de setembro de 2014 Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Fernando Leal ”Na comunicac¸a˜o, o importante na˜o e´ aquilo que a gente diz, e sim, o que o outro entende.” Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Objetivos de Aprendizagem Sistemas Lineares O´timos Definic¸a˜o e delimitac¸a˜o do problema Estimac¸a˜o linear o´tima Princ´ıpio da ortogonalidade Filtragem causal Predic¸a˜o Suavizac¸a˜o Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Objetivos de Aprendizagem Sistemas Lineares O´timos Definic¸a˜o e delimitac¸a˜o do problema Estimac¸a˜o linear o´tima Princ´ıpio da ortogonalidade Filtragem causal Predic¸a˜o Suavizac¸a˜o Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Objetivos de Aprendizagem Sistemas Lineares O´timos Definic¸a˜o e delimitac¸a˜o do problema Estimac¸a˜o linear o´tima Princ´ıpio da ortogonalidade Filtragem causal Predic¸a˜o Suavizac¸a˜o Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Objetivos de Aprendizagem Sistemas Lineares O´timos Definic¸a˜o e delimitac¸a˜o do problema Estimac¸a˜o linear o´tima Princ´ıpio da ortogonalidade Filtragem causal Predic¸a˜o Suavizac¸a˜o Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Objetivos de Aprendizagem Sistemas Lineares O´timos Definic¸a˜o e delimitac¸a˜o do problema Estimac¸a˜o linear o´tima Princ´ıpio da ortogonalidade Filtragem causal Predic¸a˜o Suavizac¸a˜o Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Objetivos de Aprendizagem Sistemas Lineares O´timos Definic¸a˜o e delimitac¸a˜o do problema Estimac¸a˜o linear o´tima Princ´ıpio da ortogonalidade Filtragem causal Predic¸a˜o Suavizac¸a˜o Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Objetivos de Aprendizagem Sistemas Lineares O´timos Definic¸a˜o e delimitac¸a˜o do problema Estimac¸a˜o linear o´tima Princ´ıpio da ortogonalidade Filtragem causal Predic¸a˜o Suavizac¸a˜o Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Introduc¸a˜o Vamos desenvolver algumas te´cnicas para o processamento de sinais aleato´rios. A teoria esta´ baseada no princ´ıpio da ortogonalidade. Os sistemas discretos no tempo foram estudado por Kolmogorov nos anos 1930. No contexto de PE cont´ınuos no tempo o estudo foi realizado por Wiener nos anos 1940. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Introduc¸a˜o Vamos desenvolver algumas te´cnicas para o processamento de sinais aleato´rios. A teoria esta´ baseada no princ´ıpio da ortogonalidade. Os sistemas discretos no tempo foram estudado por Kolmogorov nos anos 1930. No contexto de PE cont´ınuos no tempo o estudo foi realizado por Wiener nos anos 1940. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Introduc¸a˜o Vamos desenvolver algumas te´cnicas para o processamento de sinais aleato´rios. A teoria esta´ baseada no princ´ıpio da ortogonalidade. Os sistemas discretos no tempo foram estudado por Kolmogorov nos anos 1930. No contexto de PE cont´ınuos no tempo o estudo foi realizado por Wiener nos anos 1940. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Introduc¸a˜o Vamos desenvolver algumas te´cnicas para o processamento de sinais aleato´rios. A teoria esta´ baseada no princ´ıpio da ortogonalidade. Os sistemas discretos no tempo foram estudado por Kolmogorov nos anos 1930. No contexto de PE cont´ınuos no tempo o estudo foi realizado por Wiener nos anos 1940. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Problema Geral Considere um experimento cujas medic¸o˜es sa˜o func¸o˜es do tempo. Seja I o intervalo de tempo no qual as medic¸o˜es sa˜o realizadas. Temos enta˜o uma colec¸a˜o de medic¸o˜es {X (s), s ∈ I}. Estamos interessados em estimar os valores de um outro PE Y (t) para t ∈ I ′, dada as medic¸o˜es do PE X (t). Em geral X (t) 6= Y (t) e I ′ 6= I . Estimadores na˜o lineares sa˜o dif´ıceis de tratar, mesmo para o caso de uma u´nica v.a.. Portanto, o nosso foco sa˜o os estimadores lineares o´timos. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Problema Geral Considere um experimento cujas medic¸o˜es sa˜o func¸o˜es do tempo. Seja I o intervalo de tempo no qual as medic¸o˜es sa˜o realizadas. Temos enta˜o uma colec¸a˜o de medic¸o˜es {X (s), s ∈ I}. Estamos interessados em estimar os valores de um outro PE Y (t) para t ∈ I ′, dada as medic¸o˜es do PE X (t). Em geral X (t) 6= Y (t) e I ′ 6= I . Estimadores na˜o lineares sa˜o dif´ıceis de tratar, mesmo para o caso de uma u´nica v.a.. Portanto, o nosso foco sa˜o os estimadores lineares o´timos. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Problema Geral Considere um experimento cujas medic¸o˜es sa˜o func¸o˜es do tempo. Seja I o intervalo de tempo no qual as medic¸o˜es sa˜o realizadas. Temos enta˜o uma colec¸a˜o de medic¸o˜es {X (s), s ∈ I}. Estamos interessados em estimar os valores de um outro PE Y (t) para t ∈ I ′, dada as medic¸o˜es do PE X (t). Em geral X (t) 6= Y (t) e I ′ 6= I . Estimadores na˜o lineares sa˜o dif´ıceis de tratar, mesmo para o caso de uma u´nica v.a.. Portanto, o nosso foco sa˜o os estimadores lineares o´timos. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Problema Geral Considere um experimento cujas medic¸o˜es sa˜o func¸o˜es do tempo. Seja I o intervalo de tempo no qual as medic¸o˜es sa˜o realizadas. Temos enta˜o uma colec¸a˜o de medic¸o˜es {X (s), s ∈ I}. Estamos interessados em estimar os valores de um outro PE Y (t) para t ∈ I ′, dada as medic¸o˜es do PE X (t). Em geral X (t) 6= Y (t) e I ′ 6= I . Estimadores na˜o lineares sa˜o dif´ıceis de tratar, mesmo para o caso de uma u´nica v.a.. Portanto, o nosso foco sa˜o os estimadores lineares o´timos. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Problema Geral Considere um experimento cujas medic¸o˜es sa˜o func¸o˜es do tempo. Seja I o intervalo de tempo no qual as medic¸o˜es sa˜o realizadas. Temos enta˜o uma colec¸a˜o de medic¸o˜es {X (s), s ∈ I}. Estamos interessados em estimar os valores de um outro PE Y (t) para t ∈ I ′, dada as medic¸o˜es do PE X (t). Em geral X (t) 6= Y (t) e I ′ 6= I . Estimadores na˜o lineares sa˜o dif´ıceis de tratar, mesmo para o caso de uma u´nica v.a.. Portanto, o nosso foco sa˜o os estimadores lineares o´timos. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Problema Geral Considere um experimento cujas medic¸o˜es sa˜o func¸o˜es do tempo. Seja I o intervalo de tempo no qual as medic¸o˜es sa˜o realizadas. Temos enta˜o uma colec¸a˜o de medic¸o˜es {X (s), s ∈ I}. Estamos interessados em estimar os valores de um outro PE Y (t) para t ∈ I ′, dada as medic¸o˜es do PE X (t). Em geral X (t) 6= Y (t) e I ′ 6= I . Estimadores na˜o lineares sa˜o dif´ıceis de tratar, mesmo para o caso de uma u´nica v.a.. Portanto, o nosso foco sa˜o os estimadores lineares o´timos. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Problema Geral Considere um experimento cujas medic¸o˜es sa˜o func¸o˜es do tempo. Seja I o intervalo de tempo no qual as medic¸o˜es sa˜o realizadas. Temos enta˜o uma colec¸a˜o de medic¸o˜es {X (s), s ∈I}. Estamos interessados em estimar os valores de um outro PE Y (t) para t ∈ I ′, dada as medic¸o˜es do PE X (t). Em geral X (t) 6= Y (t) e I ′ 6= I . Estimadores na˜o lineares sa˜o dif´ıceis de tratar, mesmo para o caso de uma u´nica v.a.. Portanto, o nosso foco sa˜o os estimadores lineares o´timos. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimac¸a˜o Linear O´tima Redefinindo nosso problema para o caso de estimac¸a˜o linear o´tima de PEs, temos Problema de estimac¸a˜o linear o´tima Dado um conjunto de medic¸o˜es {X (s), s ∈ I}, derive o melhor estimador linear de {Y (t), t ∈ I ′}. Por exemplo, para um processo Xn discreto no tempo e com me´dia zero Observamos Xn no intervalo de tempo I = {n − a, . . . , n + b} Usamos as a + b + 1 medic¸o˜es {Xn−a, . . . ,Xn, . . . ,Xn+b} para obter uma estimac¸a˜o de Yn, que representamos por Yˆn. Do estimador ser linear temos que Yˆn = n+b∑ i=n−a hn−iXi = a∑ i=−b hiXn−i Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimac¸a˜o Linear O´tima Redefinindo nosso problema para o caso de estimac¸a˜o linear o´tima de PEs, temos Problema de estimac¸a˜o linear o´tima Dado um conjunto de medic¸o˜es {X (s), s ∈ I}, derive o melhor estimador linear de {Y (t), t ∈ I ′}. Por exemplo, para um processo Xn discreto no tempo e com me´dia zero Observamos Xn no intervalo de tempo I = {n − a, . . . , n + b} Usamos as a + b + 1 medic¸o˜es {Xn−a, . . . ,Xn, . . . ,Xn+b} para obter uma estimac¸a˜o de Yn, que representamos por Yˆn. Do estimador ser linear temos que Yˆn = n+b∑ i=n−a hn−iXi = a∑ i=−b hiXn−i Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimac¸a˜o Linear O´tima Redefinindo nosso problema para o caso de estimac¸a˜o linear o´tima de PEs, temos Problema de estimac¸a˜o linear o´tima Dado um conjunto de medic¸o˜es {X (s), s ∈ I}, derive o melhor estimador linear de {Y (t), t ∈ I ′}. Por exemplo, para um processo Xn discreto no tempo e com me´dia zero Observamos Xn no intervalo de tempo I = {n − a, . . . , n + b} Usamos as a + b + 1 medic¸o˜es {Xn−a, . . . ,Xn, . . . ,Xn+b} para obter uma estimac¸a˜o de Yn, que representamos por Yˆn. Do estimador ser linear temos que Yˆn = n+b∑ i=n−a hn−iXi = a∑ i=−b hiXn−i Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimac¸a˜o Linear O´tima Redefinindo nosso problema para o caso de estimac¸a˜o linear o´tima de PEs, temos Problema de estimac¸a˜o linear o´tima Dado um conjunto de medic¸o˜es {X (s), s ∈ I}, derive o melhor estimador linear de {Y (t), t ∈ I ′}. Por exemplo, para um processo Xn discreto no tempo e com me´dia zero Observamos Xn no intervalo de tempo I = {n − a, . . . , n + b} Usamos as a + b + 1 medic¸o˜es {Xn−a, . . . ,Xn, . . . ,Xn+b} para obter uma estimac¸a˜o de Yn, que representamos por Yˆn. Do estimador ser linear temos que Yˆn = n+b∑ i=n−a hn−iXi = a∑ i=−b hiXn−i Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimac¸a˜o Linear O´tima Redefinindo nosso problema para o caso de estimac¸a˜o linear o´tima de PEs, temos Problema de estimac¸a˜o linear o´tima Dado um conjunto de medic¸o˜es {X (s), s ∈ I}, derive o melhor estimador linear de {Y (t), t ∈ I ′}. Por exemplo, para um processo Xn discreto no tempo e com me´dia zero Observamos Xn no intervalo de tempo I = {n − a, . . . , n + b} Usamos as a + b + 1 medic¸o˜es {Xn−a, . . . ,Xn, . . . ,Xn+b} para obter uma estimac¸a˜o de Yn, que representamos por Yˆn. Do estimador ser linear temos que Yˆn = n+b∑ i=n−a hn−iXi = a∑ i=−b hiXn−i Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimac¸a˜o Linear O´tima Redefinindo nosso problema para o caso de estimac¸a˜o linear o´tima de PEs, temos Problema de estimac¸a˜o linear o´tima Dado um conjunto de medic¸o˜es {X (s), s ∈ I}, derive o melhor estimador linear de {Y (t), t ∈ I ′}. Por exemplo, para um processo Xn discreto no tempo e com me´dia zero Observamos Xn no intervalo de tempo I = {n − a, . . . , n + b} Usamos as a + b + 1 medic¸o˜es {Xn−a, . . . ,Xn, . . . ,Xn+b} para obter uma estimac¸a˜o de Yn, que representamos por Yˆn. Do estimador ser linear temos que Yˆn = n+b∑ i=n−a hn−iXi = a∑ i=−b hiXn−i Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimac¸a˜o Linear O´tima Estimativa de Yn Xn−a T T T ha ha−1 h0 h−b Yˆn Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Figura de Me´rito Certamente, devemos especificar o crite´rio para decidir o melhor estimador. Considere Yˆ (t) o estimador de Y (t). Seja e(t) = Y (t)− Yˆ (t) ∀t ∈ I ′ o erro de estimac¸a˜o. Baseado nas considerac¸o˜es para estimac¸a˜o de uma v.a. (Sec¸a˜o 6.5.2) usaremos como crite´rio de otimizac¸a˜o o erro quadra´tico me´dio, E [e2(t)] = E [(Y (t)− Yˆ (t))2]. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Figura de Me´rito Certamente, devemos especificar o crite´rio para decidir o melhor estimador. Considere Yˆ (t) o estimador de Y (t). Seja e(t) = Y (t)− Yˆ (t) ∀t ∈ I ′ o erro de estimac¸a˜o. Baseado nas considerac¸o˜es para estimac¸a˜o de uma v.a. (Sec¸a˜o 6.5.2) usaremos como crite´rio de otimizac¸a˜o o erro quadra´tico me´dio, E [e2(t)] = E [(Y (t)− Yˆ (t))2]. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Figura de Me´rito Certamente, devemos especificar o crite´rio para decidir o melhor estimador. Considere Yˆ (t) o estimador de Y (t). Seja e(t) = Y (t)− Yˆ (t) ∀t ∈ I ′ o erro de estimac¸a˜o. Baseado nas considerac¸o˜es para estimac¸a˜o de uma v.a. (Sec¸a˜o 6.5.2) usaremos como crite´rio de otimizac¸a˜o o erro quadra´tico me´dio, E [e2(t)] = E [(Y (t)− Yˆ (t))2]. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Figura de Me´rito Certamente, devemos especificar o crite´rio para decidir o melhor estimador. Considere Yˆ (t) o estimador de Y (t). Seja e(t) = Y (t)− Yˆ (t) ∀t ∈ I ′ o erro de estimac¸a˜o. Baseado nas considerac¸o˜es para estimac¸a˜o de uma v.a. (Sec¸a˜o 6.5.2) usaremos como crite´rio de otimizac¸a˜o o erro quadra´tico me´dio, E [e2(t)] = E [(Y (t)− Yˆ (t))2]. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Estamos supondo aqui que os PEs X (t) e Y (t) sa˜o conjuntamente WSS, com me´dias zero e autocorrelac¸o˜es conhecidas RX (τ) e RY (τ), bem como as correlac¸o˜es cruzadas RXY (τ) e RYX (τ). A forma mais geral para um estimador linear para um conjunto discreto de medic¸o˜es e´ uma soma ponderada de medic¸o˜es Yˆ (t) = ∑ s∈I h(t − s)X (s) ∀t ∈ I ′ E para um conjunto cont´ınuo de medic¸o˜es Yˆ (t) = ∫ I h(t − s)X (s) ds ∀t ∈ I ′ Certamente essa igualdades sa˜o verdadeiras no sentido da me´dia quadra´tica. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Estamos supondo aqui que os PEs X (t) e Y (t) sa˜o conjuntamente WSS, com me´dias zero e autocorrelac¸o˜es conhecidas RX (τ) e RY (τ), bem como as correlac¸o˜es cruzadas RXY (τ) e RYX (τ). A forma mais geral para um estimador linear para um conjunto discreto de medic¸o˜es e´ uma soma ponderada de medic¸o˜es Yˆ (t) = ∑ s∈I h(t − s)X (s) ∀t ∈ I ′ E para um conjunto cont´ınuo de medic¸o˜es Yˆ (t) = ∫ I h(t − s)X (s) ds ∀t ∈ I ′ Certamente essa igualdades sa˜o verdadeiras no sentido da me´dia quadra´tica. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Estamos supondo aqui que os PEs X (t) e Y (t) sa˜o conjuntamente WSS, com me´dias zero e autocorrelac¸o˜esconhecidas RX (τ) e RY (τ), bem como as correlac¸o˜es cruzadas RXY (τ) e RYX (τ). A forma mais geral para um estimador linear para um conjunto discreto de medic¸o˜es e´ uma soma ponderada de medic¸o˜es Yˆ (t) = ∑ s∈I h(t − s)X (s) ∀t ∈ I ′ E para um conjunto cont´ınuo de medic¸o˜es Yˆ (t) = ∫ I h(t − s)X (s) ds ∀t ∈ I ′ Certamente essa igualdades sa˜o verdadeiras no sentido da me´dia quadra´tica. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Estamos supondo aqui que os PEs X (t) e Y (t) sa˜o conjuntamente WSS, com me´dias zero e autocorrelac¸o˜es conhecidas RX (τ) e RY (τ), bem como as correlac¸o˜es cruzadas RXY (τ) e RYX (τ). A forma mais geral para um estimador linear para um conjunto discreto de medic¸o˜es e´ uma soma ponderada de medic¸o˜es Yˆ (t) = ∑ s∈I h(t − s)X (s) ∀t ∈ I ′ E para um conjunto cont´ınuo de medic¸o˜es Yˆ (t) = ∫ I h(t − s)X (s) ds ∀t ∈ I ′ Certamente essa igualdades sa˜o verdadeiras no sentido da me´dia quadra´tica. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Determinamos o melhor estimador para 3 casos: Filtragem (causal) Nesse caso as medic¸o˜es passadas e presente de X (s) sa˜o usadas para estimar o valor presente de Y (t). Ou seja, I = (−∞, t] ou I = [a, t] e I ′ = {t}. Um caso t´ıpico de filtragem e´ temos o sinal observado X (t) e´ o sinal desejado Y (t) mais um na˜o desejado ru´ıdo N(t), ou seja: X (t) = Y (t) + N(t) Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Determinamos o melhor estimador para 3 casos: Filtragem (causal) Nesse caso as medic¸o˜es passadas e presente de X (s) sa˜o usadas para estimar o valor presente de Y (t). Ou seja, I = (−∞, t] ou I = [a, t] e I ′ = {t}. Um caso t´ıpico de filtragem e´ temos o sinal observado X (t) e´ o sinal desejado Y (t) mais um na˜o desejado ru´ıdo N(t), ou seja: X (t) = Y (t) + N(t) Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Determinamos o melhor estimador para 3 casos: Filtragem (causal) Nesse caso as medic¸o˜es passadas e presente de X (s) sa˜o usadas para estimar o valor presente de Y (t). Ou seja, I = (−∞, t] ou I = [a, t] e I ′ = {t}. Um caso t´ıpico de filtragem e´ temos o sinal observado X (t) e´ o sinal desejado Y (t) mais um na˜o desejado ru´ıdo N(t), ou seja: X (t) = Y (t) + N(t) Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Predic¸a˜o Nesse caso as medic¸o˜es passadas de X (s) sa˜o usadas para estimar um valor “futuro” da v.a. Y (t). Assim, I = (−∞, t] e I ′ = t ′, t ′ > t ou I = {t, t + 1, . . . , t ′ − 1} e I ′ = t ′. Em geral Y (t) = X (t), ou seja, estamos usando medic¸o˜es passadas de Y (t) para predizer o pro´prio processo Y (t). Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Predic¸a˜o Nesse caso as medic¸o˜es passadas de X (s) sa˜o usadas para estimar um valor “futuro” da v.a. Y (t). Assim, I = (−∞, t] e I ′ = t ′, t ′ > t ou I = {t, t + 1, . . . , t ′ − 1} e I ′ = t ′. Em geral Y (t) = X (t), ou seja, estamos usando medic¸o˜es passadas de Y (t) para predizer o pro´prio processo Y (t). Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Suavizac¸a˜o Nesse caso as medic¸o˜es passadas, presente e futuras de X (s) sa˜o usadas para estimar um valor de Y (t). Ou seja, I = (−∞,∞) e I ′ = {t} ou I = (−∞, t ′] e I ′ = {t}, t ′ > t. A realizac¸a˜o completa das medic¸o˜es de X (s) foi gravada. Nesse caso tambe´m temos um sinal do tipo X (t) = Y (t) + N(t) Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Suavizac¸a˜o Nesse caso as medic¸o˜es passadas, presente e futuras de X (s) sa˜o usadas para estimar um valor de Y (t). Ou seja, I = (−∞,∞) e I ′ = {t} ou I = (−∞, t ′] e I ′ = {t}, t ′ > t. A realizac¸a˜o completa das medic¸o˜es de X (s) foi gravada. Nesse caso tambe´m temos um sinal do tipo X (t) = Y (t) + N(t) Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Estimador Linear O´timo Suavizac¸a˜o Nesse caso as medic¸o˜es passadas, presente e futuras de X (s) sa˜o usadas para estimar um valor de Y (t). Ou seja, I = (−∞,∞) e I ′ = {t} ou I = (−∞, t ′] e I ′ = {t}, t ′ > t. A realizac¸a˜o completa das medic¸o˜es de X (s) foi gravada. Nesse caso tambe´m temos um sinal do tipo X (t) = Y (t) + N(t) Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade O erro e(t) e cada medic¸a˜o individual sa˜o ortogonais, ou seja, ReX (t, s) = E [e(t)X (s)] = 0, ∀t ∈ I ′, ∀s ∈ I Isso pode produzir um nu´mero infinito de equac¸o˜es, uma para cada par (t, s). A partir da equac¸a˜o da ortogonalidade E [e(t)X (s)] = E [(Y (t)− Yˆ (t))X (s)] = E [Y (t)X (s)]− E [Yˆ (t)X (s)] = 0. e portanto, E [Y (t)X (s)] = E [Yˆ (t)X (s)], ∀t ∈ I ′, ∀s ∈ I . Essa equac¸a˜o e´ a base para o desenvolvimento dos melhores estimadores. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade O erro e(t) e cada medic¸a˜o individual sa˜o ortogonais, ou seja, ReX (t, s) = E [e(t)X (s)] = 0, ∀t ∈ I ′, ∀s ∈ I Isso pode produzir um nu´mero infinito de equac¸o˜es, uma para cada par (t, s). A partir da equac¸a˜o da ortogonalidade E [e(t)X (s)] = E [(Y (t)− Yˆ (t))X (s)] = E [Y (t)X (s)]− E [Yˆ (t)X (s)] = 0. e portanto, E [Y (t)X (s)] = E [Yˆ (t)X (s)], ∀t ∈ I ′, ∀s ∈ I . Essa equac¸a˜o e´ a base para o desenvolvimento dos melhores estimadores. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade O erro e(t) e cada medic¸a˜o individual sa˜o ortogonais, ou seja, ReX (t, s) = E [e(t)X (s)] = 0, ∀t ∈ I ′, ∀s ∈ I Isso pode produzir um nu´mero infinito de equac¸o˜es, uma para cada par (t, s). A partir da equac¸a˜o da ortogonalidade E [e(t)X (s)] = E [(Y (t)− Yˆ (t))X (s)] = E [Y (t)X (s)]− E [Yˆ (t)X (s)] = 0. e portanto, E [Y (t)X (s)] = E [Yˆ (t)X (s)], ∀t ∈ I ′, ∀s ∈ I . Essa equac¸a˜o e´ a base para o desenvolvimento dos melhores estimadores. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade O erro e(t) e cada medic¸a˜o individual sa˜o ortogonais, ou seja, ReX (t, s) = E [e(t)X (s)] = 0, ∀t ∈ I ′, ∀s ∈ I Isso pode produzir um nu´mero infinito de equac¸o˜es, uma para cada par (t, s). A partir da equac¸a˜o da ortogonalidade E [e(t)X (s)] = E [(Y (t)− Yˆ (t))X (s)] = E [Y (t)X (s)]− E [Yˆ (t)X (s)] = 0. e portanto, E [Y (t)X (s)] = E [Yˆ (t)X (s)], ∀t ∈ I ′, ∀s ∈ I . Essa equac¸a˜o e´ a base para o desenvolvimento dos melhores estimadores. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Considere o processo estoca´stico discreto no tempo Yn que desejamos estimar a partir da observac¸a˜o de Xn no intervalo de tempo I = {n − a, . . . , n + b}. Se Yˆn for um estimador linear o´timo de Yn enta˜o pelo princ´ıpio da ortogonalidade temos que EYnXk = EYˆnXk assim EYnXk = E [( a∑ i=−b hiXn−i )Xk ] = a∑ i=−b hiEXn−iXk = a∑ i=−b hiRX (n − i − k) Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Considere o processo estoca´stico discreto no tempo Yn que desejamos estimar a partir da observac¸a˜o de Xn no intervalo de tempo I = {n − a, . . . , n + b}. Se Yˆn for um estimador linear o´timo de Yn enta˜o pelo princ´ıpio da ortogonalidade temos que EYnXk = EYˆnXk assim EYnXk= E [( a∑ i=−b hiXn−i )Xk ] = a∑ i=−b hiEXn−iXk = a∑ i=−b hiRX (n − i − k) Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Considere o processo estoca´stico discreto no tempo Yn que desejamos estimar a partir da observac¸a˜o de Xn no intervalo de tempo I = {n − a, . . . , n + b}. Se Yˆn for um estimador linear o´timo de Yn enta˜o pelo princ´ıpio da ortogonalidade temos que EYnXk = EYˆnXk assim EYnXk = E [( a∑ i=−b hiXn−i )Xk ] = a∑ i=−b hiEXn−iXk = a∑ i=−b hiRX (n − i − k) Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Considere o processo estoca´stico discreto no tempo Yn que desejamos estimar a partir da observac¸a˜o de Xn no intervalo de tempo I = {n − a, . . . , n + b}. Se Yˆn for um estimador linear o´timo de Yn enta˜o pelo princ´ıpio da ortogonalidade temos que EYnXk = EYˆnXk assim EYnXk = E [( a∑ i=−b hiXn−i )Xk ] = a∑ i=−b hiEXn−iXk = a∑ i=−b hiRX (n − i − k) Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Considere o processo estoca´stico discreto no tempo Yn que desejamos estimar a partir da observac¸a˜o de Xn no intervalo de tempo I = {n − a, . . . , n + b}. Se Yˆn for um estimador linear o´timo de Yn enta˜o pelo princ´ıpio da ortogonalidade temos que EYnXk = EYˆnXk assim EYnXk = E [( a∑ i=−b hiXn−i )Xk ] = a∑ i=−b hiEXn−iXk = a∑ i=−b hiRX (n − i − k) Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Ou seja EYnXk = RYX (n, k) = RYX (n − k) e portanto Yn e Xk sa˜o conjuntamnte estaciona´rios. Fazendo n − k = m temos RYX (m) = a∑ i=−b hiRX (m − i) a ≤ m ≤ b. O filtro linear o´timo deve satisfazer o conjunto de a + b + 1 equac¸o˜es lineares acima. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Ou seja EYnXk = RYX (n, k) = RYX (n − k) e portanto Yn e Xk sa˜o conjuntamnte estaciona´rios. Fazendo n − k = m temos RYX (m) = a∑ i=−b hiRX (m − i) a ≤ m ≤ b. O filtro linear o´timo deve satisfazer o conjunto de a + b + 1 equac¸o˜es lineares acima. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Ou seja EYnXk = RYX (n, k) = RYX (n − k) e portanto Yn e Xk sa˜o conjuntamnte estaciona´rios. Fazendo n − k = m temos RYX (m) = a∑ i=−b hiRX (m − i) a ≤ m ≤ b. O filtro linear o´timo deve satisfazer o conjunto de a + b + 1 equac¸o˜es lineares acima. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade O erro quadra´tico me´dio do filtro o´timo pode ser determinado da seguinte forma Observe que o erro en e a estimativa Yˆn sa˜o ortogonais, pois EenYˆn = E [en n+b∑ i=n−a hn−iXi ] = n+b∑ i=n−a hn−iE [enXi ] = 0 isso vem do fato de que E [enXi ] = 0, portanto o erro quadra´tico me´dio pode ser escrito como Ee2n = E [en(Yn − Yˆn)] = EenYn Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade O erro quadra´tico me´dio do filtro o´timo pode ser determinado da seguinte forma Observe que o erro en e a estimativa Yˆn sa˜o ortogonais, pois EenYˆn = E [en n+b∑ i=n−a hn−iXi ] = n+b∑ i=n−a hn−iE [enXi ] = 0 isso vem do fato de que E [enXi ] = 0, portanto o erro quadra´tico me´dio pode ser escrito como Ee2n = E [en(Yn − Yˆn)] = EenYn Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade O erro quadra´tico me´dio do filtro o´timo pode ser determinado da seguinte forma Observe que o erro en e a estimativa Yˆn sa˜o ortogonais, pois EenYˆn = E [en n+b∑ i=n−a hn−iXi ] = n+b∑ i=n−a hn−iE [enXi ] = 0 isso vem do fato de que E [enXi ] = 0, portanto o erro quadra´tico me´dio pode ser escrito como Ee2n = E [en(Yn − Yˆn)] = EenYn Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Substituindo en na equac¸a˜o anterior, temos Ee2n = E [(Yn − Yˆn)Yn] = EYnYn − EYnYˆn = RY (0)− E [Yn a∑ i=−b hiXn−i ] = RY (0)− a∑ i=−b hiEYnXn−i = RY (0)− a∑ i=−b hiRYX (i) Similarmente para o caso cont´ınuo no tempo temos Ee2(t) = RY (0)− ∫ a −b h(τ)RYX (τ) dτ Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Substituindo en na equac¸a˜o anterior, temos Ee2n = E [(Yn − Yˆn)Yn] = EYnYn − EYnYˆn = RY (0)− E [Yn a∑ i=−b hiXn−i ] = RY (0)− a∑ i=−b hiEYnXn−i = RY (0)− a∑ i=−b hiRYX (i) Similarmente para o caso cont´ınuo no tempo temos Ee2(t) = RY (0)− ∫ a −b h(τ)RYX (τ) dτ Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Substituindo en na equac¸a˜o anterior, temos Ee2n = E [(Yn − Yˆn)Yn] = EYnYn − EYnYˆn = RY (0)− E [Yn a∑ i=−b hiXn−i ] = RY (0)− a∑ i=−b hiEYnXn−i = RY (0)− a∑ i=−b hiRYX (i) Similarmente para o caso cont´ınuo no tempo temos Ee2(t) = RY (0)− ∫ a −b h(τ)RYX (τ) dτ Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Substituindo en na equac¸a˜o anterior, temos Ee2n = E [(Yn − Yˆn)Yn] = EYnYn − EYnYˆn = RY (0)− E [Yn a∑ i=−b hiXn−i ] = RY (0)− a∑ i=−b hiEYnXn−i = RY (0)− a∑ i=−b hiRYX (i) Similarmente para o caso cont´ınuo no tempo temos Ee2(t) = RY (0)− ∫ a −b h(τ)RYX (τ) dτ Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Substituindo en na equac¸a˜o anterior, temos Ee2n = E [(Yn − Yˆn)Yn] = EYnYn − EYnYˆn = RY (0)− E [Yn a∑ i=−b hiXn−i ] = RY (0)− a∑ i=−b hiEYnXn−i = RY (0)− a∑ i=−b hiRYX (i) Similarmente para o caso cont´ınuo no tempo temos Ee2(t) = RY (0)− ∫ a −b h(τ)RYX (τ) dτ Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Teorema: caso discreto Considere Xn e Yn processos discretos no tempo com esperanc¸a nula e conjuntamente WSS. Seja Yˆn uma estimativa de Yn da forma Yˆn = n+b∑ i=n−a hn−iXi = a∑ i=−b hiXn−i O filtro hn que minimiza E (Yn − Yˆn)2 satisfaz a equac¸a˜o RYX (m) = a∑ i=−b hiRX (m − i) a ≤ m ≤ b. e o erro quadra´tico me´dio e´ dado por Ee2n = RY (0)− a∑ i=−b hiRYX (i) . Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Princ´ıpio da Ortogonalidade Teorema: caso cont´ınuo Considere X (t) e Y (t) processos cont´ınuos no tempo com esperanc¸a nula e conjuntamente WSS. Seja Yˆ (t) uma estimativa de Y (t) da forma Yˆ (t) = ∫ t+b t−a h(t − s)X (s) ds = ∫ a −b h(s)X (t − s) ds O filtro h(s) que minimiza E (Yn − Yˆn)2 satisfaz a equac¸a˜o RYX (τ) = ∫ a −b h(s)RX (τ − s) ds − b ≤ τ ≤ a. e o erro quadra´tico me´dio e´ dado por Ee2(t) = RY (0)− ∫ a −b h(s)RYX (s) ds . Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Filtragem causal Problema: Considere um conjunto de medic¸o˜es {X (s), s ∈ I} em que I = (−∞, t]. Para qualquer valor de t ∈ < desejamos obter a melhor estimativa linear da v.a. Y (t), baseada no conjunto de medic¸o˜es. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Filtragem causal Teorema: (caso cont´ınuo) Considere que os PEs X (t) e Y (t) sa˜o conjuntamente WSS, com me´dias zero e Yˆ (t) = ∫ t −∞ h(t − s)X (s) ds uma estimativa de Y (t). O melhor filtro linear causal h(s) e´ dado pela soluc¸a˜oda equac¸a˜o RXY (τ) = ∫ τ −∞ h(τ − s)RX (s) ds. O erro quadra´tico me´dio m´ınimo e´ igual a emin = RY (0) = ∫ t −∞ h(t − s)RYX (t − s) ds Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Filtragem causal Teorema no dom´ınio da frequeˆncia: (caso cont´ınuo) Considere que os PEs X (t) e Y (t) sa˜o conjuntamente WSS, com me´dias zero. O melhor filtro linear causal H(f ) para estimac¸a˜o de Y (t) dado o conjunto de medic¸o˜es {X (s), s ∈ I} e´ dado por H(f ) = S ′YX (f ) SX (f ) em que S ′YX (f ) = ∫ ∞ 0 RYX (τ)e −j2pif τ dτ. Observe que S ′YX (f ) 6= SYX (f ) pois a integral na˜o e´ de −∞ a ∞. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Predic¸a˜o Problema: Considere um conjunto n de medic¸o˜es {X (s), s ∈ I} em que I = {t − n, t − n + 1, . . . , t − 1}. Para qualquer valor de t ∈ < desejamos obter a melhor estimativa linear da v.a. Y (t), baseada no conjunto de medic¸o˜es. Ou seja, deseja-se predizer valores futuros de X (t), portanto Y (t) = X (t). Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Predic¸a˜o Teorema: Considere que o PE X (t) seja WSS, com me´dia zero e ˆX (t) = ∑ s∈I h(t − s)X (s) um estimador preditor de X (t). O melhor preditor h(s) satisfaz a equac¸a˜o RX (τ) = ∑ s∈I h(s)RX (τ − s), τ ∈ {1, . . . , n} (1) o erro quadra´tico me´dio m´ınimo e´ igual a emin = RX (0)− ∑ s∈I h(s)RX (s). Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Predic¸a˜o A partir da equac¸a˜o (1) do teorema anterior veˆ-se que os coeficientes do preditor o´timo podem ser obtidos resolvendo um sistema de n equac¸o˜es e n ico´gnitas h(1), h(2), . . . , h(n). Reescrevendo a equac¸a˜o (1) na forma matricial RX (0) RX (1) . . . RX (n − 1) RX (1) RX (0) . . . RX (n − 2) ... ... . . . ... RX (n − 1) RX (n − 2) . . . RX (0) h(1) h(2) ... h(n) = RX (1) RX (2) ... RX (n) obtemos as equac¸o˜es de Yule-Walker. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Predic¸a˜o A partir da equac¸a˜o (1) do teorema anterior veˆ-se que os coeficientes do preditor o´timo podem ser obtidos resolvendo um sistema de n equac¸o˜es e n ico´gnitas h(1), h(2), . . . , h(n). Reescrevendo a equac¸a˜o (1) na forma matricial RX (0) RX (1) . . . RX (n − 1) RX (1) RX (0) . . . RX (n − 2) ... ... . . . ... RX (n − 1) RX (n − 2) . . . RX (0) h(1) h(2) ... h(n) = RX (1) RX (2) ... RX (n) obtemos as equac¸o˜es de Yule-Walker. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Predic¸a˜o Esse sistema na˜o e´ facilmente resolvido pelos me´todos tradicionais para n grande. No entanto, aproveitando a estrutura peculiar da matriz podemos usar me´todos recursivos como o algoritmo de Levinson para avaliar os coeficientes do filtro preditor o´timo. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Predic¸a˜o Esse sistema na˜o e´ facilmente resolvido pelos me´todos tradicionais para n grande. No entanto, aproveitando a estrutura peculiar da matriz podemos usar me´todos recursivos como o algoritmo de Levinson para avaliar os coeficientes do filtro preditor o´timo. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Suavizac¸a˜o Problema: Considere o conjunto de medic¸o˜es {X (s), s ∈ I} em que I = (−∞,∞) ou I = (−∞,T ) e T > t. Desejamos obter a melhor estimativa linear da v.a. Y (t) = X (t) para t ∈ I . Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Suavizac¸a˜o O termo suavizac¸a˜o se origina das aplicac¸o˜es nas quais medidas “futuras” sa˜o processadas para remover ru´ıdos de alta frequeˆncia e portanto suavizar m sinal de baixa frequeˆncia. Eventualmente o termo suavizac¸a˜o “off-line” e´ tambe´m usado para destacar que as medic¸o˜es sa˜o armazenadas primeiro e depois processadas “off-line”. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Suavizac¸a˜o O termo suavizac¸a˜o se origina das aplicac¸o˜es nas quais medidas “futuras” sa˜o processadas para remover ru´ıdos de alta frequeˆncia e portanto suavizar m sinal de baixa frequeˆncia. Eventualmente o termo suavizac¸a˜o “off-line” e´ tambe´m usado para destacar que as medic¸o˜es sa˜o armazenadas primeiro e depois processadas “off-line”. Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Suavizac¸a˜o Considere o estimador de suavizac¸a˜o para I = (−∞,∞) no caso de um conjunto discreto de medic¸o˜es ˆY (t) = ∞∑ s=−∞ h(t − s)X (s) ou no caso de um conjunto cont´ınuo de medic¸o˜es ˆY (t) = ∫ ∞ −∞ h(t − s)X (s) ds Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares O´timos Suavizac¸a˜o Teorema: Seja X (t) WSS com me´dia zero. O filtro de suavizac¸a˜o o´timo H(f ) para a v.a. Y (t) = X (t) dado o conjunto de medic¸o˜es {X (s), s ∈ I} e´ dado por H(f ) = SXY (f ) SX (f ) . Bruno Barbosa Albert Processos Estoca´sticos Sistemas Lineares Ótimos
Compartilhar