Medida-desempenho-regressaob

Prévia do material em texto

Medidas de desempenho para regressão
Edson Cilos Vargas Junior
Universidade Federal de Santa Catarina
Erro quadrático médio - MSE
I Considere h ∈ H um hipótese -
candidato a aproximar a função
desonhecida f : X → Y;
I Considere D = {(x (1), y (1)), · · · , (x (N), y (N))} a amostra rotulada;
I A principio vamos considerar D ⊂ X × Y ⊂ X × R.
O erro quadrático médio é
MSE (h,D) = 1N
N∑
n=1
(
h(x (n))− y (i)
)2
. (1)
2/9
Erro quadrático médio - MSE
I Considere h ∈ H um hipótese - candidato a aproximar a função
desonhecida f : X → Y;
I Considere D = {(x (1), y (1)), · · · , (x (N), y (N))} a amostra rotulada;
I A principio vamos considerar D ⊂ X × Y ⊂ X × R.
O erro quadrático médio é
MSE (h,D) = 1N
N∑
n=1
(
h(x (n))− y (i)
)2
. (1)
2/9
Erro quadrático médio - MSE
I Considere h ∈ H um hipótese - candidato a aproximar a função
desonhecida f : X → Y;
I Considere D = {(x (1), y (1)), · · · , (x (N), y (N))} a amostra rotulada;
I A principio vamos considerar D ⊂ X × Y ⊂ X × R.
O erro quadrático médio é
MSE (h,D) = 1N
N∑
n=1
(
h(x (n))− y (i)
)2
. (1)
2/9
Erro quadrático médio - MSE
I Considere h ∈ H um hipótese - candidato a aproximar a função
desonhecida f : X → Y;
I Considere D = {(x (1), y (1)), · · · , (x (N), y (N))} a amostra rotulada;
I A principio vamos considerar D ⊂ X × Y ⊂ X × R.
O erro quadrático médio é
MSE (h,D) = 1N
N∑
n=1
(
h(x (n))− y (i)
)2
. (1)
2/9
Erro de raiz quadrático médio - RMSE
Erro de raiz quadrático médio (root-mean-square error) é dado por
RMSE (h,D) =
√√√√ 1
N
N∑
n=1
(
h(x (n))− y (n)
)2
. (2)
MSE versus RMSE
I MSE: Melhor computacionalmente, uma operação a menos e é
função convexa, para cada h fixa.
I RMSE: É a distância euclidiana a menos de uma constante
multiplicativa (mais fácil compreender a intuição geométrica).
3/9
Erro de raiz quadrático médio - RMSE
Erro de raiz quadrático médio (root-mean-square error) é dado por
RMSE (h,D) =
√√√√ 1
N
N∑
n=1
(
h(x (n))− y (n)
)2
. (2)
MSE versus RMSE
I MSE: Melhor computacionalmente, uma operação a menos e é
função convexa, para cada h fixa.
I RMSE: É a distância euclidiana a menos de uma constante
multiplicativa (mais fácil compreender a intuição geométrica).
3/9
Erro de raiz quadrático médio - RMSE
Erro de raiz quadrático médio (root-mean-square error) é dado por
RMSE (h,D) =
√√√√ 1
N
N∑
n=1
(
h(x (n))− y (n)
)2
. (2)
MSE versus RMSE
I MSE: Melhor computacionalmente, uma operação a menos e é
função convexa, para cada h fixa.
I RMSE: É a distância euclidiana a menos de uma constante
multiplicativa (mais fácil compreender a intuição geométrica).
3/9
Erro absoluto médio - MAE
Erro absoluto médio (root-mean-square error) é dado por
MAE (h,D) = 1N
N∑
n=1
∣∣∣h(x (n))− y (n)∣∣∣ . (3)
4/9
Relações com norma
Dado a hipótese h e o conjunto de dadis D, considere o erro na amostra
n dado por:
en = h(x (n))− y (n), (4)
assim temos o vetor erro e = (e1, · · · , eN).
||e||1 =
N∑
n=1
∣∣∣h(x (n))− y (n)∣∣∣ = N ·MAE (h,D), (5)
||e||2 =
√√√√ N∑
n=1
(
h(x (n))− y (n)
)2 = √N·RMSE (h,D) = √N·MSE (h,D)2.
(6)
5/9
Relações com norma
Dado a hipótese h e o conjunto de dadis D, considere o erro na amostra
n dado por:
en = h(x (n))− y (n), (4)
assim temos o vetor erro e = (e1, · · · , eN).
||e||1 =
N∑
n=1
∣∣∣h(x (n))− y (n)∣∣∣ = N ·MAE (h,D), (5)
||e||2 =
√√√√ N∑
n=1
(
h(x (n))− y (n)
)2 = √N·RMSE (h,D) = √N·MSE (h,D)2.
(6)
5/9
Relações com norma
Dado a hipótese h e o conjunto de dadis D, considere o erro na amostra
n dado por:
en = h(x (n))− y (n), (4)
assim temos o vetor erro e = (e1, · · · , eN).
||e||1 =
N∑
n=1
∣∣∣h(x (n))− y (n)∣∣∣ = N ·MAE (h,D), (5)
||e||2 =
√√√√ N∑
n=1
(
h(x (n))− y (n)
)2 = √N·RMSE (h,D) = √N·MSE (h,D)2.
(6)
5/9
Relações com norma
Dado a hipótese h e o conjunto de dadis D, considere o erro na amostra
n dado por:
en = h(x (n))− y (n), (4)
assim temos o vetor erro e = (e1, · · · , eN).
||e||1 =
N∑
n=1
∣∣∣h(x (n))− y (n)∣∣∣ = N ·MAE (h,D), (5)
||e||2 =
√√√√ N∑
n=1
(
h(x (n))− y (n)
)2 = √N·RMSE (h,D) = √N·MSE (h,D)2.
(6)
5/9
Interpretação geométrica
Figura 1: Problema de regressão.
6/9
Interpretação geométrica ||e||1 = N ·MAE (h,D)
Figura 2: Interpretação geométrica da soma dos erros absolutos.
7/9
Uma ideia sobre erro quadrático
Figura 3: Erros ao quadrado. Não é exatamente o MSE nem o RMSE.
Obrigado!
Contato:
edson.junior@ufsc.br
edson.junior@ufsc.br