aula02 estatistica

Prévia do material em texto

1
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Tratamento estatístico de 
observações
Prof. Dr. Carlos Aurélio Nadal
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
OBSERVAÇÃO: é o valor obtido durante um 
processo de medição.
DADO: é o resultado do tratamento de uma 
observação (por aplicação de uma técnica ou de um 
modelo matemático) para retirada de erros.
INFORMAÇÃO: é o resultado do tratamento de 
dados (via modelo matemático/estatístico).
2
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
é o ato de medir.
OBSERVAÇÃO = MEDIÇÃO
Medida = 10,0 cm
10,0 cm
é o valor de uma grandeza .
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
é o menor valor de uma medida que um instrumento
fornece ou a menor unidade detectável
em um aparelho.
Graduação da régua: centímetros e milímetros
Sensibilidade da régua: 1mm
3
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Dados quantitativos ou numéricos
discretos, i.e. contagens ou número inteiros:
número de ovos postos pela tartaruga marinha 
número de ataques de asma no ano passado 
contínuos, i.e. medidas numa escala contínua: 
volume, área, peso, massa 
velocidade de corrente 
Dados qualitativos ou categóricos: 
Nominais: sexo: masculino, feminino 
classificação de fósseis 
ordinais, i.e. categorias ordenadas 
salinidade: baixa, média, alta 
abundância: dominante, abundante, freqüente, 
ocasional, raro 
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
amostra: Conjunto de dados representativos de uma 
população.
amostragem: Procedimento utilizado para constituir uma 
amostra.
tratamento de dados: Aplicação de operações que 
expressem, em termos relativos, as diferenças de atributos 
entre os dados.
4
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Tabulando dados 
Analisou-se as medidas observadas, ordenando-se por 
intervalos, sendo a unidade metros, obteve-se: 
1001N=82
26,80,26822700-750
17,10,17114600-700
35,40,35429550-600
20,70,20717Até 500
Percentagem
%
Freqüência 
relativa (fr)
Freqüência
(f)
Distâncias
percorridas
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
MEDIDAS DE POSIÇÃO
Mínimo, Máximo, Moda, Média, Mediana, Percentis
MEDIDAS DE DISPERSÃO
Amplitude, Intervalo-Interquartil, Variância, Desvio 
Padrão, Coeficiente de Variação.
5
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
. 
indica quanto cada uma de um conjunto 
de observações para um mesmo evento, 
se aproxima da média do conjunto
de observações
Quanto uma medida se aproxima do
valor real
Valor mais provável de uma medida
verdadeiro valor de uma grandeza
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Precisão 
Alta Resolução Acurácia 
Baixa Resolução
6
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Sem precisão e sem acurácia Preciso mas sem acurácia
Com acurácia, sem precisão Com precisão e acurácia
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Erros sistemáticos são produzidos por causas 
conhecidas, podem ser evitados por técnicas 
especiais de observações ou podem ser modelados 
matematicamente e eliminados das observações. 
Erros acidentais ocorrem de maneira aleatória e 
devem ser tratados estatisticamente.
Tipos de erros
Erros grosseiros (blunders) são aqueles oriundos 
de falhas, falta de atenção do observador e do mau 
funcionamento de um instrumento, deve ser evitado, 
pois é de difícil detecção após as medidas
7
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
humanos ou pessoais
naturais
instrumentais
superabundância de observações: permite obter o
valor mais provável de uma grandeza: média
Substitui-se um conjunto de observações por um 
único número a média aritmética.
A precisão do conjunto de observações é fornecida
pelo erro médio quadrático da média
A precisão de uma observação é fornecida pelo erro
médio quadrático de uma observação isolada ou seu
valor positivo denominado de desvio padrão.
causas dos erros
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Média Aritmética (valor mais provável de uma 
observação)
8
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
1a observação = 10,4 cm
2a observação = 10,45 cm
3a observação = 10,3 cm
Qual o valor da medida? Qual a confiabilidade desta medição?
a b
a b
a b
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
0,011670,000131,15soma
0,0069389-0,083310,33
0,00444890,066710,452
0,00027890,016710,41
desvio ao 
quadrado
desvioobservação
(cm)
numero
Valor mais provável da observação:
x = 31,15/3 x = 10,38cm
Precisão: Variância:
Σ v. v 0,01167σ2 =  =  = 0,0058 cm2
n – 1 2
Precisão: desvio padrão:σ = 0,08 cm
9
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
resolução
precisãoMedida angular
Manual técnico do instrumento
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Medida de distância precisão
resolução
Manual técnico do instrumento
10
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
QUAL A PRECISÃO DO GPS
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
COVARIÂNCIA
A covariância entre dois conjuntos de 
medidas, x1 e x2, é dada por:
( )( )
1
2211
12 −
−−= ∑
n
xxxx
S ii
Se S12 = 0 Não há dependência entre G1 e G2
Se S12 # 0 Há dependência entre G1 e G2
11
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
1r1-
21
12 +≤≤=
SS
Sr
COEFICIENTE DE CORRELAÇÃO
O coeficiente de covariância entre dois 
conjuntos de medidas x1 e x2 é dado por:
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Método dos mínimos quadrados
Métodologia:
evitam-se os erros grosseiros
-Eliminam-se os erros sistemáticos por técnicas 
observacionais ou por aplicação de modelos 
matemáticos
-Ajustam-se os erros acidentais
Principio do Método
A soma dos quadrados dos resíduos é mínima.
Σvv = min.
12
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
( ) ( ) ( ) ( ) ( ) ... ( ) ( )σ ∂∂ σ
∂
∂ σ
∂
∂ σF k k
F
m
m F
m
m F
m
m2
1
2
1
2
2
22
2 2 2= + + +
Seja a função que representa um conjunto de dados
F = f(m1, m2, ..., mk)
Utilizando-se dos conceitos de Gauss:
Os erros não se propagam linearmente!
LEI DA PROPAGAÇÃO DAS VARIÂNCIAS
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
ACURÁCIA DE MEDIÇÃO - Grau de concordância entre o 
resultado de uma medição e um valor verdadeiro do 
mensurando.
CLASSIFICAÇÃO - consiste em distribuir em classes ou 
grupos segundo um sistema de classificação. A norma 
brasileira NBR13133 (Execução de levantamentos 
topográficos), define as classes que devem ser enquadrados os 
instrumentos baseando-se no desvio padrão de um conjunto de 
observações obtidas seguindo uma metodologia própria.
13
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
CALIBRAÇÃO - conjunto de operações que estabelece, em 
condições especificadas, a correlação entre valores de quantidades 
indicados por um instrumento de medida, ou sistema de medida, ou
uma medida materializada e os verdadeiros convencionais da 
grandeza medida.
Interferômetro HP 5528A do Laboratório de Aferição da UFPr.
(1)
Carro com sensor 
Emissor/
receptor
(2)
Distância calibrada: 9,965cm
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
valor real
medida erro
Valor mais provável
desvio
acurácia
Erro = Diferença entre o valor observado 
e o valor real
Desvio = Diferença entre o valor observado 
e a média
14
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Exercício:
Um ângulo foi medido dez vezes, como é mostrado abaixo:
(Gemael,C. 1994 p93)
8,4643,55E-1441,66Σ
0,0256-0,1641,510
0,05760,2441,9”9
0,9216-0,9640,7”8
1,79561,3443,0”7
0,54760,7442,4”6
1,53761,2442,9”5
0,19360,4442,1”4
0,7396-0,8640,8”3
0,2116-0,4641,2”2
2,4336-1,56120°31´ 40,1”1
v2 =(l-x) 2v= (l-x)medida (l)observação
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Estimativa Pontual
• Valor mais provável da observação:
x = 120°31´ 41,66”
b) Desvio padrão
8,464 
σ = √———— = 0,9698”
9
No software FreeMat v3.5
a=[40.1 41.2 40.8 42.1 42.9 42.4 43.0 40.7 41.9 41.5]
[' média =']
m=mean(a)
[' desvio padrão =']
s=std(a)
15
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Estimativa por intervalo de confiança da média
σ σ
P[ x - —— t 1-α/2 ≤ u ≤ x - —— t 1-α/2 ] = 1-α√n √n
Sendo 1-α denominado de nível de significância, usualmente 
igual a 95%.
Assim: 1-α = 0,95 1-α/2 = 0,975
Na tabela de Student para n-1 =9 (graus de liberdade)
t 0,975 = 2,262 
σ
x - —— t 1-α/2 = 120°31´ 40,96”√n
σ
x + —— t 1-α/2 = 120°31´ 42,36”√n
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Extrato da tabela de Student
Pode-se concluir que há 95% de chance de uma observação 
estar contida no intervalo de confiança:
P = [120°31´ 40,96” ≤ u ≤ 120°31´ 42,36”] = 95%
Adotando-se um nível de confiança mais alto (99%) obtém-se 
um intervalo de confiança maior
t 0,995 = 3,250
P = [120°31´ 40,65” ≤ u ≤ 120°31´ 42,67”] = 99%
16
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
No software Excel
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Um dos principais produtos do ajustamento das observações é a 
matriz variância covariância, que é um arranjo matricial na 
forma:
σ12 σ12 σ13 ... σ1nΣ = σ21 σ22 σ23 ... ...σ2n
... ... ... ...
σn1 σn2 ...σn3 ... σn2
Na diagonal principal tem-se as variâncias. Suas raízes 
quadradas representam os desvios padrões das observações 
correspondentes.
Fora da diagonal principal aparecem as covariâncias.
17
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Elipse de erros: é a figura que representa os desvios padrões 
máximos e mínimos de uma medida.
Deseja-se a localização do ponto B do segmento AB.
Precisão angular 10” precisão linear ±3mm
A
Precisão angular
Precisão linear
Área de localização 
provável do ponto B
x
y
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Exercícios:
Um ângulo foi medido cinco vezes, obtendo-se os resultados 
constantes da coluna “medida”, da tabela a seguir. Calcular o valor 
mais provável de sua medida, sua variância e seu erro médio 
quadrático da média. Verificar se todas as observações se 
encontram dentro de um intervalo de confiança com probabilidade 
de 95% de certeza
V2 (“2)V (“)Medidaobs
41,200,0102°41´38"SOMA
5,762,420°32´22"5
2,56-1,620°32´18"4
11,563,420°32´23"3
0,160,420°32´20"2
21,16-4,620°32´15"1
18
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
a) Cálculo da média aritmética (valor mais provável da medida)
Σob 102°41´38"
X = ——— = ——————
n 5
x = 20°32´19,6"
b) Cálculo da variância
Σv2
σ2 = ———
n-1 
41,20
σ2 = ————
5 – 1
σ2 =10,3 "2
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
c) Cálculo do desvio padrão
σ= ±3,2 "
d) Cálculo do intervalo de confiança das medidas com
probabilidade de certeza de 95%. Da análise estatística tem-se que 
para probabilidade de 95% deve-se pré-multiplicar o desvio padrão 
por 1,96, para 99% por 2,58, assim obtém-se:
P[ x – 1,96σ< α < x + 1,96σ] =95%
P[20°32´13,33" < α < 20°32´25,87"] =95%
19
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Uma distância de 200m foi medida com uma trena de 20m de 
comprimento. O desvio padrão de cada medida efetuada é 
conhecido e igual a 5mm. Qual o desvio padrão da distância 
total medida?
a) Modelo matemático para a distância total medida
D = d1+ d2+ d3+ d4+ d5+ d6+ d7+ d8+ d9+ d10
D=20,00+20,00+20,00+20,00+20,00+20,00+20,00+20,00+20,00
+20,00
D = 200,00m
b) Cálculo da propagação do desvio padrão
 ∂ D ∂ D ∂ D
 σ2 D=  σ2 d1+  σ2 d2+ .... +  σ2 d10 ∂ d1 ∂ d2 ∂ d10
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
σ2 d1= 52 mm2 = 25mm2
σ2d1= σ2d2= σ2d3= σ2d4= σ2d5= σ2d6= σ2d7= σ2d8= σ2d9= σ2d10= 25mm2
∂ D ∂ D ∂ D
 =  = ..... =  = 1
∂ d1 ∂ d2 ∂ d10
σ2D= σ2d1+ σ2d2+σ2d3+σ2d4+σ2d5+σ2d6+σ2d7+σ2d8+σ2d9+σ2d10
σ2D= 250mm2
σD= 15,8mm