Ajustamento-Cap5

Prévia do material em texto

CAPÍTULO 5 
TEORIA DA MEDIÇÃO E DOS ERROS 
 
 
5.1 Introdução 
A tarefa de efetuar medições e utilizá-las nos cálculos subsequentes é fundamental na Topografia. 
O processo necessita de uma combinação entre habilidade humana e equipamento adequado. No 
entanto, não importa com quanto cuidado se fazem as medições, estas nunca são exatas e sempre 
terão erros. 
Quem trabalha com Topografia, cujos trabalhos devem realizar-se sob estritas normas de 
qualidade, deve conhecer os diferentes tipos de erros, suas causas, suas possíveis magnitudes sob 
diferentes condições de trabalho, assim como sua maneira de propagar-se. Somente, então, 
poderão selecionar os equipamentos e procedimentos necessários para reduzir a magnitude dos 
erros a um nível razoável. 
Esses profissionais devem também ser capazes de avaliar a magnitude dos erros em suas 
medições de modo que possam utilizá-los em seus cálculos ou, se necessário, efetuar novas 
medições. Atualmente, ferramentas computacionais e a álgebra matricial são amplamente 
utilizadas para elaborar projetos de medições, análises, investigações, distribuição de erros e 
elaboração dos cálculos necessários. 
 
5.2 Tipos de medições em Topografia 
A Topografia clássica está fundamentada em cinco classes de medições a saber: 
 1- Ângulos horizontais – medem-se em planos horizontais; 
 2- Distâncias horizontais – também são medidas em planos horizontais; 
 3- Ângulos verticais (ou zenitais, ou nadirais) – medem-se em planos verticais; 
 4- Distâncias verticais – medidas segundo a direção da força da gravidade (vertical do 
lugar); 
 5- Distâncias inclinadas – medidas segundo planos inclinados. 
Em Topografia, as posições relativas entre pontos ou feições de interesse são determinadas 
através da combinação das diferentes classes de medições. 
 
5.3 Dígitos significativos e arredondamento 
Concluída a medição faz-se o registro da magnitude das medidas. Ao registrá-las, a indicação da 
exatidão (acurácia) alcançada é o número de dígitos que se registram. 
Por definição, o número de dígitos significativos em qualquer valor medido inclui os dígitos 
seguros (certos) e somente um dígito estimado ou arredondado. Portanto, este dígito estimado ou 
arredondado possui exatidão (acurácia) questionável. 
É importante ressaltar aqui que é indispensável que o registro das medidas de campo devem estar 
em perfeita sintonia com a Teoria dos Erros de Observação e respectiva Lei de propagação de 
erros. Isto é, o registro das medidas deve ter o correto número de dígitos significativos. Se 
34 
 
 
descartarmos um dígito significativo ao registrar um valor, o tempo dedicado em campo para se 
lograr determinada exatidão é jogado fora. Por outro lado, se registramos um valor com mais 
dígitos além dos significativos estamos denotando uma falsa precisão. 
Em geral, é comum confundir-se número de dígitos significativos com número de decimais. 
Existem situações em que temos que usar determinado número de casas decimais para conservar o 
número correto de dígitos significativos. No entanto, o número de decimais não indica, por si só, 
o correto número de dígitos significativos. Veja os exemplos a seguir: 
 1- dois dígitos significativos: 24; 2,4; 0,24; 0,0024; 0,020 
 2- três dígitos significativos: 364; 36,4; 0,000364; 0,0240 
 3- quatro dígitos significativos: 7621; 76,21; 0,0007621; 24,00 
Os zeros ao final de um valor inteiro podem causar dificuldade, porque podem ou não indicar 
dígitos significativos. Exemplo: seja o número 2400; não é possível decidir de antemão quantos 
são os dígitos significativos: podem ser dois, três ou quatro. Existe um procedimento para 
eliminar esta incerteza: exprimir o valor em potências de 10. Os dígitos significativos que existem 
na medida escrevemos como um número compreendido entre 1 e 10, incluindo o número de zeros 
corretos (certos) ao final, e o ponto decimal se coloca anexado a uma potência de 10. Assim: 
 1- 2400 se converte em 2,400 x 10
3
 se ambos os zeros são significativos; 
 2- em 2,40 x 10
3
 se um zero é significativo; 
 3- em 2,4 x 10
3
 se só existem dois dígitos significativos. 
Arredondar um número é o processo de suprimir um ou mais dígitos para que a resposta somente 
contenha aqueles que são significativos ou necessários aos cálculos subsequentes. A prática 
normal para arredondamentos de números segue os seguintes procedimentos: 
 1- quando o dígito a se eliminar é menor que 5, se escreve o número sem este dígito. 
Exemplo: 68,384 se transforma em 68,38; também o número 68,3849 arredondado para quatro 
dígitos significativos se transforma em 68,38. 
 2- quando o dígito a ser eliminado é maior que 5, se escreve o número com o dígito 
precedente aumentado em uma unidade. Assim, 68,386 se converte em 68,39. 
 3- quando o dígito a ser eliminado for exatamente igual a 5 se usará o próximo número 
par para o dígito precedente. Assim, 68,385 se transforma em 68,38 e 68,375 se transforma 
também em 68,38. 
Nota: é um procedimento errado efetuar um arredondamento em etapas; deve-se arredondar para 
o número de dígitos significativos necessários uma única vez, independente do número de dígitos 
existente. Assim, o valor 48,3749 arredondado para quatro dígitos significativos resulta 48,37 e 
não o valor 48,38 se arredondado por etapas. 
Atualmente, com o status da tecnologia de medição disponível, não nos preocupa 
operacionalmente a questão dos arredondamentos. Os algoritmos utilizados preveem a realização 
dos cálculos usando precisão dupla, isto é, utiliza todos os dígitos e decimais gerados em cada 
processo matemático. 
 
 
 
35 
 
 
5.4 Medições diretas e indiretas 
As medições de grandezas desconhecidas podem ser realizadas direta ou indiretamente. A 
medição de um ângulo isolado usando teodolito, de uma distância usando trena são exemplos de 
medições diretas. Nestes casos, a grandeza que está sendo medida é comparada diretamente com 
um padrão – limbo graduado ou o metro e suas subdivisões. 
Quando não é possível aplicar um instrumento (padrão) diretamente sobre a grandeza a medir, 
medem-se outras grandezas que se relacionam com as incógnitas. Assim, no nivelamento 
geométrico medem-se alturas verticais (leituras de mira) nos pontos de interesse; essas leituras 
levam à determinação dos desníveis e consequentemente das altitudes. O mesmo acontece no 
nivelamento trigonométrico. Medições com os equipamentos eletrônicos são todas medições 
indiretas. Medições levadas a efeito com o GPS (Global Positioning System) para quaisquer fins, 
também se caracterizam como indiretas. 
Independente do tipo de medição sempre haverá a presença de erros. A maneira com esses erros 
se combinam nas medições para produzir respostas nos cálculos subsequentes denomina-se 
propagação de erros. Fica estabelecido desde já que não existe processo de medição sem erros; o 
procedimento para avaliar a magnitude dos erros em qualquer quantidade calculada a partir das 
medições é estudado mais adiante em propagação de erros. 
 
5.5 Erros nas medidas 
Os valores medidos resultantes dos processos de medição estão eivados de erros. Os erros nada 
têm a ver com as discrepâncias observadas num conjunto de medidas de uma grandeza. Estas 
discrepâncias são ocasionadas pela presença em todas as medidas dos inevitáveis erros aleatórios 
(estamos aqui considerando que os erros grosseiros, também conhecidos por equívocos ou 
enganos e também os erros sistemáticos, cujo comportamento é conhecido, tenham sido 
eliminados ou minimizados, caso dos erros sistemáticos). Os erros aleatórios presentes nas 
medidas de campo possuem comportamento probabilístico, razão pela qual devem ser estudados 
adequadamente. 
Assim, por definição, um erro é a diferença que se observa entre o valor medido (X) e o valor 
verdadeiro (estimado) ( X ), 
E X X  (5.1) 
onde E é o erro em uma medição. 
A partir das considerações feitas anteriormente é possível estabeleceras seguintes premissas: 
 1- nenhuma medida é exata; 
 2- toda medida contém erro; 
 3- o verdadeiro valor de uma medida não se conhece; 
 4- o erro exato (verdadeiro) presente na medida não será conhecido – somente poderá ser 
estimado. 
A exatidão de uma medida depende do tamanho da divisão de uma escala, da confiabilidade do 
equipamento empregado e da limitação humana em efetuar estimativas mais precisas. 
Atualmente, com a tecnologia dos equipamentos de medição é certo que as medidas são mais 
precisas e acuradas, porém nunca serão exatas. 
36 
 
 
5.6 Causas de erros nas medições 
Devido à natureza das medições efetuadas em Topografia, existem três causas de erros nas 
medições: 
 FATORES NATURAIS – são fatores provenientes das variações ambientais: velocidade do 
vento, umidade, pressão atmosférica e refração atmosférica, além das variações da gravidade e da 
declinação magnética. 
 FATORES INSTRUMENTAIS – são fatores oriundos das imperfeições de fabricação dos 
equipamentos, dos ajustes e dos movimentos das diferentes peças componentes. A maioria dos 
erros de origem instrumental podem ser reduzidos, e até eliminados, ao adotar-se procedimentos 
de campo apropriados (adequados), verificações periódicas (ajustes e calibração) e, em certos 
casos, aplicando-se correções específicas. 
 FATORES PESSOAIS – estão relacionados com as limitações próprias dos sentidos 
humanos, principalmente da visão e do tato. O sentido da visão atua, principalmente, nas 
operações de pontaria sobre um alvo. Cada operador possui uma acuidade própria para realizar a 
colimação perfeita entre o alvo e o cruzamento dos fios do retículo. Outra situação em que 
aparece o fator humano nas medições é a realização de leituras sobre uma mira quando esta não 
está perfeitamente verticalizada no ponto. Estes efeitos provocam erros sistemáticos que deverão 
ser minimizados ou mesmo eliminados. 
 
5.7 Tipos de erros presentes nas medições 
Os erros presentes nos processos de medição são de dois tipos: sistemáticos e aleatórios ou 
acidentais. Não se consideram aqui os erros grosseiros ou equívocos. 
 ERROS SISTEMÁTICOS – são erros inerentes ao sistema de medição que compreende o 
meio ambiente, os instrumentos de medição e o observador. Em geral possuem comportamento 
conhecido o que permite que sejam corrigidos adotando-se procedimentos adequados de medição 
ou através de correções analíticas. 
Sempre que as condições ambientais permanecem “constantes” a magnitude dos erros 
sistemáticos também se mantém constante. As condições que ocasionam os erros sistemáticos se 
devem às leis físicas que podem ser representadas matematicamente (modeladas). Portanto, se 
conhecemos as condições e se podemos medir a magnitude de certos parâmetros físicos é possível 
calcular correções e aplicá-las às medidas. 
 ERROS ALEATÓRIOS – são os erros ainda presentes na grandeza medida, mesmo após a 
eliminação das influências sistemáticas. São ocasionados por fatores que independem do controle 
do observador. Obedecem às leis da probabilidade e são chamados também de erros acidentais. 
Estão presentes em todas as medições topográficas. 
As magnitudes e os sinais dos erros aleatórios são consequência do azar; não existe um 
procedimento absoluto de calculá-los nem de eliminá-los, mas podem ser estimados usando um 
procedimento de ajuste conhecido por Método dos Mínimos Quadrados – MMQ. 
 
5.8 Precisão x Exatidão (Acurácia) 
A diferença entre duas medidas de uma mesma grandeza define-se como uma discrepância. Uma 
discrepância pequena indica que provavelmente não existe equívoco e que os erros aleatórios são 
37 
 
 
de magnitude pequena. No entanto, as discrepâncias com magnitudes pequenas não impedem a 
presença de erros sistemáticos. 
 PRECISÃO – A precisão refere-se ao grau de refinamento ou consistência de um grupo de 
medidas e se avalia com base na magnitude das discrepâncias que tais medidas apresentam entre 
si. Se fazemos múltiplas medições sobre uma mesma grandeza e surgem pequenas discrepâncias, 
isso reflete uma alta precisão. Assim, o grau de precisão de um conjunto de medidas depende do 
equipamento utilizado (condições plenas de uso) e da habilidade do observador (conhecedor dos 
métodos adequados e dos cuidados a tomar no momento de efetuar as medidas). 
 EXATIDÃO – A exatidão refere-se à aproximação das medidas de uma grandeza ao seu 
verdadeiro valor. Como não conhecemos o verdadeiro valor da grandeza medida não podemos 
determinar a magnitude desta aproximação. Assim, é claro que a exatidão de uma medida diz 
respeito à presença de erros aleatórios. A figura 1 mostra exemplos de exatidão e precisão num 
experimento que consiste em efetuar cinco disparos com um rifle sobre um alvo. 
 
Colocar aqui a Figura 1: fig. 2-3, pg. 28 
 
Similarmente ao exemplo dos disparos com rifle, em Topografia, um levantamento pode ser 
preciso sem ser exato. Para ilustrar, cita-se o caso de um levantamento em que se empregam 
métodos depurados e as leituras (medidas) são realizadas com extremo cuidado. Descobre-se que 
existem erros instrumentais (que não foram corrigidos) no aparelho de medição; como resultado 
obtém-se medidas precisas, porém o levantamento não será exato. 
 
5.9 Convivendo com equívocos e erros sistemáticos 
Nos trabalhos topográficos, tanto na etapa de campo quanto nos cálculos em escritório, as ações 
devem estar norteadas pela busca constante da eliminação dos equívocos e minimização da 
influência dos erros sistemáticos sobre as medidas. O ideal seria não existirem os equívocos, mas 
devido à falibilidade humana isso não é possível. 
Os equívocos somente poderão ser eliminados se descobertos, por isso a necessidade sempre de 
colhermos medidas superabundantes para possibilitar a comparação entre elas. O procedimento de 
se coletar múltiplas medidas de uma grandeza permite identificar possíveis equívocos, além de 
possibilitar o ajustamento das medições pelo MMQ. 
Os erros sistemáticos em sua maioria podem ser calculados e podemos aplicar correções 
apropriadas às medidas. Em alguns casos é possível adotar procedimentos de campo que 
eliminam automaticamente as influências sistemáticas. Cita-se o caso de um nivelamento 
geométrico realizado com um equipamento de nivelamento com movimento da luneta não 
ajustado. Ao efetuarmos as leituras ré e vante, estas estarão incorretas; incorreção que será 
propagada aos desníveis calculados. Entretanto, se todas as leituras ré e vante forem feitas à 
mesma distância do instrumento, os erros se cancelam ao se calcular os desníveis. 
 
5.10 O valor mais provável de uma grandeza 
Como visto, nas medições físicas nunca se conhece o verdadeiro valor de uma grandeza. No 
entanto, o valor mais provável da grandeza pode ser estimado se efetuamos medições redundantes 
38 
 
 
(superabundantes). Medições redundantes são aquelas que se realizam em excesso às mínimas 
necessárias para a determinação de uma grandeza. Vejamos o caso de uma só incógnita, como o 
comprimento de um alinhamento que tenha sido medido direta e independentemente várias vezes 
usando o mesmo equipamento e o mesmo procedimento
1
. A primeira medição já determina o 
comprimento do alinhamento; todas as medições adicionais são redundantes. O valor mais 
provável neste caso é dado pela expressão a seguir: 
X = ∑X / n (5.2) 
que é a expressão da média aritmética entre as n medidas da incógnita X realizadas. 
 
5.10.1 Os resíduos 
O resíduo nada mais é do que a diferença entre qualquer valor medido de uma grandeza e o valor 
mais provável desta grandeza. Assim, 
v = X - X (5.3) 
onde v é o resíduo em qualquer medição X e X é o valor mais provável da grandeza medida. 
Teoricamente os resíduos são idênticos aos erros, com exceção de que os resíduos podem ser 
calculados e os erros não, pois não se conhece o valor verdadeiro da grandeza. Portanto, são os 
resíduos e não os erros que são usados naanálise e correção das medições. No entanto, como são 
similares, na prática os termos resíduo e erro são usados indistintamente. 
 
5.11 Como surgem os erros aleatórios? 
Conforme vimos anteriormente, os erros aleatórios possuem comportamento que segue as leis da 
probabilidade. Para que possamos enxergar esse comportamento mais claramente vamos 
considerar os dados da Tabela 1 a seguir. 
Os dados contemplam 100 repetições da medida de um ângulo realizadas com um teodolito de 
precisão. Deve-se aceitar que as observações estão livres de equívocos e erros sistemáticos. Os 
dados estão ordenados segundo os resíduos em ordem crescente. Se uma medida foi obtida mais 
de uma vez, anotou-se na coluna (2) o número de vezes ou a frequência. 
Observa-se na Tabela 1 que a dispersão das medidas é de 11,3'' – intervalo entre o maior valor 
(27
o
 43' 30,8'') e o menor valor observado (27
o
 43' 19,5''). Fora isso é difícil analisar o padrão de 
distribuição das medidas simplesmente recorrendo aos valores tabulados. Assim, o primeiro passo 
é preparar um histograma; o histograma é um gráfico de barras onde se mostram os tamanhos das 
medidas (ou resíduos) em relação à frequência. Na presença de uma quantidade relativamente 
grande de dados é comum distribuir os resíduos em intervalos de classe; os intervalos de classe 
devem ter número ímpar, resultando num histograma simétrico (no exemplo em pauta são 17 
intervalos de classe de amplitude 0,7''). Veja a preparação das classes na Tabela 2. 
 
 
 
 
1 Utilizar o mesmo equipamento e idênticos procedimentos de medição ratifica que as medições são de mesma 
confiabilidade ou peso. A ponderação das medições será alvo de estudo mais adiante. 
39 
 
 
Tabela 1 – Medições de um ângulo com teodolito de precisão 
Valor 
medido 
(1) 
 
Frequência 
(2) 
Resíduo 
('') 
(3) 
Valor 
medido 
(1 cont.) 
 
Frequência 
(2 cont.) 
Resíduo 
('') 
(3 cont.) 
27
o
 43' 19,5'' 1 -5,5 27
o
 43' 25,1'' 3 0,1 
20,0'' 1 -5,0 25,2'' 1 0,2 
20,5'' 1 -4,5 25,4'' 1 0,4 
20,8'' 1 -4,2 25,5'' 2 0,5 
21,2'' 1 -3,8 25,7'' 3 0,7 
21,3'' 1 -3,7 25,8'' 4 0,8 
21,5'' 1 -3,5 25,9'' 2 0,9 
22,1'' 2 -2,9 26,1'' 1 1,1 
22,3'' 1 -2,7 26,2'' 2 1,2 
22,4'' 1 -2,6 26,3'' 2 1,3 
22,5'' 2 -2,5 26,4'' 1 1,4 
22,6'' 1 -2,4 26,5'' 1 1,5 
22,8'' 2 -2,2 26,6'' 3 1,6 
23,0'' 1 -2,0 26,7'' 1 1,7 
23,1'' 2 -1,9 26,8'' 2 1,8 
23,2'' 2 -1,8 26,9'' 1 1,9 
23,3'' 3 -1,7 27,0'' 1 2,0 
23,6'' 1 -1,4 27,1'' 3 2,1 
23,7'' 1 -1,3 27,4'' 1 2,4 
23,8'' 2 -1,2 27,5'' 2 2,5 
23,9'' 3 -1,1 27,6'' 1 2,6 
24,0'' 5 -1,0 27,7'' 2 2,7 
24,1'' 3 -0,9 28,0'' 1 3,0 
24,3'' 1 -0,7 28,6'' 2 3,6 
24,5'' 2 -0,5 28,7'' 1 3,7 
24,7'' 3 -0,3 29,0'' 1 4,0 
24,8'' 3 -0,2 29,4'' 1 4,4 
24,9'' 2 -0,1 29,7'' 1 4,7 
25,0'' 2 0,0 30,8'' 1 5,8 
 ∑ = 2.499,4 ∑ = 100 
Média = X = 2.499,4/100 = 25,0'' 
Valor mais provável: X = 27
o
 43' 25,0'' 
 
 
 
 
40 
 
 
Tabela 2: Intervalos de classes e número de resíduos 
Intervalo de classe (em '') Número de resíduos 
-5,95 a -5,25 1 
-5,25 a -4,55 1 
-4,55 a -3,85 2 
-3,85 a -3,15 3 
-3,15 a -2,45 6 
-2,45 a -1,75 8 
-1,75 a -1,05 10 
-1,05 a -0,35 11 
-0,35 a +0,35 14 
+0,35 a +1,05 12 
+1,05 a +1,75 11 
-5,95 a -5,25 8 
-5,25 a -4,55 6 
-4,55 a -3,85 3 
+3,85 a +4,55 2 
+4,55 a +5,25 1 
+5,25 a +5,95 1 
 ∑ = 100 
 
Figura 2: Histograma, polígono de frequência e curva de distribuição normal de 
resíduos de medições de um ângulo 
 
Inserir aqui Figura 2-4, pg. 33 
 
Para elaborar o histograma é necessário calcular os resíduos; estes foram calculados usando-se a 
expressão 03 e os valores estão relacionados nas colunas (3 e 3 cont.) da Tabela 1. A média ou o 
valor mais provável do ângulo foi determinado usando-se a expressão 02 e é mostrada na base da 
Tabela 1. A Figura 2 ilustra o histograma para o conjunto de dados apresentados na Tabela 1. De 
imediato o histograma já nos indica um padrão de distribuição dos resíduos. 
Unindo-se com linhas retas os pontos superiores médios das barras do histograma se obtém o 
polígono de frequências (linha tracejada em negrito desenhada na Figura 2). Basicamente o 
polígono de frequências exibe em forma gráfica a mesma informação que o histograma. 
Incrementando progressivamente o número de medições, obviamente os intervalos de classe vão 
se tornando cada vez menores, de modo que, ao final, o polígono de frequências tenderá a se 
aproximar a uma curva uniforme e contínua, simétrica em relação ao centro como aquela 
mostrada na Figura 2 (linha continua grossa em negrito). Na Figura 3 se mostra em separado esta 
curva para melhor clareza. A forma de “sino” desta curva é característica de um grupo de erros 
normalmente distribuídos, e por isso é conhecida como curva de distribuição normal. Há quem a 
denomine de curva de densidade normal, pois mostra a densidade de erros de diversas 
41 
 
 
magnitudes. 
 
5.12 Análise da curva de distribuição normal 
De acordo com os dados da Tabela 1, o histograma para uma série de medições mostra 
graficamente a probabilidade de ocorrência de um erro de determinada magnitude, mediante as 
áreas das barras. Veja, por exemplo, que 14 dos 100 resíduos (Figura 1) estão entre -0,35'' e 
+0,35'' de magnitude. Isto representa 14% dos erros e a barra do histograma que corresponde a 
este intervalo equivale a 14% da área de todas as barras. Assim, a área de uma barra construída 
com duas ordenadas contíguas de uma distribuição normal e a abcissa entre elas, representa a 
porcentagem de probabilidade de que existe um erro dessa magnitude. Uma vez que a soma 
das áreas de todas as barras de um histograma representa todos os erros, também representa todas 
as probabilidades e assim a soma é igual a 1. Da mesma maneira, a área total sob a curva de 
distribuição normal é igual a 1. 
Imaginemos que as mesmas medições do exemplo tenham sido realizadas utilizando melhor 
equipamento e com mais cuidado; certamente teríamos um conjunto de erros (resíduos) menores e 
a curva de distribuição normal seria semelhante à da Figura 3-a. Em comparação com a Figura 2, 
esta curva é mais alta e mais estreita, demonstrando que uma maior porcentagem de valores tem 
erros menores, enquanto menos medições tem erros maiores. Isso indica que as medições foram 
mais precisas. Em medições efetuadas com menos precisão e cuidados ocorre o contrário, 
evidenciado pela curva da Figura 3-b que exibe uma forma mais achatada e mais larga. Mesmo 
assim, nos três casos analisados a curva de distribuição normal manteve o padrão característico. 
Desta análise fica o seguinte ensinamento: ao comparar diferentes curvas de distribuição normal 
oriundas das medições sobre uma determinada grandeza, temos informações imediatas quanto à 
precisão de cada um dos grupos de medições. 
Feitas as análises acima é possível enunciar algumas particularidades a respeito de probabilidade: 
 a) os resíduos de pequena magnitude (erros) ocorrem com maior frequência que os de 
maior magnitude, ou seja, a probabilidade de ocorrência de erros menores é maior; 
 b) os erros de grande magnitude ocorrem com pouca frequência e são, portanto, menos 
prováveis; no caso de erros com distribuição normal, aqueles excepcionalmente grandes podem 
ser equívocos em vez de erros aleatórios; 
 c) os erros positivos e negativos de mesma magnitude ocorrem com igual frequência, ou 
seja, são igualmente prováveis. 
 d) é possível calcular probabilidades a partir da curva normal determinando-se as áreas 
sob a curva de distribuição normal. Entretanto esta tarefa será mais facilitada adotando-se uma 
curva de distribuição normal padronizada. Veremos isso mais adiante. 
 
Figura 3: Curvas de distribuição normal. (a) mais precisa; (b) menos precisa 
 
Inserir aqui a Figura 2-6, pg. 36. 
 
 
42 
 
 
Estudamos até aqui que a precisão de um conjunto de medições pode ser avaliada visualmentepela forma da curva de distribuição dos resíduos. Porém, é imprescindível em trabalhos 
topográficos e geodésicos conhecer a magnitude desta precisão no intuito de saber se o trabalho 
realizado atende ou não certas especificações. Isso é possível estudando-se as medidas de 
precisão, que veremos na sequência. 
 
5.13 Medidas de precisão 
Ainda que as curvas de distribuição normal tenham formas similares, existem diferenças 
significativas em se tratando da dispersão dos erros. A magnitude da dispersão é uma indicação a 
respeito da precisão relativa das medidas. Dois termos estatísticos são usados para expressar a 
precisão de uma série de medidas: o desvio padrão σ e a variância σ
2
. A equação que permite 
o cálculo da variância se escreve: 
σ
2
 = Σv
2
 / (n -1) (5.4) 
Onde σ
2
 é a variância de um grupo de medidas de uma mesma grandeza, v é o resíduo de uma 
observação isolada, Σv
2 
é a soma dos quadrados dos resíduos e n é o número de observações. O 
desvio padrão σ é a raiz quadrada da variância. Observe que a equação 04 fornece como resultado 
o desvio padrão e este tem valores positivos e negativos. Nas curvas de distribuição normal, o 
valor numérico do desvio padrão é a abcissa nos pontos de inflexão (posição onde a curva muda a 
concavidade). Na Figura 03 (a e b) observam-se esses pontos de inflexão. Uma menor distância 
entre esse ponto de inflexão e o eixo central indica medições mais precisas (Figura 03(a)) 
enquanto a maior distância indica menos precisão (Figura 03(b)). 
A Figura 4 é um gráfico que mostra a porcentagem da área total sob a curva de distribuição 
normal que existe entre intervalos de resíduos (erros) com valores positivos e negativos iguais. 
 
Figura 4: Relação entre o erro e a porcentagem de área sob a curva de distribuição normal 
 
Inserir aqui a figura 2-7, pg. 37 
 
A escala das abcissas se mostra em múltiplos do desvio padrão. Nesta curva a área entre + σ e – σ 
é igual a 68,27% da área total sob a curva normal. Portanto, a curva indica o intervalo de resíduos 
que se pode esperar que ocorram 68,27% das vezes. As porcentagens mostradas na Figura 4 se 
aplicam a todas as distribuições normais, independentemente da forma da curva ou do valor 
numérico do desvio padrão. 
 
5.14 Interpretação do papel do desvio padrão 
Mostramos que o desvio padrão fixa os limites de um intervalo dentro do qual se espera que 
68,27% das medições de uma grandeza estejam nele contidas. Isto significa dizer que: 
 a) se uma medição se repete dez vezes, pode-se esperar que sete delas estejam contidas no 
intervalo definido pelo desvio padrão e, consequentemente, três delas caem fora deste intervalo; 
 b) uma medição adicional da grandeza teria 68,27% de probabilidade de cair dentro dos 
43 
 
 
limites determinados pelo desvio padrão; 
 c) a consequência mais importante é que o valor real ou verdadeiro da grandeza tem uma 
probabilidade de 68,27% de cair no intervalo definido pelo desvio padrão. 
Quando se aplica a equação 4 aos dados da Tabela 1, se obtém um desvio padrão de ± 2,19''. 
Examinando os resíduos calculados e tabulados na Tabela 1 (coluna 3) observamos que 70 dos 
100 valores (70%) são realmente menores que 2,19''. Isso mostra que a teoria da probabilidade 
reflete de forma muito próxima a realidade. 
 
5.15 Os erros de 50, 90 e 95% 
Dos dados da Figura 4 é possível calcular a probabilidade de um erro de qualquer porcentagem de 
probabilidade. A equação geral é: 
Ep = Cp σ (5.5) 
Onde Ep é a porcentagem de erro de interesse e Cp é o correspondente fator numérico tomado na 
Figura 4. Assim temos: 
E50 = 0,6745 σ (5.6) 
E90 = 1,6449 σ (5.7) 
E95 = 1,9599 σ (5.8) 
O erro E50 é definido como erro provável. Este valor fixa os limites do intervalo dentro do qual 
devem permanecer as medições 50% das vezes, isto é, uma medida tem 50% de probabilidade de 
estar dentro ou fora do intervalo estabelecido. 
Os erros E90 e E95 são usados para estabelecer precisões necessárias em projetos topográficos. 
Destes, o E95 denominado erro dois sigma (2σ) é mais usado. Por exemplo: em um determinado 
projeto se pode requerer que o erro de 95% seja menor ou igual a certo valor para que o trabalho 
seja aceito. Aplicando a equação 08 aos dados da Tabela 1 (desvio padrão = ±2,19'') resulta E95 = 
±4,29''. 
Em topografia se usa o erro três sigma (3σ) como critério para abandonar medições duvidosas. De 
acordo com a Figura 4 existe uma probabilidade de 99,7% de que um erro seja menor que esta 
quantidade. Assim, em um conjunto de observações, qualquer valor cujo resíduo exceda 3σ se 
considera como um equívoco e deverá ser efetuada uma nova medição ou rever os cálculos e 
análises com um dado a menos. 
 
Nota: 
O eixo X (abcissas) é uma assíntota da curva de distribuição normal, isto é, mesmo que os valores 
de X tendam ao infinito a calda da curva nunca tocará o eixo, de modo que não se poderá avaliar 
o erro 100% (E100). Em outras palavras, qualquer que seja o erro encontrado, teoricamente sempre 
é possível achar um erro maior.