Apostila de Introduções ao Ajustamento de O bservações-UFV-2010 (1)

Prévia do material em texto

Engenharia de Agrimensura e Cartográfica - UFV 
Departamento de Engenharia Civil 
 
 
 
 
 
 
AJUSTAMENTO 
 
DE 
 
 
OBSERVAÇÕES 
 
 
Profº Antônio Simões Silva 
 
 
Setor de Engenharia de Agrimensura e Cartográfica 
Departamento de Eng. Civil 
Universidade Federal de Viçosa 
Viçosa MG 36570-000 
Fone: (31) 3899 2876 
FAX: (31) 3899 1428 
 
 
Ilustrações; Bolsista – WELDON MARTINS DOS SANTOS 
 Aluno de Engenharia de Agrimensura e Cartográfica 
 
 
 
 
 
 
UNIVERSIDADE FEDERAL DE VIÇOSA 
2010 
 
 
 
Curso de Engenharia de Agrimensura e Cartográfica 
 
 
 
 
AAJJUUSSTTAAMMEENNTTOO DDEE 
OOBBSSEERRVVAAÇÇÕÕEESS PPOORR 
MMÍÍNNIIMMOOSS QQUUAADDRRAADDOOSS 
EEMM CCIIÊÊNNCCIIAASS GGEEOODDÉÉSSIICCAASS 
 
 
 
 
Prof. Verônica M. C. Romão 
Prof. Antonio Simões Silva 
 
Viçosa – 2010 
 
Ajustamento de Observações II-2010 
 
2 
 
SUMÁRIO 
 
 
Capítulo 01 AJUSTAMENTO DE OBSERVAÇÕES 03 
Capítulo 02 TEORIA DOS ERROS 07 
Capítulo 03 DISTRIBUIÇÃO NORMAL 13 
Capítulo 04 PROPAGAÇÃO DE VARIÂNCIAS 18 
Capítulo 05 MÉTODO DOS MÍNIMOS QUADRADOS 31 
Capítulo 06 MÉTODO PARAMÉTRICO 45 
Capítulo 07 MÉTODO DOS CORRELATOS 68 
Capítulo 08 MÉTODO COMBINADO 77 
Capítulo 09 AJUSTAMENTO DE UMA TRIANGULAÇÃO 82 
Capítulo 10 ELIPSE DE ERROS 92 
REFERÊNCIAS BIBLIOGRÁFICAS 99 
 
Verônica Romão & Antonio Simões II 2010 
 
3 
RN
 1
RN
 2
AJUSTAMENTO DE OBSERVAÇÕES 
 
1.1. INTRODUÇÃO 
 
 Ao obter uma medida que se requer confiança, qualquer pessoa, intuitivamente repetirá 
observações e não irá confiar em apenas uma observação. Mas a partir de várias observações de 
uma mesma grandeza, que resultado final representa a melhor estimativa e que seja único deverá 
ser utilizado? 
 O ajustamento de observações cuida da resolução de problemas deste tipo, bem como a 
estimativa de precisão da solução adotada. 
 O ajustamento de observações leva, além de uma solução única, a coerência de 
observações a modelos matemáticos apropriados a cada caso. Nos casos mais simples realiza-se 
medidas sobre as próprias grandezas incógnitas. Quando tais incógnitas se ligam por equações de 
condição o problema se torna menos simples. Outras vezes mede-se grandezas que se vinculam 
às incógnitas através de relações funcionais conhecidas, é o caso de observações indiretas ou 
parâmetros (ex. coordenadas, altitudes). Em qualquer caso o que se busca, é purificar as 
observações das inconsistências que as acompanham, ou seja, ajustá-las, juntamente com 
parâmetros (quando existem), a um modelo matemático. 
 Algumas dificuldades podem surgir quando se pretende ponderar as observações onde se 
deve atribuir mais peso àquelas que têm maior precisão; isto pressupõe o conhecimento da 
precisão com que as medidas são efetuadas. 
 Exemplo 01: A figura 1.1 esquematiza uma pequena rede de nivelamento geométrico. 
Em função dos desníveis medidos, a altitude de RN1 pode ser transportada até RN2; como são 
diversos os caminhos possíveis, estes poderão fornecer várias soluções. 
 
 
 
 
 
 
Fig. 1.1 
Ajustamento de Observações II-2010 
 
4 
O ajustamento, entretanto, conduzirá a uma solução única tornando as observações 
ajustadas com o modelo matemático adotado. 
Alternativamente, a altitude de RN2 pode ser "fixada" como a de RN1; neste caso as 
observações são ajustadas de tal maneira que o transporte de altitudes a partir de RN1 produza 
em RN2 o valor igual ao prefixado. 
 
 
 
 
 
 
 
 
 
Fig. 1.2 
Exemplo 02: P e Q são vértices de uma cadeia de triangulação já ajustada, razão pela qual suas 
coordenadas são consideradas "fixas". Na poligonal PABCQ medem-se os lados e os ângulos, 
ambos eletronicamente. Admitindo-se que tais observações sejam, num caso ideal, isentas de 
erros, ainda assim as coordenadas transportadas a partir de P podem chegar em Q com erro. 
Neste caso em que não há erros de observações o que faz com que as coordenadas calculadas a 
partir de P não "fechem" em Q, poderá ser o modelo matemático do cálculo do transporte numa 
superfície diferente daquela superfície em que foram calculadas P e Q. Como exemplo, pode-se 
citar um caso em que as coordenadas de P e Q poderiam estar no sistema UTM e o cálculo da 
poligonal num plano topográfico em que não se levou em conta a esfericidade da superfície. 
Fig. 1.3 
 
A
7
D
8
6
C
5
2
1
3
4
B
A
P
B
C
Q
Verônica Romão & Antonio Simões II 2010 
 
5 
Exemplo 03: Na figura 1.3, nota-se os ângulos medidos de um quadrilátero completo de uma 
triangulação geodésica. Depois de ajustados, a soma dos ângulos de todos os triângulos esféricos 
do quadrilátero deverá satisfazer a condição matemática que é: a soma dos ângulos de cada 
triângulo é igual a 180o mais o excesso esférico do triângulo. 
 
1.2. O MÉTODO DOS MÍNIMOS QUADRADOS 
 
 Considerando o caso da medida direta de uma grandeza x; sejam l1, l2,...,ln os valores 
obtidos em uma série de n observações. 
 Na impossibilidade de obter o verdadeiro valor de x, usa-se uma estimativa que seja mais 
provável. Adotando, o valor x como o mais provável e calculando as diferenças: 
 x - l1 = v1 
 x - l2 = v2 
 x - l3 = v3 
. . . (1.1) 
 . . . 
 x - ln = vn 
 Ou x - li = vi para i = 1, 2, 3, ..., n 
 
 Tais diferenças (vi) são os resíduos, isto é, os valores a priori desconhecidos, que 
somados às observações reproduzem o valor estimado x. 
Poder-se-ia, mudando o critério, eleger um valor diferente x' como o mais provável. Isto 
resultaria num novo conjunto de resíduos: 
 x' – li = v'i (1.2) 
Para um novo valor estimado de x, teríamos um novo conjunto de resíduos 
 x" – li = v"i (1.3) 
e assim por diante 
 Qual dos valores x, x', x" dever-se-ia adotar? Em outras palavras, como escolher um 
critério que permita, das observações repetidas li, discrepantes entre si, extrair um valor único 
para representar a incógnita x? 
 Há mais de duzentos anos os geodesistas optaram por seguir o caminho indicado por 
Gauss e Legendre: aceitar como melhor estimativa de x o valor que torna mínima a soma dos 
quadrados dos resíduos. 
Ajustamento de Observações II-2010 
 
6 
 Até a bem pouco, o M.M.Q., conservava a notação original de Gauss, respeitada 
universalmente. 
 [v.v] = min , (1.4) 
onde, o colchete indica somatório com intervalo de 1 a n, sem utilizar expoentes. 
 Quando as observações não oferecem o mesmo grau de confiança, é atribuído a cada uma 
das observações um peso. Este traduz a precisão com que a observação foi obtida. A equação 1.4 
fica: 
 [ ]min min
1
n
pi vi ou p v v
i
∗ = ∗ ∗ =∑
=
 (1.5) 
onde p representa pesos e v representa resíduos. 
 Modernamente prefere-se a linguagem matricial: 
 mintV V = (1.6) 
em que V é o vetor coluna dos resíduos. À estas observações vincula-se pesos, ficando: 
 mintV PV = (1.7) 
sendo P uma matriz quadrada (matriz dos pesos). 
 
 No capítulo 5 há mais discussões sobre o MMQ, método dos mínimos quadrados. 
 
 
Verônica Romão & Antonio Simões II 2010 
 
 7
TEORIA DOS ERROS 
 
2.1. INTRODUÇÃO 
 
 Na medida de uma determinada grandeza, certos fatores como a limitação humana, 
imperfeição instrumental e instabilidade da natureza fazem com que as medidas não tenham 
exatidão absoluta. Um operador repetindo várias vezes uma mesma medida, os resultados 
provavelmente não serão idênticos, por maior que seja o cuidado utilizado nas observações. 
Assim, pode-se afirmar que em todas as medidas há erros. 
 Com a finalidade de conhecer bem a teoria dos erros, serão apresentados, a seguir, alguns 
conceitos importantes e de uso comumno ajustamento de observações. 
 
2.2. ALGUNS CONCEITOS 
2.2.1. Erro Verdadeiro 
 É a diferença, entre a observação de uma grandeza física e o seu verdadeiro valor. 
 Na prática, não se conhece o valor verdadeiro da grandeza; conhece-se o valor mais 
provável desta grandeza. 
2.2.2. Erro Aparente (e) 
 Erro aparente ou simplesmente erro (e) é a diferença, entre a observação de uma grandeza 
(xi) e seu valor mais provável x . 
 
xxe ii −= (2.1) 
2.2.4. Resíduo (v) 
 Denomina-se de resíduo o simétrico do erro, ou seja, é a grandeza com o mesmo valor do erro, 
porém com sinal contrário. 
i iv x x= − (2.2) 
2.2.5. Erro Relativo (er) 
 É a relação entre o módulo do erro aparente e o valor mais provável da grandeza ( x ). 
Ajustamento de Observações II-2010 
 8
 
e
er x
=
 (2.3) 
 Considerando um conjunto de observações de uma mesma grandeza, o erro relativo é 
muitas vezes utilizado em ajustamento de observações, como sendo a relação entre o desvio 
padrão do conjunto de observações da grandeza e o valor mais provável dessa grandeza. 
Geralmente, se expressa o erro relativo em termos de fração, colocando a unidade no numerador. 
 
 Exemplo: 
 Se x = 229,314 m 
 e σn = 0,012 m 
 então, 
 r
0,012 1 1
e
229,314 19109 19000
= = ≈ 
 
2.2.6. Erro Tolerável (Tolerância) 
 Considera-se normalmente como sendo o triplo do desvio padrão da média. 
 
 
3.tol nσ= (2.4) 
Associado ao erro tolerável, está a idéia de critério de rejeição. O critério de rejeição é um limite 
de erro acima do qual a observação é rejeitada. 
 
2.3. TIPOS DE ERROS EM FUNÇÃO DE SUA ORIGEM E 
CARACTERÍSTICAS 
 
2.3.1. Erros Grosseiros 
 Erros grosseiros são resultantes de alguma falha do operador ou do instrumento no 
decorrer das observações. Estes erros devem ser evitados através de cuidadosas observações, 
porém, não pode ter garantias de que um conjunto de observações está isento de erros grosseiros. 
Com o advento de instrumentos eletrônicos e o avanço tecnológico destes, o estudo dos erros 
grosseiros ganhou importância. Essas observações (medições) geralmente podem ser capturadas 
automaticamente do instrumento e processadas no computador sem a apreciação do observador. 
Essa nova maneira de obtenção de dados faz com que erros grosseiros passem despercebidos 
pelo operador. Dessa forma é conveniente que se introduza no processamento das observações, 
Verônica Romão & Antonio Simões II 2010 
 
 9
testes que detectem os erros grosseiros. A parcela do ajustamento de observações onde se estuda 
esse assunto é denominada “detecção de outliers”. 
 
2.3.2. Erros Sistemáticos 
 Podem ser expressos por uma função matemática. Se as causas dos erros são conhecidas, 
pode-se calcular o erro e eliminá-lo. São erros cumulativos. 
 Caracterizam-se por ocorrer sempre em um mesmo sentido e conservarem em medições 
sucessivas, o mesmo valor. Decorrem das deficiências do observador, do instrumento e do 
método usado. Daí dizer-se que os erros sistemáticos podem se originar das fontes que se 
seguem: 
 
 a) Erros sistemáticos introduzidos pelo observador. Quando por algum problema de 
visão (ou outro fator desconhecido) do observador, as medidas têm discrepância sistemática em 
relação ao valor mais provável. 
 
 b) Erros sistemáticos introduzidos pelo instrumento. Uso de instrumentos em 
condições diferentes daquelas para as quais foram calibradas. Instrumento descalibrado: 
suponha uma distância obtida a partir de oito “trenadas”, supondo que cada “trenada” equivale a 
10 metros, a distância total seria de 80 metros. Detectando posteriormente que a trena tem na 
realidade 10,10 metros, conclui-se que a distância tem um erro sistemático de 80 cm. 
 Outros exemplos são: erro de índice num ângulo vertical; número gerador errado, etc. 
Os erros instrumentais são reduzidos por meio de uma aferição ou calibração do 
aparelho, por comparação com um padrão de confiança. 
 Às vezes pode-se corrigir o instrumento fazendo o mesmo fornecer resultados sem erros 
sistemáticos, ou então calcular o erro e corrigir os resultados das medições. 
 
 c) Erros sistemáticos introduzidos pelo modelo matemático. Utilização de um modelo 
baseado em equação matemática não representativa do fenômeno. 
 
2.3.3. Erros Aleatórios 
 Ocorrem de causas desconhecidas e incontroláveis. 
 Caracterizam-se por ocorrerem ao acaso quaisquer que sejam os observadores, os 
instrumentos e os métodos. Em geral são erros pequenos, porém inevitáveis e encontrados em 
Ajustamento de Observações II-2010 
 10
todas as observações causando discrepâncias que a princípio se apresentam sem qualquer 
conformidade matemática. A sua influência sobre as observações é aleatória, não permitindo 
outro tratamento se não baseado na teoria da probabilidade. 
 Pode-se dizer que os erros acidentais são os que ainda restam na determinação de uma 
grandeza, em que foram tomados todos os cuidados para eliminar as observações com erros 
grosseiros, bem como os sistemáticos foram pesquisados, calculados e eliminados. 
 Quando se realiza um número grande de observações, a experiência tem demonstrado que 
estes erros revelam alguma regularidade, ou seja, seguem uma distribuição de freqüência que 
muito se aproxima da distribuição normal. 
 
2.4. Classificação das Observações 
2.4.1 Diretas 
 As medições são efetuadas diretamente, em relação à grandeza procurada, sem que 
existam meios para verificação do erro, uma vez que não se conhecem os seus valores reais ou 
teóricos. Exemplo: uma distância ou ângulo isolado. 
2.4.2 Indiretas 
 As observações não são feitas diretamente sobre as grandezas procuradas, mas por outras 
a elas ligadas através de relações conhecidas. Exemplo: coordenadas ou áreas. 
2.4.3 Diretas Condicionadas 
 As observações são feitas diretamente, e são independentes entre si, porém se prendem a 
alguma equação de condição conhecida. Exemplo: Na medida de três ângulos (a, b, c) de um 
triângulo plano, tem-se que a + b + c = 180º. 
 
2.5. VALOR MAIS PROVÁVEL DE UMA GRANDEZA 
 O valor mais provável de uma grandeza, medida diversas vezes pelo mesmo operador, 
utilizando o mesmo equipamento e o mesmo método, ou seja, medidas com um grau idêntico de 
precisão, é a média aritmética dos valores encontrados. 
No caso de observações obtidas com diferentes graus de precisão, o valor mais provável 
deverá ser obtido considerando-se a variância de cada observação que gera um fator de 
proporcionalidade ao qual denominamos peso. 
 Suponha x o valor adotado como estimativa de uma grandeza sobre a qual foram 
efetuadas n observações repetidas em condições supostamente similares, então os 
correspondentes resíduos serão: 
Verônica Romão & Antonio Simões II 2010 
 
 11
 
x - l1 = v1, 
 
x - l2 = v2, 
. . . (2.5) 
x - ln = vn 
 
O princípio do método dos mínimos quadrados (MMQ) diz: 
2
1
( ) min
n
T
i
i
x V V x l
=
= = − =∑
 (2.6) 
 A primeira derivada da função φ igualada a zero e resolvida, produzirá solução mínima. 
1
2. ( ) 0
n
i
i
x l
x
φ
=
∂
= − =
∂ ∑ (2.7) 
 
( x - l1)+( x - l2) . . . + ( x - ln ) = 0 (2.8) 
 
n. x = l1+l2 + . . . + ln (2.9) 
1
n
i
i
l
x
n
=
=
∑
 (2.10) 
 
o que prova que quando se adota a média aritmética como estimativa, se aplica o método dos mínimos 
quadrados. 
2.6. MEDIDAS DE PRECISÃO 
 Precisão é a consistência da medida ou o grau de refinamento de um grupo de medidas. 
Nas medições, os termos mais usados para expressar a precisão são a variância e o desvio padrão 
ou erro médio quadrático, também conhecido por RMS devido a sua abreviatura em inglês (Root 
Mean Square). 
 
2.6.1. Variância 
 É uma medida de dispersão das observaçõesde uma amostra ou população em torno de 
um valor mais provável dessa amostra ou população. É definida como a média do quadrado dos 
erros aparentes. É comum para o cálculo da variância, adotar o seguinte critério: 
 - se o número de observações n for menor que 30, a variância é obtida por: 
 
Ajustamento de Observações II-2010 
 12
( )∑
=
−
−
=σ
n
1i
2
i
2
xx
1n
1
 (2.11) 
 - Se o número de observações n for maior do que 30: 
( )22
1
1 n
i
i
x x
n
σ
=
= −∑
 (2.12) 
 
2.6.2. Desvio Padrão 
 
 É a raiz quadrada da variância. 
 
( )∑
=
−
−
=σ
n
1i
2
i xx1n
1
 (2.13) 
ou 
 
( )∑
=
−=σ
n
1i
2
i xx
n
1
 (2.14) 
 
 A cada observação está associada uma precisão (desvio padrão ou variância), assim é 
tecnicamente aconselhável que ao informar o valor da observação, deve-se informar também a 
sua precisão. Sem esta informação é vaga a qualidade da observação. 
 Dependendo da grandeza, ao invés de se ter o desvio padrão como precisão, é comum 
apresentar o erro relativo no lugar deste, como no caso de distâncias. 
 
Verônica Romão & Antonio Simões II 2010 
 
13 
DISTRIBUIÇÃO NORMAL 
 
3.1 INTRODUÇÃO 
 
 Os erros acidentais ocorrem de forma aleatória e tendem a obedecer à distribuição normal 
ou Lei de Gauss . 
 Considerando uma operação qualquer de medição efetuada um grande número de vezes, 
nas mesmas condições (mesmo operador, instrumento, método, etc.) a teoria das probabilidades 
mostra e a experiência permite verificar que os erros acidentais produzidos gozam das seguintes 
propriedades. 
 1a - A um erro positivo corresponde um erro negativo de mesmo valor absoluto (os erros 
positivos e negativos de mesmo valor absoluto têm igual probabilidade). 
 2a - Os erros pequenos são os mais numerosos (o erro nulo é o mais provável.). 
 A curva que representa a Lei de Gauss tem a forma de um sino (ver figura 3.1)e goza das 
seguintes propriedades: 
Fig. 3.1 
 a) É simétrica em relação ao eixo do Y, isto é, os erros positivos e negativos do mesmo 
valor absoluto têm igual probabilidade; 
 b) As ordenadas correspondentes aos erros pequenos são as maiores, isto é, os erros 
pequenos têm maior probabilidade do que os grandes; 
+ σ− σ
x
y
Ajustamento de Observações II-2010 
14 
c) A curva tem por assíntota o eixo dos x, isto é, o erro infinito tem uma probabilidade 
nula; 
 d) A curva apresenta dois pontos de inflexão correspondentes a mais ou menos σ (desvio 
padrão); 
 
( )dEEFP = 
 
 e) A probabilidade de se cometer um erro, em valor absoluto, menor que ∆ (erro 
compreendido entre +∆ e -∆ ) é igual a área assinalada na figura 3.2. 
 
Fig. 3.2 
 f) A área total limitada pela curva, isto é, a probabilidade de se cometer simultaneamente 
todos os erros é, portanto, igual à unidade (100%). 
 
 A curva da lei de Gauss pode ser representada analiticamente pela equação: 
 
( ) 2
2
2
1
2
1 σ
pi
E
eEF
−
=
 (3.1) 
 
 Onde: 
 σ = desvio padrão 
 E = erro considerado, ou se temos uma medida x e uma média x , E x x= − . 
 
− ∆
x
y
+ ∆
Verônica Romão & Antonio Simões II 2010 
 
15 
 Se for considerado na equação da Lei de Gauss desvios padrões σ = 1, σ = 2 e σ = 3, as 
curvas correspondentes seriam representadas como na figura 3.3: 
Fig. 3.3 
Ou seja, quanto maior for o desvio padrão (menor precisão), mais achatada será a curva. É 
comum encontrar tabelas que fornecem os valores resultantes das integrais (que representam 
probabilidades): 
 
dEeP e
E
xE
E
221
1
2
1 σ
pi
−
=
∞=
∫ −= (3.2) 
ou 
 
P = probabilidade = área sob a curva 
 
 Como aplicação simples, pode-se fazer: 
 
 1) Encontrar a probabilidade dos erros menores, em valor absoluto, do que um desvio 
padrão (1σ) (ou encontrar a área sob a curva e limitada pelas abcissas -σ e +σ). 
 
 Pela tabela das probabilidades, obtém-se (ver figura 3.4): 
 
 
 
x
y
σ = 1
σ = 2
σ = 3
Ajustamento de Observações II-2010 
16 
p1(< −σ) = 0,15865
− σ
x
y
x
p2(< +σ) = 0,8y
+ σ
A diferença entre p2e p1fornece P = 68,26%
 
 
 
 
 
 
 
Fig. 3.4 
 
A diferença entre p2 e p1 fornece P = 68,26%. 
 
2) Para o mesmo raciocínio anterior, considerando-se 2σ, obtém-se (ver figura 3.5): 
Fig. 3.5 
 
 
 
 
 
 
 
 
 
P 
-σ +σ 
− σ
P = 95,45%
+ 2σ
+ σ
− 2σ
P
Verônica Romão & Antonio Simões II 2010 
 
17 
3) idem, considerando 3σ (ver figura 3.6): 
Fig. 3.6 
 Na prática, se o número de observações for grande, pode-se verificar uma concordância 
quase perfeita com a curva de Gauss, se for marcado em abscissas as grandezas dos erros (erros 
aparentes), e em ordenadas o número de ocorrências correspondentes (ver figura 3.7). 
 
Fig. 3.7 
 
P = 99,73%
+ 3σ− 3σ
Ajustamento de Observações II-2010 
18 
PROPAGAÇÃO DE VARIÂNCIAS 
 
Nos levantamentos topográficos, geodésicos, fotogramétricos, etc., as medidas podem ser 
consideradas como variáveis aleatórias e, portanto sujeitas às leis estatísticas. 
Um levantamento é composto de um conjunto de elementos, que são ângulos e distâncias, os 
quais são medidos (observados). Os valores numéricos obtidos a partir de medidas daqueles elementos 
constituem a amostra da variável aleatória correspondente ao elemento. Essa amostra é usada para 
estimar a esperança matemática µ e a variância 2σ , da variável aleatória. Os estimadores não 
tendenciosos de µ e 2σ são as médias aritméticas e o quadrado do desvio padrão da amostra 
respectivamente. 
Para uma amostra da variável aleatória x consistindo de n medidas xi a média x da amostra é: 
 
i
n
i
x
n
x ∑
=
=
1
1
 (4.1) 
 
e o desvio padrão xS da amostra é: 
 
2
1
( )
1
n
i
x
i
x xS
n
=
−
=
−
∑
 (4.2) 
 
as estimativas x e xS são não tendenciosas. 
Assim; 
 
( ) ( )2 2 e x xE x E Sµ σ= = (4.3) 
 
Para um par de variáveis aleatórias a covariância é estimada por: 
 
 
1
1 ( ) ( ) e ( )
1
n
x y i i x y x y
i
S x x y y E S
n
σ
=
= − − =
−
∑
 (4.4) 
 
Verônica Romão & Antonio Simões II 2010 
 
19 
O coeficiente de correlação é 
 
 
x y
x y
x y
σ
ρ
σ σ
=
 
 
A variação do coeficiente de correlação é de menos um a mais um: 
 
1 1ρ− ≤ ≤
 
 
O desvio padrão é também conhecido como erro médio quadrático (Root Mean Square, o tão 
conhecido RMS), embora a palavra erro não tenha aqui significado estatístico. 
Se a amostra consiste de uma só medida não é possível estabelecer-se o desvio padrão. Neste 
caso, para desvio padrão usa-se aquele estabelecido pelo fabricante do instrumento com sua precisão. 
Quando não se conhece este desvio padrão pode-se estabelecer um, a partir de uma série de medidas. A 
partir daí, se estabelece que sob aquelas mesmas circunstâncias aquele desvio padrão obtido será o 
adotado. 
É uma prática bastante comum considerar as observações geodésicas como independentes, assim 
as covariâncias dos pares de medidas são todas iguais a zero e, por conseguinte as medidas são não 
correlacionadas. Não somente essa prática é conveniente, como também é justificada pela experiência. De 
qualquer maneira, seria muito difícil determinar a covariância entre medidas advindas de um 
levantamento. Assim salvo raras exceções as covariâncias das medidas a priori são nulas. 
As variáveis e médias das variáveis aleatórias são usadas como base dos testes de hipóteses. A 
estimativa dessas grandezas tem grande importância no planejamento e análise dos levantamentos.As quantidades derivadas das medidas têm na maioria das vezes mais importância que as 
medidas. E essas quantidades derivadas são também variáveis aleatórias com médias e variâncias. 
O exemplo mais comum de quantidades derivadas são as coordenadas das estações de um 
levantamento. Essas coordenadas são funções dos elementos (distâncias e ângulos) dos levantamentos 
que foram medidos e, portanto têm suas médias e variâncias estimadas. 
A relação funcional que existe, ou é assumida existir entre os elementos (distância e ângulos) e as 
coordenadas, constitui o modelo funcional do levantamento e este modelo é usado para derivar ou 
estimar as médias e variâncias das coordenadas a partir das médias e variâncias das medidas dos 
elementos (distâncias e ângulos). 
A fórmula que expressa a relação entre as variâncias e covariâncias das observações e as 
variâncias covariâncias das quantidades derivadas dessas observações é conhecida como lei de 
propagação de variância. 
Ajustamento de Observações II-2010 
20 
Se 1y é uma função explícita dos elementos 1x e 2x tal que ),( 2111 xxfy = , então a variância 
de 1y , 
1
2
y
σ , é dada por: 
 
2 2
1 1 1 1
1 2 1 21 1 2 1 2
2 2 2 2
y x x x x
y y y y
x x x x
σ σ σ σ       ∂ ∂ ∂ ∂= + +       ∂ ∂ ∂ ∂       
 (4.7) 
 
se 2y é também função de x1 e x2 tal que; ),( 2122 xxfy = Então: 
 
2 2
2 2 2 2
1 2 1 22 1 2 1 2
2 2 2 2
y x x x x
y y y y
x x x x
σ σ σ σ       ∂ ∂ ∂ ∂= + +       ∂ ∂ ∂ ∂       
 (4.8) 
 
a covariância entre 1y e 2y é expressa por: 
 
1 2
1 2 1 2 1 2 1 2
1 1 2 2 1 2 2 11 2 1 2
2 2                 ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂
= + + +                ∂ ∂ ∂ ∂ ∂ ∂ ∂ ∂                 y y x x x x
y y y y y y y y
x x x x x x x x
σ σ σσ (4.9) 
 
se as medidas 1x e 2x são independentes, como na maioria das vezes são assim consideradas, 1 2x xσ é 
igual a zero. 
As expressões (4.7), (4.8) e (4.9) se tornarão maiores se o número de observações aumentarem, 
dificultando assim o seu manuseio. Para minimizar esse problema usa-se a notação matricial. 
Se x representa um vetor de n variáveis aleatórias e y representa um vetor de m variáveis 
aleatórias tal que: 
( )nxxxxfy ,......,,, 32111 = 
( )nxxxxfy ,......,,, 32122 = 
⋮ (4.10) 
 ⋮ 
( )nmm xxxxfy ,......,,, 321= 
a matriz jacobiana (J) para essas m equações é definida como: 
 
Verônica Romão & Antonio Simões II 2010 
 
21 


















∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
=
n
m
n
n
mmm
yx
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
J
⋮⋮⋮⋮
2
1
3
3
2
3
1
2
2
2
2
1
1
2
2
1
1
 (4.11) 
 
se a matriz variância-covariância (MVC) das observações x é a matriz simétrica; 
 
1 3 11 21
2 2 3 22 1
2 31
2
2
2
n
n
n n nn
x x x xx xx
x x x x xx x
x
x x x x xx x
C
σ σσσ
σ σ σσ
σ σ σσ
 
 
 
=  
 
 
 
⋮ ⋮ ⋮⋮
 (4.12) 
 
então a MVC de y é: 
T
yxxyxy JCJC = (4.13) 
em que; 
 
1 3 11 21
2 2 3 22 1
2 31
2
2
2
m
m
m m mm
y y y yy yy
y y y y yy y
y
y y y y yy y
C
σ σσσ
σ σ σσ
σ σ σσ
 
 
 
=  
 
 
 
⋮ ⋮ ⋮⋮ (4.14) 
 
Detalhes sobre as fórmulas 4.7 a 4.14 em (Mikhail, 1976). 
Quando a função if é linear temos: 
AXy =
 
 (4.15) 
 
e a matriz jacobiana é igual a A . Daí, 
 
T
xy ACAC = (4.16) 
Exemplo1: 
Um exemplo de aplicação da equação 4.16 é o cálculo da variância da média de uma amostra 
composta de n medidas de uma mesma quantidade x que têm variância 2
xσ . 
Ajustamento de Observações II-2010 
22 
O valor da média x é dado por: 
n
xxx
x n
…++
=
21
 
 
nx
n
x
n
x
n
x
111
21 ……+= 
A matriz covariância das observações é: 
2
1
2
2
2
 n
x
x
x
x
C
σ
σ
σ
 
 
 
=  
 
 
  
⋱ 
A matriz jacobiana da função x é formada pelas derivadas da função em relação às observações xi. 




=
nnn
J 111 ⋯⋯ 
Aplicando a 4.13 temos 
nn
nJCJC xx
T
xy
2
2
21 σ
σ =





== 
n
x
x
2
2 σσ = 
e o desvio padrão da média da amostra será 
n
x
x
σ
σ = 
Exemplo 2: 
Estabelecer a matriz variância-covariância para os ângulos obtidos a partir de 3 direções 
independentes. Suponha que as direções 1, 2 e 3 foram obtidas com os desvios-padrões 2”, 3” e 5” 
respectivamente. 
 
 
 
 
 
d1
d2
d3
α1
α2
Verônica Romão & Antonio Simões II 2010 
 
23 
 
O modelo funcional para obtenção dos ângulos é: 
α1 = d2-d1 
a2 = d3 – d2 
ou 
















−
−
=





α
α
3
2
1
2
1
d
d
d
1
0
1
1
0
1
 
a matriz variância-covariância das observações é: 
 
2
4 0 0
0 9 0 (")
0 0 25
dC
 
 
=  
  
 
onde a unidade é segundos ao quadrado. 
Observe que o fato das direções não terem correlação, as covariâncias são nulas. 
A MVC dos ângulos será dada por: 
 










−
−
















−
−
=
1
1
0
0
1
1
2500
090
004
1
0
1
1
0
1
αC 
 





 −
−
=α 34
9
9
13
C 
 
Note que o fato de termos elementos não nulos fora da diagonal de αC , nos leva a dizer que os ângulos 
parecem ser correlacionados com o seguinte coeficiente de correlação. 
 
4281,0
3413
9
−=
−
=σ 
 
Esta correlação obtida a partir da propagação de variâncias é chamada de correlação algébrica. Isto para 
distinguir da correlação física. 
A correlação física é usada para a correlação que deve existir entre medidas por causa de fenômenos 
físicos durante o processo de medição. Esses fenômenos físicos são, a refração atmosférica, problemas 
instrumentais e até mesmo do operador do instrumento. 
 
Exemplo 3. Com um teodolito em B foi medido o ângulo ABC de 120º 00’ 00” com desvio padrão de 10 
segundos. Sabe-se que as coordenadas de B são E= 1000,00 e N= 200,00. A distancia BC de 
Ajustamento de Observações II-2010 
24 
500,00 metros foi medida com incerteza de 0,02 metros. Sabendo-se que o azimute do lado BC é 
30º , calcular com que precisão as coordenadas de C serão obtidas. 
 
β
N 
B 
C 
A 
E
Az BC
 
 
Solução. 
bcbc
bcbc
AzBCNN
AzsenBCEE
cos+=
+=
 
 
( )
( ) 




=








=





σ
σ
=
β
2
2
2
2
"
2
bc
2
x 02,00
0000048,0
m02,00
010
0
0C 
 
 1” = 0,0000048 rad 
A precisão das coordenadas será em metros, portanto é conveniente uniformizar as unidades. Desta forma 
transformam-se segundos em radianos 






0004,00
05040000000023,0
 
 
Para montar a matriz jacobiana, temos duas funções Ec e Nc com duas variáveis que são BC e 
bcAz . 
c c
z C
yx
c c
z c
E E
A B
J
N N
A B
∂ ∂ 
 ∂ ∂
 =
 ∂ ∂
 ∂ ∂  
 
 
Verônica Romão & Antonio Simões II 2010 
 
25 
cos
cos
c
c z
z
c
z
c
c
c z
z
c
z
c
E
B A
A
E
sen A
B
N
B sen A
A
N
A
B
∂
=
∂
∂
=
∂
∂
= −
∂
∂
=
∂
 
 





−
=
zzc
zzc
yx AAB
AAB
J
cossen
sencos
 
 






−
=
866025,0250
5,0013,433
yxJ 
 
=




 −












−
==
866025,05,0
2500130,433
0004,00
0040000000023,0
866025,0250
5,00130,433
JCJC Txy
 
 






−
−
=





−
−
=
−
−
000444,00000762,0
0000762,0000532,0
10x44,40000762,0
0000762,010x32,5
4
4
 
 
mm21m021,0
mm23m023,0
N
E
±→=σ
±→=σ
 
 
 
Exemplo 5: Seja a poligonal  0 1 2 3 da figura a seguir 
. 
α1
α2
α3Az0
N
0
1
2
3
 
Considere o azimute Azo conhecido e livre de erro. Se os ângulos α α2, α3  foram 
medidos com precisão σαi=2" qual seria a precisão dos azimutes Az1, Az2 e Az3 ? 
Ajustamento de Observações II-2010 
26 
 
 O primeiro passo seria estabelecer as equações: 
Como fórmula geral para o cálculo de azimutes tem-se: 
( ) o180n
1i
1iioAzAzj ∗∑
=
−−α+=
 
então: 
o
321o3
o
21o2
1o1
360AzAz
180AzAz
AzAz
−α+α+α+=
−α+α+=
α+=
 
 
Que pode ser escrito na forma matricial: 
Az
Az
Az
Az
Az
Az
o
o
o
o
o
1
2
3
1
2
3
1 0 0
1 1 0
1 1 1
180
360










=










∗










+ −
−










α
α
α
 
 
Em que a matriz J dos coeficientes será: 










=
111
011
001
J 
 
A M.V.C. dos ângulos é da seguinte forma: ( )2''
400
040
004










=αC 
 
A matriz variância-covariância dos azimutes será: 
T
az J.C.JC α= 
 A M.V.C. dos azimutes é obtida por : 
 










∗










∗










=
100
110
111
400
040
004
111
011
001
Caz 
 










=










∗










=
1284
884
444
100
110
111
444
044
004
Caz 
Verônica Romão & Antonio Simões II 2010 
 
27 
24 1Az
2
1Az ′′=σ→→=σ 
'',828 2Az
2
2Az =σ→→=σ 
'',5312 3Az
2
3Az =σ→→=σ 
 
 
Exemplo 7. Foram medidas as direções conforme a caderneta a seguir. Pedem-se os valores dos 
ângulos e seus respectivos desvios-padrões 
 
 direção Desvio 
padrão 
 
 
MET 
ET
A 
00 00 00 0,0” 
AR
Q 
32 32 20,2” 3,01” 
AN
T 
85 28 53,3” 0,8” 
BA
N 
89 06 17,5” 1,3” 
 
1 Matrz variância-covariancia das direções observadas 












=
69,1
64,0
06,9
0
dC 
2 Matriz jacobiana 










−
−
−
=
1100
0110
0011
J 
3 Matriz variância-covariância dos ângulos Td JJCC =α 
MET
BAN
ETA
ARQ
Ajustamento de Observações II-2010 
28 










−
−−
−
=
33,264,00
64,07,906,9
006,906,9
αC 
4 Angulos e seus desvios padrões dos ângulos 
0
1
0
2
0
3
32 32` 20,2`` 3,01
52 56` 33,10`` 3,1
03 37` 24,20`` 1,5
α
α
α
= ±
= ±
= ±
 
 
 
 
EXERCÍCIOS PROPOSTOS 
 
1 - Uma distância de aproximadamente 490 m deve ser medida com uma trena de 50 m de 
comprimento. Sendo o desvio padrão de cada "trenada" conhecido e considerado igual a σ= 5 
mm, qual será o desvio padrão da distância total D ? 
 
2 - Qual o desvio padrão da área de um lote retangular que tem os seguintes lados: 
 L1= 30 m.± 50 mm , 
 L2= 10 m. ± 30 mm , 
 
3 - Suponha um ângulo vertical α medido do ponto A para o ponto B, e sendo α=30o 00', com 
σα= 1', e a distância inclinada AB igual a 330m e σAB= 0,5 m. Para estas condições, calcular o 
desvio padrão da distância horizontal AC correspondente, 
 
α
A
B
C
 
4 - O ângulo β e a distância BC foram medidos para se calcularem as coordenadas do ponto C. 
As coordenadas de A e B são conhecidas e são consideradas livres de erros. 
 
Considerando que os desvios padrões de BC e β são σD = 4cm e σβ = 20" respectivamente, 
calcule 
Verônica Romão & Antonio Simões II 2010 
 
29 
α
D
b
β
Y
B
C
A
X
a) desvio padrão de XC 
b) desvio padrão de YC 
 
 
 
 
Dados: 
XB = 1000,00m 
 YB = 200,00m 
 BC = 500,00m, 
 β= 1200 00' 00", 
 O azimute de AB = 900 00' 00" com σAz = 30”. 
 
 
5 - Dê a expressão do erro da distância, para a medição com mira horizontal. Considere 
inicialmente que o fabricante forneceu o comprimento da mira como sendo b = 2m. com σb = 
1*10-5m. O que influencia mais na medição da distância, o comprimento da mira ou o ângulo 
medido? Faça um gráfico para o comportamento do erro da distância medida considerando 
distâncias entre 10 e 200m.Considere σα = 1”. 
 
( )
( )
tg
b
D
D
b
tg
D
b
g
α
α
α
2
2
2 2
2 2





 =
=
∗
= ∗





cot
 
 
 
6 - Mediu-se uma base dividida em duas partes. Uma das partes foi medida com uma régua que 
possibilita obter um erro médio quadrático de σ1= 0,00004m e a outra σ2= 0,00002m para cada 
medida. Foi necessário utilizar cada uma das réguas 250 vezes. Qual o erro médio quadrático da 
base? 
 
Ajustamento de Observações II-2010 
30 
 
 
 
 
7 - Para a obtenção da altitude de B foi realizado um nivelamento trigonométrico a partir do 
ponto A, cuja altitude é 
HA= 148,32m com σA = 0,15m. 
Foram obtidos os seguintes dados: 
D = 1.000,00m com σD= 0,10m 
Z = 870 42'13" com σZ= 20" 
it1= 1,40m. com σit= 0,01m 
ia= 1,80m. com σia= 0,01m 
 
 Qual o desvio padrão da altitude de B não se considerando o efeito da refração? 
 
8 - A fim de determinar a diferença de nível entre dois pontos distantes 2250m. será realizado 
um nivelamento geométrico, tomando-se o cuidado de colocar sempre o nível a iguais distâncias 
da mira. Assumindo que as visadas de vante e ré serão de 25m, pede-se o erro cometido para 
obtenção da diferença de nível desejada. Dê também uma fórmula geral que permita estimar este 
erro. Suponha o erro de cada leitura σL=0,1mm. 
 
9 - Para uma grandeza medida n vezes, pede-se uma fórmula geral que permita obter o desvio 
padrão da média das medidas. 
 Como símbolo utilize: 
 σi= desvio padrão de uma observação isolada, 
 σm= desvio padrão da média, 
 
10 - Dada a precisão de uma medida pelo desvio padrão σ0, quantas vezes tem-se que repetir a 
mesma medida para dobrar a precisão da média? 
 
 
it
D
Z
ia
Verônica Romão & Antonio Simões II-2010 
 
31 
CAPÍTULO 
MÉTODO DOS MÍNIMOS QUADRADOS 
 
5.1 MODELO MATEMÁTICO 
 Basicamente todo trabalho de cálculo na área de levantamentos visa a obtenção de 
coordenadas, que no caso de ajustamento de observações são os parâmetros. Por certo, alem de 
coordenadas os parâmetros podem ser outras grandezas. De qualquer modo estes parâmetros são 
quase sempre calculados a partir de observações. Portanto são as observações nossos dados 
fundamentais. E nas ciências geodésicas essas observações são de uma forma ou de outra, quase 
sempre, ângulos e distâncias. E para que os parâmetros (coordenadas) estejam ajustados é 
necessário que as observações também estejam. 
Vimos que as observações ajustadas (ou verdadeiras) são o resultado da combinação de 
uma observação bruta e uma correção a esta observação. 
 
 a bL L V= + 5.1 
Em que Lb é um vetor das observações brutas, 
 Vé um vetor dos resíduos (correções às observações) 
 La é um vetor das observações ajustadas. 
 
A partir dessas observações é que iremos estimar os parâmetros, que na maioria das vezes 
se constituem de coordenadas podendo ser também grandezas associadas a estas ou às próprias 
observações. Assim é necessário que se tenha um modelo matemático que relacione as 
observações aos parâmetros e esse modelo é representado pelo vetor: 
 
 F(Xa, La) = 0 5.2 
 
Note que este vetor representa um conjunto de r equações que serão satisfeitas, ou seja, 
serão iguais a zero se as observações e os parâmetros estiverem ajustados também, caso isto não 
ocorra haverá alguma correção a ser feita, ou nos parâmetros, ou nas observações ou ainda no 
próprio modelo. 
Alguns exemplos da função 5.2: 
Ajustamento de Observações II-2010 
32 
(a) um ângulo α observado a partir de uma estação 1 para as direções 2 e 3 usando as 
coordenadas planas UTM 
0
NN
EE
arctan
NN
EE
arctan
12
12
13
13
=
−
−
−
−
−
−α 5.3 
Em que E1, N1, E2, N2, E3 e N3 são parâmetros e α é a observação. 
(b) os ângulos observados de um triângulo plano 
0180o321 =−α+α+α 5.4 
Em que 321 α+α+α são observações e não há parâmetros. 
(c) a distância dAB e o ângulo vertical α são observados para estimar a coordenada (altitude) 
zC.supondo que a altitude de B é conhecida. 
dAB . tgα – hC + hB = 0 5.5 
 
O exemplo (a) mostra uma observação e uma equação o que permite que se escreva a 5.2 como 
 
La = F(Xa) 5.6 
 
Esse caso especial do MMQ é chamado de método das equações de observações ou 
método paramétrico. A cada observação está associada uma equação. Assim o numero de 
equações de observações é igual ao numero de observações e geralmente esse numero de 
equações de observações é maior que o numero de parâmetros. 
O exemplo (b) mostra somente observações e nenhum parâmetro e a 5.2 pode ser escrita 
como 
F(La) = 0 5.7 
 
Este caso mostra uma situação em que não há parâmetros e é chamado de método das 
equações de condição ou método dos correlatos. 
O exemplo (c) mostra duas observações e um parâmetro numa equação, o que não nos 
permite escrever a equação 5.5 nem da forma da equação 5.6 nem da forma da equação 5.7, 
permanecendo como 
F(Xa, La) = 0 5.8 
Este caso é chamado de método combinado 
Dos três exemplos acima, dois deles (a) e (c) são não-lineares e o (b) é linear. Para 
solução pelo método dos mínimos quadrados é necessário que os modelos sejam linearizados. 
Verônica Romão & Antonio Simões II-2010 
 
33 
Ao linearizar uma função usam-se valores provisórios para estimar os valores das variáveis da 
função. Desta forma, usa-se xo para os parâmetros provisórios ou aproximados e lb para as 
observações provisórias. Veja que essas observações são sempre conhecidas uma vez que são 
aquelas que vieram do levantamento. Os parâmetros aproximados sempre são possíveis de se 
obter via cálculo ou de outra forma. O parâmetro ajustado ficará, portanto: 
 
 xa = xo + x 5.9 
 
Substituindo a 5.9 e 5.1 na 5.8, temos 
 
F(Xa, La) = F(Xo + X, Lb + V) = 0 5.10 
 
que aplicando a serie de Taylor, desprezando os termos acima de primeira ordem temos 
 
( , ) ( , ) 0
a a
F FF Xa La F Xo Lb X V
X L
∂ ∂
= + + =
∂ ∂
 5.11 
 
O conjunto de derivadas parciais 
a
F
X
∂
∂
 representa a matriz A, conhecida como matriz dos 
coeficientes, e é avaliada em Xo uma vez que ainda não conhecemos o Xa. O conjunto de derivadas 
parciais 
a
F
L
∂
∂
 representa a matriz B que é avaliada em Lb. O vetor ( , ) F Xo Lb representa o vetor W 
(esse vetor é chamado vetor de erro de fechamento, no método das equações de condições). O modelo 
linearizado fica então representado por: 
0AX BV W+ + = 5.12 
 
Desenvolvendo na forma matricial a matriz A fica, para n observações e m parâmetros 
 




















∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
=
am
n
3a
n
2a
n
1a
n
am
2
3a
2
2a
2
1a
2
am
1
3a
1
2a
1
1a
1
mn
x
f
.....
x
f
x
f
x
f
.........................
x
f
.....
x
f
x
f
x
f
x
f
...
x
f
x
f
x
f
A 5.13 
Ajustamento de Observações II-2010 
34 
A matriz B para r equações e n observações fica: 
r n
∂ ∂ ∂ 
 ∂ ∂ ∂
 
∂ ∂ ∂ 
 ∂ ∂ ∂
 
 =
 
 
 
 ∂ ∂ ∂ 
 ∂ ∂ ∂ 
1 1 1
a a a
1 2 n
2 2 2
a a a
1 2 n
r r r
a a a
1 2 n
f f f
. . .
l l l
f f f
. . .
l l l
. . . . . .B .
. . . . . .
. . . . . .
f f f
. . .
l l l
 5.15 
E o vetor W: 
 




















=
)l,x(f
.
.
.
)l,x(f
)l,x(f
W
bor
bo2
bo1
1r 5.16 
 
Para o caso do método paramétrico a função La = F(Xa) é linearizada usando a serie de Taylor: 
a
F
 ( ) ( ) ( ) 
X
La Lb V F Xa F Xo X F Xo X∂= + = = + = +
∂
 5.17 
 ( ) 
a
FLb V F Xo X
X
∂
+ = +
∂
 5.18 
fazendo Lo = F(Xo) a 5.18 fica 
 5.19 
Lb +V = Lo + AX 5.20 
V = (Lo – Lb) + AX 5.21 
V = AX - (Lb – Lo) 5.22 
fazendo 
L = (Lb - Lo) 5.23 
tem-se 
 V = AX - L 5.24 
 
Verônica Romão & Antonio Simões II-2010 
 
35 
que é o modelo linear para o método das equações de observações ou paramétrico. 
O método dos correlatos ou das equações de condições tem tratamento semelhante a menos de 
um ente chamado de multiplicador de Lagrange, que será detalhado mais adiante, o modelo linearizado 
desse método é 
BV+W=0 5.25 
 
5.1. PRINCIPIO DO MÉTODO DOS MÍNINOS QUADRADOS 
 
 Num levantamento é sempre aconselhável fazer mais observações que o estritamente 
necessário para se obter as coordenadas (parâmetros). Ao se fazer esse numero redundante de 
observações, o que é salutar, surge um problema. Dependendo da observação que se usa para 
calcular o parâmetro teremos um resultado diferente. Isso acontece porque há erros nessas 
observações e esses erros diferem de uma para outra. E assim elas não se adaptam ao nosso 
modelo de cálculo. Diz-se que as observações não levam a uma solução única. Como então fazer 
para que tenhamos uma solução única, ou seja, para dos conjuntos das observações (amostra) 
qualquer um que se use leve a mesma solução? Para isso foi imaginado um método que 
minimizasse o quadrado dos resíduos (erros) das observações. Assim amparado nessa idéia é que 
se usa o método dos mínimos quadrados (MMQ), que tem como principio: “a soma dos 
quadrados dos resíduos deve ser mínima”. Por certo há outros métodos para se tentar chegar a 
uma solução única, no entanto o método dos mínimos quadrados é o aceito como melhor por 
satisfazer diversos requisitos estatísticos. 
Vejamos como tornar essa idéia em modelo matemático. 
 Tendo-se n observações, e sendo que cada observação possua um resíduo v, o princípio 
diz: 
2 2 2 2
...1 2 1
n T
v v v v V V mínimon ii
φ ∑= + + + = = =
=
 5.26 
sendo V um vetor que contém os resíduos. 
V v v v vn
T
= [ , , ,..., ]1 2 3 
 
 Se as n observações forem obtidas com diferentes graus de precisão, torna-se necessário a 
introdução de uma ponderação, ou seja, um peso e nesse caso o M.M.Q. se apresenta como: 
2 2 2 2
1 1 2 2
1
...
n
T
n n i i
i
v p v p v p v p V PV mínimoφ
=
= + + + = = =∑ 5.27 
Ajustamento de Observações II-2010 
36 
 O modelo matemático A X = L, em que A é uma matriz nxm sendo n o número de 
observações e m o número de incógnitas representa um conjuntode equações como segue: 
11 11 12 12 1 1 1
21 21 22 22 2 2 2
1 1 2 2
...
...
 
 
...
m m
m m
n n n n nm nm n
a x a x a x l
a x a x a x l
a x a x a x l
+ + + =
+ + + =
+ + + =
⋮ ⋮ ⋮
⋮ ⋮ ⋮
 5.28 
 Se o vetor L contiver elementos oriundos de observações (neste caso normalmente 
utiliza-se o símbolo Lb), o modelo matemático seria inconsistente devido ao fato das 
observações possuírem erros aleatórios que são inevitáveis. 
 Para levantar a inconsistência introduz-se um vetor de resíduos V, 
 
bLAXV −=
 5.29 
lembrando que; 
 
Lb + V = La 5.30 
 Aplicando a condição de mínimos quadrados temos: 
( ) ( )TTV V AX L AX Lb bφ = = − − 5.31 
 
 Para se obter um mínimo a primeira derivada de ϕ tem que ser igual a zero. 
( ) ( ).T T Tb bX A L AX Lϕ = − − 5.32 
T T T T T T T
b b b bX A AX X A L L AX L Lϕ = − − + 5.33 
Observe que AXLLAX Tbb
TT
= então 
LLLAX2AXAX Tbb
TTTT +−=ϕ 5.34 
b
TT LA2AXA2
X
−=
∂
ϕ∂
 5.35 
que igualando-se a zero para se ter um mínimo tem-se 
0LA2AXA2 b
TT
=− 5.36 
e 0LAAXA b
TT
=− 5.37 
Esta última equação matricial representa um conjunto de equações normais e de incógnitas. A 
solução do sistema é única e satisfaz o princípio dos mínimos quadrados. 
Verônica Romão & Antonio Simões II-2010 
 
37 
 Geralmente utiliza-se a inversão de matriz para a solução do sistema de equações 5.37, 
assim: 
b
TT LAAXA =
 5.38 
b
T1TT1T LA)AA(AXA)AA( −− =
 5.39 
b
T1T LA)AA(X −= 5.40 
Se as observações forem feitas com desigual precisão, aplica-se a cada observação uma 
precisão diferente o que chamamos de “dar pesos diferentes às observações”. Surge então a 
matriz dos pesos P. peso (P), ou: 
mínimo)LAX(P)LAX(PVV bbT =−−==φ
 5.41 
 
 De forma análoga a anterior, chega-se a: 
 
0PLAPAXA b
TT
=− 5.42 
 
Como vimos, o sistema de equações 5.40 envolve a inversão de uma matriz. Vários são 
os métodos de inversão adotados em matemática. No entanto um método tradicional em ciências 
geodésicas é o método de Choleski, que embora não seja por si só um método de inversão pode 
ser facilmente adaptado para inverter matriz. O leitor é encorajado a consultar, entre outros, 
Gemael (1994, 273) para conhecer os diversos métodos de solução do sistema de equações supra 
citado. 
A fim de visualizar a solução de problemas que envolvem a estimativa de parâmetros 
pelo método dos mínimos quadrados, vejamos os exemplos que se seguem . 
Exemplo 1. O comprimento de um alinhamento AC foi medido através de 3 observações: d1, d2 e 
d3. 
d1
A B C
d2 d3
Ajustamento de Observações II-2010 
38 
Deseja-se estimar pelo MMQ as distâncias d2 e d3. Os valores observados foram d1 = 3,0 metros, 
d2 = 1,5 metros e d3 = 1,4 metros. 
As 3 observações nos permitem formar 3 equações 
d2 + d3 = 3,0 
 d2 = 1,5 
 d3 = 1,4 
Note que a estimativa de d2 e d3 pode ser feita a partir de qualquer duas equações, sendo uma 
terceira observação redundante. No entanto dependendo de quais duas equações forem escolhidas para o 
cálculo teremos um conjunto de d2 e d3 diferente. Portanto há inconsistência nas observações e como 
conseqüência resíduos a minimizar. Desta forma teremos 
d2 + d3 = 3 + v1 
 d2 = 1,5 + v2 
 d3 = 1,4 + v3 
∑vi2 = v12 + v22 + v32 = ( d2 + d3 –3,0)2 + (d2 – 1,5)2 + (d3 –1,4)2 
Esta equação deve ser minimizada, derivando-se em relação as variaveis (observações) e 
igualando-se a zero 
( ) ( ) 05,1d20,3dd2
d
v
232
2
2
=−+−+=
∂
Σ∂
 
( ) ( ) 04,13d20,3dd2
d
v
32
3
2
=−+−+=
∂
Σ∂
 
 
2d2 + d3 = 4,5 
d2 + 2d3 = 4,4 
As duas equações acima são chamadas de equações normais e são apresentadas 
matricialmente da seguinte forma: 
 






=











4,4
5,4
21
12
3
2
d
d
 
que resolvida nos dá 
 d2 = 1,533 
d3 = 1,433 
 
Verônica Romão & Antonio Simões II-2010 
 
39 
Exemplo 2: Na figura a seguir as distâncias AB, BC, CD, AC e BD foram medidas e os valores 
observados foram 100,000m, 100,000m, 100,080m, 200,040 e 200,000m, respectivamente. 
Todas as medidas são não correlacionadas e têm a mesma precisão. Se as medidas forem 
ajustadas de acordo com o princípio de mínimos quadrados, qual será o resultado da distância 
ajustada AD? 
Fig. 5.1 
 Solução: 
 Com as distâncias AB, BC e CD que serão simbolizados por x1, x2 e x3 já se teria a 
distância AD desejada, porém foram realizadas cinco medidas de distâncias, logo se têm duas 
observações redundantes. Para cada observação se pode formular uma equação envolvendo as 
medidas supostamente ajustadas x1, x2 e x3. 
 
000.200
040.200
080.100
000.100
000.100
3253253255
2142142144
3333333
2222222
11111
1
11
11
−+=−+=+=+
−+=−+=+=+
−=−==+
−=−==+
−=−==+
aaaaaa
aaaaaa
aaa
aaa
aaa
xxlxxvouxxvl
xxlxxvouxxvl
xlxvouxvl
xlxvouxvl
xlxvouxvl
 
 
 
 
 
L1 = 100,000m L2 = 100,000m L3 = 100,080m
L4 = 200,040m
L5 = 200,000m
A B C D
Ajustamento de Observações II-2010 
40 
Aplicando o M.M.Q. tem-se que a soma do quadrado dos resíduos deve ser mínima então: 
 
 
mínimovvvvv =++++= 25
2
4
2
3
2
2
2
1ϕ 
mínimoxxxxx
xx
aaaaa
aa
=−++−++−
+−+−=
2
32
2
21
2
3
2
2
2
1
)00,200()040,200()080,100(
)000,100()000,100(ϕ
 
 Para minimizar φ, suas derivadas parciais com relação a cada uma das distâncias x1, x2 e 
x3 devem ser iguais a zero: 
 
( ) ( )
( ) ( ) ( )
( ) ( ) 0000,2002080,1002
0000,200040,20022000,1002
0040,2002000,1002
323
3
32212
2
211
1
=−++−=
=−++−++−=
=−++−=
aaa
a
aaaaa
a
aaa
a
xxx
x
xxxxx
x
xxx
x
∂
∂ϕ
∂
∂ϕ
∂
∂ϕ
 
 
 Desenvolvendo e rearranjando, as três equações se tornam: 
 
( )
080,3002)(
040,5003)(
040,3002
32
321
21
=+→
=++→
=+→
aa
aaa
aa
xxc
xxxb
xxa
 
 
 As três equações anteriores que possuem três incógnitas, formam um sistema de equações 
normais que uma vez resolvido, fornece resultados consistentes. 
 Em se tratando de apenas três equações e do tipo como as anteriores, a resolução pode ser 
feita, devido a facilidade, pelo método das substituições: 
 Dividindo (a) por 2 e subtraindo de (b) vem: 
 
a
xx
xx
2
2
3
2
3
2
2
5,2020,350
020,3505,2
−=
=−
 
 
 
 
Verônica Romão & Antonio Simões II-2010 
 
41 
 Substituindo na (c): 
 
( )
mx
x
xx
xx
a
a
aa
aa
990,99
4080,300040,700
080,3005040,700
080,30025,2020,350
2
2
22
22
=
=−
=−+
=−+
 
 Logo: 
( )
mx
x
xx
xx
a
a
aa
aa
990,99
4080,300040,700
080,3005040,700
080,30025,2020,350
2
2
22
22
=
=−
=−+
=−+
 
 Logo: 
mx
x
a
a
045,100
990,995,2020,350
3
3
=
∗−=
 
 
025,100990,993040,500
3040,500
1
3
2
21
−∗−=
−−=
a
aa
x
xxx
 
 
 Então, a distância ajustada entre A e D é: 
 
mxxxAD aaa 060,300321 =++= 
 
5.2. PESOS NAS OBSERVAÇÕES 
 
O peso de uma observação é a confiança relativa dessa observação comparada com a 
confiança que se tem das outras observações. Em outras palavras, pesos são estimativas ou 
expressões das precisões relativas das observações. Uma grande precisão é indicada por um 
pequeno desvio padrão, implicando uma boa observação a qual será dada um peso grande. Vê-se 
portanto que a idéia de peso está associada a precisãorelativa da observação. 
 A expressão geral do peso é dada por: 
2
i
2
o
ip σ
σ
=
 5.43 
Ajustamento de Observações II-2010 
42 
 Onde 20σ é um valor igual à variância de uma observação cujo peso é considerado igual a 
um e 
2
iσ
 a variância da observação. Note que quando o peso é igual a um temos 20σ = 2iσ e ou 
2
0σ = 1 sendo por isso o 
2
0σ chamado de variância de uma observação de peso unitário ou variância de 
peso unitário . A variância de peso unitário é também conhecida como fator de variância ou também 
sigma zero a priori . Ao fazer o sigma zero a priori igual a 1, como geralmente é feito vê-se que o peso de 
uma observação é inversamente proporcional a sua variância. 
 Assim, tendo-se l1, l2, l3, ..., ln observações, de desvios padrões σ1, σ2, , σn, os pesos 
serão: 
 
2
n
2
o
n2
3
2
0
2
2
2
0
2
1
2
0 p3p;2p;1p
σ
σ
=
σ
σ
=
σ
σ
=
σ
σ
= …… 5.44] 
 
 Logo: 
2
o
2
nn
2
22
2
11 p...pp σ=σ==σ=σ 5.45 
 
 Pode-se, portanto, atribuir a uma observação um peso qualquer e calcular os pesos das 
demais. 
 
5.2.1. Matriz dos Pesos 
 
 Seja a matriz variância-covariância CL relativa às grandezas dos elementos de L. 
Atribuindo-se a um dos seus componentes o peso unitário e designando por 2oσ o valor 
correspondente à variância dessa componente, a matriz dos pesos relativos aos elementos de L, 
que é simétrica, poderá ser obtida por: 
 
1
L
2
oCP
−σ= 5.46 
 No caso das componentes de L serem independentes entre si, a matriz variância-
covariância CL será diagonal, e a matriz dos pesos P que também será diagonal, terá como 
elementos da diagonal.: 
2
i
2
oii
1
.p
σ
σ=
 5.47 
Verônica Romão & Antonio Simões II-2010 
 
43 
Veja que se as observações forem correlacionadas 
 
5.2.2. Casos Particulares na Atribuição de Pesos 
5.2.2.1. Peso no Nivelamento Geométrico 
 
 No nivelamento geométrico a diferença de nível ∆h tem sua variância associada a 
variância da leitura da mira 2LMσ , a variância do erro de colimação 
2
cσ , o comprimento da visada 
D e o numero de instalações do instrumento n. 
( )[ ]2c2LM22h n2D σ+σ=σ∆ [5.48] 
Se considerarmos a distancia entre duas RN igual a L, a quantidade de instalações será 
 
D2
L
n i= [5.49] 
Assim a equação 5.48 ficará 
( )2c2LMi2h DL σ+σ=σ∆ [5.50] 
A menos de Li os demais termos podem ser considerados constantes e a equação 5.50 fica 
kL i
2
h =σ∆ [5.51] 
Aplicando o conceito que o peso é o inverso da variância temos: 
2
hi
1
kL
1p
∆σ
== [5.52] 
E sendo k constante podemos dizer que o peso no nivelamento geométrico é inversamente 
proporcional a distancia nivelada.. Assim, quanto maior for a distância nivelada menor será o peso. 
 
5.2.2.2. Peso nas Medições Angulares: 
 
 Os pesos nas medidas angulares são inversamente proporcionais as variâncias das 
observações angulares. Quando essas variâncias não são conhecidas usa-se a o quadrado da 
precisão angular do teodolito usado nas medidas. Considera-se ainda a quantidade de vezes que 
cada ângulo é medido. Assim em aquele ângulo que foi medido mais vezes terá um peso maior 
que um ângulo que foi medido menos vezes. Isto se todos eles têm a mesma precisão.. 
 
Ajustamento de Observações II-2010 
44 
5.2.3. Considerações sobre a Atribuição de Pesos: 
 
 Como se pode ver, a atribuição de pesos, em geral, não deve ser feita simplesmente pelo 
fato do número de repetições serem diferente, mas sim considerando-se outras causas diversas, 
como: 
• Que instrumentos foram utilizados? Quais operadores? 
• Em que condições ambientais? 
 Assim, verifica-se que a atribuição de pesos não é tão simples com pode parecer, é um 
campo ainda cheio de dúvidas e tido como um dos mais complexos no ajustamento de 
observações. 
 
Verônica Romão & Antonio Simões II 2010 
 
45 
MODELO PARAMÉTRICO 
 
6.1. INTRODUÇÃO 
 
 No ajustamento de observações denominam-se parâmetros (ou observações indiretas) as 
grandezas que em geral não são obtidas diretamente, ou seja, aquelas que são calculadas em 
função de grandezas medidas diretamente. Exemplos típicos de parâmetros são: coordenadas, 
altitudes, áreas, etc. 
 Para aplicar o modelo dos mínimos quadrados com finalidade de estimar o valor dos 
parâmetros, utiliza-se o chamado modelo paramétrico ou método das equações de observações. 
Para a aplicação deste modelo é necessária a montagem de equações de observações, que são 
modelos matemáticos relacionando parâmetros e observações. 
 Após o processamento do ajustamento são obtidos os valores ajustados dos parâmetros, 
assim como das observações ajustadas. 
 O modelo paramétrico tem grande aplicação no tratamento de dados corriqueiros da 
engenharia de posição, como é o caso do nivelamento, poligonação, triangulações, trilaterações 
ou ainda combinando-se mais de um dos métodos de obtenção de coordenadas. 
 
6.2. formulação do modelo paramétrico 
 O modelo matemático básico para o ajustamento pelo modelo paramétrico tem a 
conformação de uma equação de observação, e para cada uma das observações medidas formula-
se uma equação. Considerando-se que se têm n observações e m parâmetros, formula-se então 
um conjunto de equações com a seguinte representação matricial: 
 
( )aa XFL = [6.1] 
onde: 
 La - é um vetor (n x 1) de observações ajustadas; 
 Xa - é um vetor (m x 1) de parâmetros ajustados, e 
 F(Xa) - são equações do modelo matemático calculadas com os parâmetros ajustados. 
 Como se vê, os valores observados ajustados são expressos explicitamente como função 
dos parâmetros ajustados. 
Ajustamento de Observações II-2010 
46 
 O objetivo primeiro da solução do modelo paramétrico é estimar os parâmetros ou 
correções dos parâmetros que compõem o vetor X. Por esta razão vetor X é o vetor das correções 
aos valores aproximados dos parâmetros e é formado por x1, x2,... xm.. Uma vez estimado os 
valores das correções xi, os parâmetros ajustados são obtidos por: 
XXX oa += [6.2] 
Em que 
 Xo é um vetor (m x 1) cujas componentes são valores aproximados para os parâmetros; 
X é um vetor (m x 1) das correções que convertem os parâmetros aproximados (Xo) em 
parâmetros ajustados (Xa). 
Através das operações do ajustamento aplicando o método dos mínimos quadrados, obtêm-se as 
observações ajustadas: 
 
VLL ba += [6.3] 
onde: 
 Lb é um vetor (n x 1) de observações brutas; 
 V é um vetor (n x 1) dos resíduos (ou correções) que transformam as observações brutas 
(Lb) em observações ajustadas (La). 
 
 Das equações ( )L F Xa a= e L L Va b= + pode-se fazer: 
( )F X L Va b= +
 [6.4] 
 Linearizando F(Xa) pelo desenvolvimento em serie de Taylor, vem: 
 
 
( ) ( ) ( ) X.
Xa
FXoFXXoFVLXaF xoxab =∂
∂
+=+=+=
 [6.5] 
 
 Faz-se F(Xo) = Lo, ou seja, chama-se de Lo o vetor (n x 1) resultante da aplicação nas 
funções F dos valores aproximados dos parâmetros Xo. 
 Chama-se de A a matriz (n x m) jacobiana da função F, sendo n o número de observações 
e m o número de parâmetros. A matriz A é calculada aplicando os valores aproximados dos 
parâmetros, Xo, nas derivadas parciais, ou 
 
A
F
Xa
xa xo
=
=
∂
∂ [6.6] 
Verônica Romão & Antonio Simões II 2010 
 
47 
A matriz A é chamada de matriz dos coeficientes das incógnitas ou simplesmente matriz dos 
coeficientes, muito embora o nome em inglês design matrix seja também usado uma vez que a 
posição dos elementos nessa matriz depende da configuração dos pontos da rede, estando assim 
bastante associada ao planejamento do levantamento. Nota-se que em algumas publicações em 
português o nome matriz planejamento é usado para se referir a matriz A.Assim, a partir da equação 6.5 pode-se escrever 
L V L AXb o+ = + [6.7] 
V AX L Lo b= + − . [6.8] 
 Fazendo L = Lb - Lo obtém-se o modelo matemático linearizado do método dos 
parâmetros: 
 V = AX - L [6.9] 
 Esta última equação sintetiza, na realidade, sob a forma matricial, n equações de 
observações, ou: 
 
 














−














∗




















=














nn
am
n
a
n
a
n
a
n
amaaa
amaaa
n l
l
l
x
x
x
x
f
x
f
x
f
x
f
x
f
x
f
x
f
x
f
x
f
x
f
x
f
x
f
v
v
v
.
.
.
.
.....
.........................
.....
...
.
.
2
1
2
1
321
2
3
2
2
2
1
2
1
3
1
2
1
1
1
2
1
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
∂
 [6.10] 
 
 Os elementos da matriz dos coeficientes A, de n linhas e m colunas, são representados 
por : 
 
a
fi
xij a
=
∂
∂ 1
 para i = 1, 2, 3, , n e j=1, 2 ,3,..., m 
 Algebricamente, a primeira linha do sistema de equações representado matricialmente 
através da eq. 6.9 poderá ser escrito: 
mmnm22n11nn
2mm22221212
1mm12121111
lx.a...xaxav
lx.a...x.ax.av
lx.a...x.ax.av
−+++=
−+++=
−+++=
⋯⋯⋯⋯⋯
 [6.11] 
 
 
 A solução pelo método dos mínimos quadrados é obtida minimizando-se a soma dos 
quadrados dos resíduos, ou seja: 
VTPV=mínimo, [6.12] 
Ajustamento de Observações II-2010 
48 
 
onde P é a matriz dos pesos das observações. 
 Então: 
 MÍNIMOLAXPLAXPVV TT =−−== )()(φ 
MÍNIMOPLLPAXLPLAXPAXAXLAXPLAX TTTTTTTTT =+−−=−−= )()(φ 
MÍNIMOPLLPLAX2PAXAX TTTTT =+−=φ 
Igualando a zero a primeira derivada em relação a X: 
0PLA2PAXA2
X
TT
=−∗=
∂
φ∂
 [6.13] 
0=− PLAPAXA TT [6.14] 
é comum fazer: N=ATPA e U=ATPL e então a eq. 6.14 na sua notação simplificada fica: 
NX - U=0. [6.15] 
 Tem-se assim um novo sistema de equações, que é denominado sistemas de equações 
normais e cuja solução atende o princípio do método dos mínimos quadrados. 
 A matriz N é quadrada (m x m) e simétrica. 
 Para a obtenção do vetor das correções X, pode-se resolver o sistema por método de 
resolução disponível, porém fazendo a resolução utilizando-se a inversão da matriz N, é a 
maneira mais usual. Assim: 
 NX-U= O [6.16] 
logo NX = U [6.17] 
e X = N-1 U [6.18] 
ou X = (ATPA)-1 ATPL [6.19] 
 
e assim com os valores dos elementos do vetor X, pode-se converter os parâmetros aproximados 
em ajustados por Xa=Xo+X. 
 
 
 De posse dos parâmetros ajustados pode-se também obter as observações ajustadas 
utilizando-se La=F(Xa) ou calculando-se os resíduos V e aplicando em La=Lb+V. 
 
Verônica Romão & Antonio Simões II 2010 
 
49 
6.3. FATOR DE VARIÂNCIA 
6.3.1.Variância da unidade de peso 
A partir das variâncias das observações contidas na matriz variância-covariância das 
observações 












=
n
LC
σ
σ
σ
..
2
1
 [6.20] 
forma-se a matriz dos pesos P, 
12
0 .
−
= LCP σ [6.21] 
O fator 2oσ é chamado variância da unidade de peso a priori, ou fator de variância, o qual 
é arbitrado pelo calculista e quase sempre esse valor arbitrado é um. A matriz peso é uma matriz 
quadrada e simétrica e quase sempre é uma matriz diagonal. Isto quer dizer que as observações 
são não correlacionadas. Geralmente 2oσ é chamado de sigma zero a priori. 
 
6.3.2 Variância a Posteriori 
Após o ajustamento pode-se estimar o valor de 2oσˆ em função dos resíduos. A esse 2oσˆ 
denomina-se variância da unidade de peso a posteriori, fator de variância a posteriori ou 
simplesmente sigma zero a posteriori. O seu valor estimado pode ser obtido pela fórmula: 
gl
PVVT2
0 =σ
⌢
 [6.22] 
em que; 
gl é o número de graus de liberdade obtido pela diferença entre n (número de observações) e m 
(número de parâmetros) 
O valor do fator de variância a posteriori calculado com a fórmula 6.22 deve ser 
estatisticamente igual ao valor do fator de variância a priori. 
O σ02 deve ser comparado ao 2oσˆ através de teste de hipóteses quando se usa a 
distribuição χ2 (qui-quadrado) para verificar se os dois fatores são significativamente iguais ou 
diferentes 
No caso de σ02 e 2oσˆ serem significativamente diferentes, deve-se proceder uma análise 
cuidadosa do ajustamento. As prováveis causas podem ser uma ou mais de uma dessas: 
Ajustamento de Observações II-2010 
50 
a) erros de cálculo 
b) erros sistemáticos não detectados (modelo matemático inadequado) 
c) erros grosseiros 
d) superestimava ou subestimava dos pesos (neste caso pode-se consertar o erro através 
do uso de um apropriado sigma zero a priori). 
 
 
6.4 PRECISÃO DAS GRANDEZAS AJUSTADAS 
Após a obtenção dos parâmetros ajustados através da Xa = Xo + X, devemos avaliar a 
qualidade desses parâmetros através de suas precisões. Isso se dá via matriz variância MVC. A 
MVC dos parâmetros ajustados nada mais é que o resultado da propagação das variâncias das 
observações para os parâmetros. Assim é de se esperar que observações com variâncias altas, ou 
seja, observações pouco precisas gerem parâmetros com variâncias também altas ou pouco 
precisas. 
6.4.1 MVC dos parâmetros ajustados 
A MVC dos parâmetros ajustados é obtida a partir de 
( )[ ]LPAPAAX T1T −= [6.23] 
Aplicando a lei de propagação de variância Tobsx JCJC .= 
Temos ( ) ( ) TTTobsTTx PAPAACPAPAAC 











=
−− 11
 [6.24] 
Cx= ( ) ( )[ ]1TT1T1T PAAAPPPAPAA −−− [6.25] 
( ) ( )[ ]1TT1T1T PAAAPPPAPAA −−− [6.26] 
( ) 1TPAA − ( )PAAT ( ) 1TPAA − [6.27] 
Cx = ( ) 1TPAA − [6.28] 
Cx = ( ) 11 −− ACA
obs
T
 [6.29] 
Na realidade a formulação acima é feita para a MVC das correções mas a MVC dos 
parâmetros ajustados tem a mesma forma uma vez que na equação Xa=Xo+X o vetor Xo é 
constante, então: ( ) 1TxXa PAACC −== 
 
Verônica Romão & Antonio Simões II 2010 
 
51 
6.4.2 MVC dos resíduos 
 
Para obter a MVC dos resíduos partimos da equação básica 
V = AX – L [6.30] 
Sabendo-se que ( ) PLAPAAX T1T −= e substituindo o valor de X na eq. 6.30 temos 
( ) LPLAPAAAV T1T −= − [6.31] 
( )[ ]LIPAPAAAV T1T −= − [6.32] 
Aplicando a lei de propagação de variância, temos 
( ) ( ) TTTobsTTv IPAPAAACIPAPAAAC 





−





−=
−− 11
 [6.33] 
( ) ( ) 





−





−=
−−
IAPAAAPCPCAPAAA TTTobsobs
TT 11
 
( )[ ] ( )[ ]IAPAAAPPPPAPAAA T1TT11T1T −−= −−−− 
( )[ ] ( )[ ]IAPAAAPPAPAAA T1TT1T1T −−= −−− 
( ) ( ) ( ) ( ) 1T1TT1T1TTT1TTT1T PAPAAAPPAPAAAAPAAAPAPAAA −−−−−− +−−= 
( ) ( ) ( ) 1T1TT1TT1T PAPAAAAPAAAAPAAA −−−− +−−= 
( ) 1T1T PAPAAA −− +−= 
( ) T1T1V APAAAPC −− −= [6.34] 
Que pode também aparecer de forma mais condensada: 
T
xobsV AACCC −= [6.35] 
A equação 6.35 relaciona três MVC, a dos resíduos, a das observações brutas e a dos parâmetros. 
 
 
6.4.3 MVC das observações ajustadas 
As observações ajustadas ou estimadas são aquelas resultantes do ajustamento pelo método dos 
mínimos quadrados e que são obtidas pela soma da observação bruta com o resíduo proveniente do 
método dos mínimos quadrados. Temos 
La = L +V [6.36] 
Note que L na equação 6.36 representa a observação bruta e não o L = Lb- Lo porque a dedução 
supõe o modelo linear onde não há valor de parâmetros aproximados como na dedução da mvc dosparâmetros ajustados. A partir da 6.36 fazemos: 
La = L + AX – L [6.37] 
( )[ ]LPAPAAAAXL T1Ta −== [6.38] 
Propagam-se as variâncias das observações brutas para as observações ajustadas. As variâncias 
das observações brutas são representadas por CL. 
( ) ( ) TTTobsTTLa PAPAAACPAPAAAC 











=
−− 11
 [6.39] 
Ajustamento de Observações II-2010 
52 
( ) ( ) T1TT1T1TLa APAAAPPPAPAAAC −−−= [6.40] 
( ) ( )( ) T1TT1TLa APAAPAAPAAAC −−= [6.41] 
( ) TxT1TLa AACAPAAAC == − [6.42] 
Note que a partir da 6.35 a 6.42 pode ser escrita; 
CLa = Cobs - Cv [6.43] 
Veja que a chave de todas as matrizes covariâncias é a matriz covariância das observações Cobs. 
Como é formada a Cobs? Ela é formada a partir das variâncias das observações. Cada observação tem o 
seu grau de incerteza representado pelo desvio padrão, que elevado ao quadrado dá a variância. É bom 
frisar que rotineiramente não temos as covariâncias das observações, assim a matriz covariância das 
observações é quase sempre uma matriz diagonal onde os elementos da diagonal são as variâncias das 
observações. As vezes a matriz Cobs é simbolizada como CL 
Exemplo de uma matriz covariância para um levantamento com 5 observações: 
.
















=
2
5
2
4
2
3
2
2
2
1
σ
σ
σ
σ
σ
obsC [6.44] 
 
6.4.4 - Variância da Observação de Peso Unitário 
Muitas vezes a matriz covariância das observações é multiplicada por um fator chamado de variância da 
unidade peso, variância de referencia ou ainda sigma zero a priori. O que vem a ser esse fator? É um fator 
representado por 2oσ que serve para dar escala a matriz covariância das observações. Isto não trará 
nenhum problema ao ajustamento das observações porque os pesos das observações são relativos. 
Geralmente dividem-se os elementos da matriz covariância das observações pelo sigma zero a priori e a 
matriz fica assim: 
















=
2
5
2
4
2
3
2
2
2
1
2
1
σ
σ
σ
σ
σ
σ o
LC [6.45] 
 
A matriz peso será o inverso dessa matriz, 12 −= Lo CP σ e cada elemento de P será: 
2
i
2
o
ip
σ
σ
= [6.46] 
Verônica Romão & Antonio Simões II 2010 
 
53 
Se a uma observação tem peso igual a 1 então 2i
2
o σ=σ e podemos fazer 
2
oσ =1 sem alterar a equação. 
Daí 2oσ ser chamado de variância de uma observação da unidade peso, ou variância da unidade peso. 
Este termo, provavelmente fruto de uma tradução inapropriada, já está consagrado. No entanto seria mais 
apropriado dizer variância de peso unitário. Note que se 2oσ for igual a 1, como quase sempre é, o peso de 
uma observação é 1/ 2iσ . Vemos assim que o peso de uma observação é inversamente proporcional a sua 
variância. Quando as observações não são correlacionadas a matriz peso será de fácil obtenção. Basta 
inverter as variâncias das observações e coloca-las na diagonal da matriz peso. Caso as observações sejam 
correlacionadas a obtenção de matriz peso será mais trabalhosa e poderia haver caso de sua 
impossibilidade isso quando a CL for singular. 
 
6.4.4.1 - Escolha de σσσσ02 a priori 
 
Para iniciar o ajustamento necessita-se conhecer a matriz dos pesos das observações: 
1
obsC2
o
1P −
σ
=
 [6.33] 
A variância da observação cujo peso é unitário σ02 é dita variância a priori e costuma ser 
arbitrada pelo calculista, esse valor é quase sempre igual a 1. Por essa razão em quase cem por 
cento da bibliografia em ajustamento de observações traz a matriz peso assim: 
12 −
=
obso CP σ [6.33a] 
É esta notação que usaremos ao longo do texto. 
6.4.4.2 Cálculo de 2oσˆ 
Após o ajustamento pode-se estimar um valor para 2oσˆ em função dos resíduos e dos 
pesos das observações. A esse valor denomina-se variância a posteriori, fator de variância, sigma 
zero a posteriori ou ainda variância de referência. 
O valor estimado de 2
o
σˆ é obtido pela fórmula: 
( )
)mn(
PVTV2
0ˆ
−
=σ
, [6.34] 
em que n é o número de observações e m o número de parâmetros. 
 
6.5 - ROTINA PARA APLICAÇÃO DO MODELO PARAMÉTRICO 
Com a finalidade de tornar fácil aplicação do modelo paramétrico para tratar dados 
relativos a um determinado problema, a seqüência de passos a seguir pode ser obedecida: 
Ajustamento de Observações II-2010 
54 
 
1 Estudar o problema e formular equações matemáticas para cada uma das observações, 
evidentemente na forma: La = F(Xa). 
2 Obter valores aproximados para os parâmetros (Xo). 
3 Encontrar a matriz dos pesos = σ2o .Cobs.-1 
4 Encontrar o vetor Lo = F(Xo). 
5 Encontrar o vetor L= Lb - Lo. 
 6 Encontrar a matriz A. 
7 Resolver o sistema de equações normais X = (ATPA)-1 ATPL. 
8 Encontrar os parâmetros ajustados Xa=Xo+X 
9 Encontrar os resíduos V=AX-L 
10 Estimar o sigma zero a posteriori. 
11 Calcular a matriz variância covariância dos parâmetros estimados (precisão dos 
parâmetros estimados) 
12 Encontrar as observações ajustadas La = Lb+V. 
13 Calculam-se as precisões das observações ajustadas. 
 Se pelo menos uma das correções (X) não satisfizer um limite de tolerância pré-
estabelecido, deve-se realizar iterações. Quando se faz iterações volta-se ao passo 2 e 
usa-se para novos valores de Xo o Xa obtido na primeira passagem. 
 
6.6 LINEARIZAÇÃO DE ALGUNS MODELOS FUNCIONAIS 
6.6.1 Ângulos 
 
12
12
13
13
NN
EE
tana
NN
EE
tana
−
−
−
−
−
=α
 
 
 
α1
2
3
Verônica Romão & Antonio Simões II 2010 
 
55 
Derivadas parciais 2
31
13
2
21
12
1 d
NN
d
NN
E
−−
−
−
−
=
∂
α∂
 
2
31
13
2
21
12
1 d
EE
d
EE
N
−−
−
+
−
−=
∂
α∂
 
2
21
12
2 d
NN
E
−
−
−=
∂
α∂
 2
21
12
2 d
EE
N
−
−
=
∂
α∂
 
2
31
13
3 d
NN
E
−
−
=
∂
α∂
 2
31
13
3 d
EE
N
−
−
−=
∂
α∂
 
6.6.2 Distâncias 
 
Função distância ( ) ( )[ ]2121221221 NNEED −+−=− 
Derivadas parciais 
21
12
1 d
EE
E
D
−
−
−=
∂
∂
 
21
12
1 d
NN
N
D
−
−
−=
∂
∂
 
 
21
12
2 d
EE
E
D
−
−
=
∂
∂
 
21
12
2 d
NN
N
D
−
−
=
∂
∂
 
6.6.3Azimutes 
Função azimute 
12
12
21 NN
EE
tanaAz
−
−
=
−
 
 
Derivadas parciais 2
21
12
1 d
NN
E
Az
−
−
−=
∂
∂
 2
21
12
1 d
EE
N
Az
−
−
=
∂
∂
 
 
2
21
12
2 d
NN
E
Az
−
−
=
∂
∂
 2
21
12
2 d
EE
N
Az
−
−
−=
∂
∂
 
Em consequência da diferenciação surge a duvida como ficam as unidades dos elementos das 
matrizes. Vejamos o caso da matriz dos coeficientes das incógnitas, conhecido como matriz A. As linhas 
da matriz A provenientes das observações de ângulos e azimutes, quando as coordenadas aproximadas 
estão em metros, têm dimensões 1/m. Para que se tenha a dimensão metros no vetor resultante das 
correções X, que deve ter unidade de comprimento, pois trata-se de correções de coordenadas planas 
(cartesianas ou UTM), multiplicamos essas derivadas por 206264,8”. Com isso os elementos dessas 
linhas passam a ter a dimensão em seg/m (usamos aqui a notação seg para segundos de arcos para facilitar 
a explicação). Vejamos o que acontece com o vetor 
 
( ) ( )PLAPAAX TT 1−=
 
no caso de uma linha 
proveniente de uma observação de ângulo. O primeiro parênteses terá dimensão 
1
22
2 1
−








∗
segm
seg
 que 
resulta em m2. O segundo parênteses terá a dimensão 
1
22
2 1
−








∗
segm