Baixe o app para aproveitar ainda mais
Prévia do material em texto
1 Regressão polinomial (Análise de superfícies de tendência) 1 Coeficiente de correlação Coeficiente de correlação linear produto momento, segundo Pearson (r) SPXY = xy -(x y) / n; SQX = x2 - (x)2 / n; SQY = y2 - (y)22 / n r: -1 à +1; r: 0, não há correlação linear entre x e y. 1n )y i y(Σ . 1n )x i x(Σ 1n )y i y)(x i x(Σ )yvar()xvar( )y,xcov( r 22 SQY.SQX SPXY r , 2r1 2n rt 2 Coeficiente de determinação r2*100%: fração da variância total de x e y explicada pela relação linear; ajuste da distribuição dos pontos em relação à reta. 3 Regressão linear Verificado pelo valor de r que ocorre uma significante correlação linear entre duas variáveis há necessidade de quantificar tal relação, o que é feito pela análise de regressão. Modelo: equação de uma reta que, disposta num sistema de eixos cartesianos, com valores de yi (variável dependente) na ordenada e xi (variável independente) na abcissa, a soma dos quadrados dos desvios verticais dos pontos em relação a ela seja mínima. 4 Equação da reta Y = a + bX onde yi é o valor estimado para um específico valor xi; “b” revela a inclinação da reta, ou seja o acréscimo ou decréscimo do valor de y em relação à x; “a” localiza na ordenada o ponto de interseção da reta em relação ao sistema de coordenada retangulares. Utilizando o método dos mínimos quadrados, os valores da equação da reta são determinados por: SQX SPXY b xbya n iyΣy n ixΣx 5 6 2 Regressão curvilínea potências crescentes de xi, variável independente e coeficientes xi e xi2: parábola com um único ponto de inflexão com potências crescentes de xi, curva mais complexa para ajuste processo por etapas (stepwise) O modelo para a regressão polinomial de grau k é ...3X 3 a2X 2 aX 1 a 0 a*Y εk i X k α...2 i X 2 α i X 1 α o αY 7 Função quadrática 8 Função cúbica 9 Extensão da regressão linear Regressão linear: bxay x y Regressão polinomial: ybxbbz 210 x y z 10 11 Dados originais Dados interpolados Ajustando uma superfície de tendência de 1º grau 12 3 •O comportamento espacial de variáveis mapeáveis pode ser mostrado com os valores distribuindo-se segundo curvas de mesmo valor, também conhecidas como isopletas. •Tais mapas, como os topográficos, fornecem importantes informações, porém, em algumas situações os padrões de variação não se mostram muito claros devido a flutuações locais ou a valores anômalos. •É comum nessas circunstâncias falar-se em tendências regionais que são mascaradas por anomalias locais. •Método da análise de superfícies de tendência: separação entre grandes e sistemáticas mudanças existentes na área e pequenas, aparentemente não ordenadas, que se impõem aos padrões mais gerais. 13 Regressão polinomial superfícies contínuas calculadas por critérios de regressão polinomial, onde Zi é a variável dependente em função linear das coordenadas X-Y dos pontos amostrados e irregularmente distribuídos o modelo para a representação da superfície, pelo método dos polinômios não ortogonais, é: onde zi(X,Y) é a variável mapeada em função das coordenadas xi e yi e ei representa os resíduos, ou seja, a fonte não- sistemática de variação. )y,x(e...]yxaxayaxaa[)Y,X(z iiiii4 2 i3i2i10i 14 Análise de superfícies de tendência Separação entre o aspecto estrutural (determinístico) e o aspécto errático (casual): tendências regionais e pequenas, aparentemente não ordenadas flutuações, que se impõem aos padrões mais gerais. Detecção de anomalias: resíduos, positivos e negativos, de superfícies de baixo grau. Modelagem por suavização: verificação da superfície de mais alto grau possível que se ajuste aos dados. ii2i10 eyaxaa)Y,X(z 15 Representação de uma superfície linear (grau 1) para o cálculo dos coeficientes ai, dispõe-se os dados num sistema de equações normais [A] = [XY]-1[Z] ii ii i 1 0 2 iiii ii 2 i ii yz xz z 2a a a yyxy yxxix yxn 16 Superfície de grau 2 i 2 i iii i 2 i ii ii i 1 4 i 3 ii 2 i 2 i 3 i 2 ii 2 i 3 ii 2 i 2 ii 3 i 2 ii 2 iii 2 i 2 ii 3 i 4 i 2 i 3 i 2 i 3 i 2 iii 2 i 2 iiii 2 iii 2 i 3 ii 2 ii 2 iii 2 iii 5 4 3 2 1 0 zy zyx zx zy zx z yyxyxyyxy yxyxyxyx i yxyx yxyxx i yxxx yyxyxyyxy yxyxx i yxxx yyxxyxn b b b b b b 17 Cuidados: procurar tecer considerações apenas em relação à área coberta pelos pontos evitando as extremidades dos mapas, pois a extrapolação pode apresentar distorções; o número de pontos deve ser maior que o número de coeficientes do polinômio a ser calculado; o arranjo dos pontos, ainda que irregular, deve ser casual e razoavelmente bem distribuído, evitando agrupamentos; 18 4 Quando da inversão da matriz, por programas em microcomputador, podem ocorrer problemas com os resultados obtidos para superfícies de mais alto grau, isso porque em sistemas com valores de diversos dígitos, tipo UTM, a precisão computacional se deteriora exigindo formato de dupla precisão. Mesmo assim podem ocorrer limitações e, então, a solução é a transformação das coordenadas xi e yi, conforme as equações, que fornecem valores para as coordenadas entre 0 e 1 e não modifica a forma das superfícies: minmax mini xx xx *x minmax mini yy yy *y 19 20 Verificação do ajuste das superfícies: coeficiente de determinação (R2) Proporção da variação total da variável dependente “zi” que é explicada pela variação das variáveis independentes “xi” e “yi” Variação total dos dados: SQT = Z2 – (Z)2/n Variação devido à superfície calculada: SQP = Z*2–(Z*)2/n Variação devido aos resíduos: SQR = SQT - SQP Porcentagem de ajuste da superfície: R2 = (SQP/SQT)100 O coeficiente de correlação “r” indica a relação entre variáveis e “r2” indica o quanto uma variável “explica” a outra, ou quanto a superfície calculada se ajusta aos dados espaciais originais. 21 Superfícies de tendência R2 = 45.42 % R2 = 92.72 % R 2 = 82.11 % Linear Quadratic Cubic Superfície original com pontos de amostragem 22 Exemplos X 1 (km) X 2 (km) Y 10.0 17.0 -665.0 21.0 89.0 -613.0 33.0 38.0 -586.0 35.0 20.0 -440.0 47.0 58.0 -544.0 60.0 18.0 -343.0 65.0 74.0 -455.0 82.0 93.0 -437.0 89.0 60.0 -354.0 97.0 15.0 -142.0 23 Equação do plano: Yi = -621 – 4.78X1 – 1.96X2 24 5 Y1 = -621 -4.78(10.0 –1.96(17.0) = -606.6 25 Superfície de grau 1 10 20 30 40 50 60 70 80 90 20 30 40 50 60 70 80 90 -760 -720 -680 -640 -600 -560 -520 -480 -440 -400 -360 -320 -280 -240 -200 26 Resíduos positivos e negativos 10 20 30 40 50 60 70 80 90 20 30 40 50 60 70 80 90 -200 -180 -160 -140 -120 -100 -80 -60 -40 -20 0 20 40 60 80 100 120 140 160 180 200 27 Amostragem/Rio Paraiba: plancton 0 500 1000 1500 2000 2500 0 50 100 28 Superfície linear 0 500 1000 1500 2000 2500 0 50 100 0 500 1000 1500 2000 2500 0 50 100 29 Resíduos da superfície de tendência 0 500 1000 1500 2000 2500 0 50 100 30 6 Dengue na área urbana de Rio Claro/SP (Ushizima & Landim). No município de Rio Claro/SP a incidência da dengue aumentou de menos que 5 casos por 100.000 habitantes nos anos de 1998 e 1999 para 349 casos/100.000 hab. no ano de 2002, num total de 588 casos confirmados Entre as áreas com ocorrência da dengue destaca-se a região nas proximidades do cemitério público São João Baptista e nas proximidades da rodovia estadual Washington Luís 31 Área urbana de Rio Claro/SP 32 Foi verificado para o ano de 2002 um total de 598 notificações positivas com uma taxa de incidência da ordem de 349 casos/100.000 habitantes. 33 Superfície de tendência de 1o grau para incidência do dengue (casos por 10.000 habitantes)para 2002. 232000 234000 236000 238000 240000 7514000 7516000 7518000 7520000 7522000 7524000 7526000 - 2 5 - 2 0 - 1 5 - 1 0 - 5 0 5 1 0 1 5 2 0 2 5 3 0 3 5 4 0 4 5 5 0 5 5 6 0 6 5 7 0 7 5 Km Escala Gráfica Superfície de tendência de 1o. grau (Incidência casos/10.000 hab) Legenda Cemitério Rodovia Área Urbana 0 1000 2000 34 Mapa de resíduos da superfície de tendência linear 232000 234000 236000 238000 240000 7514000 7516000 7518000 7520000 7522000 7524000 7526000 - 1 5 0 0 1 5 0 3 0 0 4 5 0 6 0 0 7 5 0 Resíduos da superfície de tendência de 1o. grau 0 1000 2000 Km Escala Gráfica Legenda Cemitério Rodovia Área Urbana 35 Cotas topográficas do topo de uma unidade de carvão, situada sobre uma grande estrutura anticlinal. 36 7 -90000 -85000 -80000 -75000 -70000 105000 110000 115000 120000 125000 130000 37 Superfícies de tendência obtidas pelo Surfer 8 Surfer 6 Padronização 38 Superfícies de tendência obtidas pelo Surfer 6 39 40 Resíduos 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 -60 -50 -40 -30 -20 -10 0 10 20 30 40 50 60 70 80 90 100 110 120 130 140 150 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 -240 -220 -200 -180 -160 -140 -120 -100 -80 -60 -40 -20 0 20 40 60 80 100 120 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 -100 -80 -60 -40 -20 0 20 40 60 80 100 120 140 160 180 200 220 240 260 280 300 320 340 360 380 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 -850 -800 -750 -700 -650 -600 -550 -500 -450 -400 -350 -300 -250 -200 -150 -100 -50 0 50 100 150 200 1: 200, -850 2: 380, -100 3: 120, -240 4: 150, -060 41 R2 Trend 1: 0,5564 Trend 3: 0,9435 Trend 5: 0,9812 Trend 7: 0,9875 42
Compartilhar