pedrazzi cap9 previsao de enchentes metodos estatisticos

Prévia do material em texto

Previsão de Enchentes: Métodos Estatísticos 9-1
9 PREVISÃO DE ENCHENTES: MÉTODOS ESTATÍSTICOS 
9.1 Introdução 
As enchentes são aumentos anormais do escoamento superficial, decorrente do excesso de 
chuva, que pode resultar em inundação ou não. 
A inundação é o extravasamento d’água do canal natural de um rio, que provoca 
possivelmente prejuízos. 
O cálculo de enchente objetiva fornecer a máxima vazão de projeto e, se possível, o 
hidrograma de projeto, que mostra a variação das vazões no tempo. A vazão de projeto pode 
ser obtida através da extrapolação dos dados históricos para condições mais críticas com a 
aplicação de estatística aos dados de vazões máximas observadas. 
A vazão de projeto está sempre associada ao período de retorno. 
9.2 Conceito de período de retorno e risco permissível 
O período de retorno ou tempo de recorrência (T) é o tempo médio em anos que um evento 
é igualado os superado pelo menos uma vez. 
Existe a seguinte relação entre o período de retorno e probabilidade de ocorrência (P): 
T = 1/P. 
Ex: Se uma cheia é igualada ou excedida em média a cada 20 anos terá um período de 
retorno T = 20 anos. Em outras palavras, diz-se que esta cheia tem 5% de probabilidade de 
ser igualada ou excedida em qualquer ano. 
9.3 Fixação do período de retorno 
A fixação do período de retorno para uma obra hidráulica depende de: 
a) vida útil da obra; 
b) tipo de estrutura; 
c) facilidade de reparação e ampliação; 
d) perigo de perda de vida. 
Ex: - Barragem de terra  T = 1000 anos; 
 - Barragem de concreto  T = 500 anos; 
 - Galeria de águas pluviais  T = 5 a 20 anos; 
 - Pequena barragem de concreto para fins de abastecimento de água  T = 5 a 100 
 anos; 
Outro critério para a escolha de T é a fixação, a priori, do risco que se deseja correr, no caso 
de a obra falhar dentro do seu tempo de vida. 
O risco de a obra falhar uma ou mais vezes ao longo da sua vida útil pode ser deduzido dos 
conceitos fundamentais da teoria da probabilidade e é igual a: 
Previsão de Enchentes: Métodos Estatísticos 9-2
n
T
R 




 
111 (9.1) 
onde T é o período de retorno em anos, n é a vida útil da obra em anos e R é o risco 
permissível. 
Ex: o risco de que a canalização do rio Tamanduateí falhe uma ou mais vezes considerando 
que o projeto foi efetuado para T = 500 anos e sua vida útil é de 50 anos, será: 
%,R 1010
500
111
50





  
9.4 Estatística aplicada à Hidrologia 
9.4.1 Considerações gerais: 
As séries de variáveis hidrológicas como precipitações, vazões, etc. apresentam variações 
sazonais ao longo tempo (variações irregulares). Portanto, essas variáveis estarão sempre 
associadas a uma probabilidade de ocorrência. Em conseqüência disso, as obras hidráulicas 
devem ser dimensionadas para um determinado “risco” de falha. 
9.4.2 Estatística 
O objetivo da estatística é o de extrair informações significativas de uma dada massa de 
dados. As técnicas utilizadas em estatísticas aplicadas à Hidrologia permitem avaliar a 
probabilidade de ocorrência de um fenômeno hidrológico com determinada magnitude. 
9.4.3 Sumário estatístico: média e desvio padrão 
Média 
É um valor típico ou representativo de um conjunto de dados. Estes valores típicos tendem a 
se localizar em um ponto central, dentro de um conjunto de dados ordenados. A média é 
definida por: 
n
X
X i (9.2) 
onde Xi = valor do evento i ; 
 n = número total de eventos. 
Desvio padrão 
É uma forma de medir o grau de dispersão em relação à média, para cada massa de dados. O 
desvio padrão é dado por: 
 
1
2


 
n
XX
S i ou 
   
1
22


 
n
XnX
S i (9.3) 
Esses sumários estatísticos são utilizados na estimação dos parâmetros das Distribuições de 
Probabilidades, que são empregadas para o ajuste dos histogramas amostrais. 
Previsão de Enchentes: Métodos Estatísticos 9-3
Em Hidrologia as Distribuições de Probabilidades são escolhidas em função do tipo de 
amostra que se dispõe, isto é, chuvas intensas, vazões máximas, vazões mínimas, etc. 
9.5 Distribuições de probabilidades 
Apresentam-se aqui, as distribuições de probabilidades mais utilizadas em Hidrologia: 
- Distribuição Normal - não é muito utilizada para o estudo de vazões (ou chuvas) 
máximas e mínimas. É mais empregada para o cálculo de vazões médias mensais e 
precipitação total anual. 
- Distribuição Log-normal - é bastante utilizada para o cálculo de vazões máximas e 
mínimas e chuvas máximas. 
- Distribuição Log-Pearson Tipo III - utilizada para o cálculo de vazões e chuvas 
máximas. 
- Distribuição de Gumbel - utilizada também para o cálculo de vazões e chuvas 
máximas. 
9.5.1 Distribuição Normal 
A distribuição Normal ou Curva de Gauss é uma das mais utilizadas pelos estatísticos, 
principalmente pela facilidade de seu emprego. A Função Densidade de Probabilidade 
(FDP) teórica é dada por: 
2
2
1
2
1 



 

 S
XX
x eS
)X(f

 (9.4) 
onde: 
X - média; S = desvio padrão;  = 3,14159...; e = 2,71828 
Em problemas de estatística é usual o emprego da chamada Função Acumulada de 
Probabilidade (FAP) ou seja a integral da expressão f x(X). 
)XX(PdX)X(f)X(F
X
xx 00
0
   (9.5) 
Definindo a variável reduzida 
S
XXz  , tem-se a distribuição normal padrão, denotado por 
N(0,1) e com Função Densidade de Probabilidade expressa por: 









 2
2
2
1
z
z e)z(f 
 (9.6) 
sendo 0z e Sz = 1. 
A Figura 9.1 mostra a Função densidade de Probabilidade f(X) e Função Acumulada de 
Probalidade F(X) da distribuição normal padrão. A Tabela 9.1 apresenta os valores de F(X) 
correspondentes a  XX , 2X e 3X . 
Previsão de Enchentes: Métodos Estatísticos 9-4
Tabela 9.1 – Valores da distribuição normal. 
Z X FX(X) 
-3 
-2 
-1 
0 
1 
2 
3 
3X 
2X 
X 
X 
X 
2X 
3X 
0,0013 
0,0228 
0,1587 
0,5000 
0,8413 
0,9772 
0,9987 
 
 Figura 9.1 Distribuição normal padrão, N(0,1). 
 O valor de F(X) corresponde à área total limitada pela curva f(X) e pelo eixo dos X, sendo a 
área total igual a 1. 
As seguintes propriedades são válidas para a distribuição normal: 
- F(X)  0 quando X   ; 
- fx(X) é máximo quando X = X e a área sob essa curva ou valor ou F(X) é igual a 0,5; 
- A distribuição é simétrica em relação à média (tem a forma de um sino); 
- O coeficiente de assimetria é igual a 0. 
Fórmula geral de Ven Te Chow 
Uma forma muito simples de aplicar a Distribuição Normal e outras Distrubuições é através 
da fórmula geral proposta por Ven Te Chow. 
Nesta fórmula a variável de interesse (vazão, chuva, etc.) é expressa em função da média, do 
desvio padrão e do fator de freqüência KT, conforme mostrado abaixo: 
XTT SKXX  (9.7) 
onde 
XT - variável de interesse (vazão, chuva, etc.) para o período de retorno T; 
X - média amostral; 
S - desvio padrão amostral; 
TK - fator de freqüência, tabelado conforme a Distribuição de Probabilidades em função do 
período de retorno T. 
No caso da Distribuição Normal, o fator de freqüência KT é a própria variável reduzida z. 
Os valores de KT , que variam em função do período de retorno, estão apresentados na 
Tabela 9.2 da páginaseguinte. 
 
 
 
 
Previsão de Enchentes: Métodos Estatísticos 9-5
Ano Precipitação Ano Precipitação
anual (mm) anual (mm)
1945 929,3 1960 1222,0
1946 1250,0 1961 1305,3
1947 1121,3 1962 986,4
1948 780,0 1963 1035,8
1949 1141,0 1964 1567,3
1950 949,3 1965 1115,8
1951 739,1 1966 1291,8
1952 1238,4 1967 1054,7
1953 1268,8 1968 701,4
1954 863,9 1969 1459,9
1955 1297,6 1970 1201,4
1956 1266,3 1971 1557,5
1957 1231,5 1972 1243,9
1958 1008,7 1973 1463,4
1959 1246,5
Tabela 9.2 – Valores de KT para Distribuição Normal. 
Probabilidade de 
exceder 
TR (anos) KT Probabilidade de 
exceder 
TR (anos) KT 
0,0001 
0,0005 
0,001 
0,002 
0,005 
0,010 
0,020 
0,025 
0,050 
0,100 
0,150 
0,200 
0,250 
0,300 
0,350 
0,400 
0,450 
0,500 
10000 
2000 
1000 
500 
200 
100 
50 
40 
20 
10 
6,667 
5 
4 
3,333 
2,857 
2,5 
2,222 
2 
3,719 
3,291 
3,090 
2,878 
2,576 
2,326 
2,054 
1,960 
1,645 
1,282 
1,036 
0,842 
0,674 
0,524 
0,385 
0,253 
0,126 
0,000 
0,500 
0,550 
0,600 
0,650 
0,700 
0,750 
0,800 
0,850 
0,900 
0,950 
0,975 
0,990 
0,995 
0,999 
0,9995 
0,9999 
2 
1,818 
1,667 
1,538 
1,428 
1,333 
1,25 
1,176 
1,111 
1,052 
1,025 
1,01 
1,005 
1,001 
1,0005 
1,0001 
0,000 
-0,126 
-0,253 
-0,385 
-0,524 
-0,674 
-0,842 
-1,036 
-1,282 
-1,645 
-1,960 
-2,326 
-2,576 
-3,090 
-3,291 
-3,719 
 
Exemplo de aplicação 
Conhecendo-se a série histórica da precipitação anual do posto pluviométrico Riolândia 
(prefixo C6-78), estimar, para definições de estudo de planejamento regional, os totais 
anuais de chuva máximos para os períodos de retorno de 50, 100, 200 e 1.000 anos. 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
Previsão de Enchentes: Métodos Estatísticos 9-6
Solução: 
Ano Xi (Xi)^2 Ano Xi (Xi)^2
1945 929,3 863598 1960 1222,0 1493284
1946 1250,0 1562500 1961 1305,3 1703808
1947 1121,3 1257314 1962 986,4 972985
1948 780,0 608400 1963 1035,8 1072882
1949 1141,0 1301881 1964 1567,3 2456429
1950 949,3 901170 1965 1115,8 1245010
1951 739,1 546269 1966 1291,8 1668747
1952 1238,4 1533635 1967 1054,7 1112392
1953 1268,8 1609853 1968 701,4 491962
1954 863,9 746323 1969 1459,9 2131308
1955 1297,6 1683766 1970 1201,4 1443362
1956 1266,3 1603516 1971 1557,5 2425806
1957 1231,5 1516592 1972 1243,9 1547287
1958 1008,7 1017476 1973 1463,4 2141540
1959 1246,5 1553762 Soma 33538,3 40212857 
 
Média: mm 51561
29
353833 ,.,.
n
x
X i   
Desvio padrão: 
   
mm 6225
28
515612985721240
1
222
,),.(..
n
Xnx
S i 


  
Utilizando a equação de Ven Te Chow: TXT KSXX  
A partir da Tabela 1 são extraídos os valores de KT para os quatro períodos de retorno: 
K50 = 2,054 ; K100 = 2,326 ; K200 = 2,576 ; K1000 = 3,090 
Q50 = 1156,5 + 2,054 x 225,6 = 1619,9 mm 
Q100 = 1156,5 + 2,326 x 225,6 = 1681,2 mm 
Q200 = 1156,5 + 2,576 x 225,6 = 1737,6 mm 
Q1000 = 1156,5 + 3,090 x 225,6 = 1853,6 mm 
9.5.2 Distribuição Log-Normal 
Nem todos os eventos hidrológicos obedecem à Distrubuição Normal. Alguns deles se 
ajustam segundo uma distribuição denominada Log-Normal. As vazões máximas e 
mínimas anuais de um curso de água natural atendem normalmente à esta distribuição. 
Diz-se que uma amostra obedece à Distribuição Log-Normal quando os logaritmos de seus 
valores obedecem à Distribuição Normal. 
 Procedimento de cálculo 
1) Dada a série de valores (Xi), calcula-se os respectivos logaritmos. Desta forma, tem-se 
Yi = log Xi; 
2) Determina-se a média(Y ) e desvio padrão (SY) e aplica-se a Distribuição Normal aos 
valores de Y; 
Previsão de Enchentes: Métodos Estatísticos 9-7
3) Aplica-se a equação de Ven Te Chow e determina-se o valor de YT para o período de 
retorno desejado; Obtém-se o valor XT calculando o antilogaritmo de YT , ou seja, 
TY
TX 10 . 
Exemplo de aplicação da Distribuição Log-Normal 
Visando a canalização de um curso 
d’água, determine as vazões de projeto, 
para os períodos de retorno de 50 e 1000 
anos, a partir da série de dados de vazões 
máximas anuais apresentada no quadro ao 
aldo (o ideal seria que a série histórica 
fosse superior a 25 anos de dados). 
 
 
Solução: 
48572
15
285137 ,,
n
Y
Y i   
   



 
1
22
n
YnY
S iY 14
4857215700492 2),(,  
SY = 0,0376 
A partir da Tabela 1, podem-se extrair os valores de 
KT: 
Para Tr = 50  KT = 2,054 
Para Tr = 1000 anos KT = 3,090 
Utilizando a fórmula geral de Vem Te Chow para 
Y, tem-se: 
 TYT KSYY  
Substituindo os valores de Y , KT e SY, tem-se: 
Y50 = 2,4857 + 2,054 x 0,0376 = 2,5629 
Y1000 = 2,4857 + 3,090 x 0,0376 = 2,6019 
Finalmente, calculando o antilogaritmo de Y50 e Y1000 : 
Para Tr = 50 anos  Qmáx = 102,5629  365,5 m3/s 
Para Tr = 1000 anos  Qmáx = 102,6019  399,9 m3/s 
 
 
Ano Qmáx (m
3/s) Ano Qmáx (m
3/s)
1967 348,2 1975 314,7
1968 295,4 1976 288,0
1969 315,6 1977 260,5
1970 278,8 1978 335,4
1971 304,3 1979 310,0
1972 290,5 1980 294,3
1973 277,9 1981 331,5
1974 362,1
Ano X Y = logX Y^2
1967 348,2 2,5418 6,4609
1968 295,4 2,4704 6,1029
1969 315,6 2,4991 6,2457
1970 278,8 2,4453 5,9795
1971 304,3 2,4833 6,1668
1972 290,5 2,4631 6,0671
1973 277,9 2,4439 5,9726
1974 362,1 2,5588 6,5476
1975 314,7 2,4979 6,2395
1976 288,0 2,4594 6,0486
1977 260,5 2,4158 5,8361
1978 335,4 2,5256 6,3785
1979 310,0 2,4914 6,2069
1980 294,3 2,4688 6,0949
1981 331,5 2,5205 6,3528
Soma 37,2851 92,7004
Previsão de Enchentes: Métodos Estatísticos 9-8
9.5.3 Distribuição Log Pearson Tipo III 
Nesta distribuição, a vazão (ou chuva) máxima é calculada da mesma forma que a 
distribuição Log-Normal. A única diferença está na determinação do fator de freqüência KT, 
pois na distribuição Log-Pearson III leva-se também em consideração o coeficiente de 
assimetria. Utilizando esta distribuição, a vazão máxima pode ser calculada da seguinte 
forma: 
PYT KSYY  (9.8) 
TY
TX 10 
Os seguintes símbolos são usados no método de log-Pearson Tipo III: 
XT - vazão (ou chuva) calculada para um determinado período de retorno T; 
Xi - valor numérico de vazão (ou chuva); 
Yi - logaritmo de Xi; 
n - número de eventos hidrológicos considerados; 
Y - média de Yi ; 
SY - desvio padrão de Yi ; 
di = Yi - Y (desvio entre Yi e a média); 
g - coeficiente de assimetria, dado por: 
3
3
21 Y
i
S)n()n(
dn
g

  (9.9) 
Kp - fator de freqüência da distribuição Pearson Tipo III que depende de “g” e T; seus 
valores estão na Tabela 9.3. 
A distribuição log-normal, anteriormente vista, é um caso particular da Log Pearson Tipo III 
quando g=0. 
Roteiro de cálculo 
1. Transformar n vazões máximas anuais X1, X2, X3,..., Xi, ..., Xn em correspondentes 
logaritmos Y1, Y2, Y3, ..., Yi, ..., Yn ; 
2. Calcular a média dos logaritmos (Y ); 
3. Calcular o desvio padrão dos logaritmos (SY); 
4. Calcular o coeficiente de assimetria (g); 
5. O fator Kp é extraído da Tabela 9.3 para o valor de g calculado e considerando-se o 
período de retorno (T) desejado; 
6. Calcular os logaritmos dos valores correspondentes a determinados T, através da 
expressão PYT KSYY  ; 
7. Achar a vazão (chuva) para o período de retorno considerado através da expressão 
TY
TX 10 . 
Previsão de Enchentes: Métodos Estatísticos 9-9
Tabela 9.3 – Valores de KP para coeficiente de assimetria e períodos de retorno. 
 
Exemplo de aplicação da Distribuição Log-Pearson III 
Tomando o mesmo exemplo utilizado na distribuição log-normal, calcular a vazão máximapara os períodos de retorno de 50 e 1.000 anos: 
Solução: 
Previsão de Enchentes: Métodos Estatísticos 9-10
Ano Xi Yi = logXi Yi^2 di=Yi - Ym di^3
1967 348,2 2,5418 6,4609 0,0561 0,000177
1968 295,4 2,4704 6,1029 -0,0153 -0,000004
1969 315,6 2,4991 6,2457 0,0134 0,000002
1970 278,8 2,4453 5,9795 -0,0404 -0,000066
1971 304,3 2,4833 6,1668 -0,0024 0,000000
1972 290,5 2,4631 6,0671 -0,0226 -0,000011
1973 277,9 2,4439 5,9726 -0,0418 -0,000073
1974 362,1 2,5588 6,5476 0,0731 0,000391
1975 314,7 2,4979 6,2395 0,0122 0,000002
1976 288,0 2,4594 6,0486 -0,0263 -0,000018
1977 260,5 2,4158 5,8361 -0,0699 -0,000341
1978 335,4 2,5256 6,3785 0,0399 0,000063
1979 310,0 2,4914 6,2069 0,0057 0,000000
1980 294,3 2,4688 6,0949 -0,0169 -0,000005
1981 331,5 2,5205 6,3528 0,0348 0,000042
Soma 37,2851 92,7004 0,000159 
Média dos logaritmos: 48572
15
285137 ,,
n
Y
Y i   
Desvio padrão dos logaritmos: 
   



 
1
22
n
YnY
S iY 14
4857215700492 2),(,  = 0,0376 
Coeficiente de assimetria (g): 
2470
03760215115
000159015
21 33
3
,
),()()(
,
S)n()n(
dn
g
Y
i 




  
A partir da Tabela 9.3, pode-se determinar os valores de Kp: 
Para Tr = 50 anos: g KP 
 0,2 2,159 
 0,247 x 
 0,3 2,211 
1592
15922112
202470
2030
,x
,,
,,
,,




  
1592
0520
0470
10
,x
,
,
,

  x = 2,183 
Kp = 2,183 
Y50 = 2,4857 + 2,183 x 0,0376 = 2,5678 
Q50 = 102,5678 = 370 m3/s 
Para T = 1000 anos: g KP 
 0,2 3,380 
 0,247 x 
 0,3 3,525 
3803
38035253
202470
2030
,x
,,
,,
,,




  
3803
1450
0470
10
,x
,
,
,

  x = 3,4482 
Kp = 3,4482 
Y1000 = 2,4857 + 3,4482 x 0,0376 = 2,6154 
Previsão de Enchentes: Métodos Estatísticos 9-11
Q1000 = 102,6154 = 412 m3/s 
9.5.4 Distribuição de Gumbel 
Outra distribuição utilizada com bons resultados para análise de máximos é a chamada 
Distribuição de Gumbel, expressa pela seguinte fórmula: 
T
e)xX(P
ye 11 
 (9.10) 
onde: 
P - probabilidade de um valor extremo X ser maior ou igual a um dado valor x; 
T - período de retorno; 
y - variável reduzida Gumbel; 
Aplicando ln em ambos os termos: 
11 

T
e
ye  
T
e
ye 11
  
T
Te
ye 1
  




  
T
Tlne y 1  





 
T
Tlne y 1  










 
T
Tlnlny 1  










 
T
Tlnlny 1 
como y depende de período de retorno T, pode-se escrever: 











 
T
TlnlnyT
1
 (9.11) 
 
A relação entre yT e QT é dado por: 
X
XT
T S,
S,XXy



77970
450 (9.12) 
onde: 
XT - vazão (ou chuva) para um determinado período de retorno T; 
X = média da amostra; 
XS = desvio padrão da amostra. 
yT - variável reduzida Gumbel para período de retorno T. 
Exemplo de aplicação de Distribuição de Gumbel 
Tomando, ainda, o mesmo exemplo utilizado nas distribuições log-normal e log-Pearson III, 
foram calculadas as vazões para os períodos de retorno de 50 e 1.000 anos: 
Solução: 
 Média das vazões: s/,,
n
Q
Q i 3m 1307
15
24607
  
Previsão de Enchentes: Métodos Estatísticos 9-12
Ano Xi Xi^2
1967 348,2 121243,2
1968 295,4 87261,2
1969 315,6 99603,4
1970 278,8 77729,4
1971 304,3 92598,5
1972 290,5 84390,3
1973 277,9 77228,4
1974 362,1 131116,4
1975 314,7 99036,1
1976 288,0 82944,0
1977 260,5 67860,3
1978 335,4 112493,2
1979 310,0 96100,0
1980 294,3 86612,5
1981 331,5 109892,3
Soma 4607,2 1426109,0
Desvio padrão das vazões: 
   



 
1
22
n
QnQ
S iQ 14
13071501094261 2),(,..  = 28,6 m3/s 
Para T = 50 anos: 
9023
50
150
50 ,lnlny 










  
62877970
62845013079023 50
,,
,,,Q,


  Q50 = 381,2 m3/s 
Para T = 1.000 anos 
9076
1000
11000
1000 ,lnlny 










  
62877970
62845013079076 1000
,,
,,,Q,


  Q1000 = 448,3 m3/s 
 
Pode-se aplicar também a distribuição de Gumbel utilizando a fórmula geral de Ven Te 
Chow. Neste o fator de freqüência é calculado da seguinte forma: 














1
57706
T
Tlnln,KT 
 (9.13) 
Resolução do mesmo exemplo: 
Para T = 50 anos: 
59242
150
505770650 ,lnln,K 














 
Q50 = 307,1 + 2,5924 x 28,6 = 381,2 m3/s 
Para T = 1.000 anos: 
93574
11000
1000577061000 ,lnln,K 














 
Q1000 = 307,1 + 4,9357 x 28,6 = 448,3 m3/s 
Tabela 9.4 - Comparação das vazões máximas obtidas (em m3/s): 
Distribuição Período de retorno (T) 
50 1000 
Log-Normal 365,5 399,9 
Log- Pearson Tipo III 370,0 412,0 
Gumbel 381,2 448,3