7. REGRESSÃO E CORRELAÇÃO

Prévia do material em texto

193 
8 
 REGRESSÃO E 
CORRELAÇÃO 
 
 
Até então se tem estudado as medidas de variabilidade de dados somente com 
uma variável. Far-se-á agora um estudo de tais medidas envolvendo simultaneamente 
duas variáveis. Este estudo é realizado através da regressão e correlação. A regressão 
consiste na estimação de uma variável dependente a partir de outra variável 
independente. Por outro lado, a correlação determina o grau de relação entre as variáveis, 
ou seja, procura determinar quão bem uma equação linear, ou de outra espécie, descreve 
ou explica a relação entre as variáveis. 
O estudo de regressão exerce papel relevante dentro do campo da 
Experimentação Agrícola, devido a sua larga aplicação na interpretação de resultados 
experimentais, e têm por objetivo determinar a relação existente entre uma característica 
qualquer de interesse experimental, dependente, e outra característica independente, 
tomadas juntas. O pesquisador, geralmente, escolhe os valores da variável independente e 
depois estabelece a relação existente entre os valores das duas variáveis. Tal relação é 
expressa por uma função matemática (equação de regressão), onde se diz que a variável 
dependente (Y) é uma função da variável independente (X). 
Veja-se, como exemplo, um experimento para determinar o efeito de doses 
crescentes de nitrogênio (X) na produção de uma forrageira (Y). 
 
 
Parcelas 
 
1 
 
2 
 
3 
 
4 
 
5 
 
 
Doses de Nitrogênio (kg/ha) – (X) 
 
0,0 
 
50,0 
 
100,0 
 
150,0 
 
200,0 
 
 
Produção de Forragem (kg/ha) – (Y) 
 
1.828,8 
 
2.438,4 
 
2.844,8 
 
3.149,6 
 
3.403,6 
 
 
 
Observa-se que quando aumenta a dose de nitrogênio, aumenta a produção de 
forragem. Verifica-se que a relação entre as duas variáveis é aproximadamente linear, e 
pode ser representada por uma linha reta (curva de regressão), passando entre os pontos 
de um diagrama de dispersão, conforme apresentado na FIGURA 8.1. Porém nem sempre 
é assim, pois a regressão pode não ser linear, mas polinomial, tornando mais complexo o 
seu estudo. 
 
FIGURA 8.1 – DIAGRAMA DE DISPERSÃO ENTRE DOSES DE NITROGÊNIO E A PRODUÇÃO 
DE FORRAGEM 
 
 
 
194 
Para a maioria dos casos, tem-se uma regressão linear pelo menos para os valores 
de X adotados em pesquisa agropecuária, cuja equação de regressão é: 
 
Ŷ = a + bX 
 
onde: 
Ŷ = estimativa da variável dependente; 
a = intercepção no eixo dos Y, ou seja, o valor de Y quando X = 0; 
b = coeficiente angular da reta, isto é, b = tg  (o ângulo formado pela reta ao cortar o 
eixo dos X) que determina a declividade da mesma e expressa o valor de Y para 
X = 0; 
X = variável independente. 
 
As estimativas dos parâmetros a e b são obtidos pelas fórmulas: 
 
XbYâ 
 
 



 



N
X
X
N
YX
XY
b
2
2
)(
))((
ˆ 
 
onde: 
Y
= média de Y; 
X
= média de X; 
N = número de observações. 
 
Considerando os dados do exemplo citado anteriormente, tem-se a seguinte 
equação de regressão: 
 
X = 0,0 + 50,0 + ... + 200,0 = 500,0 
 
Y = 1.828,8 + 2.438,4 + ... + 3.403,6 = 13.665,2 
 
N = 5 
 
X2 = (0,0)2 + (50,0)2 + ... + (200,0)2 = 0,0 + 2.500,0 + ... + 40.000,0 = 75.000,0 
 
XY = (0,0 x 1.828,8) + (50,0 x 2.438,4) + ... + (200,0 x 3.403,6) 
 
= 0,0 + 121.920,0 + ... + 680.720,0 = 1.559.560,0 
 
bˆ
 = 



 


N
X
X
N
YX
XY
2
2
)(
))((
 = 
5
)0,500(
0,000.75
5
)2,665.13)(0,500(
0,560.559.1
2


 
 
 
 
195 
= 
5
0,000.250
0,500.75
5
0,600.832.6
0,560.559.1


 = 
0,000.500,500.75
0,520.366.10,560.559.1


 = 
0,500.25
0,040.193
 = 7,570196 
 
N
Y
Y


 = 
5
2,665.13
 = 2.733,04 
 
N
X
X


 = 
5
0,500
 = 100,0 
 
XbYâ 
 = 
 0,100570196,704,733.2 x
 = 2.733,04 – 757,0196 = 1.976,0204 
 
Ŷ = a + bX = 1.976,0204 + 7,570196 X 
 
É preciso ressaltar que a determinação da equação de regressão deve ser 
precedida de uma análise de variância, a fim de comprovar estatisticamente se os dados 
apresentam a suposta relação linear entre as variáveis X e Y. 
Quando duas variáveis não podem ser consideradas uma independente e outra 
dependente, em função de ambas estarem sujeitas e erros experimentais ponderáveis, 
como por exemplo, comprimento e largura de folhas de plantas, teor de potássio do solo e 
aumento de produção de cana-de-açúcar, brotamento e capacidade de armazenamento de 
bulbos de cebola, altura de planta e produção de grãos de milho, etc., o emprego da 
regressão não é satisfatório e far-se-á uso, para esses casos, da correlação. 
 
8.1 Coeficiente de Correlação 
 
Em casos como o que foi mencionado anteriormente, há interesse em determinar 
o grau de relação entre as duas vaiáveis. Essa relação pode ser medida pelo coeficiente de 
correlação, cuja estimativa é obtida através da fórmula: 
 

























 
N
Y
Y
N
X
X
N
YX
XY
r
2
2
2
2
)()(
))((
 
 
O valor de r pode variar de – 1 a + 1. Os valores – 1 e + 1 indicam o máximo 
de correlação; o sinal (+ ou –) indica o sentido da correlação; o valor 0 significa 
independência das variáveis, isto é, não existe correlação. 
Um problema a resolver é o de provar o valor de r obtido, a fim de verificar se 
difere de zero, valor que deveria assumir, teoricamente, na ausência de correlação. Há 
vários métodos para isso. Um deles consiste em calcular t através da fórmula: 
 
2
1 2


 N
r
r
t
 
 
 
 
196 
onde: 
t = valor calculado do teste t com N – 2 graus de liberdade; 
r = estimativa do coeficiente de correlação; 
N = número de observações. 
 
Exemplo 1: A partir dos dados da TABELA 8.1, pede-se: 
a) Obter a estimativa do coeficiente de correlação; 
b) Aplicar o teste “t” e verificar se o valor de r é significativo. 
 
TABELA 8.1 – COMPORTAMENTO DE CULTIVARES DE CEBOLA (Allium cepa L.) EM 
RELAÇÃO AO CARÁTER BROTAMENTO E AO CARÁTER CAPACIDADE DE 
ARMAZENAMENTO 
 
 
Cultivares 
 
 
Caráter brotamento 
(em dias) 
 
 
Caráter Capacidade de 
Armazenamento (em %) 
 
BAIA DO CEDO SMJ-III 
 
76,1 
 
30,0 
 
 
BAIA DO CEDO SMP-V 
 
BAIA PERIFORME 
 
68,1 
 
 104,8 
 
65,0 
 
50,0 
 
 
BAIA SETE VOLTAS 
 
71,5 
 
60,0 
 
 
BAIA TRIUNFO SMJ-II 
 
87,3 
 
70,0 
 
 
BARREIRO ROXA SMP-IV 
 
73,8 
 
35,0 
 
 
BARREIRO SMJ-II 
 
60,2 
 
25,0 
 
 
BARREIRO SMP-III 
 
65,4 
 
15,0 
 
 
CIGANINHA 
 
39,9 
 
0,0 
 
 
COJUMATLAN L. 2691 
 
25,6 
 
30,0 
 
 
CREOLA 
 
80,5 
 
90,0 
 
 
CREOLA CATARINENSE 
 
97,5 
 
80,0 
 
 
EXCEL BERMUDAS 986 
 
38,2 
 
15,0 
 
 
IPA-2 
 
72,0 
 
55,0 
 
 
PIRA COUTO 
 
61,2 
 
50,0 
 
 
PIRA GRANA 
 
75,5 
 
50,0 
 
 
PIRA LOPES A/C 
 
49,4 
 
40,0 
 
 
PIRA LOPES A/R 
 
53,0 
 
20,0 
 
 
PIRA OURO A/R 
 
73,1 
 
25,0 
 
 
PIRA PERA A/C 
 
58,4 
 
10,0 
 
 
PIRA TROPICAL 
 
50,0 
 
20,0 
 
 
ROXA CHATA SMP-IV 
 
30,5 
 
15,0 
 
 
TEXAS GRANO 
 
50,0 
 
30,0 
 
 
TUBARÃO 
 
80,4 
 
40,0 
 
 
WHITE CREOLE 
 
44,835,0 
 
 
FONTE: FERREIRA (1982). 
 
 
197 
Resolução: 
a) Estimativa do Coeficiente de Correlação: 
X = caráter brotamento (em dias); 
Y = caráter capacidade de armazenamento (em %); 
 
X = 76,1 + 68,1 + ... + 44,8 = 1.587,2 
 
Y = 30,0 + 65,0 + ... + 35,0 = 955,0 
 
X2 = (76,1)2 + (68,1)2 + ... + (44,8)2 
 
= 5.791,21 + 4.637,61 + ... + 2.007,04 = 110.220,82 
 
Y2 = (30,0)2 + (65,0)2 + ... + (35,0)2 
 
= 900,0 + 4.225,0 + ... + 1.225,0 = 48.925,0 
 
XY = (79,1 x 30,0) + (68,1 x 65,0) + ... + (44,8 x 35,0) 
 
= 2.373,0 + 4.426,5 + ... + 1.568,0 = 67.789,5 
 
N = 25 
 

























 
N
Y
Y
N
X
X
N
YX
XY
r
2
2
2
2
)()(
))((
 
 
= 














25
)0,955(
0,925.48
25
)2,1587(
82,220.110
25
)0,955)(2,587.1(
5,789.67
22
 
 
 = 














25
0,025.912
0,925.48
25
8,203.519.2
82,220.110
25
0,776.515.1
5,789.67
 
 
 = 
  0,481.360,925.4815,768.11082,220.110
04,631.605,789.67


 = 
  0,444.1267,452.9
46,158.7
 
 
= 
0,000.620.117
46,158.7
 

692,845.10
46,158.7
 0,66 
 
b) Teste “t”: 
 
 
198 
t 
2
1 2


 N
r
r
 = 
 266,01
22566,0

 = 
4356,01
2366,0

 
 
= 
5644,0
7958315,466,0 x
 = 

7512656,0
1652488,3
 4,21 
 
t Tabelado (1%) = 2,81 
 
t Tabelado (5%) = 2,07 
 
O valor de r (0,66**) foi significativo no nível de 1% de probabilidade pelo teste 
“t”, indicando que existe uma correlação positiva entre os caracteres brotamento e 
capacidade de armazenamento, ou seja, quanto maior o período de brotamento de bulbos 
de cebola, maior será a capacidade de armazenamento dos mesmos. 
Podem-se representar graficamente os coeficientes de correlação, bastando 
apenas colocar os dados sobre dois eixos (diagrama de dispersão). A seguir, apresentar-
se-ão, através da FIGURA 8.2, diversos tipos de diagramas de dispersão com seus 
coeficientes de correlação associados, os quais servirão de modelo para a interpretação 
gráfica de tais coeficientes. 
 
FIGURA 8.2 – DIVERSOS TIPOS DE DIAGRAMAS DE DISPERSÃO COM SEUS COEFICIENTES 
DE CORRELAÇÃO ASSOCIADOS 
 
 
 
 
 
 
199 
9.2 Coeficiente de Determinação 
 
O coeficiente de determinação ( 2R ) é uma medida estatística que representa a 
porcentagem de variação em Y (variável dependente) que está sendo explicada pela 
equação de regressão. 
No caso de dados com repetições, a estimativa do coeficiente de determinação é 
obtida através da fórmula: 
 
sTratamentoSQ
xgressãoSQ
R
100Re2 
 
 
onde: 
SQ Regressão = soma das SQ Regressão até a regressão de maior grau que apresentou 
significância estatística pelo teste F na análise de variância; 
SQ Tratamentos = soma de quadrados de tratamentos da análise de variância. 
 
No caso de dados sem repetições, a sua estimativa é obtida através da fórmula: 
 
TotalSQ
xgressãoSQ
R
100Re2 
 
 
onde: 
SQ Regressão = soma das SQ Regressão até a regressão de maior grau que apresentou 
significância estatística pelo teste F na análise de variância; 
SQ Total = soma de quadrados total da análise de variância. 
 
O 2R assume valores entre 0 e 1. Se 2R = 1, a equação de regressão explica 
100% da variação de Y (variável dependente) em função da variação de X (variável 
independente). Se 2R = 0,5, a equação de regressão explica somente 50% da variação de 
Y em função da variação de X, os outros 50% da variação não é explicado por essa 
relação. Se 2R = 0, não há uma relação entre as variáveis X e Y. 
No caso de regressão linear simples, o coeficiente de determinação poderá ser 
calculado através do quadrado do coeficiente de correlação (r), ou seja, 
22 Rr 
. 
Considerando os dados do Exemplo 1, tem-se: 
 
 22 rR 
 = 
 266,0
 = 0,4356 
 
O valor de 2R (0,4356) explica apenas 43,56% da relação positiva entre o 
período de brotamento de bulbos de cebola e a sua capacidade de armazenamento, 
enquanto que o restante da variação (56,44%) não é explicado por essa relação. 
 
8.3 Análise de Regressão Através de Polinômios Ortogonais 
 
Já foi visto anteriormente, no Capítulo 3, que a análise de variância só tem 
validade se o pesquisador atender as suas suposições. Uma delas é que os erros de 
observação devem ser independentes, consequentemente não correlacionados. Quando 
esta hipótese não se verifica, a análise de variância deve refletir a dependência entre os 
 
 
200 
erros de observação, sob pena de não ser válida. Assim acontece no caso em que os 
tratamentos são quantitativos (doses crescentes de um fertilizante ou de um fungicida, ou 
datas de semeadura, por exemplo) com mais de dois níveis, e se justifica a existência de 
uma correspondência funcional, chamada equação de regressão, que ligue os valores dos 
tratamentos (X) aos dados analisados (Y). 
O procedimento de análise de variância é o seguinte: 
a) Analisam-se os dados experimentais da variável Y de acordo com o 
delineamento estatístico utilizado; 
b) Calculam-se as Somas de Quadrados de Regressão através das seguintes 
fórmulas: 
 
SQ Regressão Linear 
1
2
1 )(
rK
TC

 
 
SQ Regressão Quadrática 
2
2
2 )(
rK
TC

 
 
SQ Regressão Cúbica 
3
2
3 )(
rK
TC

 
 
SQ Regressão de 4º Grau 
4
2
4 )(
rK
TC

 
 
onde: 
C = coeficiente para interpolação de polinômios ortogonais, obtido em tabelas (TABELA 
A-14); 
T = totais de tratamentos; 
K = soma de quadrados dos coeficientes, obtido em tabelas (TABELA A-14); 
r = número de repetições do experimento, para o caso dos experimentos simples, e 
número de repetições do experimento (r) multiplicado pelo número de tratamentos 
do outro grupo (tN), para o caso dos experimentos complexos (fatorial, parcelas 
subdivididas, etc.); 
 
c) Como, geralmente, na pesquisa agropecuária ocorre efeito significativo até a 
Regressão de 4º Grau e quando existem Graus de Liberdade disponíveis, calcula-se a 
Soma de Quadrados de Desvios de Regressão pela diferença entre a Soma de Quadrados 
de Tratamentos e as Somas de Quadrados de Regressão; 
d) Obtêm-se os Graus de Liberdade das Regressões e de Desvios de Regressão da 
seguinte maneira: 
 
Regressão Linear = 1 GL 
 
Regressão Quadrática = 1 GL 
 
Regressão Cúbica = 1 GL 
 
 
 
201 
Regressão de 4º Grau = 1 GL 
 
Desvios de Regressão = GL Tratamentos – (GL Regressão Linear + 
 
GL Regressão Quadrática + GL Regressão Cúbica + GL Regressão de 4º Grau) 
 
e) Calculam-se os Quadrados Médios de Regressão e de Desvios de Regressão 
dividindo-se suas Somas de Quadrados pelos seus respectivos Graus de Liberdade; 
f) A significância estatística das Regressões e de Desvios de Regressão é dada 
pelo teste F, sendo que os valores dos F’s calculados são obtidos dividindo-se seus 
respectivos Quadrados Médios pelo Quadrado Médio do Resíduo; 
g) Calcula-se a equação de regressão a partir da regressão de maior grau que 
apresentou significância estatística pelo teste F. Por exemplo, se fosse a Regressão de 4º 
Grau que apresentasse significância estatística, a equação de regressão ficaria assim 
constituída: 
 
Y – 
Y
 = B1M1P1 + B2M2P2 + B3M3P3 + B4M4P4 
 
onde:Y = estimativa da variável dependente; 
Y
 = estimativa da média observada da variável dependente; 
B = coeficiente angular, obtido através da fórmula: 
 
rK
CT
B


 
 
onde: 
C = coeficiente para interpolação de polinômios ortogonais, obtido em tabelas (TABELA 
A-14); 
T = totais de tratamentos; 
K = soma de quadrados dos coeficientes, obtido em tabelas (TABELA A-14); 
r = número de repetições do experimento, para o caso dos experimentos simples, e 
número de repetições multiplicado pelo número de tratamentos do outro grupo que 
não está em evidência, para o caso dos experimentos complexos (fatorial, parcelas 
subdivididas, etc.); 
 
M = constantes, obtidas em tabela (TABELA A-14); 
P1 = polinômios ortogonais do 1º grau, obtidos através da fórmula: 
 
P1 = x 
 
sendo 
 
q
XX
x


 
 
onde: 
X = variável independente; 
 
 
202 
X
 = média da variável independente; 
q = diferença entre dois níveis sucessivos de X; 
 
P2 = polinômios ortogonais do 2º grau, obtidos através da fórmula: 
 
12
122
2


n
xP
 
 
onde: 
n = número de níveis de X; 
 
P3 = polinômios ortogonais do 3º grau, obtidos através da fórmula: 
 
x
n
xP
20
73 23
3


 
 
P4 = polinômios ortogonais do 4º grau, obtidos através da fórmula: 
 
560
)9)(1(3
14
133 222
2
4
4




nn
x
n
xP
 
 
h) Com a equação de regressão obtêm-se os valores médios esperados de 
tratamentos. Com tais valores médios esperados e com as médias observadas de 
tratamentos podem-se calcular os desvios, cuja soma algébrica deve ser nula. 
É preciso ressaltar que este procedimento só é válido quando os níveis de 
tratamentos são igualmente espaçados. 
Exemplo 2: A partir dos dados das TABELAS 8.2 e 8.3, pede-se: 
a) Fazer a análise da variância levando-se em conta a regressão, através da 
utilização do método dos polinômios ortogonais; 
b) Obter a equação de regressão, acompanhada de tabela de médias e de gráfico; 
c) Obter o coeficiente de determinação. 
 
TABELA 8.2 – DADOS DE PRODUÇÃO (em kg/parcela) DE MILHO (Zea mays L.) EM RELAÇÃO 
AOS NÍVEIS DE ADUBAÇÃO FOSFATADA 
 
 
Tratamentos 
 
I 
 
II 
 
III 
 
IV 
 
Totais de Tratamentos 
 
 
 0 * 
 
 3,38 
 
5,77 
 
4,90 
 
4,54 
 
18,59 
 
 
25 
 
 7,15 
 
 9,78 
 
 9,99 
 
10,10 
 
37,02 
 
 
50 
 
10,07 
 
 9,73 
 
 7,92 
 
 9,48 
 
37,20 
 
 
75 
 
 9,55 
 
 8,95 
 
10,24 
 
 8,66 
 
37,40 
 
 
 100 
 
 9,14 
 
10,17 
 
 9,75 
 
 9,50 
 
38,56 
 
 
Totais de Blocos 
 
39,29 
 
44,40 
 
42,80 
 
42,28 
 
 168,77 
 
 
FONTE: GOMES (1985). 
NOTA: (*): kg de P2 O5/ha. 
 
 
 
 
 
203 
TABELA 8.3 – ANÁLISE DA VARIÂNCIA E COEFICIENTE DE VARIAÇÃO DO EFEITO DE 
NÍVEIS DE ADUBAÇÃO FOSFATADA NA PRODUÇÃO DE MILHO (Zea mays L.) 
 
 
Causa de Variação 
 
GL 
 
SQ 
 
QM 
 
F 
 
 
Adubação Fosfatada 
 
 4 
 
72,22 
 
18,055 
 
19,84** 
 
 
Blocos 
 
 3 
 
 2,73 
 
- 
 
- 
 
 
Resíduo 
 
12 
 
10,92 
 
0,910 
 
 
 
Total 
 
19 
 
85,87 
 
 
 
Coeficiente de Variação: % 
 
11,30 
 
 
 
FONTE: GOMES (1985). 
NOTA: (**) Significativo no nível de 1% de probabilidade. 
 
 
Resolução: 
a) Análise da Variância com Regressão: 
 
GL Regressão Linear = 1 
 
GL Regressão Quadrática = 1 
 
GL Regressão Cúbica = 1 
 
GL Regressão de 4º Grau = 1 
 
r = 4 
 
K1 = 10 
 
K2 = 14 
 
K3 = 10 
 
K4 = 70 
 
 
 
Totais de Tratamentos (T) 
 
 Coeficientes 
 
 
C1 
 
C2 
 
C3 
 
C4 
 
 
18,59 
 
– 2 
 
+ 2 
 
– 1 
 
+ 1 
 
 
37,02 
 
– 1 
 
– 1 
 
+ 2 
 
 – 4 
 
 
37,20 
 
 0 
 
– 2 
 
 0 
 
+ 6 
 
 
37,40 
 
+ 1 
 
– 1 
 
– 2 
 
 – 4 
 
 
38,56 
 
+ 2 
 
+ 2 
 
+ 1 
 
+ 1 
 
 
 
204 
1
2
1 )(
Re
rK
TC
LineargressãoSQ


 
 
=  
104
)56,382()40,371()20,370()02,371()59,182( 2
x
xxxxx 
 
 
=  
40
)12,77()40,37()00,0()02,37()18,37( 2
 = 
40
)32,40( 2
 
 
= 
40
7024,625.1
 = 40,64256 
 
2
2
2 )(
Re
rK
TC
QuadráticagressãoSQ


 
 
=  
144
)56,382()40,371()20,372()02,371()59,182( 2
x
xxxxx 
 
 
=  
56
)12,77()40,37()40,74()02,37()18,37( 2
 = 
56
)52,34( 2
 
 
= 
56
6304,191.1
 = 21,279114 
 
3
2
3 )(
Re
rK
TC
CúbicagressãoSQ


 
 
=  
104
)56,381()40,372()20,370()02,372()59,181( 2
x
xxxxx 
 
 
=  
40
)56,38()80,74()00,0()04,74()59,18( 2
 = 
40
)21,19( 2
 
 
= 
40
0241,369
 = 9,225603 
 
4
2
4 )(
º4Re
rK
TC
GraudegressãoSQ


 
 
=  
704
)56,381()40,374()20,376()02,374()59,181(
2
x
xxxxx 
 
 
=  
280
)56,38()60,149()20,223()08,148()59,18( 2
 = 
280
)33,17( 2
 
 
 
205 
= 
280
3289,300
 = 1,072603 
 
LineargressãoGL
LineargressãoSQ
LineargressãoQM
Re
Re
Re 
 = 
1
64256,40
 = 40,64256 
 
QuadráticagressãoGL
QuadráticagressãoSQ
QuadráticagressãoQM
Re
Re
Re 
 = 
1
279114,21
 = 21,279114 
 
CúbicagressãoGL
CúbicagressãoSQ
CúbicagressãoQM
Re
Re
Re 
 = 
1
225603,9
 = 9,225603 
 
GraudegressãoGL
GraudegressãoSQ
GraudegressãoQM
º4Re
º4Re
º4Re 
 = 
1
072603,1
 = 1,072603 
 
F Calculado para Regressão Linear = 
síduoQM
LineargressãoQM
Re
Re
 
 
= 

910,0
64256,40
 44,66 
 
F Calculado para Regressão Quadrática = 
síduoQM
QuadráticagressãoQM
Re
Re
 
 
= 

910,0
279114,21
 23,38 
 
F Calculado para a Regressão Cúbica = 
síduoQM
CúbicagressãoQM
Re
Re
 
 
= 

910,0
225603,9
 10,14 
 
F Calculado para Regressão de 4º Grau = 
síduoQM
GraudegressãoQM
Re
º4Re
 
 
= 

910,0
072603,1
 1,18 
 
F Tabelado (1%) para as Regressões = 9,33 
 
F Tabelado (5%) para as Regressões = 4,75 
 
 Agora, a TABELA 8.3 fica da seguinte maneira: 
 
 
 
206 
TABELA 8.3 – ANÁLISE DA VARIÂNCIA E COEFICIENTE DE VARIAÇÃO DO EFEITO DE 
NÍVEIS DE ADUBAÇÃO FOSFATADA NA PRODUÇÃO DE MILHO (Zea mays 
L.). PIRACICABA-SP, 1985 
 
 
Causa de Variação 
 
GL 
 
SQ 
 
QM 
 
F 
 
 
(Adubação Fosfatada) 
 
(4) 
 
(72,220000) 
 
- 
 
- 
 
Regressão Linear 
 
1 
 
40,642560 
 
40,642560 
 
44,66 ** 
 
 
Regressão Quadrática 
 
1 
 
21,279114 
 
21,279114 
 
23,38 ** 
 
 
Regressão Cúbica 
 
Regressão de 4º Grau 
 
1 
 
1 
 
 9,225603 
 
 1,072603 
 
 9,225603 
 
 1,072603 
 
10,14 ** 
 
 1,18 ns 
 
 
Blocos 
 
3 
 
 2,730000 
 
- 
 
- 
 
 
Resíduo 
 
 12 
 
10,920000 
 
 0,910000 
 
 
 
Total 
 
 19 
 
85,870000 
 
 
 
Coeficiente de Variação (%) 
 
 11,30 
 
 
 
NOTAS: (ns) Não significativo no nível de 5% de probabilidade.(**) Significativo no nível de 1% de probabilidade. 
 
De acordo com o teste F, tem-se: 
Houve diferença significativa, no nível de 1% de probabilidade, para as 
Regressões Linear, Quadrática e Cúbica, indicando que a equação de 3º grau explica o 
aumento da produção de milho em função dos níveis de adubação fosfatada. 
Não houve diferença significativa, no nível de 5% de probabilidade, para a 
Regressão de 4º Grau, indicando que a relação entre níveis de adubação fosfatada e 
produção de milho é determinada apenas pela equação de 3º grau. 
b) Equação de Regressão Acompanhada de Tabela de Médias e de Gráfico: 
 
N
Y
Y


 = 
20
77,168
 = 8,4385 
 
1
1
1
rK
TC
B


 = 
104
)56,382()40,371()20,370()02,371()59,182(
x
xxxxx 
 
 
= 
40
)12,77()40,37()00,0()02,37()18,37( 
 = 
40
32,40
 = 1,008 
 
2
2
2
rK
TC
B


 = 
144
)56,382()40,371()20,372()02,371()59,182(
x
xxxxx 
 
 
= 
56
)12,77()40,37()40,74()02,37()18,37( 
 = 
56
52,34
= – 0,616428571 
 
 
207 
3
3
3
rK
TC
B


 = 
104
)56,381()40,372()20,370()02,372()59,181(
x
xxxxx 
 
 
= 
40
)56,38()80,74()00,0()04,74()59,18( 
 = 
40
21,19
 = 0,48025 
 
M1 = 1 
 
M2 = 1 
 
M3 = 
6
5
 = 0,833333333 
 
P1 = x 
 
12
122
2


n
xP
 = 
12
1)5( 22 x
 = 
12
1252 x
 = 
12
242 x
 = x
2 – 2 
 
x
n
xP
20
73 23
3


 = 
xx
20
7)5(3 23 
 = 
xx
20
7)25(33 
 
 
= 
xx
20
7753 
 = 
xx
20
68
3 
 = x
3
 – 3,4 x 
 
 
 
Y = 
Y
 + B1M1P1 + B2M2P2 + B3M3P3 + B4M4P4 
 
= 8,4385 + [1,008 x 1 (x)] + [– 0,616428571 x 1 (x2 – 2)] + 
 
[0,48025 x 0,833333333 (x
3
 – 3,4 x) ] 
 
= 8,4385 + 1,008 x – 0,616428571 x2 + 1,232857142 + 
 
0,400208333 x
3
 – 1,360708333 x 
 
= 9,671357142 – 0,352708333 x – 0,616428571 x2 + 0,400208333 x3 
 
A variável auxiliar x é dada pela equação: 
 
q
XX
x


 
 
onde, neste caso, tem-se: 
 
N
X
X


 =  
20
)40,100()40,75()40,50()40,25()40,0( xxxxx 
 
 
 
 
208 
=  
20
0,4000,3000,2000,1000,0 
 = 
20
0,000.1
 = 50,0 
 
q = 25 
 
q
XX
x


 = 
25
0,50X
 = 0,04 X – 2 
 
Substituindo a variável auxiliar x na equação de regressão, tem-se: 
 
Y = 9,671357142 – 0,352708333 (0,04 X – 2) – 
 
0,616428571 (0,04 X – 2 )2 + 0,400208333 (0,04 X – 2 )3 
 
= 9,671357142 – 0,014108333 X + 0,705416666 – 
 
0,616428571 (0,0016 X
2
 – 0,16 X + 4) + 
 
 0,400208333 (0,000064 X
3
 – 0,0096 X2 + 0,48 X – 8) 
 
= 9,671357142 – 0,014108333 X + 0,705416666 – 0,000986285 X2 + 
 
0,098628571 X – 2,465714284 + 0,000025613 X3 – 
 
0,003841999 X
2
 + 0,192099999 X – 3,201666664 
 
= 4,70939286 + 0,276620237 X – 0,004828284 X2 + 0,000025613 X3 
 
Médias Esperadas: 
 
0mˆ
 = 4,70939286 + 0,276620237 (0,0) – 0,004828284 (0,0)2 + 0,000025613 (0,0)3 
 
= 4,70939286 + 0,0 – 0,0 + 0,0  4,7094 
 
25mˆ
 = 4,70939286 + 0,276620237 (25,0) – 0,004828284 (25,0)2 + 0,000025613 (25,0)3 
 
= 4,70939286 + 6,915505925 – 0,004828284 (625) + 0,000025613 (15.625) 
 
= 4,70939286 + 6,915505925 – 3,0176775 + 0,400203125  9,0074 
 
50mˆ
 = 4,70939286 + 0,276620237 (50,0) – 0,004828284 (50,0)2 + 0,000025613 (50,0)3 
 
= 4,70939286 + 13,83101185 – 0,004828284 (2.500) + 0,000025613 (125.000) 
 
= 4,70939286 + 13,83101185 – 12,07071 + 3,201625  9,6713 
 
75mˆ
 = 4,70939286 + 0,276620237 (75,0) – 0,004828284 (75,0)2 + 0,000025613 (75,0)3 
 
 
209 
= 4,70939286 + 20,74651778 – 0,004828284 (5.625) + 0,000025613 (421.875) 
 
= 4,70939286 + 20,74651778 – 27,1590975 + 10,80548438  9,1023 
 
100mˆ
 = 4,70939286 + 0,276620237 (100,0) – 0,004828284 (100,0)2 + 0,000025613 (100,0)3 
 
 
= 4,70939286 + 27,6620237 – 0,004828284 (10.000) + 0,000025613 (1.000.000) 
 
= 4,70939286 + 27,6620237 – 48,28284 + 25,613  9,7016 
 
Médias Observadas: 
 
r
Y
m


0
0
ˆ
 = 

4
59,18
 4,6475 
 
r
Y
m


25
25
ˆ
 = 

4
02,37
 9,2550 
 
r
Y
m


50
50
ˆ
 = 

4
20,37
 9,3000 
 
r
Y
m


75
75
ˆ
 = 

4
40,37
 9,3500 
 
r
Y
m


100
100
ˆ
 = 
4
56,38
= 9,6400 
 
TABELA 8.4 – EFEITO DE NÍVEIS DE ADUBAÇÃO FOSFATADA NA PRODUÇÃO DE MILHO 
(Zea mays L.). PIRACICABA – SP, 1985 
 
 
Níveis de Adubação 
Fosfatada 
 
Médias (kg/parcela) 
Esperada (A) Observada (B) 
 
Desvios de Regressão 
(A – B) 
 
 
O kg de P2 O5/ha 
 
4,7094 
 
4,6475 
 
0,0619 
 
 
25 kg de P2 O5/ha 
 
9,0074 
 
9,2550 
 
 – 0,2476 
 
 
50 kg de P2 O5/ha 
 
9,6713 
 
9,3000 
 
0,3713 
 
 
75 kg de P2 O5/ha 
 
9,1023 
 
9,3500 
 
 – 0,2477 
 
 
100 kg de P2 O5/ha 
 
9,7016 
 
9,6400 
 
0,0616 
 
 
 
 
 
 
 
 
 
210 
FIGURA 8.3 – EFEITO DE NÍVEIS DE ADUBAÇÃO FOSFATADA NA PRODUÇÃO DE MILHO 
(Zea mays L.). PIRACICABA – SP, 1985 
 
Recomenda-se o nível de 50 kg de P2 O5/ha como o mais indicado para se ter 
uma produção de milho economicamente viável, conforme TABELA 8.4 e FIGURA 8.3. 
 
c) Coeficiente de determinação: 
 
sTratamentoSQ
xgressãoSQ
R
100Re2 
 = 
2200,72
100147277,71 x
 = 

2200,72
7277,114.7
 98,51% 
 
O valor de 2R explica 98,51% do incremento na produção de milho em função 
do aumento do nível de adubação fosfatada determinado pela equação de 3º grau.