Fórmulas Bioestatística

Prévia do material em texto

Folha de fórmulas 
 
1 
 
1. Média 
 
 
 
Onde: 
xi = variável aleatória 
N = população 
 
Onde: 
xi = variável aleatória 
n = número de amostras 
 
2. Cálculo do número de classes 
 
Se n ≤ 25, então K = 5 
Se n > 25, então utilizar fórmula de Sturges 
 
K = 1+3,32 log n 
 
Onde: 
K = Número de classes 
n = número de elementos da amostra 
 
3. Cálculo da média aritmética a partir de uma tabela de frequência 
 
 
 
 
 
 
Onde: 
PM = Ponto médio 
F = Frequência da classe 
n = número de elementos da amostra 
 
 
 
4. Moda - método de Czuber 
 
 
 
 
Onde: 
li = limite inferior da classe modal (a que possui >freqüência) 
c = intervalo de classe 
fmo = freqüência da classe modal 
fant = freqüência anterior à classe modal 
fpost = freqüência posterior à classe modal 
 
5. Mediana 
 
 
 
 
x = xi/n
n
i=1
 
𝑀𝑜 = 𝑙𝑖 + 𝑐 
𝑓𝑚𝑜 − 𝑓𝑎𝑛𝑡
2𝑓𝑚𝑜 − 𝑓𝑎𝑛𝑡 + 𝑓𝑝𝑜𝑠𝑡
 
𝐸 =
𝑛 + 1
2
 𝐸 =
𝑛
2
 
μ = xi /N
N
i=1
 
x = 
 PMj ∗ Fj 
k
j=1
n
 
 𝑃𝑀 = 
𝑒𝑥𝑡𝑟𝑒𝑚𝑖𝑑𝑎𝑑𝑒 𝑖𝑛𝑓𝑒𝑟𝑖𝑜𝑟 𝑑𝑎 𝑐𝑙𝑎𝑠𝑠𝑒 + 𝑒𝑥𝑡𝑟𝑒𝑚𝑖𝑑𝑎𝑑𝑒 𝑠𝑢𝑝𝑒𝑟𝑖𝑜𝑟 𝑑𝑎 𝑐𝑙𝑎𝑠𝑠𝑒
2
 
Folha de fórmulas 
 
2 
 
 
 
 
Onde: 
li = limite inferior da classe mediana 
c = intervalo de classe 
E = freqüência da classe mediana 
fant ac = freqüência acumulada anterior à classe mediana 
fmd = freqüência da classe mediana 
 
6. Variância 
σ² = ∑ (xi – µ)² / N 
 
Onde: 
xi = variável aleatória 
discreta ou contínua 
µ = média da população 
N = população 
 
7. Desvio padrão 
σ = √ σ² 
 
Onde: 
σ² = variância da população 
 
s² = ∑ (xi – x)² / n -1 
 
Onde: 
xi = variável aleatória 
discreta ou contínua 
x = média da amostra 
n = número de amostras 
 
 
s = √ s² 
 
Onde: 
s² = variância da amostra 
8. Distribuição normal padronizada
 
Z = (X - μ)/σ ou Z = (X - x)̅/s 
 
Onde: 
X = variável aleatória 
µ = média aritmética em se tratando da população ou x ̅em se tratando de uma 
amostra 
σ = desvio padrão em se tratando da população ou s = desvio padrão da amostra 
 
9. Cálculo do valor crítico 
 
Zα/2 = (X - x)̅/s 
 
Onde: 
X = variável aleatória 
x ̅= média aritmética da amostra 
s = desvio padrão da amostra 
 
10. Intervalo de confiança 
 
P{c1 ≤ μ ≤ c2 } = 1 - α 
 
Onde: 
P = probabilidade 
c1 e c2 = intervalo de confiança da média da população (µ) 
𝑀𝑑 = 𝑙𝑖 + 𝑐 
𝐸 − 𝑓𝑎𝑛𝑡 𝑎𝑐
𝑓𝑚𝑑
 
 
Folha de fórmulas 
 
3 
 
α = nível de significância (erro tolerado) 
1 – α = coeficiente de confiança 
100(1- α) = grau de confiança expresso em % 
 
11. Intervalo de confiança e erro padrão 
 
P (x ̅- Zα/2*sx ̅ < μ < x ̅+ Zα/2*sx)̅ = γ 
 
Onde: 
P = probabilidade 
x ̅= média da amostra 
Zα/2 = valor da distribuição normal 
s x ̅= erro padrão 
γ = grau de confiança 
 
12. Erro padrão 
 
sx ̅= s/√n 
 
Onde: 
s = desvio padrão 
n = número de amostras 
 
 
 
13. Tamanho da amostra (amostras infinitas e distribuição normal) 
 
 
 
 
 
 
 
Onde: 
Zα/2= valor crítico que corresponde ao grau de confiança desejado 
σ = desvio padrão 
E = erro máximo de estimativa 
n = número de amostras 
 
14. Tamanho da amostra (amostras infinitas e distribuição binomial) 
 
 
 
 
 
 
 
 
 
 
 
𝑛 = 
𝑍𝛼/2 . 𝜎
𝐸
 
2
 
𝐸 = 𝑍𝛼/2
𝜎
 𝑛
 
𝑛 = 
𝑍𝛼
2
2. (𝑝 ∗ 𝑞)
𝐸2
 
𝐸 = ∓𝑍 
𝑝 (1 − 𝑝)
𝑛
 
Folha de fórmulas 
 
4 
 
Onde: 
Zα/2= valor crítico que corresponde ao grau de confiança desejado 
p = probabilidade populacional de indivíduos que pertence à categoria que estamos 
interessados em estudar 
q = probabilidade populacional de indivíduos que pertence à categoria que não 
estamos interessados em estudar (q = 1-p) 
 E = erro máximo de estimativa 
n = número de amostras 
 
15. Ajustamento para amostras finitas 
 
 
 
 
 
Onde: 
N = tamanho da amostra finita 
n = tamanho inicial da amostra 
 
16. Teste de t considerando um valor pré-estabelecido 
 
 
Onde: 
x ̅= média da amostra 
µo = valor pré-estabelecido 
s/√n = erro padrão da amostra 
 
17. Teste de t considerando duas amostras 
 
 
 
 
 
 
 
 
Onde: 
x1̅ = média da primeira amostra 
x2̅ = média da segunda amostra 
s²p = variância ponderada 
n1 = número de observações da primeira amostra 
n2 = número de observações da segunda amostra 
 
18. Teste de t de observações pareadas 
 
 
 
 
 
 
 
𝑛𝑎𝑗𝑢𝑠 =
𝑁 ∗ 𝑛
𝑁 + 𝑛
 
𝑡 =
𝑥 − 𝜇𝑜
𝑠
 𝑛
 
 
𝑡 =
𝑥 1 − 𝑥 2
 𝑠𝑝
2 
1
𝑛1
+
1
𝑛2
 
 
 𝑠𝑝
2 =
 𝑥1 − 𝑥 1 
2 + 𝑥2 − 𝑥 2 
2
𝑛1 + 𝑛2 − 2
 
 
𝑑 = 𝑥2 − 𝑥1 
 𝑑 =
 𝑑
𝑛
 
𝑠2 =
 𝑑2 −
 𝑑 2
𝑛
𝑛 − 1
 
𝑡 =
𝑑 
 𝑠
2
𝑛
 
 
Folha de fórmulas 
 
5 
 
 
Onde: 
d = Diferença entre as unidades de cada um dos n pares 
d̅ = Média das diferenças 
s² = Variância das diferenças 
 
19. Análise de variância (ANOVA) 
 
a) Calcular Fator de correção 
(FC) 
Onde: 
G = soma total dos valores dos 
tratamentos 
n=número das repetições 
k = número de tratamentos 
nk substituído por n no caso de 
tratamentos com diferente 
número de repetições 
 
b) Calcular soma de quadrados 
total 
Onde: 
x = cada valor de cada 
tratamento 
 
c) Calcular soma dos 
quadrados dos tratamentos 
 
Se o número de repetições é 
diferente utilizar esta fórmula 
Onde: 
T = somatório de x de cada 
tratamento 
 
 
d) Calcular soma de quadrados 
dentro dos tratamentos 
 
 
e) Calcular Quadrado médio de 
tratamentos 
 
f) Calcular Quadrado médio de 
resíduos 
Se o número de repetições é 
desigual utilizar (n-1)-(k-1) 
 
g) Calcular valor de F 
 
 
 
𝐹𝐶 =
𝐺2
𝑛𝑘
 
 
 
 
 
𝑆𝑄𝑡𝑜𝑡𝑎𝑙 = 𝑥𝑖𝑗
2 − 𝐹𝐶
𝑖𝑗
 
 
𝑆𝑄1 =
 𝑇𝑗
𝑘
𝑗=1
2
𝑛
− 𝐹𝐶 
 
𝑆𝑄1 =
𝑇1
2
𝑛1
+
𝑇2
2
𝑛2
+ ⋯
𝑇𝑘
2
𝑛𝑘
− 𝐹𝐶 
 
𝑆𝑄2 = 𝑆𝑄𝑡𝑜𝑡𝑎𝑙 − 𝑆𝑄1 
𝑄𝑀1 =
𝑆𝑄1
𝑘 − 1
 
𝑄𝑀2 =
𝑆𝑄2
𝑘(𝑛 − 1)
 
 
𝐹 =
𝑄𝑀1
𝑄𝑀2
 
 
 
Folha de fórmulas 
 
6 
 
 
Causas da variação Graus de liberdade 
Entre tratamentos k -1 
Dentro de tratamentos 
(Resíduos) 
k(n-1) ou (n-1) - (k-1)* 
Total kn -1 ou n-1* 
* Quando o número de repetições é desigual 
 
20. Teste de Tukey 
 
 Repetições iguais Repetições não iguais (par a par) 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
21. Regressão linear simples 
 
 
 
 
Onde: 
y = variável dependente 
a = altura da reta acima do eixo x, no ponto em que a reta corta o eixo y 
b = declive da reta 
x = variável independente 
 
 
 
 
 
 
 
 
Onde: 
SP = soma dos produtos; 
SQx = soma dos quadrados de x; 
𝑦 = 𝑎 + 𝑏𝑥 
𝑏 =
𝑆𝑃
𝑆𝑄𝑥
=
 𝑥𝑦 −
 𝑥 𝑦 
𝑛
 𝑥2 −
( 𝑥)²
𝑛
 
𝑎 = 𝑦 − 𝑏𝑥 
𝑑. 𝑚. 𝑠. = 𝑞 
𝑄𝑀2
𝑟
 
Onde: 
q = valor dado em 
tabela 
QM2 = quadrado médio 
do resíduo 
r = número de 
repetições de cada 
tratamento 
 
 
 
𝑑. 𝑚. 𝑠.
= 𝑞 
1
𝑟1
+
1
𝑟2
 
𝑄𝑀2
2
 
Onde: 
q = valor dado em 
tabela 
QM2 = quadrado 
médio do resíduo 
r1 e r2 = número de 
repetições de cada 
tratamento 
considerado 
 
 
 
Folha de fórmulas 
 
7 
 
y̅ = média aritmética de y; 
x ̅= média aritmética de x; 
n = pares de valores 
 
22. Correlação 
 
 
 
 
Onde: 
x = variável independente 
y = variável independente 
n = pares de valores 
 
21. Roteiro para análise da variância para calcular o F tabelado considerando uma regressão 
 
 SP e SQx já foram calculados para b 
 
 
 
 
 
 
 
 
 Valor já calculado acima 
 
 
 
 
 
 
 
 
 
22. Teste de chi-quadrado (χ²) para amostras independentes (tabelas 2x2) 
 
 
 GL = (r-1)(s-1) 
 
 
Onde: 
O = frequência observada 
E = frequência esperada 
r = número de linhas 
s = número de colunas 
 
23. Teste de chi-quadrado (χ²) de aderência 
 
 GL = r-1 
 
𝑟 =
 𝑥𝑦 −
 𝑥 𝑦
𝑛
 𝑥2 −
( 𝑥)
2
𝑛 
 𝑦2 −( 𝑦)
2
𝑛 
 
 
𝑆𝑄𝑅 =
𝑆𝑃2
𝑆𝑄𝑥
 
𝑆𝑄𝑦 = 𝑦
2 −
 𝑦 2
𝑛
 
 
𝑆𝑄𝐷 = 𝑆𝑄𝑦 − 𝑆𝑄𝑅 
𝑄𝑀𝑅 =
𝑆𝑃2
𝑆𝑄𝑥
 
𝑄𝑀𝐷 =
𝑆𝑄𝐷
𝑛 − 2
 
𝐹 =
𝑄𝑀𝑅
𝑄𝑀𝐷
 
𝜒2 = 
𝑟
𝑖=1
 
 𝑂𝑖𝑗 − 𝐸𝑖𝑗 
2
𝐸𝑖𝑗
𝑠
𝑗=1
 
 
𝜒2 = 
 𝑂𝑖 − 𝐸𝑖 
2
𝐸𝑖
𝑟
𝑖=1
 
 
Folha de fórmulas 
 
8 
 
 
Onde: 
O = frequência observada 
E = frequência esperada 
r = número de linhas 
 
24. Teste de Mann-Whitney 
 
Verificação da ordenação dos postos 
 
 𝑅1 + 𝑅2 =
𝑛 𝑛 + 1 
2
 
 
Onde: 
R1 = Soma de postos da variável 1 
R2 = Soma de postos da variável 2 
n = número de elementos na amostra 
 
Quando n1=n2 calcular o valor de U utilizando a menor soma de postos 
 
𝑈 = 𝑅1 − 
𝑛1 𝑛1 + 1 
2
 
 
Onde: 
U = estatística do teste de Mann-Whitney 
R1 = Menor soma de postos da variável 1 ou variável 2 
n = número de elementos na amostra da variável que possuir menor valor na soma de postos 
 
Quando n1≠n2 calcular o teste de Z utilizando o menor valor de U entre R1 e R2 
 
𝑧 =
𝑈 −
𝑛1𝑛2
2
 𝑛1𝑛2 𝑛1 + 𝑛2 + 1 
12
 
 
 
Onde: 
z = Valor calculado de Z 
U = Valor do U correspondente ao menor valor entre R1 e R2 
n1 = número de elementos na amostra R1 
n2 = número de elementos na amostra R2 
 
25. Teste de Wilcoxon 
 
𝑧 =
 𝑅
 𝑅2
 
 
 
Onde: 
z = Valor calculado de Z 
ΣR = Soma dos postos 
Folha de fórmulas 
 
9 
 
 
26. Teste de Kruskal-Wallis 
 
Verificação da ordenação dos postos 
 
 𝑅1 + ⋯ + 𝑅𝑘 =
𝑛 𝑛 + 1 
2
 
 
 
Onde: 
R1 ... Rk = Soma dos postos por tratamento 
n = número de elementos na amostra 
 
Cálculo da estatística de H 
 
𝐻 =
12
𝑛 𝑛 + 1 
 
 𝑅1 
2
𝑛1
+ ⋯ +
 𝑅𝑘 
2
𝑛𝑘
 − 3 𝑛 + 1 
 
 
Onde: 
H = Estatística do teste de Kruskal-Wallis 
n = número de elementos da amostra 
R1 ... Rk = Soma dos postos por tratamento 
n1..nk = número de elementos por tratamento