Para evitar erros de cancelamento em operações de subtração de dois números em notação de ponto flutuante, é comum reorganizar as operações. Dada a expressão s - vx + 1 - vx, onde x = 100000 em um computador FP(10, 5, 6, 6), e considerando que para x = 100000 o resultado é s = 0, podemos determinar uma expressão equivalente reorganizando a subtração para evitar o cancelamento: s - vx + 1 - vx = s + 1 - 2vx Substituindo x = 100000 e s = 0, temos: s + 1 - 2vx = 0 + 1 - 2(100000) = 1 - 200000 = -199999 Portanto, a expressão equivalente é s + 1 - 2vx e seu valor para x = 100000 é -199999.
Para escrever sua resposta aqui, entre ou crie uma conta
Compartilhar