Вычисления???Как правильно вычислять??

← →
DaTak (2002-10-02 17:00) [0]

Ворос такой - необходимо точное решение - в тетрадке результат получается в виде простой дроби. Далее бывает неопходимость обнулить некоторое значение, а при таких расчеах точно 0 не получится. Что делать - если сравнивать с , к примеру, с 0.0000001 или отнимать 0.0000001 то какой порог точности брать? Ну воопщем за все ответы буду благодарен :))

← →
RV (2002-10-02 17:06) [1]

const
eps=0.000001;

if abs(myvar-0.0000001)<eps then

← →
REA (2002-10-02 17:47) [2]

Точное решение понятие относительное.
Если нужно совсем точное решение, нужно видимо реализовывать работу с дробями (не встречал такого).
Точность выбирается из соображений конкретной задачи.

Вычисления???Как правильно вычислять?? Найти похожие ветки