Скачать: CL | DM;

Вычисления???Как правильно вычислять??   Найти похожие ветки 

← →
DaTak   (2002-10-02 17:00) [0]

Ворос такой - необходимо точное решение - в тетрадке результат получается в виде простой дроби. Далее бывает неопходимость обнулить некоторое значение, а при таких расчеах точно 0 не получится. Что делать - если сравнивать с , к примеру, с 0.0000001 или отнимать 0.0000001 то какой порог точности брать? Ну воопщем за все ответы буду благодарен :))

---

← →
RV ©   (2002-10-02 17:06) [1]

const
eps=0.000001;

if abs(myvar-0.0000001)<eps then

---

← →
REA   (2002-10-02 17:47) [2]

Точное решение понятие относительное.
Если нужно совсем точное решение, нужно видимо реализовывать работу с дробями (не встречал такого).
Точность выбирается из соображений конкретной задачи.

---

Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.45 MB
Время: 0.01 c