Вниз
Скачать: CL | DM;

Вычисления???Как правильно вычислять??   Найти похожие ветки 

 
DaTak   (2002-10-02 17:00) [0]

Ворос такой - необходимо точное решение - в тетрадке результат получается в виде простой дроби. Далее бывает неопходимость обнулить некоторое значение, а при таких расчеах точно 0 не получится. Что делать - если сравнивать с , к примеру, с 0.0000001 или отнимать 0.0000001 то какой порог точности брать? Ну воопщем за все ответы буду благодарен :))


 
RV ©   (2002-10-02 17:06) [1]

const
eps=0.000001;

if abs(myvar-0.0000001)<eps then


 
REA   (2002-10-02 17:47) [2]

Точное решение понятие относительное.
Если нужно совсем точное решение, нужно видимо реализовывать работу с дробями (не встречал такого).
Точность выбирается из соображений конкретной задачи.



Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.45 MB
Время: 0.014 c
1-45390
bbn
2002-10-02 20:58
2002.10.14
Как установить фокус на программно-созданном элементе ?


14-45546
elektro
2002-09-18 16:54
2002.10.14
Upgrade компьютера.


1-45283
John Kayfolom
2002-10-04 10:47
2002.10.14
Получить уникальное значение


1-45324
Борис
2002-10-04 17:03
2002.10.14
ОЧень медленно читается типизированный файл. В чем ошибка (+)


1-45429
Gari
2002-10-03 14:28
2002.10.14
Помогите. Дочерняя форма.




   Наверх