Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2002.06.03;
Скачать: CL | DM;

Вниз

0,5=0,5 округление   Найти похожие ветки 

 
AlexA ©   (2002-05-22 16:18) [0]

Такая информация в отладчике

TmpN: 14710.5
Frac(TmpN): 0.5
Frac(TmpN)>=0.5: False
Frac(TmpN)=0.5: False

В результате условие IF выполняется неверно.
Где ошибка
Что делать


 
Внук ©   (2002-05-22 16:22) [1]

Было у меня такое, когда еще на C++ писал. Попробуйте FloatToStr(Frac(TmpN))="0.5"


 
McSimm ©   (2002-05-22 16:26) [2]

Сравнение на равенство чисел с плавающей точкой это ошибка программирования.

Обычно сравнивают в пределах погрешности, но можно привести к сравнению целых. Например так:

if Trunc(10*Frac(TmpN)) = 5 then



Страницы: 1 вся ветка

Текущий архив: 2002.06.03;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.011 c
1-7038
Андр
2002-05-21 13:28
2002.06.03
Событие смены фокуса на уровне формы


4-7261
chernoruk
2002-03-31 18:03
2002.06.03
Неизвестный науке тип !


14-7188
cok
2002-04-25 18:18
2002.06.03
Чё лучше?


3-6937
icu
2002-05-13 19:33
2002.06.03
Развертывание приложений MS SQL Server


1-7086
garry
2002-05-22 10:21
2002.06.03
Массивы & EXCEL