Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2002.06.03;
Скачать: CL | DM;

Вниз

0,5=0,5 округление   Найти похожие ветки 

 
AlexA ©   (2002-05-22 16:18) [0]

Такая информация в отладчике

TmpN: 14710.5
Frac(TmpN): 0.5
Frac(TmpN)>=0.5: False
Frac(TmpN)=0.5: False

В результате условие IF выполняется неверно.
Где ошибка
Что делать


 
Внук ©   (2002-05-22 16:22) [1]

Было у меня такое, когда еще на C++ писал. Попробуйте FloatToStr(Frac(TmpN))="0.5"


 
McSimm ©   (2002-05-22 16:26) [2]

Сравнение на равенство чисел с плавающей точкой это ошибка программирования.

Обычно сравнивают в пределах погрешности, но можно привести к сравнению целых. Например так:

if Trunc(10*Frac(TmpN)) = 5 then



Страницы: 1 вся ветка

Текущий архив: 2002.06.03;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.012 c
1-6964
Wild
2002-05-21 13:54
2002.06.03
TExcelApplication


14-7175
Yakudza
2002-04-24 13:17
2002.06.03
Palm


14-7209
dlp
2002-04-28 11:17
2002.06.03
Помогите с алгоритмом!


14-7220
VEG
2002-04-28 20:29
2002.06.03
Где ошибка в закрузке анимированного курсора?


1-6987
Kopachev
2002-05-22 21:51
2002.06.03
В чем я не прав