Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2002.06.03;
Скачать: CL | DM;

Вниз

0,5=0,5 округление   Найти похожие ветки 

 
AlexA ©   (2002-05-22 16:18) [0]

Такая информация в отладчике

TmpN: 14710.5
Frac(TmpN): 0.5
Frac(TmpN)>=0.5: False
Frac(TmpN)=0.5: False

В результате условие IF выполняется неверно.
Где ошибка
Что делать


 
Внук ©   (2002-05-22 16:22) [1]

Было у меня такое, когда еще на C++ писал. Попробуйте FloatToStr(Frac(TmpN))="0.5"


 
McSimm ©   (2002-05-22 16:26) [2]

Сравнение на равенство чисел с плавающей точкой это ошибка программирования.

Обычно сравнивают в пределах погрешности, но можно привести к сравнению целых. Например так:

if Trunc(10*Frac(TmpN)) = 5 then



Страницы: 1 вся ветка

Текущий архив: 2002.06.03;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.013 c
1-7102
Афоня
2002-05-22 15:02
2002.06.03
Вопрос по RxLib


4-7277
ввв
2002-03-29 22:54
2002.06.03
проблемы при убитии процесса


1-6963
KIR
2002-05-22 18:02
2002.06.03
Форматирование текста в ячейках StringGrid a


4-7272
Eugene "Jek" Efimochkin
2002-03-26 23:34
2002.06.03
Иконки в SysTray


14-7181
PaRL
2002-04-23 18:28
2002.06.03
Ещё одна простенькая задачка для всех.