Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2002.06.03;
Скачать: CL | DM;

Вниз

0,5=0,5 округление   Найти похожие ветки 

 
AlexA ©   (2002-05-22 16:18) [0]

Такая информация в отладчике

TmpN: 14710.5
Frac(TmpN): 0.5
Frac(TmpN)>=0.5: False
Frac(TmpN)=0.5: False

В результате условие IF выполняется неверно.
Где ошибка
Что делать


 
Внук ©   (2002-05-22 16:22) [1]

Было у меня такое, когда еще на C++ писал. Попробуйте FloatToStr(Frac(TmpN))="0.5"


 
McSimm ©   (2002-05-22 16:26) [2]

Сравнение на равенство чисел с плавающей точкой это ошибка программирования.

Обычно сравнивают в пределах погрешности, но можно привести к сравнению целых. Например так:

if Trunc(10*Frac(TmpN)) = 5 then



Страницы: 1 вся ветка

Текущий архив: 2002.06.03;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.017 c
3-6949
agrig
2002-05-11 10:00
2002.06.03
переполнение AutoIncrement


7-7250
SoBr-A
2001-12-03 08:22
2002.06.03
пароль на файл в win


3-6912
Марья
2002-05-13 05:08
2002.06.03
Помогите студенту!


1-7040
[BAD]Angel
2002-05-21 16:05
2002.06.03
Нужна помощь с динамической загрузкой DLL


1-7022
Vladimir N.
2002-05-21 16:10
2002.06.03
Ворос по стандартному меню (высота строки) и CheckListBox-у