Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2007.10.28;
Скачать: CL | DM;

Вниз

Ошибка округления Trunc   Найти похожие ветки 

 
_Даня   (2007-08-17 14:33) [0]

Не первый раз отлавливаю ошибку округления Trunc, например:
Trunc(Form.Query1.FieldByName("Y").AsFloat * 100)
При открытом НД возвращает 43068, хотя в базе хранится значение 430.69
С базой это не связано, тоже самое происходит и со строковыми преобразованиями. Прямой вызов Trunc(43069.0) дает правильный результат. Ошибка стойкая, разница всегда либо 1, либо -1 (на разных сочетаниях последних двух цифр). Дополнительной проверкой можно это дело пресечь, но хотелось бы докопаться до причины. Никто не сталкивался? Спасибо, кто откликнется.


 
Сергей М. ©   (2007-08-17 14:37) [1]


> Ошибка стойкая, разница всегда либо 1, либо -1


см.  SetRoundMode


 
MBo ©   (2007-08-17 14:45) [2]

430.69 * 100 < 43069 ввиду ограниченной точности представления чисел с плавающей запятой, так что никакой ошибки Trunc здесь нет
http://www.delphikingdom.ru/asp/viewitem.asp?catalogid=374


 
Плохиш ©   (2007-08-17 15:01) [3]


> Не первый раз отлавливаю ошибку округления Trunc

Вообще-то trunc - это не округление, а обрезание того, что после запятой. А округление в пасклале и делфи всегда кликалось round.


 
_Даня   (2007-08-17 15:29) [4]


> Плохиш ©   (17.08.07 15:01) [3]
> trunc - это не округление

Извиняюсь - оговорился.

> MBo ©   (17.08.07 14:45) [2]

Спасибо, очень интересная статья - проглядел, но надо посидеть, почитать внимательно и вдумчиво.

Но пока практический результат получить не удалось: SetRoundMode=rmUp дает правильный результат для положительных значений, очевидно rmDown (не проверял) - для отрицательных. Читаемые значения могут быть как положительными, так и отрицательными. Правильно ли я понимаю, что без дополнительной проверки  получить правильно целочисленный результат из вещественного аргумента нельзя или есть другие способы? round и int как я понимаю работают аналогично trunc.


 
Плохиш ©   (2007-08-17 15:40) [5]


> round и int как я понимаю работают аналогично trunc.

К счастью фирму борланд незаботит чьё-то понимание и они описали работу этих функций в справке...


 
_Даня   (2007-08-17 15:44) [6]


> Плохиш ©   (17.08.07 15:40) [5]
> > round и int как я понимаю работают аналогично trunc.К
> счастью фирму борланд незаботит чьё-то понимание и они описали
> работу этих функций в справке...

аналогично в свете статьи :  http://www.delphikingdom.ru/asp/viewitem.asp?catalogid=374
не буквально же



Страницы: 1 вся ветка

Текущий архив: 2007.10.28;
Скачать: CL | DM;

Наверх




Память: 0.48 MB
Время: 0.012 c
2-1191764984
alikon1
2007-10-07 17:49
2007.10.28
Изображение в БД


2-1191307093
amily
2007-10-02 10:38
2007.10.28
строки на БД


3-1181823543
GhosTer
2007-06-14 16:19
2007.10.28
Как подключиться к базе данных Active Directory!


2-1191926637
F@T@L_Err0r
2007-10-09 14:43
2007.10.28
Mutex


2-1191383815
Alex_Y
2007-10-03 07:56
2007.10.28
GetTextExtentPoint