Вниз
Скачать: CL | DM;

Форматирование FormatFloat   Найти похожие ветки 

← →
Gregory   (2004-03-11 19:15) [0]

Есть проблема по выводу форматированого значения с плавающей точкой. Например значение 235.045. Надо вывести 235.05, однако не получается оно округляет до 235.04. Я выяснил что проблема при вычитании чисел с плавающей точкой например 235.045-235 получается 0.0.4499999999935 и т.п. Что делать? Может что подскажете, очень надо.


← →
kaif ©   (2004-03-11 19:53) [1]

Странно, но функция FormatFloat по-моему правильно округляла... Может я чего запамятовал?...
Если даже это так, то на крайняк можешь сделать:

FormatFloat("#,##0.00", round(x * 100)/100))


← →
Gregory   (2004-03-11 20:54) [2]

Я нашел проблему. Окозалось что если аргументом в этой функции является переменная типа variant, то функция не праввильно округляет. Решается с помощью функции StrToFloat(v:variant):extended. однако я не понимаю почему это происходит.



Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.45 MB
Время: 0.022 c
14-1077791522
Undert
2004-02-26 13:32
2004.03.28
PHP ....


6-1073678165
Asail
2004-01-09 22:56
2004.03.28
Вопрос по Active Directory


1-1078647906
GrayFace
2004-03-07 11:25
2004.03.28
Объект (и компонент) в компоненте не редактирует Object Inspector


4-1073753680
WithOut Any ...
2004-01-10 19:54
2004.03.28
Заблокировать клавишу "Windows"


1-1078915324
don_dampster
2004-03-10 13:42
2004.03.28
RichEdit и ресурс




   Наверх