Текущий архив: 2004.03.28;
Скачать: CL | DM;
Вниз
Форматирование FormatFloat Найти похожие ветки
← →
Gregory (2004-03-11 19:15) [0]Есть проблема по выводу форматированого значения с плавающей точкой. Например значение 235.045. Надо вывести 235.05, однако не получается оно округляет до 235.04. Я выяснил что проблема при вычитании чисел с плавающей точкой например 235.045-235 получается 0.0.4499999999935 и т.п. Что делать? Может что подскажете, очень надо.
← →
kaif © (2004-03-11 19:53) [1]Странно, но функция FormatFloat по-моему правильно округляла... Может я чего запамятовал?...
Если даже это так, то на крайняк можешь сделать:
FormatFloat("#,##0.00", round(x * 100)/100))
← →
Gregory (2004-03-11 20:54) [2]Я нашел проблему. Окозалось что если аргументом в этой функции является переменная типа variant, то функция не праввильно округляет. Решается с помощью функции StrToFloat(v:variant):extended. однако я не понимаю почему это происходит.
Страницы: 1 вся ветка
Текущий архив: 2004.03.28;
Скачать: CL | DM;
Память: 0.47 MB
Время: 0.026 c
