Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2004.03.28;
Скачать: CL | DM;

Вниз

Форматирование FormatFloat   Найти похожие ветки 

 
Gregory   (2004-03-11 19:15) [0]

Есть проблема по выводу форматированого значения с плавающей точкой. Например значение 235.045. Надо вывести 235.05, однако не получается оно округляет до 235.04. Я выяснил что проблема при вычитании чисел с плавающей точкой например 235.045-235 получается 0.0.4499999999935 и т.п. Что делать? Может что подскажете, очень надо.


 
kaif ©   (2004-03-11 19:53) [1]

Странно, но функция FormatFloat по-моему правильно округляла... Может я чего запамятовал?...
Если даже это так, то на крайняк можешь сделать:

FormatFloat("#,##0.00", round(x * 100)/100))


 
Gregory   (2004-03-11 20:54) [2]

Я нашел проблему. Окозалось что если аргументом в этой функции является переменная типа variant, то функция не праввильно округляет. Решается с помощью функции StrToFloat(v:variant):extended. однако я не понимаю почему это происходит.



Страницы: 1 вся ветка

Текущий архив: 2004.03.28;
Скачать: CL | DM;

Наверх




Память: 0.47 MB
Время: 0.021 c
7-1072684173
Andrey V.
2003-12-29 10:49
2004.03.28
Узнать ОС.


9-1058953838
3d[Power]
2003-07-23 13:50
2004.03.28
Вышла новая версия моей игры Need For Kill - Quake3 в 2D.


1-1079024181
1Raily
2004-03-11 19:56
2004.03.28
Рисование


3-1077167527
esa
2004-02-19 08:12
2004.03.28
conversion error from string "blob"


1-1078663901
Ученик2
2004-03-07 15:51
2004.03.28
Отчет в Word. Где ошибка?