Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2003.11.13;
Скачать: CL | DM;

Вниз

Округление   Найти похожие ветки 

 
Alexadna   (2003-10-30 13:22) [0]

Привет мастера!Возник следующий вопросик - есть прога, которая формирует отчет и попутно округляет некотроые данные.Округляет с помощью функции simpleroundto.Округляет-то она как-то странно.На одном компе число 907,125 округляет как 907,12, а на другом как 907,13.В чем причина????


 
phan   (2003-10-30 13:25) [1]

На 1С-ках вроде чтото типа константы есть куды окреглять(0.005)
здесь что-то в это роде должно быть. Пока.


 
handra ©   (2003-10-30 13:31) [2]

реализованная логика округления в проце, при округлений ценральных значений, возвращает ближайшее четное, а в школе учили (по бухгалтерски) - в большую сторону.
т.е. round(27.5)=28 и round(28.5)=28 во как 8)


 
Alexadna   (2003-10-30 13:31) [3]

Что-то как-то ты не понятно ответил...Может пояснишь?


 
Alexadna   (2003-10-30 13:34) [4]

Ну почему тогда на разных компах с одинаковой начинкой по разному округляет???


 
ZEE ©   (2003-10-30 13:45) [5]

вот всякие ф-ции округления:
http://delphibase.endimus.com/?action=viewfunc&topic=mathcalc&id=10098
http://delphibase.endimus.com/?action=viewfunc&topic=mathcalc&id=10099
http://delphibase.endimus.com/?action=viewfunc&topic=strconvert&id=10306

и вообще много всего интересного на http://delphibase.endimus.com/


 
Radionov Alexey ©   (2003-10-30 13:57) [6]

>Alexadna
В FPU в контрольном слове есть такая штука:
ROUNDING CONTROL FIELD
В зависимости от того, как она установлена, меняются правила округления.
Команды для загрузки/восстановления:
FSTCW/FNSTCW
Биты, отвечающие за режим округления: 10-11


 
Radionov Alexey ©   (2003-10-30 13:58) [7]

Сорри, команды для загрузки/восстановления: FLDCW / FSTCW


 
handra ©   (2003-10-30 14:09) [8]

[6] Radionov Alexey © (30.10.03 13:57)
>Alexadna
В FPU в контрольном слове есть такая штука:
ROUNDING CONTROL FIELD
В зависимости от того, как она установлена, меняются правила округления.
Команды для загрузки/восстановления:
FSTCW/FNSTCW
Биты, отвечающие за режим округления: 10-11
[7] Radionov Alexey © (30.10.03 13:58)
Сорри, команды для загрузки/восстановления: FLDCW / FSTCW

Спасибо! Возьмем на вооружение.



Страницы: 1 вся ветка

Текущий архив: 2003.11.13;
Скачать: CL | DM;

Наверх




Память: 0.48 MB
Время: 0.024 c
4-42246
pum5a
2003-09-13 16:40
2003.11.13
Как найти контрол по его WHND (кроме FindControl)?


3-41013
denmin
2003-10-14 11:02
2003.11.13
Как настроить клиента для MS SQL 2000?


14-42003
Chieftain
2003-10-17 11:59
2003.11.13
Анекдотец про нашего брата


1-41178
Crush
2003-11-02 23:54
2003.11.13
Поиск файла на вичестере


3-40960
Andrey V.
2003-10-16 21:34
2003.11.13
Позиционирование в гриде