Форум: "Основная";
Текущий архив: 2003.11.13;
Скачать: [xml.tar.bz2];
Вниз
Округление Найти похожие ветки
← →
Alexadna (2003-10-30 13:22) [0]Привет мастера!Возник следующий вопросик - есть прога, которая формирует отчет и попутно округляет некотроые данные.Округляет с помощью функции simpleroundto.Округляет-то она как-то странно.На одном компе число 907,125 округляет как 907,12, а на другом как 907,13.В чем причина????
← →
phan (2003-10-30 13:25) [1]На 1С-ках вроде чтото типа константы есть куды окреглять(0.005)
здесь что-то в это роде должно быть. Пока.
← →
handra (2003-10-30 13:31) [2]реализованная логика округления в проце, при округлений ценральных значений, возвращает ближайшее четное, а в школе учили (по бухгалтерски) - в большую сторону.
т.е. round(27.5)=28 и round(28.5)=28 во как 8)
← →
Alexadna (2003-10-30 13:31) [3]Что-то как-то ты не понятно ответил...Может пояснишь?
← →
Alexadna (2003-10-30 13:34) [4]Ну почему тогда на разных компах с одинаковой начинкой по разному округляет???
← →
ZEE (2003-10-30 13:45) [5]вот всякие ф-ции округления:
http://delphibase.endimus.com/?action=viewfunc&topic=mathcalc&id=10098
http://delphibase.endimus.com/?action=viewfunc&topic=mathcalc&id=10099
http://delphibase.endimus.com/?action=viewfunc&topic=strconvert&id=10306
и вообще много всего интересного на http://delphibase.endimus.com/
← →
Radionov Alexey (2003-10-30 13:57) [6]>Alexadna
В FPU в контрольном слове есть такая штука:
ROUNDING CONTROL FIELD
В зависимости от того, как она установлена, меняются правила округления.
Команды для загрузки/восстановления:
FSTCW/FNSTCW
Биты, отвечающие за режим округления: 10-11
← →
Radionov Alexey (2003-10-30 13:58) [7]Сорри, команды для загрузки/восстановления: FLDCW / FSTCW
← →
handra (2003-10-30 14:09) [8][6] Radionov Alexey © (30.10.03 13:57)
>Alexadna
В FPU в контрольном слове есть такая штука:
ROUNDING CONTROL FIELD
В зависимости от того, как она установлена, меняются правила округления.
Команды для загрузки/восстановления:
FSTCW/FNSTCW
Биты, отвечающие за режим округления: 10-11
[7] Radionov Alexey © (30.10.03 13:58)
Сорри, команды для загрузки/восстановления: FLDCW / FSTCW
Спасибо! Возьмем на вооружение.
Страницы: 1 вся ветка
Форум: "Основная";
Текущий архив: 2003.11.13;
Скачать: [xml.tar.bz2];
Память: 0.46 MB
Время: 0.025 c
