Скачать: CL | DM;

Округление   Найти похожие ветки 

← →
Alexadna   (2003-10-30 13:22) [0]

Привет мастера!Возник следующий вопросик - есть прога, которая формирует отчет и попутно округляет некотроые данные.Округляет с помощью функции simpleroundto.Округляет-то она как-то странно.На одном компе число 907,125 округляет как 907,12, а на другом как 907,13.В чем причина????

---

← →
phan   (2003-10-30 13:25) [1]

На 1С-ках вроде чтото типа константы есть куды окреглять(0.005)
здесь что-то в это роде должно быть. Пока.

---

← →
handra ©   (2003-10-30 13:31) [2]

реализованная логика округления в проце, при округлений ценральных значений, возвращает ближайшее четное, а в школе учили (по бухгалтерски) - в большую сторону.
т.е. round(27.5)=28 и round(28.5)=28 во как 8)

---

← →
Alexadna   (2003-10-30 13:31) [3]

Что-то как-то ты не понятно ответил...Может пояснишь?

---

← →
Alexadna   (2003-10-30 13:34) [4]

Ну почему тогда на разных компах с одинаковой начинкой по разному округляет???

---

← →
ZEE ©   (2003-10-30 13:45) [5]

вот всякие ф-ции округления:
http://delphibase.endimus.com/?action=viewfunc&topic=mathcalc&id=10098
http://delphibase.endimus.com/?action=viewfunc&topic=mathcalc&id=10099
http://delphibase.endimus.com/?action=viewfunc&topic=strconvert&id=10306

и вообще много всего интересного на http://delphibase.endimus.com/

---

← →
Radionov Alexey ©   (2003-10-30 13:57) [6]

>Alexadna
В FPU в контрольном слове есть такая штука:
ROUNDING CONTROL FIELD
В зависимости от того, как она установлена, меняются правила округления.
Команды для загрузки/восстановления:
FSTCW/FNSTCW
Биты, отвечающие за режим округления: 10-11

---

← →
Radionov Alexey ©   (2003-10-30 13:58) [7]

Сорри, команды для загрузки/восстановления: FLDCW / FSTCW

---

← →
handra ©   (2003-10-30 14:09) [8]

[6] Radionov Alexey © (30.10.03 13:57)
>Alexadna
В FPU в контрольном слове есть такая штука:
ROUNDING CONTROL FIELD
В зависимости от того, как она установлена, меняются правила округления.
Команды для загрузки/восстановления:
FSTCW/FNSTCW
Биты, отвечающие за режим округления: 10-11
[7] Radionov Alexey © (30.10.03 13:58)
Сорри, команды для загрузки/восстановления: FLDCW / FSTCW
Спасибо! Возьмем на вооружение.

---

Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.46 MB
Время: 0.019 c