Вниз
Скачать: CL | DM;

Округление чисел. Неужели ТАК правильно???   Найти похожие ветки 

← →
DiamondShark ©   (2003-08-13 11:20) [12]

Ох-хо-хо... Ещё раз.
Предположим, что распределение чисел у нас близко к равномерному случайному. Тогда при "арифметическом" округлении имеем:

Цифра Погрешность
0 0
1 -1
2 -2
3 -3
4 -4
5 +5
6 +4
7 +3
8 +2
9 +1

Как легко заметить, если имеется большой массив чисел, которые потом понадобится суммировать (итого для позиций документа, сальдо по счёту и т.п.), то при "арифметическом" округлении будет накапливаться систематическая погрешность с матожиданием
0.5*10^n * 0.1 * N
где:
n -- десятичный вес разряда, до которого производится округление (до двух знаков n=-2, до целых n=0 и т.д.)
0.1 -- вероятность каждой цифры
N -- число суммируемых чисел в массиве

Для того, чтобы выровнять вероятности погрешностей надо скомпенсировать единственную нескомпенсированную (см. таблицу выше) погрешность +5. Для этого она искусственно разбивается на две равновероятные +5 -5 в зависимости от чётности предыдущей цифры.

Кстати, в слове состояния FPU есть флажок, контролирующий режим округления (арифметический/бухгалтерский).



Страницы: 1 2 вся ветка

Скачать: CL | DM;



Память: 0.45 MB
Время: 0.015 c
14-10881
Anatoly Podgoretsky
2003-08-04 16:30
2003.09.04
Вечный вопрос


14-10969
Igor__
2003-08-15 15:27
2003.09.04
Вопрос Хмельничанам


1-10821
Mazer
2003-08-21 19:01
2003.09.04
Перенос процедур главного модуля в несколько других...


1-10688
Lina
2003-08-21 07:21
2003.09.04
Desktop


1-10736
Zed
2003-08-20 09:45
2003.09.04
Rак сохранить изображение целой формы




   Наверх