Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2013.03.22;
Скачать: CL | DM;

Вниз

Формат двоичного представления дробного числа   Найти похожие ветки 

 
Германн ©   (2012-08-19 04:15) [0]

Встречал ли кто подобный формат и если встречал, то где?
Итак сам формат:
4 байта. В0,В1,В2,В3. В0 - младший по адресу, В3 - старший.
В0 - старший байт целой части,
В1 - младший байт целой части,
В2 - старший байт дробной части
и В3 - младший байт дробной части.
при этом дробная часть есть часть от числа $10000.


 
MBo ©   (2012-08-19 05:49) [1]

это похоже на формат с фиксированной точкой 16.16 fixed point
http://trac.bookofhook.com/bookofhook/trac.cgi/wiki/IntroductionToFixedPointMath


 
Германн ©   (2012-08-19 15:43) [2]


> MBo ©   (19.08.12 05:49) [1]

Точно. Теперь понятно для чего он нужен.


 
Jeer ©   (2012-08-19 18:20) [3]

Формат с фиксированной точкой широко применялся в до-(float-системах) на асме.
Там, самое главное, было адекватно выбрать масштаб, чтобы, с одной стороны не было переполнения, а с другой - не было заметной потери точности вычислений.

К примеру, во всех моих библиотеках того времени применялся формат, эмулирующий диапазон +1/-1 в разрядности 16/24/32 бита в дополнительном коде (старший ( левый) разряд - знаковый).
Т.е, для 16-разрядной сетки.
0[.]100000000000000 == 0.5
0[.]110000000000000 == 0.5+0.25=0.75
1[.]100000000000000 == -0.5

и.т.д.
P.S.
Впрочем, это азбука.


 
Дмитрий С ©   (2012-08-19 18:54) [4]

О как. Проясните пожалуйста а как Currency устроен? Обычный (или большой) integer / 10 000 или как Jeer описал?


 
Jeer ©   (2012-08-19 19:14) [5]


> Дмитрий С ©   (19.08.12 18:54) [4]


Вы уж поймите, плиз, не было тогда (на асме) понятий integer, word, "большой" integer, все это - последующая эмуляция выбранного способа представления чисел в той или иной высокоуровенной языковой системе.


 
Sha ©   (2012-08-19 19:30) [6]

> Дмитрий С ©   (19.08.12 18:54) [4]

Currency is a fixed-point data type that minimizes rounding errors in monetary calculations. It is stored as a scaled 64-bit integer with the four least significant digits implicitly representing decimal places. When mixed with other real types in assignments and expressions, Currency values are automatically divided or multiplied by 10000.


 
Sha ©   (2012-08-19 19:33) [7]

> Jeer ©   (19.08.12 18:20) [3]

так неудобно складывать же


 
Sha ©   (2012-08-19 19:34) [8]

а все увидел


 
Jeer ©   (2012-08-19 19:55) [9]

Самое главное -умножение в фик. точке приводило к уменьшению результирующего bin-представления, что автоматически исключало переполнение.


 
Jeer ©   (2012-08-19 19:58) [10]

Т.е, для 16-разрядной сетки.

Сомножитель A
0[.]100000000000000 == 0.5

Cомножитель B
0[.]100000000000000 == 0.5

Произведение
0.5 * 0.5 = 0.25
0[.]010000000000000 == 0.25



Страницы: 1 вся ветка

Текущий архив: 2013.03.22;
Скачать: CL | DM;

Наверх




Память: 0.49 MB
Время: 0.048 c
15-1330423503
Loginov Dmitry
2012-02-28 14:05
2013.03.22
Парадоксы с фокусом (D2007)


15-1353188378
Smailer
2012-11-18 01:39
2013.03.22
Отключить Wi-Fi по умолчанию на Sumsung 530u


11-1242650049
QAZ
2009-05-18 16:34
2013.03.22
TreeView + Checkbox


2-1340704805
ford
2012-06-26 14:00
2013.03.22
проверить переменную типа Variant


15-1344353459
wl
2012-08-07 19:30
2013.03.22
Как бы реализовали архитектуру клиента?