Скачать: CL | DM;

Формат двоичного представления дробного числа   Найти похожие ветки 

← →
Германн ©   (2012-08-19 04:15) [0]

Встречал ли кто подобный формат и если встречал, то где?
Итак сам формат:
4 байта. В0,В1,В2,В3. В0 - младший по адресу, В3 - старший.
В0 - старший байт целой части,
В1 - младший байт целой части,
В2 - старший байт дробной части
и В3 - младший байт дробной части.
при этом дробная часть есть часть от числа $10000.

---

← →
MBo ©   (2012-08-19 05:49) [1]

это похоже на формат с фиксированной точкой 16.16 fixed point
http://trac.bookofhook.com/bookofhook/trac.cgi/wiki/IntroductionToFixedPointMath

---

← →
Германн ©   (2012-08-19 15:43) [2]

> MBo ©   (19.08.12 05:49) [1]

Точно. Теперь понятно для чего он нужен.

---

← →
Jeer ©   (2012-08-19 18:20) [3]

Формат с фиксированной точкой широко применялся в до-(float-системах) на асме.
Там, самое главное, было адекватно выбрать масштаб, чтобы, с одной стороны не было переполнения, а с другой - не было заметной потери точности вычислений.

К примеру, во всех моих библиотеках того времени применялся формат, эмулирующий диапазон +1/-1 в разрядности 16/24/32 бита в дополнительном коде (старший ( левый) разряд - знаковый).
Т.е, для 16-разрядной сетки.
0[.]100000000000000 == 0.5
0[.]110000000000000 == 0.5+0.25=0.75
1[.]100000000000000 == -0.5

и.т.д.
P.S.
Впрочем, это азбука.

---

← →
Дмитрий С ©   (2012-08-19 18:54) [4]

О как. Проясните пожалуйста а как Currency устроен? Обычный (или большой) integer / 10 000 или как Jeer описал?

---

← →
Jeer ©   (2012-08-19 19:14) [5]

> Дмитрий С ©   (19.08.12 18:54) [4]


Вы уж поймите, плиз, не было тогда (на асме) понятий integer, word, "большой" integer, все это - последующая эмуляция выбранного способа представления чисел в той или иной высокоуровенной языковой системе.

---

← →
Sha ©   (2012-08-19 19:30) [6]

> Дмитрий С ©   (19.08.12 18:54) [4]

Currency is a fixed-point data type that minimizes rounding errors in monetary calculations. It is stored as a scaled 64-bit integer with the four least significant digits implicitly representing decimal places. When mixed with other real types in assignments and expressions, Currency values are automatically divided or multiplied by 10000.

---

← →
Sha ©   (2012-08-19 19:33) [7]

> Jeer ©   (19.08.12 18:20) [3]

так неудобно складывать же

---

← →
Sha ©   (2012-08-19 19:34) [8]

а все увидел

---

← →
Jeer ©   (2012-08-19 19:55) [9]

Самое главное -умножение в фик. точке приводило к уменьшению результирующего bin-представления, что автоматически исключало переполнение.

---

← →
Jeer ©   (2012-08-19 19:58) [10]

Т.е, для 16-разрядной сетки.

Сомножитель A
0[.]100000000000000 == 0.5

Cомножитель B
0[.]100000000000000 == 0.5

Произведение
0.5 * 0.5 = 0.25
0[.]010000000000000 == 0.25

---

Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.47 MB
Время: 0.048 c