Где можно прочитать про формат IEEE , дело в том , что дивайс

← →
aha (2008-01-20 21:58) [0]

выдает три байта , ( я знаю по индикации какое число ) , а расшифровать не могу , вроде бы есть сноска , что формат ieee.
0 -> 00 00 00
1 -> 3F 00 00
2 -> 40 00 00
3 -> 40 40 00
4 -> 40 80 00
5 -> 40 A0 00
6 -> 40 C0 00
7 -> 40 E0 00
8 -> 41 00 00
9 -> 41 10 00

16 ->41 80 00
17 ->41 87 00
18 ->41 90 00
19 ->41 97 00

31 ->41 F7 00
32 ->42 00 00
33 ->42 04 00

.
.
.
.

← →
Сергей М. © (2008-01-20 22:08) [1]

http://www.onembedding.com/tools/utility/fpconvert/

← →
Сергей М. © (2008-01-20 22:09) [2]

http://www.onembedding.com/info/float/

← →
aha (2008-01-20 22:29) [3]

спасибо за ссылку , кстати у меня ошибка была для единицы 3F 80 00
и младший байт в моем случае не используется видимо . А для чего такой сложный формат нужен ? Чтобы совсем запутать ? :-)

← →
aha (2008-01-21 00:14) [4]

почему то до 16 правильно работает , а далее какой то глюк

для 17 -> 41 88 00 00 ( по калькулятору и моему прибору все сходится )

по алгоритму мантисса равна 2 в степени 19= 524288 для
000 1000 0000 0000 0000 0000
Далее е=131-127=4
2 в степени 4 , умножаем 1,0524288 , равно 16.8368 , а вовсе не 17 . Где моя ошибка ?

полный диапазон не являтся степенью десяти...
$80000/$800000 = 0,0625
1,0625*16 = 17

Где можно прочитать про формат IEEE , дело в том , что дивайс Найти похожие ветки