Текущий архив: 2002.03.28;
Скачать: CL | DM;
Вниз
Help me!!! Найти похожие ветки
← →
DeZ (2002-02-14 09:26) [0]Помогите, у меня интересная ситуация, когда вычитаешь число реаловского типа из самого себя, получается неотформатированое число, то есть я хочу получить max 7 значное число с точностью до сотых, или это косяк в реаловском типе???
← →
VictorT (2002-02-14 10:12) [1]Не совсем понял, что ты имеешь в виду. Что значит неотформатированое число? Число - оно и есть число, ты наверно имеешь в виду как оно показывается при выводе. Покажи кусочек исходника.
← →
Desdechado (2002-02-14 11:03) [2]у всех типов с плавающей точкой такая фишка - чем меньше знаков до запятой, тем их больше после. а при вычитании числа из самого себя получается чрезвычайно малая величина, что ведет к увеличению количества знаков после запятой.
и это не косяк, это аппаратная реализация
← →
VictorT (2002-02-14 13:32) [3]Сказанное Desdechado совершенно справедливо (как говаривала моя учительница истории). Но проблема наверно в том, как ты преобразовуешь число в строку (а я думаю, что ты его преобразовуешь, иначе как ты его показываешь в контроле).
Страницы: 1 вся ветка
Текущий архив: 2002.03.28;
Скачать: CL | DM;
Память: 0.44 MB
Время: 0.077 c
