Форум: "Потрепаться";
Поиск по всему сайту: delphimaster.net;
Текущий архив: 2002.03.28;
Скачать: [xml.tar.bz2];




Вниз

Help me!!! 


DeZ   (2002-02-14 09:26) [0]

Помогите, у меня интересная ситуация, когда вычитаешь число реаловского типа из самого себя, получается неотформатированое число, то есть я хочу получить max 7 значное число с точностью до сотых, или это косяк в реаловском типе???



VictorT   (2002-02-14 10:12) [1]

Не совсем понял, что ты имеешь в виду. Что значит неотформатированое число? Число - оно и есть число, ты наверно имеешь в виду как оно показывается при выводе. Покажи кусочек исходника.



Desdechado   (2002-02-14 11:03) [2]

у всех типов с плавающей точкой такая фишка - чем меньше знаков до запятой, тем их больше после. а при вычитании числа из самого себя получается чрезвычайно малая величина, что ведет к увеличению количества знаков после запятой.
и это не косяк, это аппаратная реализация



VictorT   (2002-02-14 13:32) [3]

Сказанное Desdechado совершенно справедливо (как говаривала моя учительница истории). Но проблема наверно в том, как ты преобразовуешь число в строку (а я думаю, что ты его преобразовуешь, иначе как ты его показываешь в контроле).




Форум: "Потрепаться";
Поиск по всему сайту: delphimaster.net;
Текущий архив: 2002.03.28;
Скачать: [xml.tar.bz2];




Наверх





Память: 0.72 MB
Время: 0.015 c
3-90771           Hawk2                 2002-02-28 15:55  2002.03.28  
Простой вопрос по Access.


6-91011           RP                    2002-01-14 09:44  2002.03.28  
Почтовый клиент


14-91058          Свой                  2002-02-05 04:05  2002.03.28  
О женском поле


3-90811           Анатолий              2002-03-04 12:04  2002.03.28  
Как использовать метод Refresh в компоненте IBDataSet


1-90852           vovaS                 2002-03-11 18:52  2002.03.28  
Как считать выражение с заданной точностью?