Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2002.03.28;
Скачать: CL | DM;

Вниз

Help me!!!   Найти похожие ветки 

 
DeZ   (2002-02-14 09:26) [0]

Помогите, у меня интересная ситуация, когда вычитаешь число реаловского типа из самого себя, получается неотформатированое число, то есть я хочу получить max 7 значное число с точностью до сотых, или это косяк в реаловском типе???


 
VictorT   (2002-02-14 10:12) [1]

Не совсем понял, что ты имеешь в виду. Что значит неотформатированое число? Число - оно и есть число, ты наверно имеешь в виду как оно показывается при выводе. Покажи кусочек исходника.


 
Desdechado ©   (2002-02-14 11:03) [2]

у всех типов с плавающей точкой такая фишка - чем меньше знаков до запятой, тем их больше после. а при вычитании числа из самого себя получается чрезвычайно малая величина, что ведет к увеличению количества знаков после запятой.
и это не косяк, это аппаратная реализация


 
VictorT   (2002-02-14 13:32) [3]

Сказанное Desdechado совершенно справедливо (как говаривала моя учительница истории). Но проблема наверно в том, как ты преобразовуешь число в строку (а я думаю, что ты его преобразовуешь, иначе как ты его показываешь в контроле).



Страницы: 1 вся ветка

Текущий архив: 2002.03.28;
Скачать: CL | DM;

Наверх




Память: 0.47 MB
Время: 0.015 c
1-91002
Alx2
2002-03-15 15:47
2002.03.28
Быстро заполнить TTreeView


3-90814
OlgaSf
2002-03-05 11:36
2002.03.28
WebSnap: формирование условий выборки из БД


4-91098
Руслан_
2002-01-27 09:57
2002.03.28
WIN32 API


3-90742
Art1
2002-02-26 16:29
2002.03.28
Как скопировать из DBRichEdit в RichEdit и обратно?


14-91068
nick_vstu
2002-02-13 06:41
2002.03.28
Так что-же значат все эти