Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2003.02.03;
Скачать: CL | DM;

Вниз

Если я использую переменную типа double и его точно округляю допу   Найти похожие ветки 

 
Юный_программер   (2003-01-24 19:25) [0]

Если я использую переменную типа double и его точно округляю допустим до 3 знаков и потом работаю с такими же числами (вычитание, сложение), не может случиться такого что округление четкое "скинется"?
извините за ламерский вопрос:-) очень надо.


 
Y   (2003-01-24 19:34) [1]

Наверное, может скинуться...


 
MBo ©   (2003-01-24 19:40) [2]

http://delphi.vitpc.com/helloworld/reals.htm


 
bis ©   (2003-01-24 20:59) [3]

операции сложения и умножения не являются замкнутыми для алгебры чисел, округленных до 3 знака.


 
Юрий Зотов ©   (2003-01-25 00:19) [4]

Не только может, но и обязательно "скинется". См. статью по ссылке MBo.


 
PVOzerski ©   (2003-01-25 03:56) [5]

Если вычисления ограничиваются сложением и вычитанием, а возможно, и умножением, я бы взял round(x*1000) и работал как с целыми числами (если, конечно, попал бы в соответствующий диапазон :^) ). Потом результат разделил бы на 1000. Помимо большей точности, и считалось бы быстрее, если вычислений много.



Страницы: 1 вся ветка

Текущий архив: 2003.02.03;
Скачать: CL | DM;

Наверх




Память: 0.47 MB
Время: 0.05 c
1-4838
roman001
2003-01-23 12:13
2003.02.03
Перевод из римских чисел в арабские


8-5093
Ваня
2002-10-18 13:58
2003.02.03
Масштаб шрифтов при отображении


1-4887
Юный_программер
2003-01-24 19:25
2003.02.03
Если я использую переменную типа double и его точно округляю допу


1-4995
NN_Nikita
2003-01-23 15:31
2003.02.03
Word 2000 + Delphi 7 + Win2000Pro


1-4976
Fill
2003-01-27 08:23
2003.02.03
Pagecontrol