Текущий архив: 2003.02.03;
Скачать: CL | DM;
Вниз
Если я использую переменную типа double и его точно округляю допу Найти похожие ветки
← →
Юный_программер (2003-01-24 19:25) [0]Если я использую переменную типа double и его точно округляю допустим до 3 знаков и потом работаю с такими же числами (вычитание, сложение), не может случиться такого что округление четкое "скинется"?
извините за ламерский вопрос:-) очень надо.
← →
Y (2003-01-24 19:34) [1]Наверное, может скинуться...
← →
MBo © (2003-01-24 19:40) [2]http://delphi.vitpc.com/helloworld/reals.htm
← →
bis © (2003-01-24 20:59) [3]операции сложения и умножения не являются замкнутыми для алгебры чисел, округленных до 3 знака.
← →
Юрий Зотов © (2003-01-25 00:19) [4]Не только может, но и обязательно "скинется". См. статью по ссылке MBo.
← →
PVOzerski © (2003-01-25 03:56) [5]Если вычисления ограничиваются сложением и вычитанием, а возможно, и умножением, я бы взял round(x*1000) и работал как с целыми числами (если, конечно, попал бы в соответствующий диапазон :^) ). Потом результат разделил бы на 1000. Помимо большей точности, и считалось бы быстрее, если вычислений много.
Страницы: 1 вся ветка
Текущий архив: 2003.02.03;
Скачать: CL | DM;
Память: 0.47 MB
Время: 0.012 c
