проблема с числами или у меня :)

← →
Гость_1 (2007-07-22 18:19) [0]

произвожу вычисление в калькуляторе:
1/87178291200 = 1,1470745597729724713851697978682e-11

тоже самое делаю в дельфи:
1/87178291200 = 1,14707455977297E-11

тип double, как добиться правильного вычисления, наверно точнее правильного округления, т.к. считает вроде правильно :) ???

← →
rubagl (2007-07-22 18:41) [1]

тип double имеет определенную точность и до точности калькулятора не дотягивает. Мне интересно стало зачем тебе такая высокая точность деления?

← →
Anatoly Podgoretsky © (2007-07-22 19:02) [2]

Тебе нужны 128 битные вычисления

← →
Галинка © (2007-07-23 00:43) [3]

Extended наверное нужен

← →
iXT © (2007-07-24 09:31) [4]

Extended: 19-20 digits; 10 - Size of bytes;

← →
l_v (2007-07-24 09:43) [5]

> наверно точнее правильного округления

так округляет тоже вроде правильно... :)

В орешник! :-D

проблема с числами или у меня :) Найти похожие ветки