Форум: "Начинающим";
Текущий архив: 2007.08.19;
Скачать: [xml.tar.bz2];
Вниз
проблема с числами или у меня :) Найти похожие ветки
← →
Гость_1 (2007-07-22 18:19) [0]произвожу вычисление в калькуляторе:
1/87178291200 = 1,1470745597729724713851697978682e-11
тоже самое делаю в дельфи:
1/87178291200 = 1,14707455977297E-11
тип double, как добиться правильного вычисления, наверно точнее правильного округления, т.к. считает вроде правильно :) ???
← →
rubagl (2007-07-22 18:41) [1]тип double имеет определенную точность и до точности калькулятора не дотягивает. Мне интересно стало зачем тебе такая высокая точность деления?
← →
Anatoly Podgoretsky © (2007-07-22 19:02) [2]Тебе нужны 128 битные вычисления
← →
Галинка © (2007-07-23 00:43) [3]Extended наверное нужен
← →
iXT © (2007-07-24 09:31) [4]Extended: 19-20 digits; 10 - Size of bytes;
← →
l_v (2007-07-24 09:43) [5]
> наверно точнее правильного округления
так округляет тоже вроде правильно... :)
← →
Инс © (2007-07-24 10:24) [6]В орешник! :-D
Страницы: 1 вся ветка
Форум: "Начинающим";
Текущий архив: 2007.08.19;
Скачать: [xml.tar.bz2];
Память: 0.45 MB
Время: 0.038 c
