Скачать: CL | DM;

проблема с числами или у меня :)   Найти похожие ветки 

← →
Гость_1   (2007-07-22 18:19) [0]

произвожу вычисление в калькуляторе:
1/87178291200 = 1,1470745597729724713851697978682e-11

тоже самое делаю в дельфи:
1/87178291200 = 1,14707455977297E-11

тип double, как добиться правильного вычисления, наверно точнее правильного округления, т.к. считает вроде правильно :) ???

---

← →
rubagl   (2007-07-22 18:41) [1]

тип double имеет определенную точность и до точности калькулятора не дотягивает. Мне интересно стало зачем тебе такая высокая точность деления?

---

← →
Anatoly Podgoretsky ©   (2007-07-22 19:02) [2]

Тебе нужны 128 битные вычисления

---

← →
Галинка ©   (2007-07-23 00:43) [3]

Extended наверное нужен

---

← →
iXT ©   (2007-07-24 09:31) [4]

Extended: 19-20 digits; 10 - Size of bytes;

---

← →
l_v   (2007-07-24 09:43) [5]

> наверно точнее правильного округления

так округляет тоже вроде правильно... :)

---

← →
Инс ©   (2007-07-24 10:24) [6]

В орешник! :-D

---

Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.46 MB
Время: 0.015 c