Скачать: CL | DM;

сохранение ftFloat в поле Float MSSQL   Найти похожие ветки 

← →
Hollywood   (2004-02-12 18:37) [0]

Сохраняю значение числа с плавающей точкой в поле таблицы MSSQL с типом Float:

Proc.Params.Items[9].AsFloat:= Value;
где
Proc: TStoredProc;
Value: Decimal;

так вот если Value:= 0.21

то в итоге в поле таблицы будет 0.20999999999999999

Как побороть????

---

← →
Anatoly Podgoretsky ©   (2004-02-12 18:56) [1]

Это правильное значение, ошибка 10^-20

---

← →
Hollywood   (2004-02-12 19:01) [2]

Не факт!

т.к.
251*0.20999999999999999*(1-0.5)= 26.3549999999999, если округлить до второго знака, то будет 26.35

теперь
251*0.21*(1-0.5)= 26.355 округлить, будет 26.36

чуствуете разницу????

---

Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.45 MB
Время: 0.031 c