Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2004.03.14;
Скачать: CL | DM;

Вниз

сохранение ftFloat в поле Float MSSQL   Найти похожие ветки 

 
Hollywood   (2004-02-12 18:37) [0]

Сохраняю значение числа с плавающей точкой в поле таблицы MSSQL с типом Float:

Proc.Params.Items[9].AsFloat:= Value;
где
Proc: TStoredProc;
Value: Decimal;

так вот если Value:= 0.21

то в итоге в поле таблицы будет 0.20999999999999999

Как побороть????


 
Anatoly Podgoretsky ©   (2004-02-12 18:56) [1]

Это правильное значение, ошибка 10^-20


 
Hollywood   (2004-02-12 19:01) [2]

Не факт!

т.к.
251*0.20999999999999999*(1-0.5)= 26.3549999999999, если округлить до второго знака, то будет 26.35

теперь
251*0.21*(1-0.5)= 26.355 округлить, будет 26.36

чуствуете разницу????



Страницы: 1 вся ветка

Текущий архив: 2004.03.14;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.017 c
1-43464
Роман К
2004-02-29 21:57
2004.03.14
Как изменить цвет фона у TProgressBar?


7-43923
YuRock
2003-12-22 20:26
2004.03.14
ActiveX для Opera7


1-43604
JIruaasgyy
2004-03-03 23:12
2004.03.14
Глюк при копированиии данных StringGrid в Excel?


14-43780
Cerber
2004-02-18 16:39
2004.03.14
Работа в инте


8-43686
UnDISCOvery
2003-11-06 15:15
2004.03.14
DirectSound. Как записать многоканальный звук ?