Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2004.03.14;
Скачать: CL | DM;

Вниз

сохранение ftFloat в поле Float MSSQL   Найти похожие ветки 

 
Hollywood   (2004-02-12 18:37) [0]

Сохраняю значение числа с плавающей точкой в поле таблицы MSSQL с типом Float:

Proc.Params.Items[9].AsFloat:= Value;
где
Proc: TStoredProc;
Value: Decimal;

так вот если Value:= 0.21

то в итоге в поле таблицы будет 0.20999999999999999

Как побороть????


 
Anatoly Podgoretsky ©   (2004-02-12 18:56) [1]

Это правильное значение, ошибка 10^-20


 
Hollywood   (2004-02-12 19:01) [2]

Не факт!

т.к.
251*0.20999999999999999*(1-0.5)= 26.3549999999999, если округлить до второго знака, то будет 26.35

теперь
251*0.21*(1-0.5)= 26.355 округлить, будет 26.36

чуствуете разницу????



Страницы: 1 вся ветка

Текущий архив: 2004.03.14;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.021 c
14-43852
denkop
2004-02-18 22:42
2004.03.14
настройка аутентификации пользователей LAN в XP Pro


4-43934
Эдуард
2003-12-26 15:21
2004.03.14
Как изменить высоту Items ов в TTreeView?


8-43699
Romaa
2003-11-07 10:18
2004.03.14
TIcon -- только 16 цветов ?


14-43755
Undert
2004-02-19 17:16
2004.03.14
Как быть ..


14-43867
VolanD2002
2004-02-19 15:37
2004.03.14
Надо