Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2004.03.14;
Скачать: CL | DM;

Вниз

сохранение ftFloat в поле Float MSSQL   Найти похожие ветки 

 
Hollywood   (2004-02-12 18:37) [0]

Сохраняю значение числа с плавающей точкой в поле таблицы MSSQL с типом Float:

Proc.Params.Items[9].AsFloat:= Value;
где
Proc: TStoredProc;
Value: Decimal;

так вот если Value:= 0.21

то в итоге в поле таблицы будет 0.20999999999999999

Как побороть????


 
Anatoly Podgoretsky ©   (2004-02-12 18:56) [1]

Это правильное значение, ошибка 10^-20


 
Hollywood   (2004-02-12 19:01) [2]

Не факт!

т.к.
251*0.20999999999999999*(1-0.5)= 26.3549999999999, если округлить до второго знака, то будет 26.35

теперь
251*0.21*(1-0.5)= 26.355 округлить, будет 26.36

чуствуете разницу????



Страницы: 1 вся ветка

Текущий архив: 2004.03.14;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.021 c
14-43761
Soi
2004-02-19 11:23
2004.03.14
Глючит OUTLOOK


14-43765
хз
2004-02-13 10:48
2004.03.14
Хакеры опубликовали исходный код Windows в интернете


3-43371
Денисыч
2004-02-15 01:06
2004.03.14
Какая технология доступа к данным лучше : BDE, ADO, dbExpress


1-43665
YurikGl
2004-03-01 19:42
2004.03.14
Вопрос по Excell


1-43633
Ivolg
2004-03-02 12:29
2004.03.14
Стрелки