Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2004.03.14;
Скачать: CL | DM;

Вниз

сохранение ftFloat в поле Float MSSQL   Найти похожие ветки 

 
Hollywood   (2004-02-12 18:37) [0]

Сохраняю значение числа с плавающей точкой в поле таблицы MSSQL с типом Float:

Proc.Params.Items[9].AsFloat:= Value;
где
Proc: TStoredProc;
Value: Decimal;

так вот если Value:= 0.21

то в итоге в поле таблицы будет 0.20999999999999999

Как побороть????


 
Anatoly Podgoretsky ©   (2004-02-12 18:56) [1]

Это правильное значение, ошибка 10^-20


 
Hollywood   (2004-02-12 19:01) [2]

Не факт!

т.к.
251*0.20999999999999999*(1-0.5)= 26.3549999999999, если округлить до второго знака, то будет 26.35

теперь
251*0.21*(1-0.5)= 26.355 округлить, будет 26.36

чуствуете разницу????



Страницы: 1 вся ветка

Текущий архив: 2004.03.14;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.046 c
7-43932
Kerk
2003-12-18 11:44
2004.03.14
PhysicalMemory


14-43778
ИМХО
2004-02-17 14:05
2004.03.14
Люди Касперского знают все форматы???


3-43347
Karlson
2004-02-16 20:12
2004.03.14
SQL запрос на выборку из нескольких таблиц


14-43757
ламер на ножках
2004-02-19 09:43
2004.03.14
задачки


3-43273
richman
2004-02-12 18:41
2004.03.14
Как заставить программу автоматом вводить пароль в базу.