Форум: "Базы";
Текущий архив: 2004.03.14;
Скачать: [xml.tar.bz2];
Внизсохранение ftFloat в поле Float MSSQL Найти похожие ветки
← →
Hollywood (2004-02-12 18:37) [0]Сохраняю значение числа с плавающей точкой в поле таблицы MSSQL с типом Float:
Proc.Params.Items[9].AsFloat:= Value;
где
Proc: TStoredProc;
Value: Decimal;
так вот если Value:= 0.21
то в итоге в поле таблицы будет 0.20999999999999999
Как побороть????
← →
Anatoly Podgoretsky (2004-02-12 18:56) [1]Это правильное значение, ошибка 10^-20
← →
Hollywood (2004-02-12 19:01) [2]Не факт!
т.к.
251*0.20999999999999999*(1-0.5)= 26.3549999999999, если округлить до второго знака, то будет 26.35
теперь
251*0.21*(1-0.5)= 26.355 округлить, будет 26.36
чуствуете разницу????
Страницы: 1 вся ветка
Форум: "Базы";
Текущий архив: 2004.03.14;
Скачать: [xml.tar.bz2];
Память: 0.44 MB
Время: 0.017 c