Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2004.06.27;
Скачать: CL | DM;

Вниз

FLOAT NUMERIC или INTEGER   Найти похожие ветки 

 
S@shka   (2004-05-28 16:55) [0]

Народ
есть две таблицы Данные1 и Множители1
Данные1 - содержат числа Integer которые впоследствии сложаться и умножаться на соответствующий множитель их таблицы Множители1.
Известно, что Множитель до 5 знаков после запятой.
Вопрос в чем логичнее хранить Множители
FLOAT - но я пишу 0.01 а в переменной храниться 0.99999999993 :))
NUMERIC (5,5)
или INTEGER но про себя помнить, что реальное значение = МН / 100000


 
Desdechado ©   (2004-05-29 16:16) [1]

1. целочисленная арифметика быстрее и проще, поэтому множитель можно хранить в виде пары чисел для операции MulDiv, но определять эту пару не очень весело из дробного числа
2. float - не очень удачный формат, лучше Double Precision
3. numeric - самый устойчивый и платформо-независимый формат

не зря же в Oracle сделано Integer - подтип от numeric и float = double precision - тоже подтип от numeric

выбирай :)



Страницы: 1 вся ветка

Текущий архив: 2004.06.27;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.047 c
1-1086935811
DAnton
2004-06-11 10:36
2004.06.27
Как лучше спрятать програму из виду?


1-1086799141
Mike
2004-06-09 20:39
2004.06.27
строки


1-1086697688
riko
2004-06-08 16:28
2004.06.27
Подскажите пожалуйста: Treeview&TreeNode + array


3-1086093248
t100
2004-06-01 16:34
2004.06.27
Абра-кадабра в qrdbmemo хотя в dbmemo все в порядке.


6-1082569388
x-AL
2004-04-21 21:43
2004.06.27
var-параметры в событии OnBeforeNavigate2 TWebBrowser a