Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2004.06.27;
Скачать: CL | DM;

Вниз

FLOAT NUMERIC или INTEGER   Найти похожие ветки 

 
S@shka   (2004-05-28 16:55) [0]

Народ
есть две таблицы Данные1 и Множители1
Данные1 - содержат числа Integer которые впоследствии сложаться и умножаться на соответствующий множитель их таблицы Множители1.
Известно, что Множитель до 5 знаков после запятой.
Вопрос в чем логичнее хранить Множители
FLOAT - но я пишу 0.01 а в переменной храниться 0.99999999993 :))
NUMERIC (5,5)
или INTEGER но про себя помнить, что реальное значение = МН / 100000


 
Desdechado ©   (2004-05-29 16:16) [1]

1. целочисленная арифметика быстрее и проще, поэтому множитель можно хранить в виде пары чисел для операции MulDiv, но определять эту пару не очень весело из дробного числа
2. float - не очень удачный формат, лучше Double Precision
3. numeric - самый устойчивый и платформо-независимый формат

не зря же в Oracle сделано Integer - подтип от numeric и float = double precision - тоже подтип от numeric

выбирай :)



Страницы: 1 вся ветка

Текущий архив: 2004.06.27;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.049 c
11-1076153158
Ал
2004-02-07 14:25
2004.06.27
Не могу загрузить Bitmap из ресурса


14-1085952878
parovoZZ
2004-05-31 01:34
2004.06.27
Сайт Рустика


1-1087305759
Maxim
2004-06-15 17:22
2004.06.27
DLL


3-1086286568
hardclubber
2004-06-03 22:16
2004.06.27
Автоинкримент в IB


14-1086164825
ИМХО
2004-06-02 12:27
2004.06.27
Пару слов и Стивене Кинге