Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2004.06.27;
Скачать: CL | DM;

Вниз

FLOAT NUMERIC или INTEGER   Найти похожие ветки 

 
S@shka   (2004-05-28 16:55) [0]

Народ
есть две таблицы Данные1 и Множители1
Данные1 - содержат числа Integer которые впоследствии сложаться и умножаться на соответствующий множитель их таблицы Множители1.
Известно, что Множитель до 5 знаков после запятой.
Вопрос в чем логичнее хранить Множители
FLOAT - но я пишу 0.01 а в переменной храниться 0.99999999993 :))
NUMERIC (5,5)
или INTEGER но про себя помнить, что реальное значение = МН / 100000


 
Desdechado ©   (2004-05-29 16:16) [1]

1. целочисленная арифметика быстрее и проще, поэтому множитель можно хранить в виде пары чисел для операции MulDiv, но определять эту пару не очень весело из дробного числа
2. float - не очень удачный формат, лучше Double Precision
3. numeric - самый устойчивый и платформо-независимый формат

не зря же в Oracle сделано Integer - подтип от numeric и float = double precision - тоже подтип от numeric

выбирай :)



Страницы: 1 вся ветка

Текущий архив: 2004.06.27;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.023 c
10-1013431792
comwad
2002-02-11 15:14
2004.06.27
Corba ест память!!!


1-1087301878
Dysan
2004-06-15 16:17
2004.06.27
глюки исчезающего TChart


1-1086753976
Litr
2004-06-09 08:06
2004.06.27
Chart


14-1086789420
Terminator
2004-06-09 17:57
2004.06.27
Где получить кредит?


4-1085107194
BoxTer
2004-05-21 06:39
2004.06.27
Как убить процесс ntvdm.exe