Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2004.06.27;
Скачать: CL | DM;

Вниз

FLOAT NUMERIC или INTEGER   Найти похожие ветки 

 
S@shka   (2004-05-28 16:55) [0]

Народ
есть две таблицы Данные1 и Множители1
Данные1 - содержат числа Integer которые впоследствии сложаться и умножаться на соответствующий множитель их таблицы Множители1.
Известно, что Множитель до 5 знаков после запятой.
Вопрос в чем логичнее хранить Множители
FLOAT - но я пишу 0.01 а в переменной храниться 0.99999999993 :))
NUMERIC (5,5)
или INTEGER но про себя помнить, что реальное значение = МН / 100000


 
Desdechado ©   (2004-05-29 16:16) [1]

1. целочисленная арифметика быстрее и проще, поэтому множитель можно хранить в виде пары чисел для операции MulDiv, но определять эту пару не очень весело из дробного числа
2. float - не очень удачный формат, лучше Double Precision
3. numeric - самый устойчивый и платформо-независимый формат

не зря же в Oracle сделано Integer - подтип от numeric и float = double precision - тоже подтип от numeric

выбирай :)



Страницы: 1 вся ветка

Текущий архив: 2004.06.27;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.052 c
1-1086718467
Saracin
2004-06-08 22:14
2004.06.27
Стек вызовов (call stack)


14-1086679428
Agent13
2004-06-08 11:23
2004.06.27
Прохождение Венеры по солнечному диску


6-1083234049
-=Demon=-
2004-04-29 14:20
2004.06.27
Распаковка пакетов.


1-1086510761
Программер
2004-06-06 12:32
2004.06.27
Тени, полупрозрачные окна и скриншоты экрана


14-1086468327
anpsoft
2004-06-06 00:45
2004.06.27
Кроссворд для delphiстов