Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2004.06.27;
Скачать: CL | DM;

Вниз

FLOAT NUMERIC или INTEGER   Найти похожие ветки 

 
S@shka   (2004-05-28 16:55) [0]

Народ
есть две таблицы Данные1 и Множители1
Данные1 - содержат числа Integer которые впоследствии сложаться и умножаться на соответствующий множитель их таблицы Множители1.
Известно, что Множитель до 5 знаков после запятой.
Вопрос в чем логичнее хранить Множители
FLOAT - но я пишу 0.01 а в переменной храниться 0.99999999993 :))
NUMERIC (5,5)
или INTEGER но про себя помнить, что реальное значение = МН / 100000


 
Desdechado ©   (2004-05-29 16:16) [1]

1. целочисленная арифметика быстрее и проще, поэтому множитель можно хранить в виде пары чисел для операции MulDiv, но определять эту пару не очень весело из дробного числа
2. float - не очень удачный формат, лучше Double Precision
3. numeric - самый устойчивый и платформо-независимый формат

не зря же в Oracle сделано Integer - подтип от numeric и float = double precision - тоже подтип от numeric

выбирай :)



Страницы: 1 вся ветка

Текущий архив: 2004.06.27;
Скачать: CL | DM;

Наверх




Память: 0.46 MB
Время: 0.049 c
3-1086090911
rvs
2004-06-01 15:55
2004.06.27
Проблема с запросом


1-1087017994
FragMan
2004-06-12 09:26
2004.06.27
Подскажите как в Tedit перечислить string функции


1-1087112610
AndersoNRules
2004-06-13 11:43
2004.06.27
F : Function : Extended;


4-1084809469
GROL
2004-05-17 19:57
2004.06.27
Изменение изображения на экране.


4-1084875468
OlegM
2004-05-18 14:17
2004.06.27
Как узнать минимизировано ли окно или нет?