Сравнение полей DOUBLE PRECISION в запросе

← →
grav (2008-05-29 12:52) [40]

> Reindeer Moss Eater © (29.05.08 12:39) [39]
>
> То что сравнивать плавающую точку на равенство в той статье
> не рекомендуют.

С этим согласен.
У меня вообще мироощущение поменялось с сегодняшнего дня. Я теперь компьютерам и калькуляторам не доверяю.
Помнится во времена учебы моей (1993-1999) преподаватели сильно сокрушались по поводу прекращения выпуска и развития семейства СМ и ЕС ЭВМ. Что то как раз говорили про мантиссу, и что интел и в подметки не годится :(

← →
grav (2008-05-29 13:05) [41]

> Ослик (29.05.08 12:37) [38]

Я и не спорю, но пока обойдусь ABS в запросе.
В основном из-за того, что не понимаю тип NUMERIC. Хотя использую его для больших значений состоящих из целых чисел.

← →
Ослик (2008-05-29 13:12) [42]

[41] grav (29.05.08 13:05)
для понимания полезно документацию читать.

нумерик хранит все ввиде целочисленого значения.
например, нумерик(10,3) число 134.56 будет хранить как 134560.
по-крайней мере это справедливо для третьего диалекта ИБ.

← →
MsGuns © (2008-05-29 14:19) [43]

NUMERIC, DECIMAL и т.д. служат лишь УКАЗАНИЕМ серверу для ОКРУГЛЕНИЯ УКАЗАННОГО КОЛ-ВА РАЗРЯДОВ при подготовке данных, ХРАНЯЩИХСЯ КАК ЧИСЛО С ПЛАВАЮЩЕЙ ТОЧКОЙ, к отправке клиенту - как они будут обрабатываться на клиенте (округляться, сравниваться, умножаться и т.д. - ему серобуромалиново).

Прежде чем "менять мироощущение", может, стоило бы почитать что-нибудь ? Пока "операторы неустанно вбивают".

← →
Reindeer Moss Eater © (2008-05-29 14:38) [44]

ХРАНЯЩИХСЯ КАК ЧИСЛО С ПЛАВАЮЩЕЙ ТОЧКОЙ

разве?

← →
Johnmen © (2008-05-29 16:11) [45]

> MsGuns © (29.05.08 14:19) [43]

Для IB/FB при определенных значениях NUMERIC и DECIMAL это не так.

← →
Reindeer Moss Eater © (2008-05-29 16:30) [46]

http://img143.imageshack.us/img143/863/numericdtyl8.jpg

← →
MsGuns © (2008-05-29 16:39) [47]

>Johnmen © (29.05.08 16:11) [45]
>Для IB/FB при определенных значениях NUMERIC и DECIMAL это не так.

Вполне может быть - слишком давно не работал с ИБ
Но дело, в общем, не в этом. Такой подход, ИМХО, весьма полезен СУБД-разработчику при проектировании как бизнес-логики сервера, так и прикладных решений. Дабы не заморачиваться проблемами, подобными сабжевой.

← →
Anatoly Podgoretsky © (2008-05-29 16:58) [48]

> grav (28.05.2008 16:57:10) [10]

.4 не возможно представить в формате с плавающей запятой.

> grav (29.05.2008 12:28:31) [31]

0.1 тоже нельзя представить

← →
grav (2008-05-29 22:20) [50]

← →
grav (2008-05-29 22:28) [51]

Если я не знаю какое значение будет хранится в поле, знаю только, что оно будет вещественное. Если я не знаю, сколько цифр будет его целая часть и сколько после запятой. Как можно использовать NUMERIC? Задавать максимальный размер?

Может пора-таки документацию почитать?

Сравнение полей DOUBLE PRECISION в запросе Найти похожие ветки