Скачать: CL | DM;

Дробные числа в базах   Найти похожие ветки 

← →
vitek ©   (2005-12-02 12:19) [0]

Проблема с дробями
например в базе 2,25
считываю
Edit1.Text := DBGrid1.Fields[2].AsString;
Edit1.Text показывает 2,25000001124....
некоторые числа отображаются нормально,
а у некоторых отображается этот хвост или выдаст
такое 2,249999998799... (или что-нибудь в этом вроде)

(Соединение с базой ms access через ADO)

---

← →
Johnmen ©   (2005-12-02 13:13) [1]

http://www.delphikingdom.com/asp/viewitem.asp?UrlItem=/helloworld/reals.htm

---

← →
Anatoly Podgoretsky ©   (2005-12-02 14:35) [2]

В базе не 2,25 - даное число можно представить точно, без погрешности.

---

← →
Jeer ©   (2005-12-02 14:59) [3]

Anatoly Podgoretsky ©   (02.12.05 14:35) [2]

Доп-е.
Можно представить число точно, но в случае текстового формата поля, с учетом естественных ограничений на этот формат.
А число 2.25, действительно, представимо точно в двоичном формате, выраженном через строковый десятичный:)))
hex == 10.01

---

← →
vitek ©   (2005-12-05 08:01) [4]

извиняйте за пример,
с 2,25 все нормально
глюки с 2,27

http://www.delphikingdom.com/asp/viewitem.asp?UrlItem=/helloworld/reals.htm
ссылка все объясняет

СПАСИБО!

---

Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.45 MB
Время: 0.026 c