Скачать: CL | DM;

Не понятно откуда берется такое значение переменной   Найти похожие ветки 

← →
DIM ©   (2009-12-11 23:56) [0]

Вот код(xp,h типа real)
xp:=-1.1;
h:=0.1;
while xp<0.2 do begin
xp:=xp+h;
Listbox3.Items.Add(FloatToStr(xp));
end;

когда xp по идее должен равнятся нулю в listbox записывается -1,38777...

---

← →
KilkennyCat ©   (2009-12-12 00:14) [1]

по идее он здесь никогда не будет равен нулю.

---

← →
Amoeba ©   (2009-12-12 00:18) [2]

> когда xp по идее должен равнятся нулю

http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374
Читать сие до полного просветления.

---

← →
Германн ©   (2009-12-12 01:34) [3]

> Amoeba ©   (12.12.09 00:18) [2]

Порой настолько уверуешься в эти "неочевидные", что удивляешься почему действительное число строго равно нулю даже после прямого присваивания :=0
:)

---

← →
Anatoly Podgoretsky ©   (2009-12-12 10:46) [4]

> когда xp по идее должен равнятся нулю в listbox записывается
> -1,38777...

А что в точках?
А - это минус или тире?

---

← →
clickmaker ©   (2009-12-12 14:33) [5]

> А что в точках?

куча цифр и E на конце в минус какой-то неслабой степени, вестимо

---

← →
DIM ©   (2009-12-12 14:52) [6]

Да,Вот то число что записывается вместо нуля " -1,38777878078145E-16 " .
Уже разобрался,спасибо Amoeba !
P.S Воспользовался округлением(RoundTo),теперь работает все как мне надо)

---

← →
12 ©   (2009-12-12 15:30) [7]

я бы функцию написал CMP(fValue, sValue, eps),
как-то if abs(f-s)>eps then false

---

Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.46 MB
Время: 0.005 c