Не понятно откуда берется такое значение переменной

← →
DIM © (2009-12-11 23:56) [0]

Вот код(xp,h типа real)
xp:=-1.1;
h:=0.1;
while xp<0.2 do begin
xp:=xp+h;
Listbox3.Items.Add(FloatToStr(xp));
end;

когда xp по идее должен равнятся нулю в listbox записывается -1,38777...

← →
KilkennyCat © (2009-12-12 00:14) [1]

по идее он здесь никогда не будет равен нулю.

← →
Amoeba © (2009-12-12 00:18) [2]

> когда xp по идее должен равнятся нулю

http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374
Читать сие до полного просветления.

← →
Германн © (2009-12-12 01:34) [3]

> Amoeba © (12.12.09 00:18) [2]

Порой настолько уверуешься в эти "неочевидные", что удивляешься почему действительное число строго равно нулю даже после прямого присваивания :=0
:)

← →
Anatoly Podgoretsky © (2009-12-12 10:46) [4]

> когда xp по идее должен равнятся нулю в listbox записывается
> -1,38777...

А что в точках?
А - это минус или тире?

← →
clickmaker © (2009-12-12 14:33) [5]

> А что в точках?

куча цифр и E на конце в минус какой-то неслабой степени, вестимо

Да,Вот то число что записывается вместо нуля " -1,38777878078145E-16 " .
Уже разобрался,спасибо Amoeba !
P.S Воспользовался округлением(RoundTo),теперь работает все как мне надо)

я бы функцию написал CMP(fValue, sValue, eps),
как-то if abs(f-s)>eps then false

Не понятно откуда берется такое значение переменной Найти похожие ветки