Значения с плавающей точкой

← →
ttt (2013-03-22 14:28) [0]

Добрый день.

Лучше покажу примером.
s: single;
s:= 0.8;
if s <> 0.8 then ShowMessage(FloatToStr(s));

На деле выдает "0.800000011920929". Вопрос, скорее, не в том, чтобы убрать эти "11920929", а в том, как правильно сравнивать значения.
Подскажите, расскажите. :)

← →
Ega23 © (2013-03-22 14:36) [1]

uses Math;

SameValue + F1

← →
Inovet © (2013-03-22 14:38) [2]

Нельзя плавающие типы сравнивать на точное равенство, надо
abs(a-b) < epsilon

← →
Ega23 © (2013-03-22 14:39) [3]

А вообще

|A-B| <= Epsilon

Epsilon - больше нуля, значение - выбирай исходя из задачи

http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374

Значения с плавающей точкой Найти похожие ветки