Скачать: CL | DM;

неправильно выбран тип числа   Найти похожие ветки 

← →
Тимофей Ю.   (2011-06-25 15:55) [0]

всем привет, столкнулся с проблемой корень, которой мне не понятен.
вот код:

procedure xz;
var
 b:Extended;
 m:integer;
begin
 m := 36-3;
 b := (36-m)/m;
 if b = 1/11 then
   frmmain.Caption := "Yes!";
end;

но мне кажется что ошибка кроется в выборе типа b,m.
условие  if b = 1/11 then - False, хотя должно быть true

---

← →
Тимофей Ю.   (2011-06-25 16:04) [1]

m := 33;

---

← →
sniknik ©   (2011-06-25 16:13) [2]

а в чем проблема? в отсутствии ветки else с "No!";?

> хотя должно быть true
не должно ... и это не проблема. это не значние - "Неочевидные особенности вещественных чисел."

> m := 33;
??????????
т.е. ты пытаешься спросить у людей которые не состоянии от 36 3 отнять самостоятельно? подсказку им типа дал?
офигеть.

---

← →
Тимофей Ю.   (2011-06-25 16:16) [3]

Неочевидные особенности вещественных чисел - не знаком был с этим, спасибо ушел читать.

---

← →
толпа   (2011-06-25 18:25) [4]

eps = 0.00000000001

if abs (b-1/11) <eps then

---

← →
Тимофей Ю.   (2011-06-25 18:38) [5]

спасибо, sniknik и спасибо толпа! разобрался:)

---

Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.45 MB
Время: 0.004 c