Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2011.10.16;
Скачать: CL | DM;

Вниз

неправильно выбран тип числа   Найти похожие ветки 

 
Тимофей Ю.   (2011-06-25 15:55) [0]

всем привет, столкнулся с проблемой корень, которой мне не понятен.
вот код:

procedure xz;
var
 b:Extended;
 m:integer;
begin
 m := 36-3;
 b := (36-m)/m;
 if b = 1/11 then
   frmmain.Caption := "Yes!";
end;


но мне кажется что ошибка кроется в выборе типа b,m.
условие  if b = 1/11 then - False, хотя должно быть true


 
Тимофей Ю.   (2011-06-25 16:04) [1]

m := 33;


 
sniknik ©   (2011-06-25 16:13) [2]

а в чем проблема? в отсутствии ветки else с "No!";?

> хотя должно быть true
не должно ... и это не проблема. это не значние - "Неочевидные особенности вещественных чисел."

> m := 33;
??????????
т.е. ты пытаешься спросить у людей которые не состоянии от 36 3 отнять самостоятельно? подсказку им типа дал?
офигеть.


 
Тимофей Ю.   (2011-06-25 16:16) [3]

Неочевидные особенности вещественных чисел - не знаком был с этим, спасибо ушел читать.


 
толпа   (2011-06-25 18:25) [4]

eps = 0.00000000001

if abs (b-1/11) <eps then


 
Тимофей Ю.   (2011-06-25 18:38) [5]

спасибо, sniknik и спасибо толпа! разобрался:)



Страницы: 1 вся ветка

Текущий архив: 2011.10.16;
Скачать: CL | DM;

Наверх




Память: 0.47 MB
Время: 0.004 c
2-1309007537
Maxim-us
2011-06-25 17:12
2011.10.16
TChart style


2-1309061190
Gu
2011-06-26 08:06
2011.10.16
Не могу удалить ключ реестра


2-1309050691
Drowsy
2011-06-26 05:11
2011.10.16
Перехват исключения при создании формы.


2-1309352976
Scott Storch
2011-06-29 17:09
2011.10.16
Assert


3-1265098618
Spot
2010-02-02 11:16
2011.10.16
ADO filter like