Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2011.10.16;
Скачать: CL | DM;

Вниз

неправильно выбран тип числа   Найти похожие ветки 

 
Тимофей Ю.   (2011-06-25 15:55) [0]

всем привет, столкнулся с проблемой корень, которой мне не понятен.
вот код:

procedure xz;
var
 b:Extended;
 m:integer;
begin
 m := 36-3;
 b := (36-m)/m;
 if b = 1/11 then
   frmmain.Caption := "Yes!";
end;


но мне кажется что ошибка кроется в выборе типа b,m.
условие  if b = 1/11 then - False, хотя должно быть true


 
Тимофей Ю.   (2011-06-25 16:04) [1]

m := 33;


 
sniknik ©   (2011-06-25 16:13) [2]

а в чем проблема? в отсутствии ветки else с "No!";?

> хотя должно быть true
не должно ... и это не проблема. это не значние - "Неочевидные особенности вещественных чисел."

> m := 33;
??????????
т.е. ты пытаешься спросить у людей которые не состоянии от 36 3 отнять самостоятельно? подсказку им типа дал?
офигеть.


 
Тимофей Ю.   (2011-06-25 16:16) [3]

Неочевидные особенности вещественных чисел - не знаком был с этим, спасибо ушел читать.


 
толпа   (2011-06-25 18:25) [4]

eps = 0.00000000001

if abs (b-1/11) <eps then


 
Тимофей Ю.   (2011-06-25 18:38) [5]

спасибо, sniknik и спасибо толпа! разобрался:)



Страницы: 1 вся ветка

Текущий архив: 2011.10.16;
Скачать: CL | DM;

Наверх




Память: 0.47 MB
Время: 0.011 c
3-1264534891
crank
2010-01-26 22:41
2011.10.16
Добавление данных и шифрование базы


15-1308653696
DVM
2011-06-21 14:54
2011.10.16
MD5 и WideString


2-1309147071
Gu
2011-06-27 07:57
2011.10.16
Проверить GUID


15-1308836003
картман
2011-06-23 17:33
2011.10.16
как эта задачка решается Хорошо?


1-1269026411
Zoom
2010-03-19 22:20
2011.10.16
размер массива через указатель