Глюк со мной или с математикой

← →
Gerda © (2003-06-19 17:14) [0]

Привет Мастера.
Вот такой вот глюк: проверте этот кусок кода:

var r:real;
a:integer;
begin
r:=0.567;
a:=Round(Int(r*10)); // у меня а:=5
r:=Frac(r*10);
a:=Round(Int(r*10)); // а:=6
r:=Frac(r*10);
a:=Round(Int(r*10)); // а:=6 %(
r:=Frac(r*10);
a:=Round(Int(r*10)); // а:=9 %(
r:=Frac(r*10);
a:=Round(Int(r*10)); // и тут а:=9 %(

end;
Может пива много выпил ??

← →
Anatoly Podgoretsky © (2003-06-19 17:35) [1]

С тобой, матьематика наука точная

← →
VMcL © (2003-06-19 17:44) [2]

>Gerda © (19.06.03 17:14)

М-да. В натуре (D6). Если r: Extended - то всё ОК :))))))

← →
jack128 © (2003-06-19 17:46) [3]

r=0,567
a=5
r=0,669999999999999
a=6
r=0,699999999999995
a=6
r=0,999999999999948
a=9
r=0,999999999999485
a=9
Понятно?

← →
Gerda © (2003-06-19 17:47) [4]

Люди не пользуйтесь real, он глючит !!!
Спасибо всем кто помог, и не помог.

← →
VMcL © (2003-06-19 17:51) [5]

>Gerda © (19.06.03 17:47)

В D6 Real = Double. В D5 - не помню: то ли тоже Double, то ли Single.

← →
Johny B. (2003-06-19 18:32) [6]

Gerda ©

уж, по-моему, не очень большая научная работа была проделана, чтобы Real "заглючил" ))

а вообще, по поводу типов чисел с пл.точкой - тема для большого обсуждения.

← →
Basilio © (2003-06-19 18:36) [7]

а вот и нет. у real размер всегда был кривой - 6 байтов. у сингла 4 (float), у дабла 8 (double) у экстендед 10 (long double)

← →
jack128 © (2003-06-19 18:50) [8]

Basilio © (19.06.03 18:36)
>а вот и нет. у real размер всегда был кривой - 6 байтов. у сингла >4 (float), у дабла 8 (double) у экстендед 10 (long double)

Да что ты говоришь :)
Это у Real48 размер всегда 6 байт.

>jack128 © (19.06.03 18:50)

Угу. $REALCOMPATIBILITY.

что значит кривой? это у кого то руки кривые и эрудированости с опытом не хватает, а ктото еще и уроки не посещал...

http://www.baseprogram.narod.ru/

Не надо гнать. Я не глючу.

Глюк со мной или с математикой Найти похожие ветки