Форум: "Основная";
Текущий архив: 2003.06.30;
Скачать: [xml.tar.bz2];
Вниз
Глюк со мной или с математикой Найти похожие ветки
← →
Gerda (2003-06-19 17:14) [0]Привет Мастера.
Вот такой вот глюк: проверте этот кусок кода:
var r:real;
a:integer;
begin
r:=0.567;
a:=Round(Int(r*10)); // у меня а:=5
r:=Frac(r*10);
a:=Round(Int(r*10)); // а:=6
r:=Frac(r*10);
a:=Round(Int(r*10)); // а:=6 %(
r:=Frac(r*10);
a:=Round(Int(r*10)); // а:=9 %(
r:=Frac(r*10);
a:=Round(Int(r*10)); // и тут а:=9 %(
end;
Может пива много выпил ??
← →
Anatoly Podgoretsky (2003-06-19 17:35) [1]С тобой, матьематика наука точная
← →
VMcL (2003-06-19 17:44) [2]>Gerda © (19.06.03 17:14)
М-да. В натуре (D6). Если r: Extended - то всё ОК :))))))
← →
jack128 (2003-06-19 17:46) [3]r=0,567
a=5
r=0,669999999999999
a=6
r=0,699999999999995
a=6
r=0,999999999999948
a=9
r=0,999999999999485
a=9
Понятно?
← →
Gerda (2003-06-19 17:47) [4]Люди не пользуйтесь real, он глючит !!!
Спасибо всем кто помог, и не помог.
← →
VMcL (2003-06-19 17:51) [5]>Gerda © (19.06.03 17:47)
В D6 Real = Double. В D5 - не помню: то ли тоже Double, то ли Single.
← →
Johny B. (2003-06-19 18:32) [6]Gerda ©
уж, по-моему, не очень большая научная работа была проделана, чтобы Real "заглючил" ))
а вообще, по поводу типов чисел с пл.точкой - тема для большого обсуждения.
← →
Basilio (2003-06-19 18:36) [7]а вот и нет. у real размер всегда был кривой - 6 байтов. у сингла 4 (float), у дабла 8 (double) у экстендед 10 (long double)
← →
jack128 (2003-06-19 18:50) [8]
> Basilio © (19.06.03 18:36)
в d5 real = double по умалчанию . Помоему какой то дерективой его можно сделать 6 байтом
← →
VMcL (2003-06-19 18:56) [9]Basilio © (19.06.03 18:36)
>а вот и нет. у real размер всегда был кривой - 6 байтов. у сингла >4 (float), у дабла 8 (double) у экстендед 10 (long double)
Да что ты говоришь :)
Это у Real48 размер всегда 6 байт.
>jack128 © (19.06.03 18:50)
Угу. $REALCOMPATIBILITY.
← →
Palladin (2003-06-19 21:03) [10]что значит кривой? это у кого то руки кривые и эрудированости с опытом не хватает, а ктото еще и уроки не посещал...
http://www.baseprogram.narod.ru/
← →
Real (2003-06-20 09:56) [11]Не надо гнать. Я не глючу.
Страницы: 1 вся ветка
Форум: "Основная";
Текущий архив: 2003.06.30;
Скачать: [xml.tar.bz2];
Память: 0.46 MB
Время: 0.007 c