Форум: "Основная";
Поиск по всему сайту: delphimaster.net;
Текущий архив: 2002.01.21;
Скачать: [xml.tar.bz2];




Вниз

Почему Delphi делит не верно? 


BigLamer   (2002-01-04 12:57) [0]

Почему следующий код выдает неверное значение переменной k? Ведь должно получаться так что k=0.1 , а получается k=0,100000001490116. Я с этим уже сталкивался давным-давно, но забыл в чем тут дело.


procedure TForm1.FormActivate(Sender: TObject);
var
k:single;
begin
k:=1/10;
Edit1.Text:=FloatToStr(k);
end;



Alx2   (2002-01-04 13:06) [1]

Так все происходит с точностью до машинного ноля. Тем более, тип single 4-х байтовый. У него "машинный ноль" довольно большой



Юрий Зотов   (2002-01-04 13:09) [2]

Это совершенно нормальная вещь и Delphi здесь абсолютно ни при чем. Уж такова машинная арифметика действительных чисел. Все, что можно здесь сделать - это повысить точность, объявив k типа double или extended.

Исчерпывающие разъяснения см. здесь:
http://www.delphikingdom.com/helloworld/reals.htm



Alx2   (2002-01-04 13:11) [3]

Также из Help узнаем, что тип single имеет 7-8 значащих цифр.
В Вашем примере верными являются 8 цифр. Большего требовать от типа single не получится



BigLamer   (2002-01-04 13:31) [4]

Благодарствую, double -помогло.Но я хотел с single. Ну да ладно и так сойдет.




Форум: "Основная";
Поиск по всему сайту: delphimaster.net;
Текущий архив: 2002.01.21;
Скачать: [xml.tar.bz2];




Наверх





Память: 0.72 MB
Время: 0.019 c
1-66298           Sheva                 2002-01-03 11:57  2002.01.21  
SpeedButton.


3-66220           vangog                2001-12-17 16:03  2002.01.21  
Поиск в TTable глючит !


14-66362          J_S                   2001-11-22 21:45  2002.01.21  
http://delphi.mastak.com/prikol/prayer.htm


1-66234           Vovan V               2001-12-31 01:38  2002.01.21  
Вывод от программы. СРОЧНО - нужна помощь!


4-66400           Olgerd                2001-11-21 20:36  2002.01.21  
Не совсем понятно