Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2002.01.21;
Скачать: CL | DM;

Вниз

Почему Delphi делит не верно?   Найти похожие ветки 

 
BigLamer   (2002-01-04 12:57) [0]

Почему следующий код выдает неверное значение переменной k? Ведь должно получаться так что k=0.1 , а получается k=0,100000001490116. Я с этим уже сталкивался давным-давно, но забыл в чем тут дело.


procedure TForm1.FormActivate(Sender: TObject);
var
k:single;
begin
k:=1/10;
Edit1.Text:=FloatToStr(k);
end;


 
Alx2 ©   (2002-01-04 13:06) [1]

Так все происходит с точностью до машинного ноля. Тем более, тип single 4-х байтовый. У него "машинный ноль" довольно большой


 
Юрий Зотов ©   (2002-01-04 13:09) [2]

Это совершенно нормальная вещь и Delphi здесь абсолютно ни при чем. Уж такова машинная арифметика действительных чисел. Все, что можно здесь сделать - это повысить точность, объявив k типа double или extended.

Исчерпывающие разъяснения см. здесь:
http://www.delphikingdom.com/helloworld/reals.htm


 
Alx2 ©   (2002-01-04 13:11) [3]

Также из Help узнаем, что тип single имеет 7-8 значащих цифр.
В Вашем примере верными являются 8 цифр. Большего требовать от типа single не получится


 
BigLamer   (2002-01-04 13:31) [4]

Благодарствую, double -помогло.Но я хотел с single. Ну да ладно и так сойдет.



Страницы: 1 вся ветка

Текущий архив: 2002.01.21;
Скачать: CL | DM;

Наверх




Память: 0.47 MB
Время: 0.007 c
3-66198
ol
2001-12-18 10:01
2002.01.21
переменные в sql в mssql??


1-66311
Дмитрий Д.
2001-12-27 12:28
2002.01.21
как загрузить текстовый файл в ричедит, например ? (файл в досовской кодировке)


14-66346
Dick
2001-11-23 20:20
2002.01.21
Знатоки! Объясните.


1-66236
HELPER
2002-01-01 04:50
2002.01.21
Microsfot agent


1-66274
Paul_2
2002-01-04 11:32
2002.01.21
Работа с Word через Delphi