Главная страница
    Top.Mail.Ru    Яндекс.Метрика
Форум: "Прочее";
Текущий архив: 2013.03.22;
Скачать: [xml.tar.bz2];

Вниз

До какого числа Double точно хранит целые?   Найти похожие ветки 

 
Eu   (2012-07-25 12:35) [0]

То есть, погрешность хранения менее 0.5?

На примере:

procedure test(iSrc: int64);
var
 iDst: int64;
 d: double;
begin
 d := iSrc ;
 iDst := Round(d);
 if iDst = iSrc then ShowMessage("Test complete");
end;


Какое минимальное положительное число можно передать в процедуру Test, чтобы тест собственно не сработал?

Эх забыл я школьную информатику, может кто оперативно ответ сказать? )) Спор тут вышел )


 
Anatoly Podgoretsky ©   (2012-07-25 12:55) [1]

> Eu  (25.07.2012 12:35:00)  [0]

Точность определяется значением Precision.
В справке есть значения, но  можешь расчитывать на 15 знаков


 
Куку   (2012-07-25 14:00) [2]


> До какого числа Double точно хранит целые?


Согласно календаря Майя, до 23 декабря 2012 года.
Даже если и дольше будет хранить, то это, увы, уже никому не понадобится.


 
Eu   (2012-07-25 14:20) [3]


> Точность определяется значением Precision.

что такое Precision?


> В справке есть значения, но  можешь расчитывать на 15 знаков

не нашел никакого значения...

То есть, при сведении дробной части к нулю, в целой части может точно хранится 15 знаков? Иными словами:

999`999`999`999`999,0   ?


 
Pavia ©   (2012-07-25 14:25) [4]

Between 252=4,503,599,627,370,496 and 253=9,007,199,254,740,992 the representable numbers are exactly the integers. For the next range, from 253 to 254, everything is multiplied by 2, so the representable numbers are the even ones, etc. Conversely, for the previous range from 251 to 252, the spacing is 0.5, etc.

http://en.wikipedia.org/wiki/Double-precision_floating-point_format


 
Inovet ©   (2012-07-25 14:57) [5]

> [3] Eu   (25.07.12 14:20)
> То есть, при сведении дробной части к нулю, в целой части
> может точно хранится 15 знаков?

Ты прочитай про формат чисел с плавающей точкой.


 
Sha ©   (2012-07-25 15:00) [6]

procedure TForm1.Button1Click(Sender: TObject);
var
 i, j: int64;
 d: double;
begin;
 i:=9007199254740980;
 repeat;
   j:=i+1;
   d:=j;
   i:=trunc(d);
   Memo1.Lines.Add(IntToStr(i));
   until i<>j; //9007199254740992 = 2^53
 end;


 
Компромисс ©   (2012-07-25 15:02) [7]


> i:=9007199254740980;


Автора такого кода очевидно уже известен ответ. По-честному надо, инициализируя нулем :)


 
Anatoly Podgoretsky ©   (2012-07-25 15:02) [8]


> не нашел никакого значения...

У тебя неправильная справка, в правильной тема Real types


 
Eu   (2012-07-25 16:33) [9]


> procedure TForm1.Button1Click(Sender: TObject);


спасибо!

Остается доказать, что нету чисел менее 9007199254740980 для которых условие не соблюдается ))   (я про положительные).

Я что-то помню про машинное эпсилон... По идее, чем больше число - тем больше погрешность абсолютная... В общем, уверен, что это правильный ответ...
Но точно также уверен, что это число можно посчитать по формуле )


 
Давайте будем жрать!   (2012-07-25 16:57) [10]


> уверен, что это число можно посчитать по формуле
осспади... заглянув на http://ru.wikipedia.org/wiki/Число_двойной_точности видим, что под мантиссу отведено 52 бита. следовательно, максимальное число, которое там может храниться, = 2^53 - 1. что и подтверждает пример, в котором на 2^53 начинаются расхождения.


 
Sha ©   (2012-07-25 19:25) [11]

чуть точнее так:
1) под мантиссу отведено 52 бита, следовательно макс. число в мантиссе (2^52)-1,
2) с учетом бита в уме макс. представимое число (2^53)-1,
3) число 2^53 будет последним целым в серии без пропусков,
т.к. оканчивается нулевым битом, отбрасывание которого не влияет на результат.


 
Давайте будем жрать!   (2012-07-25 20:31) [12]


> Sha ©   (25.07.12 19:25) [11]
Мда, поправил дурня. Действительно, 2^53-1 — это особенность реализации, а максимальное число в 52-битной мантиссе 2^52-1. Весь день какую-то хрень несу…



Страницы: 1 вся ветка

Форум: "Прочее";
Текущий архив: 2013.03.22;
Скачать: [xml.tar.bz2];

Наверх





Память: 0.47 MB
Время: 0.079 c
2-1339658598
Lamer6666
2012-06-14 11:23
2013.03.22
DragAndDrop из браузера в приложение


15-1339284234
alexdn
2012-06-10 03:23
2013.03.22
Ориентация планшетов


2-1340225376
Разведка
2012-06-21 00:49
2013.03.22
ищу функцию


15-1338593873
alexdn
2012-06-02 03:37
2013.03.22
10 ти дневн демо


15-1333826589
Дмитрий С
2012-04-07 23:23
2013.03.22
Занимает ли пустой файл блок в fat32 или ext3?





Afrikaans Albanian Arabic Armenian Azerbaijani Basque Belarusian Bulgarian Catalan Chinese (Simplified) Chinese (Traditional) Croatian Czech Danish Dutch English Estonian Filipino Finnish French
Galician Georgian German Greek Haitian Creole Hebrew Hindi Hungarian Icelandic Indonesian Irish Italian Japanese Korean Latvian Lithuanian Macedonian Malay Maltese Norwegian
Persian Polish Portuguese Romanian Russian Serbian Slovak Slovenian Spanish Swahili Swedish Thai Turkish Ukrainian Urdu Vietnamese Welsh Yiddish Bengali Bosnian
Cebuano Esperanto Gujarati Hausa Hmong Igbo Javanese Kannada Khmer Lao Latin Maori Marathi Mongolian Nepali Punjabi Somali Tamil Telugu Yoruba
Zulu
Английский Французский Немецкий Итальянский Португальский Русский Испанский