Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2007.08.12;
Скачать: CL | DM;

Вниз

Как быть с такмими числами?   Найти похожие ветки 

 
bagos ©   (2007-07-12 23:03) [0]

Есть некий алгоритм вычислений, числа с каждым разом становятся все меньше и меньше, по этим числам рисуется график:
0,00949842169000961
0,00480055363129265
0,00227365134282774
0,00100543670830036
0,000413556234037237
0,00015741237438924
след число:
5,5137736218774E-5
как с такими числами быть? мне нужен формат
0,000055137737218774 типо того иначе график не правильный
подскажите что делать


 
TUser ©   (2007-07-12 23:11) [1]

разжуй


 
Efir ©   (2007-07-12 23:19) [2]

Double?


 
bagos ©   (2007-07-12 23:31) [3]

короче на выходе число выглядит так :
5,5137736218774E-5

Но мне нужно чтобы было 0,0000055137736218774 без степени -5


 
Johnmen ©   (2007-07-12 23:38) [4]

FormatFloat + F1


 
Dimaxx ©   (2007-07-13 00:38) [5]

В числовом представлении числа 5,5137736218774E-5 и 0,000055137737218774 одинаковые. Поэтому не может быть такого, что при использовании первого числа график правильный, а при втором неправильный...


 
Zagaevskiy ©   (2007-07-13 09:44) [6]


> Double?

Extended?


 
Anatoly Podgoretsky ©   (2007-07-13 11:37) [7]

Точность в 20 знаков и Extended не обеспечит, придется потерять последних 1/2 знака


 
ЮЮ ©   (2007-07-13 12:11) [8]

> Точность в 20 знаков и Extended не обеспечит,

И где здесь про 20 знаков было ?
Эти жирные, что ли, за знаки принимаешь 0,000055137737218774 ? :)


 
Zagaevskiy ©   (2007-07-13 12:17) [9]


> Anatoly Podgoretsky ©   (13.07.07 11:37) [7]
> Точность в 20 знаков и Extended не обеспечит, придется потерять
> последних 1/2 знака

Да, Вы правы ,с Extended тоже 5,5137737218774E-5
> некий алгоритм вычислений

Интересно узнать, какой?Можно использовать массив и хранить дробную часть в нём.


 
Zagaevskiy ©   (2007-07-13 12:20) [10]

а ещё можно FloatToStr(), потом посмотреть, чё получилось, и если есть Е то форматировать СТРОКУ до такого вида, который нужен.


 
Jeer ©   (2007-07-13 12:27) [11]


> Zagaevskiy ©   (13.07.07 12:20) [10]


Вот ежики ! Да при чем здесь символьное представление ?


 
Zagaevskiy ©   (2007-07-13 12:32) [12]


> короче на выходе число выглядит так :
> 5,5137736218774E-5
>
> Но мне нужно чтобы было 0,0000055137736218774 без степени
> -5

При чём ещё?

> мне нужен формат
> 0,000055137737218774 типо того иначе график не правильный

Явно же у чела график выглядит не так как тот хочет, потому что:
""В числовом представлении числа 5,5137736218774E-5 и 0,000055137737218774 одинаковые. Поэтому не может быть такого, что при использовании первого числа график правильный, а при втором неправильный...""
              Dimaxx(с)


 
Anatoly Podgoretsky ©   (2007-07-13 12:34) [13]

> ЮЮ  (13.07.2007 12:11:08)  [8]

Обязан принимать, речь то про десятичные разряды и не важно нули они или нет.
На тебе примен

0,000000000000000000000000000000000000000000000000000000000000000000000000000000 0000000000000000000000000000000000000001


 
ЮЮ ©   (2007-07-13 12:39) [14]

> Да, Вы правы ,с Extended тоже 5,5137737218774E-5

неужели так трудно написать десяток строк кода, преобразовывающих строку вида
"5,5137736218774E-5" к строке вида "0,000055137737218774", если так приспичило видеть числа в извращенной форме?

>Обязан принимать
Кто? Extended? Неужели такой никцемный тип данных?


 
Zagaevskiy ©   (2007-07-13 12:42) [15]


> ЮЮ ©   (13.07.07 12:39) [14]
> > Да, Вы правы ,с Extended тоже 5,5137737218774E-5
>
> неужели так трудно написать десяток строк кода, преобразовывающих
> строку вида
> "5,5137736218774E-5" к строке вида "0,000055137737218774",
>  если так приспичило видеть числа в извращенной форме?

Между прочем я об этом и говорил в [10]

Приспичило, но не мне,а bagos"у.


 
bagos ©   (2007-07-13 22:22) [16]

спасибо за ответы, теперь числа в "извращенной форме" :)


 
Zagaevskiy ©   (2007-07-14 11:43) [17]


> bagos ©   (13.07.07 22:22) [16]
> спасибо за ответы, теперь числа в "извращенной форме" :)

Как сделал?



Страницы: 1 вся ветка

Текущий архив: 2007.08.12;
Скачать: CL | DM;

Наверх




Память: 0.5 MB
Время: 0.042 c
2-1184135112
Б.А.С.
2007-07-11 10:25
2007.08.12
Программный вход в систему


3-1177506771
Jacks
2007-04-25 17:12
2007.08.12
Select


2-1184832542
kyn66
2007-07-19 12:09
2007.08.12
Компонент ZipTV с глюком?


15-1184597966
TStas
2007-07-16 18:59
2007.08.12
Длинные ветки в поболталовке


9-1152518489
netboy
2006-07-10 12:01
2007.08.12
Вопросик по геймдеву