Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2006.11.19;
Скачать: CL | DM;

Вниз

Округление чисел   Найти похожие ветки 

 
dmdel ©   (2006-11-01 12:45) [0]

Здраствуйте, уважаемые мастера.
Нужно округлить число, например, g=123,1233333333 (g:real) до второго знака после запятой. Как это сделать?


 
DrPass ©   (2006-11-01 12:46) [1]

Функция RoundTo


 
dmdel ©   (2006-11-01 12:54) [2]


> DrPass ©   (01.11.06 12:46) [1]

Спасибо


 
Anatoly Podgoretsky ©   (2006-11-01 13:02) [3]

> DrPass  (01.11.2006 12:46:01)  [1]

И думаешь в переменно g будет лежать 123,12
Real между прочим число с плавающей запятой в 6 или 8 байт. Число с
плавающей запятой не позволяет указывать количество знаков после запятой.
Или надеешься на удачу, вдруг получится?


 
Anatoly Podgoretsky ©   (2006-11-01 13:05) [4]

> dmdel  (01.11.2006 12:45:00)  [0]

Вообще то там будет храниться число от нуля до чуть менее 1, с количеством
знаков после запятой в 53 или около того, в зависимости от точного типа, но
никогда 123,12. Все числа автоматически нормализуются к диапазону 0..1^N и
не все числа можно представить точно, я например не уверен, что можно
поместить в эту переменную именно 123,12, вероятнее всего будет что то
близкое к этому.


 
KilkennyCat ©   (2006-11-01 13:31) [5]

Кстати, автор совершенно не уточнил вариант округления. А их несколько. И результат от варианта зависит.


 
dmdel ©   (2006-11-01 16:06) [6]


> KilkennyCat ©   (01.11.06 13:31) [5]

А какие возможны варианты?


 
dmdel ©   (2006-11-01 16:11) [7]

Сейчас эаметил интересную вещь
var
g:real;
begin
g:=2\1;
end;
В результате получаем
g=2.6360704913e-308
по какому механизму все это считается?


 
KilkennyCat ©   (2006-11-01 16:13) [8]

> [6] dmdel ©   (01.11.06 16:06)


http://ru.wikipedia.org/wiki/%D0%9E%D0%BA%D1%80%D1%83%D0%B3%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5#.D0.92.D0.B8.D0.B4.D1.8B_.D0.BE.D0.BA.D1.80.D1.83.D0.B3.D0.BB.D0.B5.D0.BD.D0. B8.D1.8F


 
Anatoly Podgoretsky ©   (2006-11-01 16:17) [9]

> dmdel  (01.11.2006 16:11:07)  [7]

Мне кажется, что это вообще не откомпилируется


 
dmdel ©   (2006-11-01 16:25) [10]


> Anatoly Podgoretsky ©   (01.11.06 16:17) [9]

согласен, использовал WATCHES


 
dmdel ©   (2006-11-01 16:36) [11]


> dmdel ©   (01.11.06 16:11) [7]

Разобрался. Все нормально считает, сам ступил



Страницы: 1 вся ветка

Текущий архив: 2006.11.19;
Скачать: CL | DM;

Наверх




Память: 0.49 MB
Время: 0.03 c
2-1162462884
Kosh
2006-11-02 13:21
2006.11.19
мышь


2-1162307017
Megabyte
2006-10-31 18:03
2006.11.19
После формирования отчета в Excel висит процесс


15-1162385965
kick
2006-11-01 15:59
2006.11.19
Наследник от TForm запустить не могу :) :)


2-1162205363
regdown
2006-10-30 13:49
2006.11.19
Помогите с Паскалем


4-1152280704
kilonet
2006-07-07 17:58
2006.11.19
handle поля Edit в стандартном диалоге "Сохранить как"...