Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2006.11.19;
Скачать: CL | DM;

Вниз

Округление чисел   Найти похожие ветки 

 
dmdel ©   (2006-11-01 12:45) [0]

Здраствуйте, уважаемые мастера.
Нужно округлить число, например, g=123,1233333333 (g:real) до второго знака после запятой. Как это сделать?


 
DrPass ©   (2006-11-01 12:46) [1]

Функция RoundTo


 
dmdel ©   (2006-11-01 12:54) [2]


> DrPass ©   (01.11.06 12:46) [1]

Спасибо


 
Anatoly Podgoretsky ©   (2006-11-01 13:02) [3]

> DrPass  (01.11.2006 12:46:01)  [1]

И думаешь в переменно g будет лежать 123,12
Real между прочим число с плавающей запятой в 6 или 8 байт. Число с
плавающей запятой не позволяет указывать количество знаков после запятой.
Или надеешься на удачу, вдруг получится?


 
Anatoly Podgoretsky ©   (2006-11-01 13:05) [4]

> dmdel  (01.11.2006 12:45:00)  [0]

Вообще то там будет храниться число от нуля до чуть менее 1, с количеством
знаков после запятой в 53 или около того, в зависимости от точного типа, но
никогда 123,12. Все числа автоматически нормализуются к диапазону 0..1^N и
не все числа можно представить точно, я например не уверен, что можно
поместить в эту переменную именно 123,12, вероятнее всего будет что то
близкое к этому.


 
KilkennyCat ©   (2006-11-01 13:31) [5]

Кстати, автор совершенно не уточнил вариант округления. А их несколько. И результат от варианта зависит.


 
dmdel ©   (2006-11-01 16:06) [6]


> KilkennyCat ©   (01.11.06 13:31) [5]

А какие возможны варианты?


 
dmdel ©   (2006-11-01 16:11) [7]

Сейчас эаметил интересную вещь
var
g:real;
begin
g:=2\1;
end;
В результате получаем
g=2.6360704913e-308
по какому механизму все это считается?


 
KilkennyCat ©   (2006-11-01 16:13) [8]

> [6] dmdel ©   (01.11.06 16:06)


http://ru.wikipedia.org/wiki/%D0%9E%D0%BA%D1%80%D1%83%D0%B3%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5#.D0.92.D0.B8.D0.B4.D1.8B_.D0.BE.D0.BA.D1.80.D1.83.D0.B3.D0.BB.D0.B5.D0.BD.D0. B8.D1.8F


 
Anatoly Podgoretsky ©   (2006-11-01 16:17) [9]

> dmdel  (01.11.2006 16:11:07)  [7]

Мне кажется, что это вообще не откомпилируется


 
dmdel ©   (2006-11-01 16:25) [10]


> Anatoly Podgoretsky ©   (01.11.06 16:17) [9]

согласен, использовал WATCHES


 
dmdel ©   (2006-11-01 16:36) [11]


> dmdel ©   (01.11.06 16:11) [7]

Разобрался. Все нормально считает, сам ступил



Страницы: 1 вся ветка

Текущий архив: 2006.11.19;
Скачать: CL | DM;

Наверх




Память: 0.49 MB
Время: 0.04 c
15-1162148722
Petr V.Abramov
2006-10-29 22:05
2006.11.19
сможет ли взлететь реактивный самолет


2-1162516767
0315
2006-11-03 04:19
2006.11.19
Обработчик сообщения WM_PAINT не срабатывает для PageControl


15-1162389352
Колдун
2006-11-01 16:55
2006.11.19
Предикаты


15-1162366296
ANB
2006-11-01 10:31
2006.11.19
Че это за мясо ?


15-1162190909
Prohodil Mimo
2006-10-30 09:48
2006.11.19
Как проверить рабочий ли COM порт?