Главная страница
    Top.Mail.Ru    Яндекс.Метрика
Форум: "Начинающим";
Текущий архив: 2007.01.07;
Скачать: [xml.tar.bz2];

Вниз

Округление числа   Найти похожие ветки 

 
vitv ©   (2006-12-18 10:06) [0]

Для хранения числа я использую Decimal(2,2). При подсчёте среднего значения число не округляется, т.е.

10+9+10=29/3=9,6666666666(на калькуляторе)
10+9+10=29/3=9,66(в программе)

Как лучше поступить в данной ситуации?


 
Steep ©   (2006-12-18 10:44) [1]

Round(29/3)


 
ЮЮ ©   (2006-12-18 10:52) [2]


> Для хранения числа я использую Decimal(2,2)


А я предпочитаю Double и им подобные.


 
VitV ©   (2006-12-18 10:58) [3]


> Steep ©   (18.12.06 10:44) [1]
>
> Round(29/3)

SELECT AVG(CENA) FROM


 
VitV ©   (2006-12-18 11:00) [4]


>
> > Для хранения числа я использую Decimal(2,2)
>
>
> А я предпочитаю Double и им подобные.
>

Почему?


 
ЮЮ ©   (2006-12-18 11:20) [5]

9,6666666666(на калькуляторе)

Он врет. там 6-рок должно быть гораздо больше

10+9+10=29/3=9,66(в программе)

Decimal(2,2) - по определеню, 2 знака после запятой
Почему?

Потому, что не знаю, как а программе использовать Decimal(2,2).
а Double проще простого:
var
 v: Double;

И если ей присвоишь 9.66, то и FloatToStr(v) так и вернёт 9.66, а если 9.666666, то 9.666666 :)
А Extended ещё, говорят лучше.


 
palva ©   (2006-12-18 12:04) [6]

И если ей присвоишь 9.66, то и FloatToStr(v) так и вернёт 9.66, а если 9.666666, то 9.666666 :)

А если 9.660000000000004, то вернет 9.66 - не порядок!{$APPTYPE CONSOLE}
uses SysUtils;
var
 v, t: Double;
begin
 v := 9.66;
 WriteLn(FloatToStr(v)); // 9.66
 t := 9.660000000000004;
 if v <> t Then
   WriteLn(FloatToStr(t)); // 9.66
end.


 
Anatoly Podgoretsky ©   (2006-12-18 12:30) [7]

> vitv  (18.12.2006 10:06:00)  [0]

Это как, два знака после запятой и всего два знака и ты при этом хочешь видеть 9,66, нестыковка однако.


 
VitV ©   (2006-12-18 14:14) [8]

Я хочу 9,67


 
Anatoly Podgoretsky ©   (2006-12-18 14:23) [9]

> VitV  (18.12.2006 14:14:08)  [8]

Посчитай количество цифр.


 
VitV ©   (2006-12-18 15:17) [10]


> Посчитай количество цифр.
>

т.е. Decimal(2,8), а отображать  Decimal(2,2).


 
Anatoly Podgoretsky ©   (2006-12-18 15:21) [11]

> VitV  (18.12.2006 15:17:10)  [10]

> Decimal(2,8),

Бред.
Обосновывать не надо?


 
vitv ©   (2006-12-19 14:19) [12]


> Бред.
> Обосновывать не надо?
>

Понял...



Страницы: 1 вся ветка

Форум: "Начинающим";
Текущий архив: 2007.01.07;
Скачать: [xml.tar.bz2];

Наверх





Память: 0.47 MB
Время: 0.01 c
2-1166290330
anton773
2006-12-16 20:32
2007.01.07
обратиться к контролам на другой форме (.NET)


15-1166440735
DVM
2006-12-18 14:18
2007.01.07
Напомните как вернуть QuickReport в Delphi 7.


15-1165953376
oxffff
2006-12-12 22:56
2007.01.07
Вопрос для Cyraxa. Как модифицировать GOF паттерн Visitor


15-1166099442
Andre_s
2006-12-14 15:30
2007.01.07
Установка системы на флэшку


1-1163576005
net_daemon
2006-11-15 10:33
2007.01.07
Алгоритмический вопрос по комбинаторике





Afrikaans Albanian Arabic Armenian Azerbaijani Basque Belarusian Bulgarian Catalan Chinese (Simplified) Chinese (Traditional) Croatian Czech Danish Dutch English Estonian Filipino Finnish French
Galician Georgian German Greek Haitian Creole Hebrew Hindi Hungarian Icelandic Indonesian Irish Italian Japanese Korean Latvian Lithuanian Macedonian Malay Maltese Norwegian
Persian Polish Portuguese Romanian Russian Serbian Slovak Slovenian Spanish Swahili Swedish Thai Turkish Ukrainian Urdu Vietnamese Welsh Yiddish Bengali Bosnian
Cebuano Esperanto Gujarati Hausa Hmong Igbo Javanese Kannada Khmer Lao Latin Maori Marathi Mongolian Nepali Punjabi Somali Tamil Telugu Yoruba
Zulu
Английский Французский Немецкий Итальянский Португальский Русский Испанский