Скачать: CL | DM;

вычисления с плавующей точкой   Найти похожие ветки 

← →
LORN   (2005-08-30 14:16) [0]

в проге есть вычисления , результат получается дробный
какой функцией (или другим способом) можно получить число с определеным колиством чисел после запятой (есть 1,99999 надо 1,99).  надо имено чтоб число обрезалось на нужное количество знаков, а не округлялось

на  этом форуме дали ответ
RoundTo(Int(X*100)/100,-2)

функция работает
но прога вещается намертво(невсегда , но бывает частенько)

как избавится от этого? или другой вариант
плиз хелп
заранее спасибо

---

← →
Германн ©   (2005-08-30 14:21) [1]

FormatFloat
FloatToStrF

---

← →
Александр Иванов ©   (2005-08-30 14:38) [2]

почему вешается прога ищи в другом месте

---

← →
-=S.S=- ©   (2005-08-30 14:40) [3]

Format("%8.4f",[1.5999999999])
где 8 - количество цифр до запятой а  4 - после запятой

---

← →
-=S.S=- ©   (2005-08-30 14:41) [4]

Причём реззультат округляеться до заданой точности

---

← →
LORN   (2005-08-30 14:48) [5]

для Германна
FloatToStrF- помимо всего прочего делает округление 1.9999 будет двойкой при 2 знаках послезапятой

---

← →
LORN   (2005-08-30 15:02) [6]

для -=S.S=-
вот именно сто округляет а мне надо обрезать знаки после запятой

---

← →
Юрий Зотов ©   (2005-08-30 15:14) [7]

> LORN   (30.08.05 14:16)  

> прога вещается намертво(невсегда , но бывает частенько)

Вряд ли она вешается от RoundTo, Int, умножения и деления.

> как избавится от этого?

Найти отладчиком действительную причину зависания и устранить ее. Если этот завис связан именно с округлением, то вполне возможно, что он возникает от самого округления до двух цифр после запятой, а не от способа округления.

---

← →
LORN   (2005-08-30 15:17) [8]

так оно и есть
что то погаречился не туда полез
тема закрыта

---

Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.46 MB
Время: 0.023 c