вычисления с плавующей точкой

← →
LORN (2005-08-30 14:16) [0]

в проге есть вычисления , результат получается дробный
какой функцией (или другим способом) можно получить число с определеным колиством чисел после запятой (есть 1,99999 надо 1,99). надо имено чтоб число обрезалось на нужное количество знаков, а не округлялось

на этом форуме дали ответ
RoundTo(Int(X*100)/100,-2)

функция работает
но прога вещается намертво(невсегда , но бывает частенько)

как избавится от этого? или другой вариант
плиз хелп
заранее спасибо

← →
Германн © (2005-08-30 14:21) [1]

FormatFloat
FloatToStrF

← →
Александр Иванов © (2005-08-30 14:38) [2]

почему вешается прога ищи в другом месте

← →
-=S.S=- © (2005-08-30 14:40) [3]

Format("%8.4f",[1.5999999999])
где 8 - количество цифр до запятой а 4 - после запятой

← →
-=S.S=- © (2005-08-30 14:41) [4]

Причём реззультат округляеться до заданой точности

← →
LORN (2005-08-30 14:48) [5]

для Германна
FloatToStrF- помимо всего прочего делает округление 1.9999 будет двойкой при 2 знаках послезапятой

← →
LORN (2005-08-30 15:02) [6]

для -=S.S=-
вот именно сто округляет а мне надо обрезать знаки после запятой

> LORN (30.08.05 14:16)

> прога вещается намертво(невсегда , но бывает частенько)

Вряд ли она вешается от RoundTo, Int, умножения и деления.

> как избавится от этого?

Найти отладчиком действительную причину зависания и устранить ее. Если этот завис связан именно с округлением, то вполне возможно, что он возникает от самого округления до двух цифр после запятой, а не от способа округления.

← →
LORN (2005-08-30 15:17) [8]

так оно и есть
что то погаречился не туда полез
тема закрыта

вычисления с плавующей точкой Найти похожие ветки