Форум: "Прочее";
Текущий архив: 2006.12.10;
Скачать: [xml.tar.bz2];
ВнизАналог printf в javascript Найти похожие ветки
← →
homm © (2006-11-20 12:29) [0]никак не соображу как избавится от результатьв вычислений типа "0.0016799999999999999" без сабжа. Может кто знает сабж, или другой способ сглаживать неточность вычислений.
STFW не помогает :(
← →
Соловьев © (2006-11-20 12:45) [1]Math.pow,
Math.round,
Math.floor
Str = Str.replace(new RegExp("%" + i), arguments[i]);
← →
homm © (2006-11-20 12:56) [2]> Math.pow,
> Math.round,
> Math.floor
Как мне могут помочь функции округления до целого?
> Str = Str.replace(new RegExp("%" + i), arguments[i]);
можно расшифровать что имелось ввиду?
← →
palva © (2006-11-20 12:58) [3]Что значит избавиться? Плавающая переменная всегда хранит приближенное значение да еще в двоичном виде. А десятичное число, которое вы написали всего лишь приближение того числа, которое хранится в реальности. Если у вас трудности при преобразовании вашего числа в строку, тогда опишите подробнее вашу ситуацию. Я с такими трудностями не сталкивался. Вот например следующий скрипт выдает 0,00168
d = 0.0016799999999999999;
WScript.Echo(d)
← →
palva © (2006-11-20 13:02) [4]> Как мне могут помочь функции округления до целого?
Очень просто. Скажем вам нужно округлить положительное число до сотых.
Прибавляете пять тысячных, умножаете на сто, округляете до целого и делите на сто. Раньше это называлось арифметикой.
← →
homm © (2006-11-20 13:27) [5]> Прибавляете пять тысячных, умножаете на сто, округляете
> до целого и делите на сто. Раньше это называлось арифметикой.
и опять получаю ту-же байду.
> Раньше это называлось арифметикой.
Ой, нужно здесь этого сарказма, я это первым делом попробывал.
> Вот например следующий скрипт выдает 0,00168
> d = 0.0016799999999999999;
> WScript.Echo(d)
слегка не то. Мне нужно не вывести в документ, а получить эту строку. d.toString() выдает с девятками на конце.
← →
palva © (2006-11-20 13:38) [6]Тогда округляйте явно
d = 0.0016799999999999999;
d = Math.round(d*100000)/100000;
WScript.Echo(d.toString()) // 0,00168
Страницы: 1 вся ветка
Форум: "Прочее";
Текущий архив: 2006.12.10;
Скачать: [xml.tar.bz2];
Память: 0.45 MB
Время: 0.047 c