Скачать: CL | DM;

Аналог printf в javascript   Найти похожие ветки 

← →
homm ©   (2006-11-20 12:29) [0]

никак не соображу как избавится от результатьв вычислений типа "0.0016799999999999999" без сабжа. Может кто знает сабж, или другой способ сглаживать неточность вычислений.

STFW не помогает :(

---

← →
Соловьев ©   (2006-11-20 12:45) [1]

Math.pow,
Math.round,
Math.floor

Str = Str.replace(new RegExp("%" + i), arguments[i]);

---

← →
homm ©   (2006-11-20 12:56) [2]

> Math.pow,
> Math.round,
> Math.floor

Как мне могут помочь функции округления до целого?


> Str = Str.replace(new RegExp("%" + i), arguments[i]);

можно расшифровать что имелось ввиду?

---

← →
palva ©   (2006-11-20 12:58) [3]

Что значит избавиться? Плавающая переменная всегда хранит приближенное значение да еще в двоичном виде. А десятичное число, которое вы написали всего лишь приближение того числа, которое хранится в реальности. Если у вас трудности при преобразовании вашего числа в строку, тогда опишите подробнее вашу ситуацию. Я с такими трудностями не сталкивался. Вот например следующий скрипт выдает 0,00168

d = 0.0016799999999999999;
WScript.Echo(d)

---

← →
palva ©   (2006-11-20 13:02) [4]

> Как мне могут помочь функции округления до целого?
Очень просто. Скажем вам нужно округлить положительное число до сотых.
Прибавляете пять тысячных, умножаете на сто, округляете до целого и делите на сто. Раньше это называлось арифметикой.

---

← →
homm ©   (2006-11-20 13:27) [5]

> Прибавляете пять тысячных, умножаете на сто, округляете
> до целого и делите на сто. Раньше это называлось арифметикой.

и опять получаю ту-же байду.


> Раньше это называлось арифметикой.
Ой, нужно здесь этого сарказма, я это первым делом попробывал.


> Вот например следующий скрипт выдает 0,00168
> d = 0.0016799999999999999;
> WScript.Echo(d)
слегка не то. Мне нужно не вывести в документ, а получить эту строку. d.toString() выдает с девятками на конце.

---

← →
palva ©   (2006-11-20 13:38) [6]

Тогда округляйте явно

d = 0.0016799999999999999;
d = Math.round(d*100000)/100000;
WScript.Echo(d.toString()) // 0,00168

---

Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.46 MB
Время: -0.972 c