Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2006.12.10;
Скачать: CL | DM;

Вниз

Аналог printf в javascript   Найти похожие ветки 

 
homm ©   (2006-11-20 12:29) [0]

никак не соображу как избавится от результатьв вычислений типа "0.0016799999999999999" без сабжа. Может кто знает сабж, или другой способ сглаживать неточность вычислений.

STFW не помогает :(


 
Соловьев ©   (2006-11-20 12:45) [1]

Math.pow,
Math.round,
Math.floor

Str = Str.replace(new RegExp("%" + i), arguments[i]);


 
homm ©   (2006-11-20 12:56) [2]

> Math.pow,
> Math.round,
> Math.floor

Как мне могут помочь функции округления до целого?


> Str = Str.replace(new RegExp("%" + i), arguments[i]);

можно расшифровать что имелось ввиду?


 
palva ©   (2006-11-20 12:58) [3]

Что значит избавиться? Плавающая переменная всегда хранит приближенное значение да еще в двоичном виде. А десятичное число, которое вы написали всего лишь приближение того числа, которое хранится в реальности. Если у вас трудности при преобразовании вашего числа в строку, тогда опишите подробнее вашу ситуацию. Я с такими трудностями не сталкивался. Вот например следующий скрипт выдает 0,00168

d = 0.0016799999999999999;
WScript.Echo(d)


 
palva ©   (2006-11-20 13:02) [4]

> Как мне могут помочь функции округления до целого?
Очень просто. Скажем вам нужно округлить положительное число до сотых.
Прибавляете пять тысячных, умножаете на сто, округляете до целого и делите на сто. Раньше это называлось арифметикой.


 
homm ©   (2006-11-20 13:27) [5]

> Прибавляете пять тысячных, умножаете на сто, округляете
> до целого и делите на сто. Раньше это называлось арифметикой.

и опять получаю ту-же байду.


> Раньше это называлось арифметикой.
Ой, нужно здесь этого сарказма, я это первым делом попробывал.


> Вот например следующий скрипт выдает 0,00168
> d = 0.0016799999999999999;
> WScript.Echo(d)
слегка не то. Мне нужно не вывести в документ, а получить эту строку. d.toString() выдает с девятками на конце.


 
palva ©   (2006-11-20 13:38) [6]

Тогда округляйте явно

d = 0.0016799999999999999;
d = Math.round(d*100000)/100000;
WScript.Echo(d.toString()) // 0,00168



Страницы: 1 вся ветка

Текущий архив: 2006.12.10;
Скачать: CL | DM;

Наверх




Память: 0.48 MB
Время: 0.028 c
15-1162923155
sniknik
2006-11-07 21:12
2006.12.10
Кому не жалко 11мег... ;о)


2-1164527238
Chuk & Gek
2006-11-26 10:47
2006.12.10
мыло


15-1164090702
Cerberus
2006-11-21 09:31
2006.12.10
Где скачать учебники


15-1164275097
Rule
2006-11-23 12:44
2006.12.10
тут друг добавил ролик на конкурс, кому не жалко и у кого есть


15-1163817022
Ппп
2006-11-18 05:30
2006.12.10
Посоветуйте программу