Главная страница
    Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2006.12.10;
Скачать: CL | DM;

Вниз

Аналог printf в javascript   Найти похожие ветки 

 
homm ©   (2006-11-20 12:29) [0]

никак не соображу как избавится от результатьв вычислений типа "0.0016799999999999999" без сабжа. Может кто знает сабж, или другой способ сглаживать неточность вычислений.

STFW не помогает :(


 
Соловьев ©   (2006-11-20 12:45) [1]

Math.pow,
Math.round,
Math.floor

Str = Str.replace(new RegExp("%" + i), arguments[i]);


 
homm ©   (2006-11-20 12:56) [2]

> Math.pow,
> Math.round,
> Math.floor

Как мне могут помочь функции округления до целого?


> Str = Str.replace(new RegExp("%" + i), arguments[i]);

можно расшифровать что имелось ввиду?


 
palva ©   (2006-11-20 12:58) [3]

Что значит избавиться? Плавающая переменная всегда хранит приближенное значение да еще в двоичном виде. А десятичное число, которое вы написали всего лишь приближение того числа, которое хранится в реальности. Если у вас трудности при преобразовании вашего числа в строку, тогда опишите подробнее вашу ситуацию. Я с такими трудностями не сталкивался. Вот например следующий скрипт выдает 0,00168

d = 0.0016799999999999999;
WScript.Echo(d)


 
palva ©   (2006-11-20 13:02) [4]

> Как мне могут помочь функции округления до целого?
Очень просто. Скажем вам нужно округлить положительное число до сотых.
Прибавляете пять тысячных, умножаете на сто, округляете до целого и делите на сто. Раньше это называлось арифметикой.


 
homm ©   (2006-11-20 13:27) [5]

> Прибавляете пять тысячных, умножаете на сто, округляете
> до целого и делите на сто. Раньше это называлось арифметикой.

и опять получаю ту-же байду.


> Раньше это называлось арифметикой.
Ой, нужно здесь этого сарказма, я это первым делом попробывал.


> Вот например следующий скрипт выдает 0,00168
> d = 0.0016799999999999999;
> WScript.Echo(d)
слегка не то. Мне нужно не вывести в документ, а получить эту строку. d.toString() выдает с девятками на конце.


 
palva ©   (2006-11-20 13:38) [6]

Тогда округляйте явно

d = 0.0016799999999999999;
d = Math.round(d*100000)/100000;
WScript.Echo(d.toString()) // 0,00168



Страницы: 1 вся ветка

Текущий архив: 2006.12.10;
Скачать: CL | DM;

Наверх




Память: 0.45 MB
Время: 0.049 c
2-1164304730
Jimmy
2006-11-23 20:58
2006.12.10
Компонент должен потерять фокус


2-1164211676
lobach
2006-11-22 19:07
2006.12.10
Как очистить ValueListEditor?


2-1164040438
Vasiliy
2006-11-20 19:33
2006.12.10
Как обработать WM_NCMOUSEMOVE на не клиентской области?


1-1161710150
7D7
2006-10-24 21:15
2006.12.10
Как узнать объем памяти для данных?


2-1163944177
Anth
2006-11-19 16:49
2006.12.10
форма на панели пуск





Afrikaans Albanian Arabic Armenian Azerbaijani Basque Belarusian Bulgarian Catalan Chinese (Simplified) Chinese (Traditional) Croatian Czech Danish Dutch English Estonian Filipino Finnish French
Galician Georgian German Greek Haitian Creole Hebrew Hindi Hungarian Icelandic Indonesian Irish Italian Japanese Korean Latvian Lithuanian Macedonian Malay Maltese Norwegian
Persian Polish Portuguese Romanian Russian Serbian Slovak Slovenian Spanish Swahili Swedish Thai Turkish Ukrainian Urdu Vietnamese Welsh Yiddish Bengali Bosnian
Cebuano Esperanto Gujarati Hausa Hmong Igbo Javanese Kannada Khmer Lao Latin Maori Marathi Mongolian Nepali Punjabi Somali Tamil Telugu Yoruba
Zulu
Английский Французский Немецкий Итальянский Португальский Русский Испанский