Главная страница
    Top.Mail.Ru    Яндекс.Метрика
Форум: "Прочее";
Текущий архив: 2006.12.10;
Скачать: [xml.tar.bz2];

Вниз

Аналог printf в javascript   Найти похожие ветки 

 
homm ©   (2006-11-20 12:29) [0]

никак не соображу как избавится от результатьв вычислений типа "0.0016799999999999999" без сабжа. Может кто знает сабж, или другой способ сглаживать неточность вычислений.

STFW не помогает :(


 
Соловьев ©   (2006-11-20 12:45) [1]

Math.pow,
Math.round,
Math.floor

Str = Str.replace(new RegExp("%" + i), arguments[i]);


 
homm ©   (2006-11-20 12:56) [2]

> Math.pow,
> Math.round,
> Math.floor

Как мне могут помочь функции округления до целого?


> Str = Str.replace(new RegExp("%" + i), arguments[i]);

можно расшифровать что имелось ввиду?


 
palva ©   (2006-11-20 12:58) [3]

Что значит избавиться? Плавающая переменная всегда хранит приближенное значение да еще в двоичном виде. А десятичное число, которое вы написали всего лишь приближение того числа, которое хранится в реальности. Если у вас трудности при преобразовании вашего числа в строку, тогда опишите подробнее вашу ситуацию. Я с такими трудностями не сталкивался. Вот например следующий скрипт выдает 0,00168

d = 0.0016799999999999999;
WScript.Echo(d)


 
palva ©   (2006-11-20 13:02) [4]

> Как мне могут помочь функции округления до целого?
Очень просто. Скажем вам нужно округлить положительное число до сотых.
Прибавляете пять тысячных, умножаете на сто, округляете до целого и делите на сто. Раньше это называлось арифметикой.


 
homm ©   (2006-11-20 13:27) [5]

> Прибавляете пять тысячных, умножаете на сто, округляете
> до целого и делите на сто. Раньше это называлось арифметикой.

и опять получаю ту-же байду.


> Раньше это называлось арифметикой.
Ой, нужно здесь этого сарказма, я это первым делом попробывал.


> Вот например следующий скрипт выдает 0,00168
> d = 0.0016799999999999999;
> WScript.Echo(d)
слегка не то. Мне нужно не вывести в документ, а получить эту строку. d.toString() выдает с девятками на конце.


 
palva ©   (2006-11-20 13:38) [6]

Тогда округляйте явно

d = 0.0016799999999999999;
d = Math.round(d*100000)/100000;
WScript.Echo(d.toString()) // 0,00168



Страницы: 1 вся ветка

Форум: "Прочее";
Текущий архив: 2006.12.10;
Скачать: [xml.tar.bz2];

Наверх




Память: 0.45 MB
Время: 0.039 c
2-1164199029
Виктор1
2006-11-22 15:37
2006.12.10
Получение компонентов окна


15-1163777445
Rbn
2006-11-17 18:30
2006.12.10
Delphi 7


2-1164101119
Anieshechka
2006-11-21 12:25
2006.12.10
HELP!!!!!!!


1-1162188144
Shopot
2006-10-30 09:02
2006.12.10
Печать.


2-1164481225
Ezorcist
2006-11-25 22:00
2006.12.10
readln в консольном приложении





Afrikaans Albanian Arabic Armenian Azerbaijani Basque Belarusian Bulgarian Catalan Chinese (Simplified) Chinese (Traditional) Croatian Czech Danish Dutch English Estonian Filipino Finnish French
Galician Georgian German Greek Haitian Creole Hebrew Hindi Hungarian Icelandic Indonesian Irish Italian Japanese Korean Latvian Lithuanian Macedonian Malay Maltese Norwegian
Persian Polish Portuguese Romanian Russian Serbian Slovak Slovenian Spanish Swahili Swedish Thai Turkish Ukrainian Urdu Vietnamese Welsh Yiddish Bengali Bosnian
Cebuano Esperanto Gujarati Hausa Hmong Igbo Javanese Kannada Khmer Lao Latin Maori Marathi Mongolian Nepali Punjabi Somali Tamil Telugu Yoruba
Zulu
Английский Французский Немецкий Итальянский Португальский Русский Испанский