Главная страница
    Top.Mail.Ru    Яндекс.Метрика
Форум: "Прочее";
Текущий архив: 2006.12.10;
Скачать: [xml.tar.bz2];

Вниз

Аналог printf в javascript   Найти похожие ветки 

 
homm ©   (2006-11-20 12:29) [0]

никак не соображу как избавится от результатьв вычислений типа "0.0016799999999999999" без сабжа. Может кто знает сабж, или другой способ сглаживать неточность вычислений.

STFW не помогает :(


 
Соловьев ©   (2006-11-20 12:45) [1]

Math.pow,
Math.round,
Math.floor

Str = Str.replace(new RegExp("%" + i), arguments[i]);


 
homm ©   (2006-11-20 12:56) [2]

> Math.pow,
> Math.round,
> Math.floor

Как мне могут помочь функции округления до целого?


> Str = Str.replace(new RegExp("%" + i), arguments[i]);

можно расшифровать что имелось ввиду?


 
palva ©   (2006-11-20 12:58) [3]

Что значит избавиться? Плавающая переменная всегда хранит приближенное значение да еще в двоичном виде. А десятичное число, которое вы написали всего лишь приближение того числа, которое хранится в реальности. Если у вас трудности при преобразовании вашего числа в строку, тогда опишите подробнее вашу ситуацию. Я с такими трудностями не сталкивался. Вот например следующий скрипт выдает 0,00168

d = 0.0016799999999999999;
WScript.Echo(d)


 
palva ©   (2006-11-20 13:02) [4]

> Как мне могут помочь функции округления до целого?
Очень просто. Скажем вам нужно округлить положительное число до сотых.
Прибавляете пять тысячных, умножаете на сто, округляете до целого и делите на сто. Раньше это называлось арифметикой.


 
homm ©   (2006-11-20 13:27) [5]

> Прибавляете пять тысячных, умножаете на сто, округляете
> до целого и делите на сто. Раньше это называлось арифметикой.

и опять получаю ту-же байду.


> Раньше это называлось арифметикой.
Ой, нужно здесь этого сарказма, я это первым делом попробывал.


> Вот например следующий скрипт выдает 0,00168
> d = 0.0016799999999999999;
> WScript.Echo(d)
слегка не то. Мне нужно не вывести в документ, а получить эту строку. d.toString() выдает с девятками на конце.


 
palva ©   (2006-11-20 13:38) [6]

Тогда округляйте явно

d = 0.0016799999999999999;
d = Math.round(d*100000)/100000;
WScript.Echo(d.toString()) // 0,00168



Страницы: 1 вся ветка

Форум: "Прочее";
Текущий архив: 2006.12.10;
Скачать: [xml.tar.bz2];

Наверх




Память: 0.45 MB
Время: 0.043 c
2-1164113604
IGo
2006-11-21 15:53
2006.12.10
Delphi Количество страниц в Word е


15-1164103022
Mva
2006-11-21 12:57
2006.12.10
Не компилируется проект


3-1158810664
Lex_!
2006-09-21 07:51
2006.12.10
Формирование меню из таблици базы данных


15-1163667927
DelphiLexx
2006-11-16 12:05
2006.12.10
Помогите подобрать цвет для заголовков групп grid a


15-1163881631
Alexis
2006-11-18 23:27
2006.12.10
Windows.pas из установки Delphi7





Afrikaans Albanian Arabic Armenian Azerbaijani Basque Belarusian Bulgarian Catalan Chinese (Simplified) Chinese (Traditional) Croatian Czech Danish Dutch English Estonian Filipino Finnish French
Galician Georgian German Greek Haitian Creole Hebrew Hindi Hungarian Icelandic Indonesian Irish Italian Japanese Korean Latvian Lithuanian Macedonian Malay Maltese Norwegian
Persian Polish Portuguese Romanian Russian Serbian Slovak Slovenian Spanish Swahili Swedish Thai Turkish Ukrainian Urdu Vietnamese Welsh Yiddish Bengali Bosnian
Cebuano Esperanto Gujarati Hausa Hmong Igbo Javanese Kannada Khmer Lao Latin Maori Marathi Mongolian Nepali Punjabi Somali Tamil Telugu Yoruba
Zulu
Английский Французский Немецкий Итальянский Португальский Русский Испанский