Форум: "Прочее";
Текущий архив: 2006.08.27;
Скачать: [xml.tar.bz2];
ВнизЧто случилось с Cos Найти похожие ветки
← →
eowl (2006-07-30 06:06) [0]Почему Cos (degtorad(90)) равен 2.7...
Он в принципе может изменятся только в пределах [-1,1]
← →
KilkennyCat © (2006-07-30 06:27) [1]Компьютер военного образца.
← →
KilkennyCat © (2006-07-30 06:34) [2]А вообще, забавно...откуда такие цифирь.
у меня например, значение во-первых, отрицаиельное, а во-вторых с офигенным минусовым E.
Так что, компьютер, похоже, нормальный. А вот за ним - военный...
← →
eowl (2006-07-30 09:46) [3]Так и думал, что кто-нибудь припомнит эту шутку из предыдущего топика... ))
Да кстати у меня тоже отрицательное, да не в этом дело. Оно не должно быть по модулю большим единицы. Там вообще нуль должен быть. ))
← →
KilkennyCat © (2006-07-30 10:29) [4]оно не больше. Еше раз читаем про E.
← →
Marser © (2006-07-30 10:51) [5]2.7E-30 не считается, в приличных домах так ноль называют :-))
А если серьёзно, то учи матчасть. Точный перевод десятичной дроби в двоичный формат и наоборот невозможен (переведи 0.3), поэтому к такой вот каке нужно привыкать.
← →
DiamondShark © (2006-07-30 11:01) [6]
> Точный перевод десятичной дроби в двоичный формат и наоборот
> невозможен
Что, даже 0,5 нельзя точно перевести?
← →
Marser © (2006-07-30 11:10) [7]> [6] DiamondShark © (30.07.06 11:01)
>
> > Точный перевод десятичной дроби в двоичный формат и наоборот
>
> > невозможен
>
> Что, даже 0,5 нельзя точно перевести?
Можно, конечно. Это я неточно сформулировал. Все дробные части, содержащие только сумму отрицательных степеней двойки, можнео перевести точно.
← →
eowl (2006-07-30 22:22) [8]Спасибо, а то я уже начал сомневаться в честности cos.. )))
Значит -30 это степень? Ну ладно, прочитаю еще матчасть по этой теме..
← →
Marser © (2006-07-30 22:52) [9]> [8] eowl (30.07.06 22:22)
> Спасибо, а то я уже начал сомневаться в честности cos..
> )))
> Значит -30 это степень? Ну ладно, прочитаю еще матчасть
> по этой теме..
Почита вот это http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374
Статья оценивается достаточно высоко и уже давненько стала главным ответом на подобные вопросы.
← →
Cardinal © (2006-07-30 23:39) [10]> Значит -30 это степень? Ну ладно, прочитаю еще матчасть
ага. Помню у меня была ошибка по этой части цифр, которые близяться к нулю. В одном из отчетов забыл округление. Там должен был получиться нуль. а было что-то вроде 5.2345. Оказалось, это tprReport то ли сам обрезал концовку числа то ли оно там не влезало. Вобщем число было 5.23452E-27 а отображалось неправильно.
Страницы: 1 вся ветка
Форум: "Прочее";
Текущий архив: 2006.08.27;
Скачать: [xml.tar.bz2];
Память: 0.47 MB
Время: 0.049 c