Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2006.10.22;
Скачать: CL | DM;

Вниз

Вычисления   Найти похожие ветки 

 
APiC ©   (2006-10-01 09:36) [0]

на калькуляторе точность вычислений выше, например при делении, чем в делфи при использовании типа extended, как можно увеличить точность?


 
DrPass ©   (2006-10-01 12:31) [1]

extended - "максимальный" (сорри за косноязычный термин) вещественный тип, аппаратно поддерживаемый процессором. Для более точных расчетов придется писать свои математические алгоритмы. Так что либо сам пиши процедуры арифметических операций (программу деления "в столбик" сделаешь?), либо ищи уже готовые модули с ними


 
Alx2 ©   (2006-10-01 15:08) [2]

>APiC ©   (01.10.06 09:36)

Почему так решили? Может, дело в том, что одно и то же число они просто по-разному изображают? Попробуйте сравнить используя экспоненциальный формат вывода.


 
Суслик ©   (2006-10-01 22:02) [3]


> Alx2 ©   (01.10.06 15:08) [2]

windoвый калькулятор считает очень точно, точнее некуда.
я в свое время писал свой числовой тип. Если не ошибаюсь, то аналогичной точности я достиг, когда мои числа были аж с 30 (точным!, не плавающими) знаками после запятой.


 
Ketmar ©   (2006-10-01 22:32) [4]

если не ошибаюсь, то виндовый калькулятор имеет свою библиотеку для больших чисел. по крайней мере в исходниках Win2K она упоминается. %-)



Страницы: 1 вся ветка

Текущий архив: 2006.10.22;
Скачать: CL | DM;

Наверх




Память: 0.47 MB
Время: 0.05 c
15-1159365028
Piter
2006-09-27 17:50
2006.10.22
Подскажите простой и надежный движок форума


3-1156746777
pic509
2006-08-28 10:32
2006.10.22
Динамически изменяемый запрос из Хранимой процедуры


4-1149617994
Ветерок
2006-06-06 22:19
2006.10.22
ну как всё-таки измерить частоту при помощи com - порта ?


2-1159904904
Lelja
2006-10-03 23:48
2006.10.22
размещение справки в проге


15-1159434177
Тульский
2006-09-28 13:02
2006.10.22
Тонер для лазерных принтеров