Вниз
Скачать: CL | DM;

Extended   Найти похожие ветки 

← →
seleman   (2006-04-22 13:52) [0]

Привет.
Я пишу программу, где используется арифметика с плавающей точкой. В поле Edit у меня вводится вещественное число. Затем присваиваю это значение переменной типа REAL с помощью функции StrToFloat. Эта функция возвращает значение типа extended, из-за чего происходит некоторая потеря точности.
Тогда я стал использовать в своей программе вместо типа REAL тип EXTENDED. В таком случае будут ли какие-то проблемы при работе моей программы на других пратформах?


← →
MBo ©   (2006-04-22 13:58) [1]

На каких других платформах???


← →
palva ©   (2006-04-22 14:02) [2]

> из-за чего происходит некоторая потеря точности.
Вообще не должно происходить. Здесь и выбран тип Extended, потому что он обеспечивает самую высокую точность и в то же время является родным для сопроцессора.

Вопрос с другой платформой вряд ли возникнет, только если не будет передача данных в двоичном виде (если используете file of Extended, а потом читаете этот файл на Apple Macintosh)


← →
Desdechado ©   (2006-04-22 20:23) [3]

если посмотреть в справке, то там видно, что точность Real меньше точности Extended, поэтому потеря точности может быть только при преобразовании Extended->Real, но не наоборот



Страницы: 1 вся ветка

Скачать: CL | DM;



Память: 0.45 MB
Время: 0.024 c
2-1145784517
Mark86
2006-04-23 13:28
2006.05.14
как забить массив значений в Combobox?


8-1135068589
СергоБ
2005-12-20 11:49
2006.05.14
Как сохранить изображение Timage в BMP не более 5KB


2-1145751737
parovoZZ
2006-04-23 04:22
2006.05.14
dll и экспортируемые функции


3-1142694226
RealGanj
2006-03-18 18:03
2006.05.14
Вставка файла в поле LOB Oracle


15-1145346985
Сайбель Алексей
2006-04-18 11:56
2006.05.14
Difference Algorithm and Its Variations




   Наверх