Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2006.05.14;
Скачать: CL | DM;

Вниз

Extended   Найти похожие ветки 

 
seleman   (2006-04-22 13:52) [0]

Привет.
Я пишу программу, где используется арифметика с плавающей точкой. В поле Edit у меня вводится вещественное число. Затем присваиваю это значение переменной типа REAL с помощью функции StrToFloat. Эта функция возвращает значение типа extended, из-за чего происходит некоторая потеря точности.
Тогда я стал использовать в своей программе вместо типа REAL тип EXTENDED. В таком случае будут ли какие-то проблемы при работе моей программы на других пратформах?


 
MBo ©   (2006-04-22 13:58) [1]

На каких других платформах???


 
palva ©   (2006-04-22 14:02) [2]

> из-за чего происходит некоторая потеря точности.
Вообще не должно происходить. Здесь и выбран тип Extended, потому что он обеспечивает самую высокую точность и в то же время является родным для сопроцессора.

Вопрос с другой платформой вряд ли возникнет, только если не будет передача данных в двоичном виде (если используете file of Extended, а потом читаете этот файл на Apple Macintosh)


 
Desdechado ©   (2006-04-22 20:23) [3]

если посмотреть в справке, то там видно, что точность Real меньше точности Extended, поэтому потеря точности может быть только при преобразовании Extended->Real, но не наоборот



Страницы: 1 вся ветка

Текущий архив: 2006.05.14;
Скачать: CL | DM;

Наверх




Память: 0.47 MB
Время: 0.04 c
2-1145953790
fast2
2006-04-25 12:29
2006.05.14
Не помещается SQL-запрос в строке. Пишет: должно быть...


2-1146060808
Vidkart
2006-04-26 18:13
2006.05.14
Найти и заменить (работа с текстом)


2-1146044154
valdemot
2006-04-26 13:35
2006.05.14
Скрипты в программе


2-1146124058
49 Cent
2006-04-27 11:47
2006.05.14
Display Format для Label


6-1137857835
GanibalLector
2006-01-21 18:37
2006.05.14
(Berkeley-style sockets) теория