Форум: "Основная";
Поиск по всему сайту: delphimaster.net;
Текущий архив: 2002.03.18;
Скачать: [xml.tar.bz2];




Вниз

Почему так получается? 


виктор_л   (2002-03-01 11:46) [0]

Числа обрабатываются с precision=15. Затем они выводятся в StringGrid как FormatFloat("0.0000",число). Эта ф-ция их округляет как надо. Затем в последней колонке таблицы я
вывожу сумму например 1-ой строки. Фигня в том, что сумму то я считаю с реальной точностью (=15) по реальным цифрам, которые просто для отображения в SG округляются до 4 знаков, и итог становится меньше чем то, что стоит в строке!!!!
Я это дело переправляю в Excel - и сумма там получается больше,
чем реальная сумма! Ух...Надеюсь я корректно сформулировал проблему.



SDS   (2002-03-01 13:25) [1]

Значит надо в последней колонке считать по реальным числам, хранить их можно в свойстве Objects, как ссылки на вещественный тип, тот который ты используешь, только не забудь потом память освобождать.



виктор_л   (2002-03-01 14:23) [2]

to sds:
ты не в курсе, насколько вообще быстрый доступ к массиву Objects,
я просто никогда на работал с ним, больше с TListView.Items.Data
А здесь появилась необходимость...




Форум: "Основная";
Поиск по всему сайту: delphimaster.net;
Текущий архив: 2002.03.18;
Скачать: [xml.tar.bz2];




Наверх





Память: 0.72 MB
Время: 0.032 c
3-57306           Igor_                 2002-02-19 11:09  2002.03.18  
Потеря связи с базой


1-57352           xpyctuk               2002-03-04 15:22  2002.03.18  
ISAPI приложение - WebModule, Свойства Request and Response


3-57337           draculenok            2002-02-19 09:12  2002.03.18  
Вопрос по запросам


1-57378           ruslan_as             2002-03-01 13:52  2002.03.18  
Проверка на корректный ввод чисел


7-57538           Svit                  2001-12-15 15:21  2002.03.18  
Форматирование дискеты