Главная страница
Top.Mail.Ru    Яндекс.Метрика
Текущий архив: 2002.03.18;
Скачать: CL | DM;

Вниз

Почему так получается?   Найти похожие ветки 

 
виктор_л   (2002-03-01 11:46) [0]

Числа обрабатываются с precision=15. Затем они выводятся в StringGrid как FormatFloat("0.0000",число). Эта ф-ция их округляет как надо. Затем в последней колонке таблицы я
вывожу сумму например 1-ой строки. Фигня в том, что сумму то я считаю с реальной точностью (=15) по реальным цифрам, которые просто для отображения в SG округляются до 4 знаков, и итог становится меньше чем то, что стоит в строке!!!!
Я это дело переправляю в Excel - и сумма там получается больше,
чем реальная сумма! Ух...Надеюсь я корректно сформулировал проблему.


 
SDS ©   (2002-03-01 13:25) [1]

Значит надо в последней колонке считать по реальным числам, хранить их можно в свойстве Objects, как ссылки на вещественный тип, тот который ты используешь, только не забудь потом память освобождать.


 
виктор_л   (2002-03-01 14:23) [2]

to sds:
ты не в курсе, насколько вообще быстрый доступ к массиву Objects,
я просто никогда на работал с ним, больше с TListView.Items.Data
А здесь появилась необходимость...



Страницы: 1 вся ветка

Текущий архив: 2002.03.18;
Скачать: CL | DM;

Наверх




Память: 0.47 MB
Время: 0.007 c
1-57341
Eraser
2002-03-01 11:44
2002.03.18
вопрос о множествах


1-57361
Rash
2002-03-03 23:25
2002.03.18
Округление переменной до 2 цифр


1-57386
Tsatur Soft
2002-02-24 22:34
2002.03.18
Нужен совет!


3-57332
sniknik
2002-02-19 11:34
2002.03.18
От чего зависит кодировка в базах Paradox?


4-57554
unKNOWN uSER
2002-01-18 00:19
2002.03.18
Создание окна и кнопки на нем