Главная страница
    Top.Mail.Ru    Яндекс.Метрика
Форум: "Основная";
Текущий архив: 2002.03.18;
Скачать: [xml.tar.bz2];

Вниз

Почему так получается?   Найти похожие ветки 

 
виктор_л   (2002-03-01 11:46) [0]

Числа обрабатываются с precision=15. Затем они выводятся в StringGrid как FormatFloat("0.0000",число). Эта ф-ция их округляет как надо. Затем в последней колонке таблицы я
вывожу сумму например 1-ой строки. Фигня в том, что сумму то я считаю с реальной точностью (=15) по реальным цифрам, которые просто для отображения в SG округляются до 4 знаков, и итог становится меньше чем то, что стоит в строке!!!!
Я это дело переправляю в Excel - и сумма там получается больше,
чем реальная сумма! Ух...Надеюсь я корректно сформулировал проблему.



Страницы: 1 вся ветка

Форум: "Основная";
Текущий архив: 2002.03.18;
Скачать: [xml.tar.bz2];

Наверх





Память: 0.43 MB
Время: 0.005 c
1-57447
AnIg
2002-03-01 13:00
2002.03.18
В поисках компонента работы с графиками функций. Что посоветуете?


6-57483
Surf
2002-01-04 09:12
2002.03.18
Помогите! Не могу найти. Вопрос по NMHTTP.


6-57489
IrviS
2001-12-31 21:39
2002.03.18
Репликация


4-57578
МишА
2002-01-17 16:45
2002.03.18
Убить консольное приложение


14-57509
Niko_n
2002-02-04 21:04
2002.03.18
СОМ 2





Afrikaans Albanian Arabic Armenian Azerbaijani Basque Belarusian Bulgarian Catalan Chinese (Simplified) Chinese (Traditional) Croatian Czech Danish Dutch English Estonian Filipino Finnish French
Galician Georgian German Greek Haitian Creole Hebrew Hindi Hungarian Icelandic Indonesian Irish Italian Japanese Korean Latvian Lithuanian Macedonian Malay Maltese Norwegian
Persian Polish Portuguese Romanian Russian Serbian Slovak Slovenian Spanish Swahili Swedish Thai Turkish Ukrainian Urdu Vietnamese Welsh Yiddish Bengali Bosnian
Cebuano Esperanto Gujarati Hausa Hmong Igbo Javanese Kannada Khmer Lao Latin Maori Marathi Mongolian Nepali Punjabi Somali Tamil Telugu Yoruba
Zulu
Английский Французский Немецкий Итальянский Португальский Русский Испанский