Форум: "Прочее";
Текущий архив: 2006.10.08;
Скачать: [xml.tar.bz2];
ВнизНастоящий программер ответит на этот вопрос. Найти похожие ветки
← →
Cyrax © (2006-09-14 23:49) [40]Dbn (14.09.06 16:55)
Какое количество информации несёт в себе сообщение,о том что нужная вам программа находится на одной из 8 дискет??
Меня тут шандарахнуло хорошенько и я вдруг понял, что ето такое:
1. Что 8 дискет - по барабану
2. Что только на одной - тоже по барабану
3. Что это дискеты - и ето тоже по барабану
3. Если нужная прога отсутствует на дискетах не чаще и не реже, чем там бывает, то Шурнон будет настаивать на 2 битах...
4. Если бы нам всё было по барабану, то Шурнон обязательно бы выматерился... (0 битов)
← →
Ketmar © (2006-09-14 23:50) [41]совершенно никакого: нигде не сказано, что дискеты не битые.
← →
Mike Petrichenko (2006-09-15 00:19) [42]
> Какое количество информации несёт в себе сообщение,о том
> что нужная вам программа находится на одной из 8 дискет?
> ?
Во-первых, ИНФОРМАТИКА и КИБЕРНЕТИКА - науки, а ПРОГРАММИСТ - специальность (должность).
Во-вторых, ИНФОРМАТИКА и КИБЕРНЕТИКА ни есть ПРОГРАММИРОВАНИЕ (кодинг).
В-третьих, берем учебник по информатике за 80 какой-то год и читаем:
"...с точки зрения на информацию как на снятую неопределенность количество информации зависит от вероятности получения данного сообщения. Причем, чем больше вероятность события, тем меньше количество информации в сообщении о таком событии.
Иными словами, количество информации в сообщении о каком-то событии зависит от вероятности свершения данного события.
Научный подход к оценке сообщений был предложен еще в 1928 году Р.Хартли. Расчетная формула имеет вид:
I = log2 N или 2I = N,
где N - количество равновероятных событий (число возможных выборов),
I - количество информации.
Если N = 2 (выбор из двух возможностей), то I = 1 бит.
Бит выбран в качестве единицы количества информации потому, что принято считать, что двумя двоичными словами исходной длины k или словом длины 2k можно передать в 2 раза больше информации, чем одним исходным словом. Число возможных равновероятных выборов при этом увеличивается в 2k раз, тогда как I удваивается.
Иногда формула Хартли записывается иначе. Так как наступление каждого из N возможных событий имеет одинаковую вероятность p = 1 / N, то N = 1 / p и формула имеет вид
I = log2 (1/p) = - log2 p
Познакомимся с более общим случаем вычисления количества информации в сообщении об одном из N, но уже неравновероятных событий. Этот подход был предложен К.Шенноном в 1948 году.
Пусть имеется строка текста, содержащая тысячу букв. Буква “о” в тексте встречается примерно 90 раз, буква ”р” ~ 40 раз, буква “ф” ~ 2 раза, буква “а” ~ 200 раз. Поделив 200 на 1000, мы получим величину 0.2, которая представляет собой среднюю частоту, с которой в рассматриваемом тексте встречается буква “а”. Вероятность появления буквы “а” в тексте (pa)можем считать приблизительно равной 0.2. Аналогично, pр = 0.04, pф = 0.002, ро = 0.09.
Далее поступаем согласно К.Шеннону. Берем двоичный логарифм от величины 0.2 и называем то, что получилось количеством информации, которую переносит одна-единственная бква “а” в рассматриваемом тексте. Точно такую же операцию проделаем для каждой буквы. Тогда количество собственной информации, переносимой одной буквой равно
hi = log2 1/pi = - log2 pi,
где pi - вероятность появления в сообщении i-го символа алфавита.
Удобнее в качестве меры количества информации пользоваться не значением hi , а средним значением количества информации, приходящейся на один символ алфавита
H = S pi hi = - S pi log2 pi
Значение Н достигает максимума при равновероятных событиях, то есть при равенстве всех pi
pi = 1 / N.
В этом случае формула Шеннона превращается в формулу Хартли."
Ну а дальше считайте :)
← →
kaif © (2006-09-15 00:47) [43]Вопрос можно понимать двояко.
1. Если как сам факт того, что хотя бы на одной из восьми дискет находится то, что мне нужно, то сообщение содержит 1 бит информации, если я об этом до того не знал и вероятность такого события считал равной 50% (либо находится на одной из этих восьми дискет, либо нет - все равно других дискет мне не принесли).
2. Если понимать как сообщение о том, на какой конкретно из 8 дискет находится то, что мне нужно, и мне это ранее не было известно, то 3 бита.
Если же я уже был в курсе того, где находится то, что мне нужно, а мне сообщили об этом еще раз, то сообщение содержит ровно 0 бит информации.
Если я уже был в курсе, мне еще раз сообщили, а я сказал, что я в курсе, а человек не унимался и продолжал сообщать, то я в какой-то момент посчитаю, что получил сообщение информативностью 10 бит о том, что сообщающий мне эти вещи - конченный кретин (на вскидку я полагаю, что один кретин приходится в среднем на тысячу человек).
Если же я мизантроп и полагаю, что в этом мире все кретины кроме меня, а чел не не унимался мне сообщать известные мне вещи, то я получу почти 0 бит информации, убедившись очередной раз "на практике" в том, что все кретины.
Если же я Будда, то я не получу никакой информации ни в каком случае, так как меня не интересует ни нужная мне программа, ни чел, который принес мне дискеты, ни сами дискеты, ни сообщения о них, какими бы правдивыми и точными они ни были. Так как нирвана не в тосм, чтобы сообщения о том, что нужно считать информативными, а в том, чтобы понять, что они - такая же иллюзия (Майя), как и весь остальной материальный мир.
← →
Alx2 © (2006-09-15 00:52) [44]Mike Petrichenko, собственно, все написал.
Если я не накололся, то количество информации 3/8 бита
← →
Vlad © (2006-09-15 00:55) [45]
> kaif © (15.09.06 00:47) [43]
> Если же я уже был в курсе того, где находится то, что мне
> нужно, а мне сообщили об этом еще раз, то сообщение содержит
> ровно 0 бит информации.
ээ... простите, а причем тут знали вы или нет? Есть сообщение и оно содержит n бит информации, независимо ни от чего.
← →
Alx2 © (2006-09-15 00:57) [46]>Vlad © (15.09.06 00:55)
Да там рассуждения из серии
-какова вероятность встретить на улице крокодила?
-50%
- ?
-ну, либо встречу, либо нет.
← →
Mike Petrichenko (2006-09-15 00:58) [47]
> Если же я Будда, то я не получу никакой информации ни в
> каком случае, так как меня не интересует ни нужная мне программа,
> ни чел, который принес мне дискеты, ни сами дискеты, ни
> сообщения о них, какими бы правдивыми и точными они ни были.
> Так как нирвана не в тосм, чтобы сообщения о том, что нужно
> считать информативными, а в том, чтобы понять, что они -
> такая же иллюзия (Майя), как и весь остальной материальный
> мир.
Количество разума на Земле - величина постоянная. А население растет...
← →
Тугодум © (2006-09-15 09:53) [48]Удалено модератором
← →
SkyRanger © (2006-09-18 01:53) [49]Удалено модератором
← →
Тугодум © (2006-09-18 08:34) [50]Удалено модератором
← →
kaif © (2006-09-18 10:27) [51]Vlad © (15.09.06 00:55) [45]
ээ... простите, а причем тут знали вы или нет? Есть сообщение и оно содержит n бит информации, независимо ни от чего.
А вот и нет.
Сколько бит содержит сообщение в виде zip-архива?
Страницы: 1 2 вся ветка
Форум: "Прочее";
Текущий архив: 2006.10.08;
Скачать: [xml.tar.bz2];
Память: 0.55 MB
Время: 0.052 c