Главная страница | Контакты | Случайная страница Автомобили Астрономия Биология География Дом и сад Другие языки Другое Информатика История Культура Литература Логика Математика Медицина Металлургия Механика Образование Охрана труда Педагогика Политика Право Психология Религия Риторика Социология Спорт Строительство Технология Туризм Физика Философия Финансы Химия Черчение Экология Экономика Электроника

Количество и качество информации

Исследованием методов передачи, хранения и приема информа­ции занимается теория информации, инструментами которой служат теория случайных процессов, теория кодирования, математическая статистика, теория вероятностей. Внимание к проблеме передачи и количественной оценки информации было привлечено фундамен­тальными работами Н. Винера и К. Шеннона (США), положившими начало теории информации. Значительный вклад в теорию инфор­мации внесли отечественные ученые А.Н. Колмогоров, А.А. Харкевич, В.А. Котельников, работы которых хорошо известны специали­стам во всем мире.

Важнейшим этапом в теории развития информации явилась ко­личественная оценка информации. Только принимая за основу но­визну сведений, можно дать количественную оценку информации, так как новизна сведений является следствием неопределенности сведений об объекте, процессе, явлении, а неопределенность подда­ется измерению. Например, сообщение имени победившего на вы­борах в президенты, если было всего два кандидата, несет меньшее количество информации по сравнению со случаем, если бы выборы происходили и конкурентной борьбе пяти кандидатов.

Основываясь на идее, что информация устраняет некоторую не­определенность, т. е. незнание, описание любого события или объекта формально можно рассматривать как указание на то, в каком из воз­можных состояний находится описываемый объект. Тогда протека­ние событий во времени есть не что иное, как смена состояний, выб­ранных с некоторой вероятностью из числа всех возможных. Чем выше уровень неопределенности выбора, тем требуется больший объем информации, и результат выбора имеет значительную степень неожиданности. Вот почему в теории информации количество ин­формации является мерой снятия неопределенности одной случай­ной величины в результате наблюдения задругой. Если величины не­зависимы, то количество информации равно нулю.

Самым простейшим случаем является выбор альтернативы из двух событий. Поэтому за единицу информации целесообразно принять количество информации, заключенное в выборе одного из двух рав­новероятных событий. Эта единица называется двоичной единицей, или битом {binary digit, bit). Итак, при любой неопределенности сужение области выбора вдвое дает одну единицу информации. В физике су­ществует понятие энтропии, которая характеризует степень неупоря­доченности (хаотичности) физической системы. Неупорядоченность может быть интерпретирована в смысле того, насколько мало извест­но наблюдателю о данной системе. Как только наблюдатель выявил что-нибудь в физической системе, так энтропия системы снизилась, ибо для наблюдателя система стала более упорядоченной. И если мак­симум энтропии соответствует абсолютно случайному состоянию системы, то максимум информации характеризует полностью упоря­доченную (детерминированную) систему. Одним словом, энтропия системы выражает степень ее неупорядоченности, а информация дает меру ее организации.

Формулу измерения количества информации можно получить эмпирически: для снятия неопределенности в ситуации из двух рав­новероятных событий необходим один бит информации; при неопре­деленности, состоящей из четырех событий, достаточно двух бит информации, чтобы угадать искомый факт. Это рассуждение можно продолжить: 3 бита информации соответствуют неопределенности из 8 равновероятных событий, 4 бита - 16 равновероятных событий и т. д. Таким образом, если сообщение указывает на один из п рав­новероятных вариантов, то оно несет количество информации, рав­ное log₂n. Действительно, из наших примеров log ₂16 =4, log ₂8 =3 и т. д. Ту же формулу можно словесно выразить иначе: количество информации равно степени, в которую необходимо возвести 2, что­бы получить число равноправных вариантов выбора, т.е. 2'= 16, где i = 4 бита.

Будем различать понятия «информация» и «сообщение». Под сообщением обычно подразумевают информацию, выраженную в оп­ределенной форме и подлежащую передаче. Сообщение — это форма представления информации. Есть одна особенность, которая связана с количеством хранимой или переданной информации, представленной в двоичных единицах, и количеством информации, заключенным в данном сообщении. С точки зрения теории информации, неопре­деленность, снимаемая в результате передачи одной страницы текста примерно из 2000 знаков, может составлять всего несколько бит (неин­формативное сообщение), в то время как эта же страница при кодиро­вании букв 8-элементными кодовыми комбинациями будет содержать 16 х 10³ бит, хотя это не есть количество информации, заключенное в данном тексте.

Измерение только количества информации не отвечает насущ­ным потребностям современного общества — необходима мера цен­ности информации. Проблема определения ценности информации исключительно актуальна в настоящее время, когда уже трудно даже с помощью компьютеров обрабатывать мощные информационные потоки. Разработанные методы определения ценности информации призваны сыграть существенную роль в получении человеком необ­ходимой информации.

Вообще, оценка значимости информации производится челове­ком часто интуитивно на основе использования интеллекта и опыта. Информация называется полезной, если она уменьшает неопределен­ность решающего алгоритма. По мнению М.М. Бонгарда, не имеет смысла говорить о полезной информации, содержащейся в сигнале, если не указаны задача, которая решается, начальное состояние ре­шающего алгоритма и свойства декодирующего алгоритма. Амери­канским ученым Н. Винером предпринята попытка построить се­мантическую теорию информации. Суть ее состоит и том, что для понимания и использования информации ее получатель должен об­ладать определенным запасом знаний. Действительно, полное незна­ние предмета не позволяет извлечь существенной научной информа­ции из принятого сообщения об этом предмете. По мере роста наших знаний о предмете растет и количество научной информации, извле­каемой из сообщения.

Если назвать имеющиеся у получателя знания о данном предмете тезаурусом (т. е. неким сводом слов, понятий, названий объектов, связанных смысловыми связями), то количество информации, со­держащейся в некотором сообщении, можно оценить степенью из­менения индивидуального тезауруса под воздействием данного со­общения. Иными словами, количество семантической информации, извлекаемой получателем из поступающих сообщений, зависит от степени подготовленности его тезауруса для восприятия такой ин­формации. В связи с этим появилось понятие общечеловеческого тезауруса, относительно которого можно было бы измерять семан­тическую ценность научной информации. Это сделано в попытках найти такую меру ценности информации, которая не зависела бы от состояния ее индивидуального приемника.

Пока можно сделать вывод, что задача определения ценности информации при достаточной степени формализации, которая тре­буется при компьютеризованной оценке, еще не решена, однако это не означает невозможности ее решения в будущем.