Надмірність інформації: відмінності між версіями
| [неперевірена версія] | [неперевірена версія] |
Shynkar (обговорення | внесок) Немає опису редагування |
Shynkar (обговорення | внесок) Немає опису редагування |
||
| Рядок 4: | Рядок 4: | ||
В реальних умовах незалежність елементарних повідомлень, вироблюваних джерелом, — явище досить рідкісне. Частіше буває протилежне — сильний детермінований чи статистичний зв'язок між елементами повідомлення одного чи кількох джерел. |
В реальних умовах незалежність елементарних повідомлень, вироблюваних джерелом, — явище досить рідкісне. Частіше буває протилежне — сильний детермінований чи статистичний зв'язок між елементами повідомлення одного чи кількох джерел. |
||
Надмірність в інформаційних |
Надмірність в інформаційних [[структура]]х підвищує [[надійність]] їх роботи. Через це передбачена парність деяких аналізаторів (зорового, слухового). |
||
З іншого боку, надмірність ускладнює систему, збільшує час обробки інформації, знижує реальну [[Пропускна спроможність каналу|пропускну спроможність каналів]] зв'язку. Для її зменшення в цьому випадку використовують [[Код Хаффмана|оптимальне кодування]]. Тому визначення необхідної надмірності вирішується в кожному конкретному випадку, виходячи з особливостей розв'язуваної задачі і можливих обмежень. |
З іншого боку, надмірність ускладнює систему, збільшує час обробки інформації, знижує реальну [[Пропускна спроможність каналу|пропускну спроможність каналів]] зв'язку. Для її зменшення в цьому випадку використовують [[Код Хаффмана|оптимальне кодування]]. Тому визначення необхідної надмірності вирішується в кожному конкретному випадку, виходячи з особливостей розв'язуваної задачі і можливих обмежень. |
||
Версія за 19:11, 7 лютого 2015
Надмірність в теорії інформації це кількість бітів, використовуваних для передачі повідомлення мінус кількість бітів фактичної інформації в повідомленні. Неофіційно, це кількість витрачених марно «полів» в структурі, що використовується для передачі певних даних. Стиснення даних є способом зменшити або усунути небажану надмірність, в той час як контрольні суми — це спосіб додавання потрібної надмірності для цілей виявлення помилок при обміні даними по каналу з шумом.
Величина надмірності інформації пов'язана з фактичною кількістю інформації в джерелі. В реальних умовах незалежність елементарних повідомлень, вироблюваних джерелом, — явище досить рідкісне. Частіше буває протилежне — сильний детермінований чи статистичний зв'язок між елементами повідомлення одного чи кількох джерел.
Надмірність в інформаційних структурах підвищує надійність їх роботи. Через це передбачена парність деяких аналізаторів (зорового, слухового). З іншого боку, надмірність ускладнює систему, збільшує час обробки інформації, знижує реальну пропускну спроможність каналів зв'язку. Для її зменшення в цьому випадку використовують оптимальне кодування. Тому визначення необхідної надмірності вирішується в кожному конкретному випадку, виходячи з особливостей розв'язуваної задачі і можливих обмежень.
Приклади
Мінімальну нульову надмірність має тільки послідовність, в якій знаки незалежні і з вірогідністю 1/m можуть бути рівні будь-якій з m літер алфавіту. У великих нестиснутих текстових файлах низька інформаційна ентропія: будь-яка мова має особливості, які дозволяють відновити втрачені чи зашифровані літери.
Сучасні системи зв'язку побудовані без врахування особливостей, що існують у мові, а тому не досить ефективні, так як вони пристосовані для передачі рівноймовірних літер алфавіту, які можуть слідувати один за одним в будь-яких комбінаціях.
Колосальна надмірність притаманна телевізійним зображенням: природно передавати не весь кадр, а тільки інформацію про те, чим відрізняється один кадр від іншого. Цим можна істотно скоротити необхідну (в середньому) смугу частот.
