Надмірність інформації: відмінності між версіями
| [неперевірена версія] | [неперевірена версія] |
Shynkar (обговорення | внесок) Немає опису редагування |
Shynkar (обговорення | внесок) Немає опису редагування |
||
| Рядок 3: | Рядок 3: | ||
Величина надмірності інформації пов'язана з фактичною кількістю інформації в джерелі. |
Величина надмірності інформації пов'язана з фактичною кількістю інформації в джерелі. |
||
В реальних умовах незалежність елементарних повідомлень, вироблюваних джерелом, - явище досить рідкісне. Частіше буває протилежне - сильний детермінований чи статистичний зв'язок між елементами повідомлення одного чи кількох джерел. |
В реальних умовах незалежність елементарних повідомлень, вироблюваних джерелом, - явище досить рідкісне. Частіше буває протилежне - сильний детермінований чи статистичний зв'язок між елементами повідомлення одного чи кількох джерел. |
||
==Приклади== |
|||
Мінімальну нульову надмірність має тільки послідовність, в якій знаки незалежні і з вірогідністю 1/m можуть бути рівні будь-якій з m літер алфавіту. У великих нестиснутих текстових файлах низька [[інформаційна ентропія]]: будь-яка мова має особливості, які дозволяють відновити втрачені чи зашифровані літери. |
|||
== Див. також == |
== Див. також == |
||
Версія за 11:16, 7 лютого 2015
Надмірність в теорії інформації це кількість бітів, використовуваних для передачі повідомлення мінус кількість бітів фактичної інформації в повідомленні. Неофіційно, це кількість витрачених марно «полів» в структурі, що використовується для передачі певних даних. Стиснення даних є способом зменшити або усунути небажану надмірність, в той час як контрольні суми - це спосіб додавання потрібної надмірності для цілей виявлення помилок при обміні даними по каналу з шумом.
Величина надмірності інформації пов'язана з фактичною кількістю інформації в джерелі. В реальних умовах незалежність елементарних повідомлень, вироблюваних джерелом, - явище досить рідкісне. Частіше буває протилежне - сильний детермінований чи статистичний зв'язок між елементами повідомлення одного чи кількох джерел.
Приклади
Мінімальну нульову надмірність має тільки послідовність, в якій знаки незалежні і з вірогідністю 1/m можуть бути рівні будь-якій з m літер алфавіту. У великих нестиснутих текстових файлах низька інформаційна ентропія: будь-яка мова має особливості, які дозволяють відновити втрачені чи зашифровані літери.