Надмірність інформації: відмінності між версіями
[неперевірена версія] | [неперевірена версія] |
Shynkar (обговорення | внесок) |
Shynkar (обговорення | внесок) |
||
Рядок 8: | Рядок 8: | ||
== Див. також == |
== Див. також == |
||
[[en:Redundancy (information theory)]] |
[[en:Redundancy (information theory)]] |
||
[[Категорія: |
[[Категорія:Теорія інформації]] |
||
{{Доробити}} |
{{Доробити}} |
Версія за 11:19, 7 лютого 2015
Надмірність в теорії інформації це кількість бітів, використовуваних для передачі повідомлення мінус кількість бітів фактичної інформації в повідомленні. Неофіційно, це кількість витрачених марно «полів» в структурі, що використовується для передачі певних даних. Стиснення даних є способом зменшити або усунути небажану надмірність, в той час як контрольні суми - це спосіб додавання потрібної надмірності для цілей виявлення помилок при обміні даними по каналу з шумом.
Величина надмірності інформації пов'язана з фактичною кількістю інформації в джерелі. В реальних умовах незалежність елементарних повідомлень, вироблюваних джерелом, - явище досить рідкісне. Частіше буває протилежне - сильний детермінований чи статистичний зв'язок між елементами повідомлення одного чи кількох джерел.
Приклади
Мінімальну нульову надмірність має тільки послідовність, в якій знаки незалежні і з вірогідністю 1/m можуть бути рівні будь-якій з m літер алфавіту. У великих нестиснутих текстових файлах низька інформаційна ентропія: будь-яка мова має особливості, які дозволяють відновити втрачені чи зашифровані літери.