Теорія кодування

Матеріал з Вікіпедії — вільної енциклопедії.
Перейти до: навігація, пошук

Теорія кодування — це вивчення властивостей кодів та їх придатності для специфічних задач. Коди використовуються для стиснення даних, криптографії, знаходження і виправлення помилок і від недавнього часу для мережевого кодування. Коди вивчаються у теорії інформації, електротехніці, математиці і кібернетиці для створення ефективних і надійних методів перетворення даних. Це зазвичай передбачає прибирання надмірності коду та знаходження і виправлення помилок.

У теорії кодування існують чотири основні методи обробки інформації:

  1. Стиснення даних, або source coding — кодування джерела;
  2. Попередня корекція помилок, або channel coding — канальне кодування;
  3. Криптографічне кодування;
  4. Лінійне кодування.

Кодування джерела спрямоване на стиснення даних для їх ефективнішої передачі. Ця практика зустрічається кожен день в Інтернеті, де стиснення даних використовується для зниження навантаження на мережу та з метою зменшення розміру файла.

Канальне кодування дає додаткові біти даних, щоб зробити передачу даних стійкішою до збурень у каналі передачі. Звичайний користувач не має уявлення щодо багатьох додатків, які використовують кодування каналу. Типовий музичний компакт-диск використовує код Ріда-Соломона для корекції подряпин і пилу. У цьому додатку каналом передачі є сам CD. Стільникові телефони також користуються методами кодування для корекції завмирання і шуму високої частоти передачі радіосигналу. Модеми даних, телефонні коробки передач і НАСА використовують канальні методи кодування, щоб отримати біти через, наприклад, турбо-код і LDPC коди.

Історія теорії кодування[ред.ред. код]

У 1948 році Клод Шеннон опублікував статтю "Математична теорія зв'язку" в Bell System Technical Journal. Ця робота присвячена проблемі, як краще кодувати інформацію, яку відправник хоче передати. У цій фундаментальній праці автор використовував інструменти з теорії ймовірностей, розроблених Норбертом Вінером, які перебували в їх стадії зародження і застосовувалися до теорії комунікації в той час. Шеннон розробив інформаційну ентропію як міру невизначеності в повідомленні в той час, однак по суті це було винаходом області теорії інформації.

Двійковий код Голі був розроблений в 1949 році. Цей код корекції помилок може виправляти до трьох помилок в кожному з 24-бітного слова і виявляти четверту.

Річард Хеммінга отримав премію Тьюринга в 1968 році за свою роботу в Bell Labs з чисельних методів, систем автоматичного кодування і виявлення помилок і кодів, що виправляють помилки. Він винайшов поняття, відомі як коди Хеммінга, Хеммінга вікна, числа Хеммінга, і відстань Хеммінга.

Файл:Https://upload.wikimedia.org/wikipedia/commons/3/39/Hamming.jpg
двовимірна візуалізація відстані Хеммінга



Комп'ютер Це незавершена стаття про комп'ютери.
Ви можете допомогти проекту, виправивши або дописавши її.