Класифікація документів

Матеріал з Вікіпедії — вільної енциклопедії.
Перейти до: навігація, пошук

Класифікація документів — це одне з завдань інформаційного пошуку, яке полягає у зарахуванні документа до однієї з кількох категорій на підставі його змісту.

Класифікація може здійснюватися власноруч або автоматично, за допомогою створеного набору правил чи із застосуванням методів машинного навчання.

Документи, що класифікуються, можуть бути текстовими, це можуть бути зображення та музика і так далі. Кожен вид документа має свої особливості класифікації. Зазвичай під класифікацією документів мається на увазі класифікація тексту, якщо не вказано інше.

Слід відрізняти класифікацію текстів від кластеризації. В останньому випадку тексти також об'єднуються за деякими критеріями, але заздалегідь задані категорії відсутні.

Підходи до класифікації текстів[ред.ред. код]

Існують три підходи до задачі класифікації текстів[1].

По-перше, класифікація не завжди здійснюється за допомогою комп'ютера. Наприклад, у звичайній бібліотеці тематичні рубрики присвоюються книгам власноруч бібліотекарем. Подібна ручна класифікація дорога і непридатна у випадках, коли необхідно класифікувати велику кількість документів з високою швидкістю.

Інший підхід полягає в написанні правил, згідно яких можна зарахувати текст до тієї чи іншої категорії. Наприклад, одне з таких правил може виглядати наступним чином: «якщо текст містить слова похідна і рівняння, то віднести його до категорії математика». Спеціаліст, який знайомий з предметною областю і володіє навичкою написання регулярних виразів, може скласти низку правил, які потім автоматично застосовуються до класифікації нових документів. Цей підхід кращий, ніж попередній, оскільки процес класифікації автоматизується і кількість оброблюваних документів стає практично не обмеженою. Більш того, побудова правил власноруч може підвищити точність класифікації у порівнянні з машинним навчанням (див. нижче). Однак створення і підтримка правил в актуальному стані (наприклад, якщо для класифікації новин використовується ім'я чинного президента країни, то відповідне правило потрібно час від часу змінювати) вимагає постійних зусиль фахівця.

Нарешті, третій підхід ґрунтується на машинному навчанні. У цьому підході набір правил або, більш загально, критерій прийняття рішення текстового класифікатора обчислюється автоматично з навчальних даних (іншими словами, проводиться навчання класифікатора).

Навчальні дані — це деяка кількість наочних зразків документів з кожного класу. У машинному навчанні зберігається необхідність ручної розмітки (термін «розмітка» означає процес надання документу певного класу), але вона є більш простим завданням, ніж написання правил. Крім того, розмітка може бути проведена в звичайному режимі використання системи. Наприклад, у програмі електронної пошти може існувати можливість позначати листи як спам, таким чином формуючи навчальну множину для класифікатора — фільтра небажаних повідомлень. Тому класифікація текстів, заснована на машинному навчанні, є прикладом навчання з учителем, де в ролі вчителя виступає людина, що задає набір класів і розмічає навчальну множину.

Класифікація «заснована на змісті» проти класифікації «заснованої на запиті»[ред.ред. код]

Класифікація за змістом є класифікацією, в якій увага приділена конкретним питанням. У документі визначається клас, до якого його зараховують. Це, наприклад, правило бібліотечної класифікації: принаймні 20% від змісту книги має бути близько класу, до якого відноситься книга.[2] В автоматичній класифікації — це може бути кількість разів, коли дані слова з'являються в документі.

Класифікація за запитом (або індексація) є класифікацією, в якій очікуваний запит від користувачів впливає на те, як документи класифікуються. Класифікатор запитує себе: «За якими дескрипторами цей об'єкт можна знайти?» Тоді оброблюються всі можливі запити та обираються найбільш відповідні[3].

Класифікація за запитом може бути класифікацією, яка орієнтована на певну аудиторію або групу користувачів. Наприклад, бібліотека або база даних для феміністських досліджень можуть класифікувати (індексувати) документи по-різному в порівнянні з історичною бібліотекою. Це, ймовірно, краще, однак, класифікація робиться згідно деяких ідеалів і відображає мету бібліотеки або бази даних по класифікації. Таким чином, вона не обов'язково є видом класифікації або індексації на основі досліджень користувачів. Тільки якщо застосовуються емпіричні дані про використання чи користувачів, слід звернутися до орієнтованих класифікацій та розглядати як підхід користувача.

Класифікація проти індексації[ред.ред. код]

Іноді виникає відмінність між розподіленням документів на класи («класифікацією») та розподіленням предметів на документи індексації. Але як стверджував Фредерік Уилфрид Ланкастер[en] — ця відмінність не є значущою. «Ці термінологічні відмінності — він пише, — досить безглузді і призначенні тільки для створення плутанини»[4]. Думка, що це розходження тільки зовнішнє також підтверджується тим фактом, що систему класифікації може бути перетворено в тезауруса, і навпаки[5][6][7][8]. Тому це акт маркування документа (скажімо, внесення терміну до словника в документі) й одночасно призначення йому класу документів проіндексованих цим терміном (всі документи проіндексовані або оголошені як X належать до того ж класу документів).

Постановка завдання[ред.ред. код]

Є множина категорій (класів, міток) .

Є множина документів .

Невідома цільова функція .

Необхідно побудувати класифікатор , максимально близький до .

Є деяка початкова колекція розмічених документів , для яких відомі значення . Зазвичай її поділяють на «навчальну» та «перевірочну» частини. Перша використовується для навчання класифікатора, друга — для незалежної перевірки якості його роботи.

Класифікатор може видавати точну відповідь або степінь подібності .

Етапи обробки[ред.ред. код]

Індексація документів
Побудова деякої числової моделі тексту. Наприклад, у вигляді багатовимірного вектора слів і їх ваги в документі. Зменшення розмірності моделі.
Побудова та навчання класифікатора
Можуть використовуватися різні методи машинного навчання: дерево прийняття рішень, наївний баєсів класифікатор, штучні нейронні мережі, метод опорних векторів та ін.
Оцінка якості класифікації
Можна оцінювати за критеріями повноти, точності, порівнювати класифікатори згідно зі спеціальними тестовими наборами.

Навчальні методи[ред.ред. код]

Наївна байєсівська модель[ред.ред. код]

Наївна байєсівська модель є ймовірнісним методом навчання. Імовірність того, що документ d потрапить у клас c записується як . Оскільки мета класифікації — знайти найбільш відповідний клас для даного документа, то в наївній байєсівській класифікації завдання полягає в знаходженні найбільш ймовірного класу c m

Обчислити значення цієї ймовірності безпосередньо неможливо, оскільки для цього потрібно, щоб навчальна множина містила всі (або майже всі) можливі комбінації класів і документів. Однак, використовуючи формулу Байєса, можна переписати вираз для

де знаменник нехтується, тому що не залежить від c і, отже, не впливає на знаходження максимуму; P (c) — імовірність того, що зустрінеться клас c, незалежно від розглянутого документа; P(d|c) — ймовірність зустріти документ d серед документів класу c.

Використовуючи навчальну множину, ймовірність P (c) можна оцінити як

де  — кількість документів в класі c, N — загальна кількість документів у навчальній множині. Тут використаний інший знак для ймовірності, оскільки за допомогою навчальної множини можна лише оцінити ймовірність, але не знайти її точне значення.

Щоб оцінити ймовірність , де  — термін з документа d,  — загальна кількість термінів у документі (включаючи повторення). Необхідно ввести спрощені припущення (1) про умовну незалежність термінів і (2) про незалежність позицій термінів. Іншими словами, ми нехтуємо, по-перше, тим фактом, що в тексті, написаному природною мовою, поява одного слова часто тісно пов'язана з появою інших слів (наприклад, імовірніше, що слово інтеграл зустрінеться в одному тексті зі словом рівняння, ніж зі словом бактерія), і, по-друге, що ймовірність зустріти теж саме слово різна для різних позицій в тексті. Саме через ці грубі спрощення розглянута модель природної мови називається наївною (тим не менше вона є досить ефективною в задачі класифікації). Отже, у світлі зроблених припущень, використовуючи правило множення ймовірностей незалежних подій, можна записати

Оцінка ймовірностей за допомогою навчальної множини буде

де  — кількість входжень терміну t у всіх документах класу c (і на будь-яких позиціях — тут істотно використовується другий механізм спрощення припущень, інакше довелося б обчислювати ці ймовірності для кожної позиції в документі, що неможливо зробити досить точно через розрідженість навчальних даних — важко очікувати, що кожен термін зустрінеться в кожній позиції достатню кількість разів);  — загальна кількість термінів у документах класу c. При підрахунку враховуються всі повторні входження.

Після того, як класифікатор «навчений», тобто знайдені величини й , можна знайти клас документа

Щоб уникнути в останній формулі переповнення знизу через велику кількість співмножників, на практиці замість добутку зазвичай використовують суму логарифмів. Логарифмування не впливає на знаходження максимуму, оскільки логарифм є монотонно зростаючою функцією. Тому в більшості реалізацій замість останньої формули використовується

Ця формула має просту інтерпретацію. Шанси класифікувати документ класом, що часто зустрічається вище, і доданок вносить в загальну суму відповідний внесок. Величина тим більша, чим важливіший термін t для ідентифікації класу c, і, відповідно, тим вагоміший їх внесок в загальну суму.

Застосування[ред.ред. код]

  • фільтрація спаму
  • Складання інтернет-каталогів
  • Підбір контекстної реклами
  • В системах документообігу
  • Автоматичне реферування (складання анотацій)
  • Зняття неоднозначності при автоматичному перекладі текстів
  • Обмеження області пошуку в пошукових системах
  • Визначення кодування та мови тексту

Автоматична класифікація документів[ред.ред. код]

Автоматичні задачі класифікації документів можна розподілити на три види: класифікація документів під наглядом, де деякі зовнішні механізми (наприклад, живий зворотній зв'язок) надає інформацію про правильну класифікацію документів, класифікація документів без нагляду (також відома як кластеризація, де класифікація повинна бути зроблена повністю без посилання на зовнішню інформацію, і напівнавчальна класифікація документів, де частини документів нумеруються зовнішнім механізмом.

Методи[ред.ред. код]

Методи автоматичної класифікації документа:

Примітки[ред.ред. код]

  1. Manning et al. (2009) — p. 255
  2. Бібліотека Конгресу (2008). Керівництво предметні рубрики. Вашингтон, округ Колумбія.: Бібліотека Конгресу США, Відділ політики і стандартів. (Лист H 180: «Зв'язати заголовки тільки для тих, які містять, щонайменше, 20% роботи.»)
  3. Зергель, Дагоберт (1985) Організація інформації: Принципи баз даних і пошукових систем. Орландо, Флорида: Academic Press
  4. Ланкастер, FW (2003) Індексування та реферування в теорії і практиці бібліотечної асоціації Лондон.
  5. Aitchison, J. (1986) «класифікації як джерело для тезауруса :. ББК Є. П. Блаженства як джерело умов і структури тезауруса» … Журнал документації, том 42, № 3, стор 160–181.
  6. Aitchison, J. «Тезаурус від BC2 :. Проблеми та можливості, виявлених в експериментальній тезауруса, отриманої з графіка Bliss Music» … Bliss Класифікація бюлетень, Vol 46, стор 20 −26
  7. Бротон, В. (2008) "гранований класифікація як основа гранований термінології: … Перетворення секретної структури в форматі тезауруса в блаженстві ББК (2-е изд .). "Axiomathes, Vol. 18 № 2, стор. 193–210.
  8. Riesthuis, GJA, і Bliedung, Санкт (1991). «Thesaurification в УДК.» Інструменти для організації знань і людино-машинного інтерфейсу, Vol. 2, стор. 109–117. Список Verlag, Франкфурт.

Література[ред.ред. код]

Див. також[ред.ред. код]

Посилання[ред.ред. код]