Доречно-векторна машина

Матеріал з Вікіпедії — вільної енциклопедії.
Перейти до: навігація, пошук

У математиці, доре́чно-ве́кторна маши́на (ДВМ, англ. Relevance Vector Machine, RVM) — це методика машинного навчання, яка використовує баєсове висновування для отримання ощадливих розв'язків для регресії та ймовірнісної класифікації.[1] ДВМ має однаковий функційний вигляд з опорно-векторною машиною, але забезпечує ймовірнісну класифікацію.

Вона фактично рівнозначна моделі ґаусового процесу з функцією коваріації[en]

де є ядровою функцією[en] (зазвичай ґаусовою), є дисперсіями апріорних значень елементів вектора вагових коефіцієнтів , а є вхідними векторами тренувального набору[en].[2]

У порівнянні з опорно-векторними машинами (ОВМ, англ. support vector machines, SVM), баєсове формулювання ДВМ уникає набору вільних параметрів, як в ОВМ (які зазвичай вимагають післяоптимізацій на основі перехресної перевірки). Проте ДВМ використовують метод навчання, подібний до очікування-максимізації, і відтак схильні до ризику локальних мінімумів. Це відрізняється від стандартних алгоритмів на основі послідовної мінімальної оптимізації (ПМО), що використовують ОВМ, які гарантують знаходження глобального оптимуму (для опуклої задачі).

Доречно-векторну машину запатентовано у США[en] компанією Microsoft.[3]

Див. також[ред.ред. код]

Примітки[ред.ред. код]

  1. Tipping, Michael E. (2001). Sparse Bayesian Learning and the Relevance Vector Machine. Journal of Machine Learning Research 1. с. 211–244.  (англ.)
  2. Candela, Joaquin Quiñonero (2004). Sparse Probabilistic Linear Models and the RVM. Learning with Uncertainty - Gaussian Processes and Relevance Vector Machines (Ph.D.). Technical University of Denmark. Процитовано April 22, 2016.  (англ.)
  3. US 6633857, Michael E. Tipping, "Relevance vector machine"  (англ.)

Програмне забезпечення[ред.ред. код]

Посилання[ред.ред. код]