Доречно-векторна машина

Матеріал з Вікіпедії — вільної енциклопедії.
Перейти до навігації Перейти до пошуку

У математиці, доре́чно-ве́кторна маши́на (ДВМ, англ. Relevance Vector Machine, RVM) — це методика машинного навчання, яка використовує баєсове висновування для отримання ощадливих розв'язків для регресії та ймовірнісної класифікації.[1] ДВМ має однаковий функційний вигляд з опорно-векторною машиною, але забезпечує ймовірнісну класифікацію.

Вона фактично рівнозначна моделі ґаусового процесу з функцією коваріації[en]

де є ядровою функцією[en] (зазвичай ґаусовою), є дисперсіями апріорних значень елементів вектора вагових коефіцієнтів , а є вхідними векторами тренувального набору.[2]

У порівнянні з опорно-векторними машинами (ОВМ, англ. support vector machines, SVM), баєсове формулювання ДВМ уникає набору вільних параметрів, як в ОВМ (які зазвичай вимагають післяоптимізацій на основі перехресної перевірки). Проте ДВМ використовують метод навчання, подібний до очікування-максимізації, і відтак схильні до ризику локальних мінімумів. Це відрізняється від стандартних алгоритмів на основі послідовної мінімальної оптимізації (ПМО), що використовують ОВМ, які гарантують знаходження глобального оптимуму (для опуклої задачі).

Доречно-векторну машину запатентовано у США[en] компанією Microsoft.[3]

Див. також[ред. | ред. код]

Примітки[ред. | ред. код]

  1. Tipping, Michael E. (2001). Sparse Bayesian Learning and the Relevance Vector Machine. Journal of Machine Learning Research 1: 211–244.  (англ.)
  2. Candela, Joaquin Quiñonero (2004). Sparse Probabilistic Linear Models and the RVM. Learning with Uncertainty - Gaussian Processes and Relevance Vector Machines (Ph.D.). Technical University of Denmark. Процитовано April 22, 2016.  (англ.)
  3. US 6633857, Michael E. Tipping, "Relevance vector machine"  (англ.)

Програмне забезпечення[ред. | ред. код]

Посилання[ред. | ред. код]