Баєсове програмування

Частина з циклу Статистика
Баєсова статистика
Теорія
Апостеріорна ймовірність Апостеріорний прогнозний розподіл Апріорна ймовірність Баєсів інформаційний критерій Баєсова ефективність Баєсова ймовірність Баєсова мережа Баєсове висновування Гіперапріорний розподіл Гіперпараметр Емпіричний баєсів метод Імовірний інтервал Інтерпретації ймовірності Коефіцієнт Баєса Оцінка апостеріорного максимуму Правдоподібність Правило Баєса Правило Кромвеля Прийнятне правило рішення Принцип максимальної ентропії Принцип недостатнього обґрунтування Спряжений апріорний розподіл Теорема Баєса Теорема Бернштайна — фон Мізеса
Методи
Баєсова лінійна регресія Баєсова оцінка Приблизне баєсове обчислення

Ба́єсове програмува́ння — це формальна система та методологія визначення ймовірнісних моделей та розв'язання задач, коли не вся необхідна інформація є доступною.

Едвін Томпсон Джейнс запропонував, щоби ймовірність могла розглядатися як альтернатива та розширення логіки для раціонального міркування з неповною та непевною інформацією. У своїй засадничій книзі «Теорія ймовірностей: логіка науки» він розробив цю теорію та запропонував те, що він назвав «роботом», що було не фізичним пристроєм, а рушієм висновування для автоматизації ймовірнісних міркувань — щось на кшталт Прологу для ймовірності замість логіки. Баєсове програмування є формальним та конкретним втіленням цього «робота».

Баєсове програмування також можна розглядати як алгебраїчну формальну систему для визначення графових моделей, таких як, наприклад, баєсові мережі, фільтри Калмана або приховані марковські моделі. Дійсно, баєсове програмування є загальнішим за баєсові мережі, і має виразну потужність, еквівалентну ймовірнісним графам розкладу.

Формальна система

Баєсова програма є засобом визначення сімейства розподілів імовірності.

Нижче представлено складові елементи баєсової програми:

${\text{Program}}{\begin{cases}{\text{Description}}{\begin{cases}{\text{Specification}}(\pi ){\begin{cases}{\text{Variables}}\\{\text{Decomposition}}\\{\text{Forms}}\\\end{cases}}\\{\text{Identification (based on }}\delta )\end{cases}}\\{\text{Question}}\end{cases}}$

1. Програма будується з опису (англ. description) та питання (англ. question).
2. Опис будується із застосуванням якогось визначення ($\pi$, англ. specification), заданого програмістом, та ідентифікації (англ. identification) або навчального процесу для параметрів, не повністю описаних у визначенні, із застосуванням набору даних ($\delta$).
3. Визначення будується з набору доречних змінних (англ. variables), розкладу (англ. decomposition) та набору форм (англ. forms).
4. Форми є або параметричними формами, або питаннями до інших баєсових програм.
5. Питання визначає, який розподіл імовірності повинно бути розраховано.

Опис

Задачею опису є визначення ефективного методу обчислення спільного розподілу ймовірності набору змінних $\left\{X_{1},X_{2},\cdots ,X_{N}\right\}$ для заданого набору експериментальних даних $\delta$ та деякого визначення $\pi$. Цей спільний розподіл позначається як $P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)$.

Для визначення попереднього знання $\pi$ програміст мусить виконати наступне:

1. Визначити набір доречних змінних $\left\{X_{1},X_{2},\cdots ,X_{N}\right\}$, на якому визначено спільний розподіл імовірності.
2. Розкласти спільний розподіл (розбити його на доречні незалежні або умовні ймовірності).
3. Визначити форми кожного з цих розподілів (наприклад, для кожної змінної, один з переліку розподілів імовірності).

Розклад

Для даного поділу $\left\{X_{1},X_{2},\ldots ,X_{N}\right\}$, що містить $K$ підмножин, визначаються $K$ змінних $L_{1},\cdots ,L_{K}$, кожна з яких відповідає одній з цих підмножин. Кожна змінна $L_{k}$ отримується як кон'юнкція змінних $\left\{X_{k_{1}},X_{k_{2}},\cdots \right\}$, що належать до $k$-тої підмножини. Рекурсивне застосування теореми Баєса веде до

${\begin{aligned}&P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\wedge \cdots \wedge L_{K}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\mid \delta \wedge \pi \right)\times P\left(L_{2}\mid L_{1}\wedge \delta \wedge \pi \right)\times \cdots \times P\left(L_{K}\mid L_{K-1}\wedge \cdots \wedge L_{1}\wedge \delta \wedge \pi \right)\end{aligned}}$

Потім гіпотези умовної незалежності дозволяють подальші спрощення. Гіпотеза умовної незалежності для змінної $L_{k}$ визначається вибором деякої змінної $X_{n}$ серед змінних, присутніх у кон'юнкції $L_{k-1}\wedge \cdots \wedge L_{2}\wedge L_{1}$, позначенням через $R_{k}$ кон'юнкції цих обраних змінних, і встановленням

$P\left(L_{k}\mid L_{k-1}\wedge \cdots \wedge L_{1}\wedge \delta \wedge \pi \right)=P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)$

Потім ми отримуємо

${\begin{aligned}&P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\mid \delta \wedge \pi \right)\times P\left(L_{2}\mid R_{2}\wedge \delta \wedge \pi \right)\times \cdots \times P\left(L_{K}\mid R_{K}\wedge \delta \wedge \pi \right)\end{aligned}}$

Таке спрощення спільного розподілу як добутку простіших розподілів називається розкладом, виведеним із застосуванням ланцюгового правила.

Воно забезпечує, щоби кожна змінна з'являлася ліворуч від риски обумовлювання не менше одного разу, що є необхідною і достатньою умовою написання математично вірних розкладів.^{[джерело?]}

Форми

Кожен розподіл $P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)$, що з'являється в добутку, потім пов'язується або з параметричною формою (тобто, функцією $f_{\mu }\left(L_{k}\right)$), або з питанням до іншої баєсової програми $P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)=P\left(L\mid R\wedge {\widehat {\delta }}\wedge {\widehat {\pi }}\right)$.

Коли це форма $f_{\mu }\left(L_{k}\right)$, в загальному випадку $\mu$ є вектором параметрів, що можуть залежати або від $R_{k}$, або $\delta$, або від обох. Коли деякі з цих параметрів обчислюються із застосуванням набору даних $\delta$, відбувається навчання.

Важливою особливістю баєсового програмування є ця здатність використовувати питання до інших баєсових програм як складову визначення нової баєсової програми. $P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)$ отримується деяким висновуванням, що здійснюється іншою баєсовою програмою, визначеною визначенням ${\widehat {\pi }}$ та даними ${\widehat {\delta }}$. Це є схожим на виклик підпрограми в класичному програмуванні, й пропонує простий простий спосіб побудови ієрархічних моделей.

Питання

Для даного опису (тобто, $P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)$) питання отримується поділом $\left\{X_{1},X_{2},\cdots ,X_{N}\right\}$ на три набори: досліджувані (англ. searched) змінні, відомі (англ. known) змінні та вільні (англ. free) змінні.

Три змінні $Searched$, $Known$ та $Free$ визначаються як кон'юнкція змінних, що належать до цих наборів.

Питання визначається як набір розподілів

$P\left(Searched\mid {\text{Known}}\wedge \delta \wedge \pi \right)$

зроблений з багатьох «конкретизованих питань» як кардинал $Known$, де кожне конкретизоване питання є розподілом

$P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)$

Висновування

Для заданого спільного розподілу $P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)$ завжди можливо обчислити будь-яке можливе питання, застосовуючи наступне загальне висновування:

${\begin{aligned}&P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)\\={}&\sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)\right]\\={}&{\frac {\displaystyle \sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]}{\displaystyle P\left({\text{Known}}\mid \delta \wedge \pi \right)}}\\={}&{\frac {\displaystyle \sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]}{\displaystyle \sum _{{\text{Free}}\wedge {\text{Searched}}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]}}\\={}&{\frac {1}{Z}}\times \sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]\end{aligned}}$

де перше рівняння випливає з правила відособлення, друге випливає з теореми Баєса, а третє відповідає другому застосуванню відособлення. Знаменник виявляється нормувальним членом, і його може бути замінено сталою $Z$.

Теоретично це дозволяє розв'язувати будь-які задачі баєсового висновування. Проте на практиці майже в усіх випадках витратність вичерпного та точного обчислення $P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)$ є занадто високою.

Заміною спільного розподілу його розкладом ми отримуємо

${\begin{aligned}&P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)\\={}&{\frac {1}{Z}}\sum _{\text{Free}}\left[\prod _{k=1}^{K}\left[P\left(L_{i}\mid K_{i}\wedge \pi \right)\right]\right]\end{aligned}}$

що зазвичай є виразом, значно простішим для обчислення, оскільки розмірність задачі значно знижено шляхом розкладу на добуток розподілів меншої розмірності.

Приклад

Баєсове виявлення спаму

Метою баєсового фільтрування спаму є усування сміттєвих електронних листів.

Ця задача є дуже простою для формулювання. Електронні листи повинні класифікуватися до однієї з двох категорій: не-спам та спам. Єдиною доступною інформацією для класифікації електронних листів є їхній вміст: набір слів. Використання цих слів без взяття до уваги їхнього порядку часто називають моделлю «торба слів».

Крім того, класифікатор повинен бути здатним адаптуватися до свого користувача та вчитися з досвіду. Починаючи зі стандартного початкового налаштування, класифікатор повинен змінювати свої внутрішні параметри, коли користувач не погоджується з його власним рішенням. Він, отже, адаптуватиметься до користувачевих критеріїв розрізнення між не-спамом та спамом. Він покращуватиме власні результати, стикаючись з більшою кількістю класифікованих електронних листів.

Змінні

Змінні, необхідні для написання цієї програми, є такими:

1. $Spam$: двійкова змінна, хибна (англ. false), якщо електронний лист не є спамом, та істинна (англ. true) в іншому разі.
2. $W_{0},W_{1},\ldots ,W_{N-1}$: $N$ двійкових змінних. $W_{n}$ є істинною, якщо $n$-те слово словника присутнє в тексті.

Ці $N+1$ двійкових змінних підсумовують всю інформацію про електронний лист.

Розклад

Починаючи зі спільного розподілу і застосовуючи рекурсивно теорему Баєса, ми отримуємо:

${\begin{aligned}&P({\text{Spam}}\wedge W_{0}\wedge \cdots \wedge W_{N-1})\\={}&P({\text{Spam}})\times P(W_{0}\mid {\text{Spam}})\times P(W_{1}\mid {\text{Spam}}\wedge W_{0})\\&\times \cdots \\&\times P\left(W_{N-1}\mid {\text{Spam}}\wedge W_{0}\wedge \cdots \wedge W_{N-2}\right)\end{aligned}}$

Це є точним математичним виразом.

Його може бути радикально спрощено шляхом припущення, що ймовірність появи слова при відомій природі тексту (спам чи ні) є незалежною від появи інших слів. Це є наївним баєсовим припущенням, і воно робить цей фільтр спаму наївною баєсовою моделлю.

Наприклад, програміст може припустити, що

$P(W_{1}\mid {\text{Spam}}\land W_{0})=P(W_{1}\mid {\text{Spam}})$

щоби врешті отримати

$P({\text{Spam}}\land W_{0}\land \ldots \land W_{N-1})=P({\text{Spam}})\prod _{n=0}^{N-1}[P(W_{n}\mid {\text{Spam}})]$

Цей вид припущення відомий як наївне баєсове припущення. Воно є «наївним» у тому сенсі, що незалежність між словами явно є не зовсім вірною. Наприклад, воно повністю нехтує тим, що поява пари слів може бути суттєвішою та ізольовані появи. Проте програміст може прийняти цю гіпотезу, і може розробити модель та пов'язані висновування, щоби перевірити, наскільки надійною та ефективною вона є.

Параметричні форми

Щоби мати можливість обчислити спільний розподіл, програміст тепер мусить вказати $N+1$ розподілів, присутніх у розкладі:

1. $P({\text{Spam}})$ є визначеним апріорно, наприклад, як $P([{\text{Spam}}=1])=0.75$
2. Кожну з $N$ форм $P(W_{n}\mid {\text{Spam}})$ може бути вказано з використанням правила наслідування Лапласа (це методика згладжування на базі псевдолічильників для подолання проблеми нульової частоти досі ніколи не бачених слів):
   1. $P(W_{n}\mid [{\text{Spam}}={\text{false}}])={\frac {1+a_{f}^{n}}{2+a_{f}}}$
   2. $P(W_{n}\mid [{\text{Spam}}={\text{true}}])={\frac {1+a_{t}^{n}}{2+a_{t}}}$

де $a_{f}^{n}$ відповідає кількості появ $n$-того слова в не-спамових електронних листах, а $a_{f}$ відповідає загальній кількості не-спамових електронних листів. Аналогічно, $a_{t}^{n}$ відповідає кількості появ $n$-того слова в спамових електронних листах, а $a_{t}$ відповідає загальній кількості спамових електронних листів.

Ідентифікація

$N$ форм $P(W_{n}\mid {\text{Spam}})$ визначено ще не повністю, оскільки $2N+2$ параметрів $a_{f}^{n=0,\ldots ,N-1}$, $a_{t}^{n=0,\ldots ,N-1}$, $a_{f}$ та $a_{t}$ ще не мають значень.

Ідентифікацію цих параметрів може бути здійснено або пакетною обробкою комплектів класифікованих електронних листів, або покроковним уточненням параметрів із використанням класифікації електронних листів користувачем у процесі їхнього надходження.

Обидва методи може бути об'єднано: система може стартувати з початковими стандартними значеннями цих параметрів, виданих з узагальненої бази даних, а потім певне покрокове навчання підганяє класифікатор під кожного окремого користувача.

Питання

Питанням, що задається програмі, є «якою є ймовірність того, що даний текст є спамом, якщо відомо, які слова в ньому присутні, а які — ні?» Його може бути формалізовано як

$P({\text{Spam}}\mid w_{0}\wedge \cdots \wedge w_{N-1})$

що може бути обчислено наступним чином:

${\begin{aligned}&P({\text{Spam}}\mid w_{0}\wedge \cdots \wedge w_{N-1})\\={}&{\frac {\displaystyle P({\text{Spam}})\prod _{n=0}^{N-1}[P(w_{n}\mid {\text{Spam}})]}{\displaystyle \sum _{\text{Spam}}[P({\text{Spam}})\prod _{n=0}^{N-1}[P(w_{n}\mid {\text{Spam}})]]}}\end{aligned}}$

Знаменник виявляється сталою нормалізації. Його не обов'язково обчислювати для того, щоби з'ясувати, чи ми маємо справу зі спамом. Наприклад, простий прийом для обчислення відношення:

${\begin{aligned}&{\frac {P([{\text{Spam}}={\text{true}}]\mid w_{0}\wedge \cdots \wedge w_{N-1})}{P([{\text{Spam}}={\text{false}}]\mid w_{0}\wedge \cdots \wedge w_{N-1})}}\\={}&{\frac {P([{\text{Spam}}={\text{true}}])}{P([{\text{Spam}}={\text{false}}])}}\times \prod _{n=0}^{N-1}\left[{\frac {P(w_{n}\mid [{\text{Spam}}={\text{true}}])}{P(w_{n}\mid [{\text{Spam}}={\text{false}}])}}\right]\end{aligned}}$

Таке обчислення є швидшим та простішим, оскільки воно вимагає лише $2N$ добутків.

Баєсова програма

Програма баєсового фільтра спаму визначається повністю як

$\Pr {\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:{\text{Spam}},W_{0},W_{1}\ldots W_{N-1}\\Dc:{\begin{cases}P({\text{Spam}}\land W_{0}\land \ldots \land W_{n}\land \ldots \land W_{N-1})\\=P({\text{Spam}})\prod _{n=0}^{N-1}P(W_{n}\mid {\text{Spam}})\end{cases}}\\Fo:{\begin{cases}P({\text{Spam}}):{\begin{cases}P([{\text{Spam}}={\text{false}}])=0.25\\P([{\text{Spam}}={\text{true}}])=0.75\end{cases}}\\P(W_{n}\mid {\text{Spam}}):{\begin{cases}P(W_{n}\mid [{\text{Spam}}={\text{false}}])\\={\frac {1+a_{f}^{n}}{2+a_{f}}}\\P(W_{n}\mid [{\text{Spam}}={\text{true}}])\\={\frac {1+a_{t}^{n}}{2+a_{t}}}\end{cases}}\\\end{cases}}\\\end{cases}}\\{\text{Identification (based on }}\delta )\end{cases}}\\Qu:P({\text{Spam}}\mid w_{0}\land \ldots \land w_{n}\land \ldots \land w_{N-1})\end{cases}}$

Фільтр Баєса, фільтр Калмана та прихована модель Маркова

Баєсові фільтри (що часто називають рекурсивною баєсовою оцінкою) є загальними ймовірнісними моделями для процесів, що розгортаються в часі. Численні моделі є окремими випадками цього загального підходу, наприклад, фільтр Калмана, або прихована марковська модель.

Змінні

• Змінні $S^{0},\ldots ,S^{T}$ є часовим рядом змінних стану, що розглядаються на часовому горизонті в діапазоні від $0$ до $T$.
• Змінні $O^{0},\ldots ,O^{T}$ є часовим рядом змінних спостережень на цьому ж горизонті.

Розклад

Розклад ґрунтується:

• на $P(S^{t}\mid S^{t-1})$, що називається моделлю системи, моделлю переходу або динамічною моделлю, яка формалізує перехід від стану в момент часу $t-1$ до стану в момент часу $t$;
• на $P(O^{t}\mid S^{t})$, що називається моделлю спостереження, яка виражає, що може спостерігатися в момент часу $t$, коли система знаходиться в стані $S^{t}$;
• на початковому стані в момент часу $0$: $P(S^{0}\wedge O^{0})$.

Параметричні форми

Параметричні моделі не обмежено, й різні варіанти ведуть до різних добре відомих моделей: див. фільтри Калмана та приховані марковські моделі трохи нижче.

Питання

Питанням, яке зазвичай ставлять цим моделям, є $P\left(S^{t+k}\mid O^{0}\wedge \cdots \wedge O^{t}\right)$: яким є розподіл імовірності стану в момент часу $t+k$ за відомих спостережень від моменту $0$ до $t$?

Найпоширенішим випадком є баєсове фільтрування, в якому $k=0$, що означає, що з'ясовується поточний стан за відомих попередніх спостережень.

Проте можливо також здійснювати й передбачення $(k>0)$, коли робиться спроба екстраполяції майбутнього стану з минулих спостережень, або здійснювати згладжування $(k<0)$, коли робиться спроба відновлення минулого стану зі спостережень, зроблених або до, або після того моменту.

Також можуть ставитися й дещо складніші питання, як показано нижче у розділі ПММ.

Баєсові фільтри $(k=0)$ мають дуже цікаву рекурсивну властивість, що значно сприяє їхній привабливості. $P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t}\right)$ може бути обчислено просто з $P\left(S^{t1}\mid O^{0}\wedge \cdots \wedge O^{t-1}\right)$ за наступною формулою:

${\begin{array}{ll}&P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t}\right)\\=&P\left(O^{t}|S^{t}\right)\times \sum _{S^{t-1}}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(S^{t-1}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\right]\end{array}}$

Іншою цікавою точкою зору стосовно цього рівняння є розгляд існування двох фаз: фази передбачення та фази уточнення:

• Протягом фази передбачення стан передбачується із застосуванням динамічної моделі та оцінки стану в попередній момент:

${\begin{array}{ll}&P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\\=&\sum _{S^{t-1}}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(S^{t-1}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\right]\end{array}}$

• Протягом фази уточнення, передбачення або підтверджується, або визнається недійсним із застосуванням крайнього спостереження:

${\begin{aligned}&P\left(S^{t}\mid O^{0}\wedge \cdots \wedge O^{t}\right)\\={}&P\left(O^{t}\mid S^{t}\right)\times P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\end{aligned}}$

Баєсова програма

$Pr{\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\cdots ,S^{T},O^{0},\cdots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}|\pi \right)\\=&P\left(S^{0}\wedge O^{0}\right)\times \prod _{t=1}^{T}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(O^{t}|S^{t}\right)\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{0}\wedge O^{0}\right)\\P\left(S^{t}|S^{t-1}\right)\\P\left(O^{t}|S^{t}\right)\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\{\begin{cases}{\begin{array}{l}P\left(S^{t+k}|O^{0}\wedge \cdots \wedge O^{t}\right)\\\left(k=0\right)\equiv {\text{Filtering}}\\\left(k>0\right)\equiv {\text{Prediction}}\\\left(k<0\right)\equiv {\text{Smoothing}}\end{array}}\end{cases}}\end{cases}}$

Фільтр Калмана

Добре відомі фільтри Калмана є окремим випадком баєсових фільтрів.

Вони визначаються наступною баєсовою програмою:

$Pr{\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\cdots ,S^{T},O^{0},\cdots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge O^{T}|\pi \right)\\=&\left[{\begin{array}{c}P\left(S^{0}\wedge O^{0}|\pi \right)\\\prod _{t=1}^{T}\left[P\left(S^{t}|S^{t-1}\wedge \pi \right)\times P\left(O^{t}|S^{t}\wedge \pi \right)\right]\end{array}}\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\equiv G\left(S^{t},A\bullet S^{t-1},Q\right)\\P\left(O^{t}\mid S^{t}\wedge \pi \right)\equiv G\left(O^{t},H\bullet S^{t},R\right)\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\P\left(S^{T}\mid O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\end{cases}}$

• Змінні є неперервними.
• Моделі переходу $P(S^{t}\mid S^{t-1}\wedge \pi )$ та спостереження $P(O^{t}\mid S^{t}\wedge \pi )$ обидві визначаються із застосуванням Гаусових законів із середніми значеннями, що є лінійними функціями обумовлювальних змінних.

З цими гіпотезами та із застосуванням рекурсивної формули задачу висновування для отримання відповіді на звичайне питання $P(S^{T}\mid O^{0}\wedge \cdots \wedge O^{T}\wedge \pi )$ можна розв'язувати аналітично. Це веде до надзвичайно ефективного алгоритму, що пояснює популярність фільтрів Калмана та численність їхніх повсякденних застосувань.

Коли очевидних лінійних моделей переходу та спостереження немає, часто все ще можливо, застосовуючи розклад Тейлора першого порядку, трактувати ці моделі як локально лінійні. Це узагальнення зазвичай називають розширеним фільтром Калмана.

Прихована марковська модель

Приховані марковські моделі (ПММ) є іншою дуже популярною спеціалізацією фільтрів Калмана.

Вони визначаються наступною баєсовою програмою:

$\Pr {\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\ldots ,S^{T},O^{0},\ldots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge O^{T}\mid \pi \right)\\=&\left[{\begin{array}{c}P\left(S^{0}\wedge O^{0}\mid \pi \right)\\\prod _{t=1}^{T}\left[P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\times P\left(O^{t}\mid S^{t}\wedge \pi \right)\right]\end{array}}\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{0}\wedge O^{0}\mid \pi \right)\equiv {\text{Matrix}}\\P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\equiv {\text{Matrix}}\\P\left(O^{t}\mid S^{t}\wedge \pi \right)\equiv {\text{Matrix}}\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\\max _{S^{1}\wedge \cdots \wedge S^{T-1}}\left[P\left(S^{1}\wedge \cdots \wedge S^{T-1}\mid S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\right]\end{cases}}$

• Змінні розглядаються як дискретні.
• Моделі переходу $P\left(S^{t}\mid S^{t-1}\wedge \pi \right)$ та спостереження $P\left(O^{t}\mid S^{t}\wedge \pi \right)$ обидві визначаються із застосуванням матриць імовірностей.
• Питання, що найчастіше ставлять прихованим марковським моделям:

$\max _{S^{1}\wedge \cdots \wedge S^{T-1}}\left[P\left(S^{1}\wedge \cdots \wedge S^{T-1}\mid S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\right]$

Якою є найімовірніша послідовність станів, що веде до поточного стану за відомих минулих спостережень?

Відповідь на дане окреме питання можна отримувати за допомогою особливого та дуже ефективного алгоритму, що називається алгоритмом Вітербі.

Для ПММ також було розроблено особливий алгоритм навчання, що називається Алгоритм Баума — Велша.

Застосування

Академічні застосування

Протягом останніх 15 років підхід баєсового програмування застосовувався в багатьох університетах для розробки як застосувань у робототехніці, так і моделей в науках про життя.

Робототехніка

В робототехніці баєсове програмування застосовувалося в автономній робототехніці, роботизованих САПР, передових системам допомоги водієві, роботизованому керуванні маніпуляторами, мобільній робототехніці, людино-роботній взаємодії, людино-автомобільній взаємодії (баєсові автономні моделі водія), програмуванні та навчанні аватарів у відеоіграх та в стратегічних іграх реального часу (ШІ).

Науки про життя

В науках про життя баєсове програмування застосовувалося в баченні для відтворення структури з руху, для моделювання зорово-вестибулярної взаємодії та дослідження саккадного руху очей; у сприйнятті мовлення та володіння ним для дослідження раннього надбання мовлення та появи артикулярно-акустичних систем; та для моделювання сприйняття рукописного тексту та володіння ним.

Баєсове програмування та теорії можливостей

Порівняння ймовірнісних підходів (не лише баєсового програмування) та теорій можливостей обговорювалося вже тривалий час, і, на жаль, є дуже спірним питанням.

Теорії можливостей, такі як, наприклад, нечіткі множини, нечітка логіка та теорія можливостей пропонують різні альтернативи ймовірності для моделювання невизначеності. Вони стверджують, що ймовірність є недостатньою або незручною для моделювання певних аспектів неповного або непевного знання.

Захист імовірності головним чином базується на теоремі Кокса, яка, починаючи з чотирьох постулатів щодо раціонального міркування в умовах невизначеності, демонструє, що лише математична модель, яка задовольняє ці постулати, є теорією ймовірності. Аргументація потім іде таким чином: якщо ви використовуєте інший підхід, ніж імовірність, то ви обов'язково порушуєте один з цих постулатів. Подивимося, який саме, та обговоримо його корисність.

Баєсове програмування та ймовірнісне програмування

Метою ймовірнісного програмування є об'єднання сфери класичних мов програмування з імовірнісним моделюванням (особливо з баєсовими мережами) для того, щоби бути в змозі мати справу із невизначеністю, але все ще отримувати користь від виразної сили мов програмування для опису складних моделей.

Розширені класичні мови програмування можуть бути логічними мовами, як запропоновано в Імовірнісній абдукції Горна, Логіці незалежного вибору, PRISM та ProbLog, що пропонує розширення мови Prolog.

Воно також може бути розширеннями функційних мов програмування (по суті LISP та Scheme), такими як IBAL або Church. Мовами, що дають натхнення, можуть бути навіть об'єктно орієнтовані, як у BLOG та FACTORIE, або стандартніші, як у CES та FIGARO [Архівовано 1 лютого 2016 у Wayback Machine.].

Мета баєсового програмування є іншою. Настанова Джейнса про «ймовірність як логіку» обстоює те, що ймовірність є розширенням та альтернативою логіці, над якою може бути перебудовано повну теорію раціональності, обчислення та програмування. Баєсове програмування шукає способу не розширити класичні мови, а швидше замінити їх новим підходом програмування на основі ймовірності та повного врахування неповноти та невизначеності.

Точне порівняння семантики та виразної потужності баєсового та ймовірнісного програмування наразі залишається відкритим питанням.

Див. також

• Правило Баєса
• Баєсове висновування
• Баєсова ймовірність
• Баєсове фільтрування спаму
• Поширення переконання
• Теорема Кокса
• Алгоритм очікування-максимізації
• Граф розкладу
• Графова модель
• Прихована марковська модель
• Джуда Перл
• Фільтр Калмана
• Наївний баєсів класифікатор
• П'єр-Симон де Лаплас
• Ймовірнісна логіка
• Ймовірнісна мова програмування
• Суб'єктивна логіка

Література

• Kamel Mekhnacha (2013). Bayesian Programming. Chapman and Hall/CRC. ISBN 978-1-4398-8032-6. (англ.)

Посилання

• Сайт-супутник книги «Баєсове програмування», де можна завантажити ProBT та рушій висновування, що присвячено баєсовому програмуванню. [Архівовано 23 листопада 2013 у Archive.is] (англ.)
• Сайт bayesian-programming.org [Архівовано 23 листопада 2013 у Archive.is] для просування баєсового програмування з детальною інформацією та численними публікаціями. (англ.)