Умовний розподіл

Умовний розподіл у теорії ймовірностей — це розподіл випадкової величини за умови, що інша випадкова величина набуває визначене значення.

Визначення

Передбачимо, що задано ймовірнісний простір $(\Omega,\mathcal{F},\mathbb{P})$.

Дискретні випадкові величини

Нехай $X: \Omega \to \mathbb{R}^m$ і $Y:\Omega \to \mathbb{R}^n$ — випадкові величини, такі, що випадковий вектор $(X,y)^{\top}:\Omega \to \mathbb{R}^{m+n}$ має дискретний розподіл, що задається функцією ймовірностей $p_{X,y}(x,y),\; x\in \mathbb{R}^m,y\in \mathbb{R}^n$. Нехай $y_0 \in \mathbb{R}^n$ такий, що $\mathbb{P}(Y = y_0) > 0$. Тоді функція

$p_{X \mid Y}(x \mid y_0) = \mathbb{P}(X = x \mid Y = y_0) = { p_{X,y}(x,y_0) \over p_y(y_0)}, \; x \in \mathbb{R}^m$,

де $p_{Y}$ - функція ймовірностей випадкової величини $Y$, називається умовною функцією ймовірностей випадкової величини $X$ за умови, що $Y = y_0$. Розподіл, що задається умовною функцією ймовірностей, називається умовним розподілом.

Абсолютно неперервні випадкові величини

Нехай $X: \Omega \to \mathbb{R}^m$ и $Y:\Omega \to \mathbb{R}^n$ - випадкові величини, такі що випадковий вектор $(X,Y)^{\top}:\Omega \to \mathbb{R}^{m+n}$ має абсолютно неперервний розподіл, який задається щільностю ймовірностей $f_{X,Y}(x,y),\; x\in \mathbb{R}^m, y \in \mathbb{R}^n$. Нехай $y_0 \in \mathbb{R}^n$ таке, що $f_Y(y_0) > 0$, де $f_Y$ - щільність випадкової величини $Y$. Тоді функція

$f_{X \mid Y}(x \mid y_0) = \frac{f_{X,Y}(x,y_0)}{f_Y(y_0)}$

називається умовною щільностю ймовірності випадкової велечини $X$ за умови, що $Y = y_0$. Розподіл, який задається умовною функцією ймовірності, називається умовним розподілом.

Властивості умовних розподілів

• Умовні функції ймовірності і умовна щільність ймовірності є функціями ймовірності і щільністю ймовірності відповідно, тобто вони задовольняють всім необхідним умовам. Зокрема

• $p_{X\mid Y}(x\mid y_0) \ge 0,\; \forall x \in \mathbb{R}^m,\, y_0\in \mathbb{R}^n$,
• $\sum\limits_x p_{X \mid Y}(x \mid y_0)= 1,\; \forall y_0\in \mathbb{R}^n$,

і

• $f_{X\mid Y}(x\mid y_0) \ge 0$ майже усюди на $\mathbb{R}^{m+n}$,
• $\int\limits_{\mathbb{R}^m} f_{X \mid Y}(x \mid y_0)\, dx = 1,\; \forall y_0\in \mathbb{R}^n$,

• Справедливі формули повної ймовірності:

• $p_X(x) = \sum\limits_{y} p_{X\mid Y}(x \mid y)\, p_Y(y)$,
• $f_X(x) = \int\limits_{\mathbb{R}^n} f_{X \mid Y}(x\mid y)\, f_Y(y)\, dy$.

• Якщо випадкові величини $X$ і $Y$ незалежні то умовний розподіл дорівнює безумовному:

$p_{X \mid Y}(x \mid y_0) = p_x(x),\; \forall x \in \mathbb{R}^m$

або

$f_{X\mid Y}( x\mid y_0 ) = f_x(x)$ майже усюди на $\mathbb{R}^m$.

Умовні ймовірності

Дискретні випадкові величини

Якщо $A$ - зліченна підмножина $\mathbb{R}^m$, то

$\mathbb{P}(X \in A \mid Y = y_0) = \sum\limits_{x \in A} p_{X \mid Y}(x \mid y_0)$.

Абсолютно неперервні випадкові величини

Якщо $A \in \mathcal{B}(\mathbb{R}^m)$ - борелівська підмножина $\mathbb{R}^m$, то припускаємо за визначенням

$\mathbb{P}(X\in A \mid Y = y_0) = \int\limits_A f_{X \mid Y}(x \mid y_0)\, dx$.

Зауваження. Умовна ймовірність у лівій частині рівності не може бути визначена класичним способом, оскільки $\mathbb{P}(Y = y_0) = 0$.

Умовні математичні сподівання

Дискретні випадкові величини

• Умовне математичне сподівання випадкової величини $X$ за умови $Y = y_0$ виходить підсумовуванням щодо умовного розподілу:

$\mathbb{E}[X \mid Y = y_0 ] = \sum\limits_{x} x\ p_{X \mid Y}(x \mid y_0)$.

• Умовне математичне сподівання $X$ за умови випадкової величини $Y$ - це третя випадкова величина $\mathbb{E}[X \mid Y]$, що задається рівністю

$\mathbb{E}[X \mid Y](\omega) = \mathbb{E}[X \mid Y = Y(\omega)],\; \omega \in \Omega$.

Абсолютно неперервні випадкові величини

• Умовне математичне сподівання випадкової величини $X$ за умови $Y = y_0$ виходить інтеграцією щодо умовного розподілу:

$\mathbb{E}[X \mid Y = y_0 ] = \int\limits_{\mathbb{R}^m} x\, f_{X \mid Y}(x \mid y_0)\, dx$.

• Умовне математичне сподівання $X$ за умови випадкової величини $Y$ - це третя випадкова величина $\mathbb{E}[X \mid Y]$, що задається рівністю

$\mathbb{E}[X \mid Y](\omega) = \mathbb{E}[X \mid Y = Y(\omega)],\; \omega \in \Omega$.