Теорема Рао — Блеквела

Теорема Рао — Блеквела — твердження в математичній статистиці на основі якого можна покращувати статистичні оцінки параметрів.

Нехай $X_1, \ldots, X_n$ послідовність незалежних однаково розподілених випадкових величин з розподілом, що залежить від деякого невідомого параметра $\theta \in \Theta.\,$ Нехай $\delta(X)$ — деяка статистична оцінка цього невідомого параметру із скінченною матрицею других моментів, а $T = \mathrm{T}(X)\;$ — достатня статистика для параметра $\theta.$ Тоді існує $\delta_{1}(X) = \textrm{E}[\delta(X)|T(X)]$ і крім того $\delta_{1}(X)$ є кращою оцінкою параметра в сенсі середньоквадратичного відхилення, тобто для будь якого вектора z необхідної розмірності виконується нерівність:

$z \textrm{E}[(\delta_{1}(X)-\theta)^{T}(\delta_{1}(X)-\theta)] z^T\leqslant z \textrm{E}[(\delta(X)-\theta)^{T}(\delta(X)-\theta)] z^T.$

Рівність виконується лише коли $\delta\,$ є вимірною функцією від T.

Доведення

Доведення для випадку коли параметр є одним числом тобто його розмірність рівна одиниці. Тоді

$\operatorname{E} [\delta_1(X)-\theta]^2 = \operatorname{E} \left[\textrm{E}(\delta(X)|T(X)) -\theta \right]^2 = \operatorname{E} \left[\textrm{E}(\delta(X) - \theta |T(X)) \right]^2 \leqslant \operatorname{E} \left[\textrm{E}((\delta(X) - \theta)^2 |T(X)) \right] = \operatorname{E}(\delta(X)-\theta)^2.\,\!$

Нерівність випливає з того, що для будь-якої випадкової величини W, $\operatorname{var} W = \operatorname{E} W^2 -(\operatorname{E} W)^2 ] \geqslant 0,$ якщо взяти $W = \textrm{E}(\delta(X) - \theta |T(X)).\,$ Звідси також бачимо, що рівність виконується лише коли $\operatorname{var}\, W = 0,\,$ тобто коли $\delta(X) - \theta$ приймає одне значення для кожного значення T, тобто $\delta(X)$ є функцією від T.

Див. також

• Достатня статистика
• Статистична оцінка

Джерела

• Карташов М.В. Імовірність, процеси, статистика - Київ, ВПЦ Київський університет, 2007.
• Lehmann, E. L.; Casella, G. (1998). Theory of Point Estimation (2nd ed.). Springer. Chapter 4. ISBN 0-387-98502-6.