Информационное неравенство (математическая статистика) (Nuskjbgenkuuky uyjgfyuvmfk (bgmybgmncyvtgx vmgmnvmntg))

Информационное неравенство (математическая статистика) — неравенство для несмещённой оценки с локально минимальной дисперсией, задающее нижнюю границу для величины дисперсии этой оценки. Играет важную роль в теории асимптотически эффективных оценок^[1].

Формулировка

Обозначим $X$ — данные наблюдений, $\theta$ — оцениваемый на их основе параметр, $p(X,\theta )$ — условная плотность вероятности распределения, информацию Фишера как $I(\theta )=E\left[{\frac {\partial }{\partial \theta }}\ln p(X,\theta )\right]^{2}$ . Пусть $I(\theta )>0$ , $\delta$ — любая статистика с $E_{\theta }(\delta ^{2})<\infty$ , для которой производная по $\theta$ от математического ожидания $E_{\theta }(\delta )=\int \delta p_{\theta }d\mu$ существует и может быть получена дифференцированием под знаком интеграла. Тогда справедливо информационное неравенство^[2]: $D_{\theta }(\delta )\geqslant {\frac {\left[{\frac {\partial }{\partial \theta }}E_{\theta }(\delta )\right]^{2}}{I(\theta )}}$ .