WikiSort.ru - Не сортированное

В математической статистике неравенством Краме́ра — Ра́о (в честь Гаральда Крамера и К. Р. Рао) называется неравенство, которое при некоторых условиях на статистическую модель даёт нижнюю границу для дисперсии оценки неизвестного параметра, выражая её через информацию Фишера. Известно его обобщение в квантовой теории оценивания (квантовое неравенство Крамера — Рао).

Формулировка

Пусть дана статистическая модель ${\displaystyle (X,\,B,\,P_{\theta })}$ , ${\displaystyle x=(x_{1},\dots ,\,x_{n})}$ — выборка размера ${\displaystyle n}$ , определена функция правдоподобия ${\displaystyle L(\theta ,\,x)=L(\theta ,\;x_{1},\,x_{2},\dots \,x_{n})}$ и выполнены следующие условия (условия регулярности):

• ${\displaystyle L_{}^{}>0}$ и везде дифференцируема по ${\displaystyle \theta _{}^{}}$ .
• Функция ${\displaystyle U(\theta ,\,x)={\frac {\partial \ln L(\theta ,\,x)}{\partial \theta }}}$ (функция вклада выборки) имеет конечную дисперсию (или, что то же, конечна информация Фишера).
• Для любой статистики ${\displaystyle {\widehat {\theta }}(x)}$ с конечным вторым моментом имеет место равенство

${\displaystyle {\frac {\partial }{\partial \theta }}\int \limits _{X}{\widehat {\theta }}(x)\,L(\theta ,\,x)\,dx=\int \limits _{X}{\widehat {\theta }}(x)\,{\frac {\partial }{\partial \theta }}L(\theta ,\,x)\,dx}$ .

Пусть при этих условиях дана статистика ${\displaystyle {\widehat {\theta }}(x)}$ , которая несмещённо оценивает дифференцируемую функцию ${\displaystyle \tau (\theta )}$ . Тогда справедливо следующее неравенство:

• ${\displaystyle \mathrm {D} _{\theta }{\big (}{\widehat {\theta }}(x){\big )}\geqslant {\frac {(\tau '(\theta ))^{2}}{nI(\theta )}}}$ , где ${\displaystyle I(\theta )=M\left({\frac {d\ln L(\theta ,x)}{d\theta }}\right)^{2}}$ ;
• равенство достигается тогда и только тогда, когда ${\displaystyle {\frac {d\ln L(\theta ,x)}{d\theta }}=a(\theta )({\widehat {\theta }}(x)-\tau (\theta ))}$ .

Здесь ${\displaystyle I^{}(\theta )}$ — количество информации по Фишеру в одном наблюдении, а ${\displaystyle L(\theta ,t)}$ - плотность распределения генеральной совокупности ${\displaystyle X}$ в случае непрерывной статистической модели и вероятность события ${\displaystyle (X=t)}$ в случае дискретной статистической модели.

Частный случай

Часто используется следующий частный случай вышеприведённого неравенства, также называемый неравенством Рао-Крамера. Пусть выполнены условия регулярности, а ${\displaystyle {\widehat {\theta }}(x)}$ — несмещённая оценка параметра ${\displaystyle \theta }$ . Тогда

${\displaystyle \mathrm {D} _{\theta }\,{\widehat {\theta }}(x)\geqslant {\frac {1}{I_{n}(\theta )}}}$ .

Равенство в этом неравенстве достигается тогда и только тогда, когда ${\displaystyle {\hat {\theta }}(x)-\theta =a(\theta )U(\theta ,x)}$ .

Применение

Оценка параметра называется эффективной, если для неё неравенство Крамера — Рао обращается в равенство. Таким образом, неравенство может быть использовано для доказательства того, что дисперсия данной оценки наименьшая из возможных, то есть что данная оценка в некотором смысле лучше всех остальных.

См. также

• Квантовое неравенство Крамера — Рао

Литература

• Математическая статистика, под ред. В.С. Зарубина, серия "Математика в техническом университете", вып. XVII, М., МГТУ, 2002

В этой статье не хватает ссылок на источники информации. Информация должна быть проверяема, иначе она может быть поставлена под сомнение и удалена. Вы можете отредактировать эту статью, добавив ссылки на авторитетные источники. Эта отметка установлена 19 июня 2018 года.