WikiSort.ru - Не сортированное

Функция предельного правдоподобия (англ. Marginal Likelihood Function) или интегрированное правдоподобие (англ. integrated likelihood) — это функция правдоподобия, в которой некоторые переменные параметры исключены. В контексте байесовской статистики, функция может называться обоснованностью (англ. evidence) или обоснованностью модели (англ. model evidence).

Концепция

Если дано множество независимых одинаково распределённых точек данных ${\displaystyle \mathbb {X} =(x_{1},\ldots ,x_{n}),}$ , где параметр ${\displaystyle x_{i}\sim p(x_{i}|\theta )}$ согласно некоторому распределению вероятностей с параметром ${\displaystyle \theta }$ , где параметр ${\displaystyle \theta }$ сам по себе является случайной величиной, заданной распределением, то есть, ${\displaystyle \theta \sim p(\theta |\alpha )}$ . Функция предельного правдоподобия в общем случае спрашивает, какова вероятность события ${\displaystyle p(\mathbb {X} |\alpha )}$ , где ${\displaystyle \theta }$ исключено (путём интегрирования по этому параметру):

${\displaystyle p(\mathbb {X} |\alpha )=\int _{\theta }p(\mathbb {X} |\theta )\,p(\theta |\alpha )\ \operatorname {d} \!\theta }$

Определение выше сформулировано в контексте байесовской статистики. В классической (частотной^[en]) статистике концепция предельного правдоподобия появляется вместо этого в контексте совместного параметра ${\displaystyle \theta =(\psi ,\lambda )}$ , где ${\displaystyle \psi }$ является фактическим параметром, а ${\displaystyle \lambda }$ является мешающим параметром^[en]. Если существует распределение вероятности для ${\displaystyle \lambda }$ , часто желательно рассмотреть функцию правдоподобия лишь в терминах ${\displaystyle \psi }$ путём исключения ${\displaystyle \lambda }$ :

${\displaystyle {\mathcal {L}}(\psi ;\mathbb {X} )=p(\mathbb {X} |\psi )=\int _{\lambda }p(\mathbb {X} |\lambda ,\psi )\,p(\lambda |\psi )\ \operatorname {d} \!\lambda }$

К сожалению, предельные правдоподобия, как правило, трудно вычислить. Точные решения известны для малого класса распределений, в частности, когда исключаемый параметр является сопряжённым априорным распределением распределения данных. В других случаях нужен некий метод численного интегрирования, либо общий метод интегрирования, такой как метод Гаусса или метод Монте-Карло, или метод, разработанный специально для статистических задач, такой как аппроксимация Лапласа, семплирование по Гиббсу/Метрополису, или EM-алгоритм.

Можно также применить вышеприведённые соглашения к отдельной случайной величине (точке данных) x, а не к множеству наблюдений. В контексте байесовской теории это эквивалентно априорному прогнозируемому распределению^[en] точки данных.

Приложения

См. также

• Эмпирический байесовский метод^[en]
• Частное распределение
• Парадокс Линдли

Примечания

Литература

Для улучшения этой статьи желательно: Проверить качество перевода с иностранного языка. Исправить статью согласно стилистическим правилам Википедии. Проверить статью на грамматические и орфографические ошибки.