Cybernetics Wiki
Advertisement

В статистике метод оценки Максимальной апостериорной гипотезы (MAP) тесно связан с методом максимального правдоподобия (ML), но использует дополнительную оптимизацию, которая совмещает априорное распределение величины, которую хочет оценить.

Введение[]

Предположим, что нам нужно оценить неконтролируемый параметр выборки на базе наблюдений . Пусть - выборочное распределение , такое, что - вероятность в то время как параметр выборки . Тогда функция

известна как функция правдоподобия, а оценка

как оценка максимального правдоподобия .

Теперь, предположим, что априорное распределение на существует. Это позволяет рассматривать как случайную величину как в Байесовой статистике. тогда апостериорное распределение :

где плотность распределения , - область определения . Это прямое приложение Теоремы Байеса.

Метод оценки максимального правдоподобия затем оценивает как апостериорное распределение этой случайной величины:

Знаменатель апостериорного распределения не зависит от и поэтому не играет роли в оптимизации. Заметим, что MAP оценка соответствует ML оценке когда априорная постоянна (т.е., константа).

Пример[]

Предположим, что у нас есть последовательность IID случайных величин и априорное распределение задано . Мы хотим найти MAP оценку .

Функция, которую нужно максимизировать задана

что эквивалентно минимизации в

Таким образом, мы видим, что MAP оценка для μ задана

Ссылки[]

  • M. DeGroot, Optimal Statistical Decisions, McGraw-Hill, (1970).
  • Harold W. Sorenson, (1980) "Parameter Estimation: Principles and Problems", Marcel Dekker.
  • EM-алгоритм - один из способов вычисления MAP
  • Метод максимального правдоподобия
Advertisement