🎲 Тервер

Производящая функция моментов

Q: А если MGF не существует?

Бывает: у распределения Коши $E[e^{tX}]$ расходится при любом $t \ne 0$, моментов выше первого попросту нет, и MGF построить нельзя. Замена — характеристическая функция $\varphi_X(t) = E[e^{itX}]$: её модуль не превышает единицы, поэтому она существует всегда и несёт ту же информацию, что MGF в благополучных случаях. Для целочисленных величин хватает производящей функции $G(s)$. Мораль: отсутствие MGF — не тупик, а сигнал сменить инструмент.

англ. Moment generating function

Функция M_X(t) = E[e^{tX}], чьи производные в нуле выдают все моменты распределения. Суммы независимых величин считаются умножением MGF — главный технический трюк доказательств.

Моменты $E [X]$ , $E [X^{2}]$ , $E [X^{3}]$ поодиночке считаются муторно, а их полный список не соберёшь никогда. Производящая функция моментов (MGF) упаковывает все моменты в одну конструкцию: $M_{X} (t) = E [e^{tX}]$ . Разложение экспоненты в ряд даёт $M_{X} (t) = 1 + tE [X] + \frac{t ^{2}}{2} E [X^{2}] + \dots$ — моменты сидят в коэффициентах, и $k$ -й момент равен $k$ -й производной в нуле: $E [X^{k}] = M_{X}^{(k)} (0)$ . Существует функция — существуют и все моменты; для большинства учебных распределений MGF записывается одной строкой. Для целочисленных величин родственный инструмент — производящая функция $G (s) = E [s^{X}]$ .

Пример: биномиальная величина с параметрами $n$ , $p$ имеет $M (t) = (q + p e^{t})^{n}$ . Проверка: $M^{'} (t) = n p e^{t} (q + p e^{t})^{n - 1}$ , в нуле $n p e = n p$ — матожидание сошлось, вторая производная даст $n pq + n^{2} p^{2}$ . Главный фокус — суммы: если $X$ и $Y$ независимы, $M_{X + Y} (t) = M_{X} (t) M_{Y} (t)$ , потому что матожидание произведения независимых величин распадается на произведение. Сумма $n$ биномиальных слагаемых собирается одним умножением без единой свёртки. Механика матожиданий, на которой всё это держится, — в уроке матожидание и дисперсия.

M_{X} (t) = E [e^{tX}], E [X^{k}] = M_{X}^{(k)} (0), M_{X + Y} (t) = M_{X} (t) M_{Y} (t) (X, Y независимы)

производящая функция моментов: моменты — производные в нуле, сумма независимых величин — произведение MGF

Частые вопросы

Зачем MGF, если моменты считаются напрямую?

Три причины. Разложение в ряд часто короче интегралов четвёртых и пятых степеней. Далее, MGF узнаётся в лицо: совпала производящая функция с известной — совпало и распределение; именно так чисто доказывается центральная предельная теорема. Наконец, суммы независимых величин считаются умножением: для суммы $n$ слагаемых это экономит страницы выкладок со свёртками. В задачниках MGF — стандартный способ показать, из каких кирпичей собрано распределение.

А если MGF не существует?

Бывает: у распределения Коши $E [e^{tX}]$ расходится при любом $t \neq = 0$ , моментов выше первого попросту нет, и MGF построить нельзя. Замена — характеристическая функция $φ_{X} (t) = E [e^{i tX}]$ : её модуль не превышает единицы, поэтому она существует всегда и несёт ту же информацию, что MGF в благополучных случаях. Для целочисленных величин хватает производящей функции $G (s)$ . Мораль: отсутствие MGF — не тупик, а сигнал сменить инструмент.