Доверительные интервалы: оценка параметра с заданной надёжностью

Опрос показал: 54% избирателей поддерживают реформу. Ведущий новостей называет число — и ни слова о том, что за ним стоит. Статистик ответит иначе: «от 51 до 57 процентов при надёжности 95%». Интервал вместо точки, честное сообщение о погрешности вместо ложной точности. Доверительный интервал — главный ответ статистики на вопрос «насколько вам можно верить», и после выборки и точечных оценок настало время научиться его строить.

От точки к интервалу: почему одно число — мало#

Точечная оценка $\bar{x}$ страдает врождённым дефектом: она случайна. Возьмёте другую выборку — получите другое число, и заранее неизвестно, выше оно или ниже истины. Одно число не сообщает, насколько далеко от истины оно может отстоять. Интервальная оценка исправляет это: по данным строят отрезок $[{\theta }_1,{\theta }_2]$, который с заранее выбранной вероятностью накрывает неизвестный параметр. Число $\gamma$ называют доверительной вероятностью или надёжностью; в прикладных задачах обычно берут $\gamma =0,95$, реже $0,90$ или $0,99$.

Как читать надёжность честно? Частотная формулировка такая: если много раз повторить эксперимент — новая выборка, новый интервал, снова выборка, снова интервал, — то примерно 95% полученных интервалов накроют истинное значение, а 5% промахнутся. Мы не знаем, к какой группе попал наш конкретный интервал, но знаем долю попаданий у метода.

Интервал для среднего, когда σ известна#

Классическая конструкция. Из совокупности с известным стандартным отклонением $\sigma$ взята выборка объёма $n$, посчитано среднее $\bar{x}$. Тогда доверительный интервал для $\mu$ с надёжностью $\gamma$ выглядит так:

Читаем по частям. $\bar{x}$ — центр, наша лучшая догадка. $\frac{\sigma }{\sqrt{n}}$ — стандартная ошибка среднего, погрешность оценки; она убывает как единица на корень из объёма выборки. Множитель $z$ растягивает полосу под выбранную надёжность: при $\gamma =0,95$ берут $z=1,96$ — ровно тот отступ, внутри которого стандартная нормальная величина лежит с вероятностью 0,95. Вся конструкция опирается на нормальное распределение и центральную предельную теорему: при больших выборках среднее близко к нормальному даже если сами данные не нормальные.

Числовой прогон. Измерена твёрдость $n=64$ закалённых деталей, $\bar{x}=100$ единиц, из многолетнего опыта $\sigma =8$. Стандартная ошибка $\sigma /\sqrt{n}=8/8=1$. Полуширина $1,96\cdot 1=1,96$. Интервал: $(98,04;101,96)$. Вывод, который пишут в отчёте: «с надёжностью 0,95 истинная средняя твёрдость лежит между 98,04 и 101,96». Ширина здесь задана ошибкой среднего, а не желанием исследователя — и это честная ширина.

σ неизвестна: распределение Стьюдента#

В реальных задачах $\sigma$ известна редко: если бы мы знали разброс совокупности, зачем бы мы вообще измеряли среднее? Практический маршрут — подставить вместо $\sigma$ исправленное выборочное $s$ из тех же данных. Но $s$ сама колеблется от выборки к выборке, и замена делает оценку шатче. Уильям Госсет, публиковавшийся под псевдонимом Стьюдент, в 1908 году посчитал точное распределение получившейся статистики — у него тяжелее хвосты, чем у нормального, и множитель при ошибке берётся из таблиц распределения Стьюдента с числом степеней свободы $n-1$:

Пример. Шестнадцать измерений дали $\bar{x}=42$ и $s=6$. Ошибка $s/\sqrt{n}=6/4=1,5$. Квантиль Стьюдента для надёжности 0,95 и $15$ степеней свободы равен $2,131$. Полуширина $2,131\cdot 1,5=3,197\approx 3,20$, интервал $(38,80;45,20)$. Обратите внимание: при том же $n$ интервал вышел бы шире нормального с известным $\sigma$ — плата за незнание разброса. При $n\ge 30$ квантиль Стьюдента почти неотличим от $z$, поэтому большие выборки считаются по нормальной схеме без угрызений совести.

Интервал для доли#

Вторая главная задача — по частоте судить о вероятности: из $n$ опрошенных $m$ сказали «да». Выборочная доля $w=m/n$ колеблется вокруг истинной $p$ со стандартной ошибкой $\sqrt{pq/n}$, где $q=1-p$; в формуле неизвестную $p$ заменяют на $w$. Интервал:

Возвращаемся к опросу из начала урока: $n=1000$, $w=0,54$. Ошибка $\sqrt{\frac{0,54\cdot 0,46}{1000}}=\sqrt{0,0002484}\approx 0,0158$. Полуширина $1,96\cdot 0,0158\approx 0,031$. Интервал $(0,509;0,571)$ — вот откуда берётся пресловутое «±3 процентных пункта» в подписях к графикам опросов. И есть содержательный вывод: вся полоса лежит выше отметки $0,5$, значит, с надёжностью 0,95 поддержку большинства утверждать можно — хотя запас тонкий, левая граница выше половины лишь на девять тысячных.

Сколько данных собирать: обратная задача#

Часто интервал не результат, а требование технического задания: «оценить среднее с точностью не хуже $\Delta$ при надёжности $\gamma$». Полуширина должна не превосходить $\Delta$: $z\cdot \frac{\sigma }{\sqrt{n}}\le \Delta$. Выражаем объём:

Числа. Нужно оценить среднюю массу посылки с точностью до 1 кг при надёжности 0,95, разброс известен: $\sigma =10$ кг. Тогда $n\ge (1,96\cdot 10/1{)}^2=19,6^2=384,16$ — округляем всегда вверх: $n=385$. Для доли подставляют $w=0,5$ (худший случай, максимальный разброс): при точности 3 п.п. выходит $n\ge {\left(\frac{1,96\cdot 0,5}{0,03}\right)}^2\approx 1067$, то есть $1068$ человек — реальные социологи и опрашивают около тысячи. Корень в знаменателе мстит за оптимизм: вдвое точнее — вчетверо дороже, это прямое следствие закона больших чисел.

Одни данные — три интервала

Посмотрим, как надёжность растягивает границы на примере с твёрдостью деталей: $n=64$, $\bar{x}=100$, $\sigma /\sqrt{n}=1$. Для $\gamma =0,90$ отступ $1,645$ и интервал $(98,36;101,64)$. Для $\gamma =0,95$ — $1,96$ и $(98,04;101,96)$. Для $\gamma =0,99$ — $2,576$ и $(97,42;102,58)$. Картина закономерная: чем увереннее обещание, тем оно просторнее, и ни один исследователь не может выбрать «надёжно и узко» одновременно — при фиксированных данных это сделка двух участников, а не дипломатическая победа.

Последняя оговорка о честности. Центральная полоса с равными хвостами — соглашение, а не догма: принципиально можно построить несимметричный интервал, накрывающий $\mu$ с той же вероятностью. Соглашение живёт потому, что при симметричном, умеренно колоколообразном распределении среднего оно даёт самый узкий интервал. А сама нормальность среднего при больших $n$ обеспечивается центральной предельной теоремой даже для ненормальных данных — при условии, что у совокупности есть конечная дисперсия и наблюдения независимы.

• Надёжность задана — интервал растёт: 0,99 шире, чем 0,95, при тех же данных
• Выборка подросла в 4 раза — интервал сузился вдвое (корень из n в знаменателе)
• σ неизвестна — меняем z на квантиль Стьюдента с $n-1$ степенями свободы
• Доля оценивается по $\sqrt{w(1-w)/n}$; без информации берём $w=0,5$
• Округление n — всегда вверх; формулы живут в шпаргалке по вероятности

Интервал и проверка гипотез — две стороны одной медали: интервал, не содержащий гипотетического значения, тут же подсказывает, что тест такую гипотезу отвергнет. Об этом — в следующем уроке о проверке статистических гипотез. А если хочется просто потренировать глаз на частотах и вероятностях, загляните в тренажёр по теории вероятностей.