Выборка и точечные оценки: среднее и дисперсия

Социологи заявляют: «54% горожан поддерживают новый маршрут» — хотя опросили всего тысячу человек из миллиона. Производитель проверяет 50 лампочек из партии в десять тысяч и делает вывод о всей партии. Оба сидят на одной идее: об огромной совокупности можно судить по небольшой, но правильно отобранной части. Как именно судить, насколько этому верить и зачем в формуле дисперсии выскакивает странное $n-1$ — вопросы этого урока. Тут начинается математическая статистика: теория вероятностей задним числом смотрит на данные.

Генеральная совокупность и выборка#

Генеральная совокупность — все интересующие нас объекты: миллион горожан, десять тысяч лампочек, все детали станка за смену. Обследовать всё — дорого, долго, а иногда и невозможно: проверка «всех спичек» уничтожает все спички. Поэтому из совокупности извлекают выборку — набор из $n$ наблюдений $x_1,x_2,\dots ,x_n$, которым суждено представлять целое.

Чтобы представлять честно, выборка должна быть репрезентативной: каждый объект совокупности имеет равный шанс попасть в неё. Опросить тысячу человек у одного выхода из метро — значит опросить один район, а не город. Классическое решение — случайный отбор с возвращением или без: теория вероятностей позволяет считать выборку набором независимых случайных величин $X_1,\dots ,X_n$ с тем же распределением, что у генеральной совокупности. Именно эта модельная рамка делает все дальнейшие формулы осмысленными.

Первый шаг обработки — упорядочить данные по возрастанию: получится вариационный ряд. Затем считают частоты: сколько раз встретилось каждое значение $n_i$, и относительные частоты $w_i=n_i/n$. Например, из пяти наблюдений $5,7,8,10,10$ получим значения $5,7,8,10$ с частотами $1,1,1,2$ и относительными частотами $0,2,0,2,0,2,0,4$. Сумма относительных частот всегда единица — то же условие нормировки, что и у закона распределения в уроке о дискретных величинах.

Выборочное среднее: оценка центра#

Центр выборки описывает выборочное среднее — знакомый всем минус очков:

Среднее — случайная величина: возьмёте другую выборку, получите другое число. Отсюда главный вопрос статистики: насколько эта случайная оценка похожа на истину? Смотрят на три качества. Несмещённость: в среднем по многим выборкам оценка попадает в истинное значение — систематической ошибки нет. Состоятельность: с ростом $n$ оценка прижимается к истине — за это отвечает закон больших чисел. Эффективность: разброс оценки меньше, чем у конкурентов из того же класса.

Для среднего всё прекрасно. Если в совокупности среднее равно $\mu$ и дисперсия ${\sigma }^2$, то $M(\bar{X})=\mu$ — несмещённость налицо, а $D(\bar{X})={\sigma }^2/n$ — разброс сжимается с ростом выборки. Корень из этого числа, $\sigma /\sqrt{n}$, — знаменитая стандартная ошибка среднего: погрешность оценки убывает как единица на корень из объёма выборки. Хотите вдвое точнее — соберите вчетверо больше данных; вот почему качественные опросы так дороги.

Выборочная дисперсия и загадка n − 1#

Разброс описывает выборочная дисперсия — средний квадрат отклонений от выборочного среднего:

Подвох в том, что оценка $S^2$ смещена: она систематически занижает истинную дисперсию ${\sigma }^2$. Причина честная: отклонения считаются не от истинного центра $\mu$, а от выборочного $\bar{x}$ — центра, подогнанного под те же данные. Подогнанный центр лежит ближе к точкам, чем настоящий, квадраты отклонений выходят меньше. Точный подсчёт даёт $M(S^2)=\frac{n-1}{n}{\sigma }^2$: не хватает множителя $\frac{n}{n-1}$. Умножив на него, получаем исправленную дисперсию $s^2$ с честным ожиданием ${\sigma }^2$.

Числовой прогон. Выборка $5,7,8,10,10$: среднее $\bar{x}=40/5=8$. Квадраты отклонений: $9,1,0,4,4$; сумма $18$. Обычная выборочная дисперсия $S^2=18/5=3,6$; исправленная $s^2=\frac{5}{4}\cdot 3,6=4,5$. Исправленная всегда не меньше — и не потому, что «данные на самом деле разбросаны сильнее», а потому, что мы сняли занижение от подгонки центра.

Оценка доли: маршрутка и проценты#

Вторая классическая задача — оценка вероятности (доли) по частоте. Из $n$ опрошенных $m$ ответили «да»; точечная оценка доли — выборочная доля $w=m/n$. Под капотом — схема Бернулли: каждый ответчик даёт единицу или ноль, среднее и есть доля. Несмещённость очевидна из линейности ожидания, а дисперсия оценки равна $D(w)=\frac{pq}{n}$, где $p$ — истинная доля.

Числа: опросили $1000$ человек, $540$ за маршрут. Оценка $w=0,54$. Стандартная ошибка $\sqrt{\frac{0,54\cdot 0,46}{1000}}\approx \sqrt{0,000248}\approx 0,016$, то есть около полутора процентных пунктов. Вот откуда в серьёзных опросах берутся «погрешность ±2%»: берут две-три стандартные ошибки, и в дело вступает нормальное приближение из ЦПТ.

Среднее — не единственная мера центра, и на кривых данных она подводит. Вернёмся к зарплатам из начала урока: пять человек получают $30,35,40,45,200$ тысяч. Среднее $=350/5=70$ тысяч — больше, чем у четверых из пяти. Медиана — значение, делящее упорядоченный ряд пополам — здесь $40$ тысяч, и она честнее описывает «типичного человека». Практическое правило: при сильных выбросах или скошенных данных доверяйте медиане, а среднее пускайте в дело только после проверки на выбросы.

1. 1
   Упорядочите выборку: $30,35,40,45,200$.
2. 2
   Нечётный объём $n=5$: медиана — средний по счёту элемент, третий по порядку: $40$.
3. 3
   При чётном объёме, например $30,35,40,45$, медиана — полусумма двух средних элементов: $(35+40)/2=37,5$.
4. 4
   Сравните со средним этих четырёх чисел: $150/4=37,5$ — совпало, потому что выбросов нет.

Третья мера центра — мода: значение с наибольшей частотой. В ряду $5,7,8,10,10$ мода равна $10$. Для данных, измеренных грубо или носящих «пиковый» характер, мода иногда полезнее среднего и медианы: у размера одежды, продаваемой магазином, важна именно самая ходовая величина, а не средняя по витрине.