Владимир Савельев

усеченным (или урезанным) средним.

мерами центральной тенденции

две формулы дисперсии: одна для генеральной совокупности, другая — для выборки

Однако, у обычного регрессионного анализа есть одно существенное ограничение – уровень счастья должен быть достаточно точно измерен с помощью какого-нибудь прибора или теста. К сожалению, мы зачастую не располагаем подобным оборудованием. Максимум, что мы можем сделать, это прикинуть, является ли данный конкретный котик счастливым или несчастным.

Можем ли мы при таких условиях найти факторы, предсказывающие котиковое счастье?
Разумеется да. И для этого существуют два очень хороших метода. Первый называется логистической регрессией, а второй – дискриминантным анализом.
Логистическая регрессия во многом похожа на линейную. Однако, вместо уровня счастья в левой части уравнения стоит величина, которая позволяет рассчитать вероятность того, что данный котик счастлив. Эта величина называется логарифмом шанса.
Слово «шанс» достаточно часто встречается в русском языке, как правило, обозначая то, что ни в коем случае нельзя упустить. Но с точки зрения статистики шанс – это вероятность того, что данный котик счастлив, деленная на вероятность того, что он несчастлив.

По некоторым математическим причинам от шанса берут натуральный логарифм и подставляют эту величину в регрессионное уравнение. Если логарифм шанса будет положительным, то данный котик считается счастливым, а если отрицательным – то несчастным.

С методами регрессионного и дискриминантного анализов связаны две проблемы, которые существенным образом могут испортить вам все ваши выводы.
Первая из них – проблема мультиколлиниарности – возникает в случаях, когда некоторые факторы сильно коррелируют между собой, и приводит к неустойчивости получившегося уравнения. Проявляется это в двух формах.
1. При добавлении всего одного-двух котиков в выборку это уравнение может измениться до неузнаваемости.
2. Формулы, построенные на двух сходных выборках котиков, будут различаться.

Как правило, эту проблему преодолевают тремя способами.
1. Исключают одну из коррелирующих переменных из анализа.
2. Предварительно проводят процедуру факторного анализа (о нем будет рассказано далее), заменяющего эти переменные одной искусственной, которая и будет включена в регрессию.
3. Проводят процедуру пошаговой регрессии. Такая регрессия постепенно включает в уравнение по одной переменной и сразу же после этого пересчитывает вклад всех остальных. В итоге если одна из коррелирующих переменных была выбрана в качестве фактора, вторая туда скорее всего не попадет.

Все математические модели делятся на функциональные и структурные. Функциональные модели – к которым, к слову, относится регрессионное уравнение, – описывают влияние внешних факторов на котиковое состояние. Например известная нам модель котикового счастья.

Связанные выборки – ситуация, при которой любому объекту из первой выборки соответствует ровно один объект из второй. Можно сказать, что они образуют неразрывную пару (а в более сложных случаях – тройку, четверку и т. д.). В книге – котики до и котики после приема лекарства.

Переменные – свойства объектов, которые поддаются измерению. В книге – котиковое счастье, здоровье, размер и т. д.
Значение переменной – степень выраженности того или иного свойства у конкретного объекта. Иными словами – насколько данный котик здоров, сыт и счастлив.

Вторая проблема – проблема переобучения – заключается в том, что уравнение, полученное на одних котиках, может не работать на других. Она возникает из-за того, что в вашей выборке котиков могут быть закономерности, которые нехарактерны для котиков в целом. И зачастую они попадают в регрессионную модель.

Для того чтобы предотвратить переобучение, используют критерий, который искусственно ограничивает количество факторов, включенных в уравнение (например критерий Акаике и Байесовский информационный критерий).

В предыдущих разделах мы подробно рассмотрели метод регрессионного анализа, который позволяет построить уравнение, описывающее, как различные вещи влияют на настроение котиков. Подобные уравнения входят в группу объектов, называющихся математическими моделями.
Математическая модель – это своего рода аналог котика, который позволяет изучать его поведение без проведения реальных экспериментов. Как правило, это значительно удешевляет исследования.