Результаты обучения

После изучения урока вы сможете:

Главная идея. Регрессия и классификация различаются тем, какой ответ требуется предсказать. Сначала определяют цель и рабочий контекст, а уже затем выбирают алгоритм.
Регрессия оценивает величину, классификация определяет категориюСхема показывает общий признак X и два варианта целевого ответа: числовое значение y или категорию класса.XПризнакиодни и те же данныеРегрессиячисловая величина yКлассификациякатегория / классРезультатоценка / решение
Регрессия оценивает величину, классификация определяет категорию. Тип задачи задаётся целевым ответом, а не набором входных признаков.

1. Сначала сформулируйте вопрос

Выбор между регрессией и классификацией начинается не с выбора алгоритма и не с просмотра готового датасета. Начните с решения, которое должен принять человек или система. Спросите: какой ответ будет полезен? Нужно оценить величину, выбрать категорию или принять действие на основе прогноза?

Например, для здания можно прогнозировать завтрашнее потребление тепла в кВт·ч, определять, относится ли текущий режим к аварийному, или выбирать команду управления. Первые две задачи могут быть соответственно регрессией и классификацией. Выбор команды управления — уже отдельная задача принятия решения; не следует автоматически называть её классификацией.

2. Регрессия: предсказать величину

Целевая переменная — измеряемый или размечаемый ответ, который модель должна предсказать для каждого объекта и заданного временного горизонта.
Регрессия (Regression) — постановка, в которой целевая переменная является числовой величиной, а модель оценивает её значение.
Вопрос звучит как «сколько?», «какова величина?» или «какое значение ожидается?».

Примеры: суточное энергопотребление в кВт·ч, температура помещения в °C, длительность ремонта в часах, расход воды в м³. Важны смысл и единицы измерения: прогноз 125 без указания, что это 125 кВт·ч за сутки, недостаточно определён.

Целевую переменную нужно определить операционно: какое измерение считается правильным ответом, за какой период оно агрегируется и к какому моменту должен быть готов прогноз. Если прогнозируется потребление следующего календарного дня, признаки должны быть доступны до начала этого дня.

3. Классификация: определить категорию

Классификация (Classification) — постановка, в которой целевая переменная обозначает одну из заранее определённых категорий, а модель относит объект к подходящему классу.
Вопрос звучит как «к какому классу относится объект?» или «произошло ли событие?».

Примеры: авария / норма; тип обращения A / B / C; неисправность насоса / датчика / сети. Классы должны иметь ясные определения и правила разметки. Если два эксперта по-разному понимают категорию «аварийное состояние», проблема начинается в постановке и разметке, а не в алгоритме.

Бинарная классификация — выбор между двумя взаимоисключающими классами.
Многоклассовая классификация — выбор одного класса из трёх или более взаимоисключающих категорий.
Многометочная классификация — назначение объекту нескольких меток одновременно, если в нём присутствуют разные темы или признаки.

Например, в одном обращении одновременно могут присутствовать темы «отопление» и «электроснабжение». Это разные структуры целевого ответа.

4. Что именно выдаёт модель?

Важно различать выход модели и решение, которое использует этот выход.
Вероятность класса — оценка моделью степени правдоподобия принадлежности объекта к определённому классу; это не гарантия события и не готовое решение.

Вероятность 0,82 не означает автоматически, что событие точно произойдёт. Это оценка модели, смысл которой зависит от качества калибровки и данных. А метка «авария» — уже результат применения правила принятия решения к оценке.

5. Порог и цена ошибок

Порог классификации — выбранная граница оценки, выше которой система относит объект к положительному классу или запускает предусмотренное действие.
В бинарной классификации можно принять решение «положительный класс», если оценка вероятности превышает выбранный порог. Порог 0,5 — распространённая отправная точка, но не универсальный закон. Если пропустить опасную неисправность значительно дороже, чем отправить исправный узел на дополнительную проверку, порог может быть ниже. Если ложная тревога вызывает дорогостоящую остановку производства, порог может быть выше.

Порог нельзя выбирать только ради красивого показателя. Его нужно связывать с последствиями ошибок, доступной мощностью проверки, правилами безопасности и требованиями заказчика. Подробные метрики классификации и анализ ошибок рассматриваются в теме 1.5.

6. Сравнение на одном примере

Представим, что система наблюдает за насосной установкой. Измерения температуры, вибрации, давления и нагрузки — это входные признаки. Но целевая переменная зависит от вопроса:
ВопросЦелевая переменнаяПостановка
Сколько часов насос проработает до следующего обслуживания?Число часовРегрессия
Есть ли подтверждённая неисправность?«Да» / «нет»Бинарная классификация
Какой тип неисправности обнаружен?Одна категория из несколькихМногоклассовая классификация
Какие проблемы присутствуют одновременно?Набор метокМногометочная классификация

Набор признаков может быть одинаковым, но это не делает задачи одинаковыми. Различается целевой ответ, процесс его получения и то, как результат будет использоваться.

7. Практикум: проверьте постановку

Для каждого сценария определите тип задачи и сформулируйте целевую переменную с единицей или набором допустимых классов.
  1. Оценить расход воды в здании за следующие 24 часа.
  2. Определить, поступила ли заявка о протечке.
  3. Назначить заявке одну категорию из списка: отопление, вентиляция, водоснабжение, электрика.
  4. Отметить все темы, которые встречаются в одном тексте обращения.

Затем задайте пять уточняющих вопросов: что является объектом прогноза; как определяется правильный ответ; к какому моменту он относится; когда прогноз должен быть доступен; что произойдёт после получения результата?

8. Типичные ошибки и границы

Выбор между регрессией и классификацией не решает автоматически вопрос причинности, качества данных, справедливости или безопасности. Это отдельные аспекты проектирования и оценки.

9. Главное из урока