Результаты обучения

После изучения урока вы сможете:

Проблема урокаМы часто говорим «модель решила» или «модель знает». Но что именно скрывается за этим словом? Чтобы объяснять поведение AI, нужно отделить математическое правило, его числовые параметры, процедуру обучения и программную систему вокруг модели.
ИнтуицияПредставьте весы, которые по набору показаний оценивают нагрузку. Входные показания меняются от объекта к объекту. Правило расчёта и его коэффициенты остаются теми же, пока модель не переобучена или не заменена. Это различие между входом и параметрами — отправная точка урока.

1. Модель преобразует вход в результат

Модель машинного обучения можно рассматривать как математическое правило, которое получает описание объекта и вычисляет результат. На вход поступают признаки: измерения, характеристики, текстовые или визуальные данные. На выходе модель выдаёт число, класс, вероятность, последовательность или другое представление, подходящее задаче.

В обозначениях будем использовать x для входа, θ (тета) для параметров модели и ŷ («y с крышкой») для прогноза. Реальный ответ, если он известен, обозначим y. Прогноз и реальный ответ — не одно и то же: модель может ошибаться.

Модель как параметризованное отображениеŷ = f(x; θ)
Модель машинного обученияМатематическое или вычислительное отображение, которое по входным данным формирует прогноз или другое целевое представление.
Входной признакИзмеряемая характеристика объекта или события, используемая моделью для построения результата.
Прогноз (ŷ)Результат, который модель вычисляет для заданного входа; он может отличаться от фактического значения y.
Входные признаки — модель — прогнозОбъект и его измерения поступают в модель, которая применяет правило и параметры и формирует результат.Входные признакиобъект и измеренияМодельf(x; θ)правило + параметрыПрогнозрезультат для объекта
Входные признаки → правило с параметрами → прогноз для конкретного объекта.

2. Что такое параметры модели

Параметры — числовые значения, которые задают конкретное поведение модели. В простой линейной модели это коэффициент w и свободный член b. В нейронной сети параметрами являются, в частности, веса и смещения множества нейронных связей. В больших моделях параметров могут быть миллионы или миллиарды.

Для одного и того же семейства моделей разные наборы параметров задают разные функции. Поэтому недостаточно сказать «используется линейная модель» или «используется нейросеть»: нужно знать и конкретные значения параметров, если мы хотим воспроизвести прогноз.

Пример линейной моделиŷ = w · x + b
Параметр моделиЧисловая величина, значение которой входит в определение конкретной модели и влияет на её прогнозы.
Вес (w)Параметр, задающий вклад входной переменной в вычисление результата в простой линейной модели.
Свободный член (b)Параметр, задающий базовый уровень прогноза при нулевом значении входа в линейной модели.

3. Один пример — разные модели

Рассмотрим учебный пример: модель оценивает расход энергии по числу часов работы оборудования. Пусть x — часы работы, а ŷ — условные единицы энергии. Значения ниже иллюстративны: это не результат измерений и не инженерная нормативная зависимость.

Модель A использует w = 2,4 и b = 18. При пяти часах она выдаёт 30. Модель B использует w = 1,8 и b = 22 и при том же входе выдаёт 31. Вход одинаковый, но параметры разные — поэтому различается и прогноз.

Изменение w меняет наклон зависимости, а изменение b сдвигает линию вверх или вниз. В более сложных моделях параметры могут менять форму границы решения или взаимодействие признаков; общая идея остаётся той же.

Семейство моделейКласс моделей с общей математической формой или архитектурой, но разными конкретными параметрами.
Экземпляр моделиКонкретная модель с выбранной структурой и определёнными значениями параметров.
Одна форма — разные параметрыМодель A и модель B используют разные параметры, поэтому линии прогнозов отличаются.Модель AМодель Bнаклон 2,4 · сдвиг 18наклон 1,8 · сдвиг 22x → ŷx → ŷ
Одна математическая форма, но разные параметры задают разные прогнозы.

4. Параметры и входные данные — не одно и то же

Вход x обычно меняется для каждого нового объекта. Параметры θ задают конкретную модель и при обычном использовании остаются фиксированными между прогнозами. Если модель получает новый объект, ей не требуется заново «учиться» на нём: она применяет уже заданные параметры к новому входу.

Это не означает, что параметры никогда не меняются. Во время обучения они подбираются по данным; при дообучении или переобучении могут обновляться. Но в момент обычного предсказания мы рассматриваем конкретный набор параметров как заданный. Процесс подбора параметров и функцию потерь подробно разберём в уроке 1.4.2.

Обученная модельМодель, параметры которой уже определены в результате процедуры обучения и которая готова формировать прогнозы.

5. Модель, алгоритм обучения и AI-система

Эти понятия связаны, но не взаимозаменяемы. Модель — правило, которое вычисляет прогноз. Алгоритм обучения — процедура, которая по данным и критерию подбирает параметры. AI-система — более широкая программно-техническая конструкция: она может подготавливать данные, вызывать модель, применять пороговое правило, обращаться к базе документов, показывать результат и вести журнал.

Например, модель может оценивать вероятность неисправности. Но решение отправить заявку инженеру может принимать отдельное правило: если вероятность выше выбранного порога, создать уведомление. Сам порог, интерфейс и процесс обработки — не обязательно часть самой модели.

Алгоритм обученияПроцедура, которая использует данные и заданный критерий для поиска или обновления параметров модели.
AI-системаСовокупность модели и окружающих компонентов: данных, подготовки входов, правил принятия решений, интерфейса, интеграций и контроля.
Модель — часть AI-системыСистема включает подготовку входа, модель, правило решения, интерфейс и контроль.Подготовка входаочистка и признакиМодельf(x; θ)Правило решенияпорог / маршрутИнтерфейс и контрольпоказ и журналМодель является одним из компонентов более широкой системы
Подготовка входа → модель → правило решения → интерфейс и контроль.

6. Мини-практика: изменяем параметры

В примере ниже функция predict — это фиксированная форма модели. Словари model_a и model_b содержат два набора параметров. Мы передаём одинаковое число часов, но получаем разные прогнозы. Код не обучает модель: параметры заданы вручную, чтобы изолировать смысл понятия.

Запустите код, затем поменяйте только rate или base. Посмотрите, как меняется результат. Не делайте вывод, что более высокий прогноз автоматически лучше: для этого нужно знать данные, задачу и критерий качества.

Python 3.10+ · стандартная библиотека
def predict(hours, rate, base):
    return rate * hours + base

model_a = {"rate": 2.4, "base": 18.0}
model_b = {"rate": 1.8, "base": 22.0}

hours = 5
print(predict(hours, model_a["rate"], model_a["base"]))
print(predict(hours, model_b["rate"], model_b["base"]))

Ожидаемый вывод: 30.0 и 31.0. В реальном проекте параметры обычно получают в процессе обучения и проверяют на данных, а не выбирают вручную.

7. Что параметры не говорят сами по себе

Параметр влияет на вычисление прогноза, но его нельзя автоматически трактовать как причину явления. В простой линейной модели коэффициент может быть удобен для понимания направления и масштаба связи при определённых условиях. Однако корреляция признаков, масштаб измерений, способ подготовки данных и структура модели меняют смысл интерпретации.

В нейронной сети отдельный вес обычно не имеет простого самостоятельного человеческого значения. Поведение определяется множеством параметров совместно. Поэтому нельзя заключать, что «один вес отвечает за одно понятие», не проведя отдельный анализ.

Интерпретация параметраПопытка объяснить роль числового параметра в поведении модели с учётом её структуры, данных и предположений; это не автоматическое причинное объяснение.

8. Итоги и границы следующих уроков

Модель преобразует входные признаки в прогноз. Параметры задают конкретный экземпляр модели. Для одной и той же математической формы разные параметры могут давать разные результаты. Алгоритм обучения подбирает параметры, а AI-система объединяет модель с данными, правилами и программными компонентами.

В уроке 1.4.2 мы разберём, как параметры подбираются и что такое функция потерь. В 1.4.3 рассмотрим переобучение и недообучение, в 1.4.4 — обобщающую способность, а в 1.4.5 — гиперпараметры и настройку. Метрики качества и протоколы оценки находятся в теме 1.5.

Самостоятельное задание

Опишите простую модель для оценки времени поездки по расстоянию. Укажите входной признак, прогноз, два параметра и что изменится при увеличении каждого параметра. Затем отдельно перечислите два компонента AI-системы, которые находятся вне самой модели. Не используйте реальные данные и не трактуйте параметры как причинные эффекты.

Важное ограничение

Все числовые значения в примере условны. Пример показывает роль параметров, а не описывает реальный расход энергии. Для практической модели необходимы данные, проверка качества, анализ применимости и контроль ошибок.

Источники и дополнительное чтение

  1. Hastie, Tibshirani, Friedman — The Elements of Statistical Learning
  2. James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning
  3. scikit-learn — Glossary of Common Terms
  4. scikit-learn — Linear Models
  5. Kevin P. Murphy — Probabilistic Machine Learning: An Introduction

Словарь урока

01МодельModel

Правило, преобразующее входные данные в результат.

02ПараметрParameter

Числовое значение, определяющее конкретный экземпляр модели.

03Входной признакFeature

Характеристика объекта, подаваемая на вход модели.

04ПрогнозPrediction

Результат вычисления модели для заданного входа.

05ВесWeight

Параметр, масштабирующий вклад входной переменной.

06Свободный членIntercept

Параметр базового смещения линейной зависимости.

07Семейство моделейModel family

Класс моделей с общей формой или архитектурой.

08Экземпляр моделиModel instance

Конкретная структура модели с определёнными параметрами.

09Алгоритм обученияTraining algorithm

Процедура подбора параметров по данным и критерию.

10AI-системаAI system

Модель вместе с данными, правилами и программными компонентами.

Самопроверка

Вопрос 1

Что делает модель машинного обучения?

Вопрос 2

Что обозначает θ в формуле ŷ = f(x; θ)?

Вопрос 3

Чем обычно отличается вход x от параметров θ при прогнозировании?

Вопрос 4

При x = 4, w = 2 и b = 3 чему равен прогноз ŷ = wx + b?

Вопрос 5

Две модели имеют одинаковую линейную форму, но разные w и b. Что верно?

Вопрос 6

Что делает алгоритм обучения?

Вопрос 7

Что может относиться к AI-системе вокруг модели? Выберите все подходящие варианты.

Вопрос 8

Может ли отдельный параметр автоматически считаться доказательством причинного влияния признака?