Символический AI и машинное обучение

Результаты обучения

После изучения урока вы сможете:

• объяснять символы, правила, базу знаний и механизм вывода;
• описывать цикл ML: данные, обучение, модель и вывод;
• различать явно заданную логику и параметры, найденные по данным;
• выбирать подход с учётом задачи и ограничений;
• распознавать гибридные системы и объяснять их архитектуру.

1. Что такое символический AI

Символический AI представляет объекты, отношения и знания через символы и структуры: имена, категории, логические выражения, графы, правила и факты. Система применяет операции к этим представлениям, чтобы получить вывод или выбрать действие.

Например, база знаний может содержать факт «насос P-17 находится в помещении R-2» и правило «если температура подшипника выше порога, сформировать предупреждение». Механизм вывода проверяет условия и активирует заключение.

Основные компоненты

• Представление знаний: как кодируются объекты, свойства, связи и ограничения.
• Факты: утверждения о конкретном объекте или ситуации.
• Правила: конструкции IF–THEN, связывающие условия с выводами или действиями.
• Механизм вывода: процедура применения правил к фактам.
• Трасса объяснения: последовательность фактов и правил, приведшая к результату.

2. Пример: правило не обучается

def diagnose_temperature(temp_c, limit_c=85):
    if temp_c > limit_c:
        return {"status": "warning", "reason": "threshold exceeded"}
    return {"status": "normal", "reason": "within rule limit"}

print(diagnose_temperature(92))

Порог 85 °C задан разработчиком. Программа сравнивает измерение с порогом, но не оценивает его по обучающим примерам. Наличие входных данных ещё не означает машинное обучение.

3. Логический вывод, поиск и планирование

Прямой вывод (forward chaining) начинает с известных фактов и применяет правила, получая новые факты. Обратный вывод (backward chaining) начинает с гипотезы и ищет факты и правила, которые могут её подтвердить.

Поиск работает с пространством состояний и возможных действий. Навигатор может искать маршрут в графе дорог; планировщик — выбирать последовательность операций с учётом ресурсов. Такие системы могут быть полезными AI-системами без обучения нейросети.

4. Что такое машинное обучение

В ML модель настраивает параметры по данным или опыту, чтобы решать заданную задачу. Разработчик по-прежнему определяет задачу, выбирает семейство модели, готовит данные и задаёт критерий качества. Но параметры оцениваются алгоритмом по примерам.

1. Данные: наблюдения, признаки и целевые значения.
2. Модель: семейство функций с настраиваемыми параметрами.
3. Критерий: функция потерь или другая мера качества.
4. Обучение: оценка параметров на обучающей выборке.
5. Проверка: оценка на данных, не использованных при настройке.
6. Вывод: применение обученной модели к новым данным.

5. Что именно модель извлекает из данных

В линейной модели это могут быть коэффициенты, в дереве решений — условия разбиения, в нейросети — веса и смещения. Обучение не гарантирует обнаружение причинных законов: модель оптимизирует заданный критерий на доступных данных.

Смещённые или неполные данные приводят к нежелательным закономерностям. Утечка целевой переменной завышает оценку качества. Поэтому проверка происхождения данных, разделение выборок и независимая оценка — обязательные части ML.

6. Сравнение подходов

7. Когда применять каждый подход

Правила подходят, когда требования точны, логика стабильна и решение должно быть проверяемым: например, контроль диапазона датчика или обязательного поля формы.

ML полезен, когда закономерность трудно описать вручную, но доступны репрезентативные примеры и можно измерять ошибки: например, распознавание дефектов на изображениях или прогноз спроса.

Выбор зависит от задачи, а не от моды. Для простой проверки порога правило часто надёжнее сложной модели; для визуальных и языковых задач ручные правила могут стать слишком хрупкими.

8. Гибридные AI-системы

Реальный продукт может объединять ML-модель, правила, поиск документов и человеческое подтверждение. Например, модель оценивает риск отказа оборудования по вибрации; правила проверяют критические пределы; поиск находит инструкции и историю ремонта; инженер принимает решение. Называть весь продукт «нейросетью» неверно: сеть — лишь один компонент.

9. Разбор предметной задачи: контроль температуры насоса

Представим насос промышленной установки. Датчик измеряет температуру подшипника, инженер хочет заранее обнаруживать опасные режимы. На первый взгляд достаточно написать условие «температура выше 85 °C — авария». Но инженерная постановка сложнее: температура зависит от нагрузки, температуры окружающей среды, режима запуска, скорости вращения и состояния смазки. Один и тот же показатель может быть нормальным в одном режиме и тревожным в другом.

Вариант A. Набор явных правил

Эксперт формулирует несколько проверяемых условий: если температура выше критического предела — немедленно остановить насос; если температура растёт быстрее заданной скорости — выдать предупреждение; если датчик неисправен — не делать вывод о состоянии подшипника и запросить проверку. Такие правила хорошо подходят для обязательных ограничений безопасности. Их можно проверить, согласовать и проследить в журнале. Но правила требуют знания предметной области, а исключения постепенно усложняют систему.

Вариант B. Модель по данным

Собираются исторические измерения температуры, вибрации, нагрузки и результаты осмотров. Для каждого временного окна формируется целевая метка: например, «дефект обнаружен в ближайшие 24 часа». Модель учится находить сочетания признаков, связанные с этой меткой. Она не получает готовое правило о том, какая температура всегда означает отказ. Вместо этого алгоритм подбирает параметры, уменьшающие ошибку на обучающих примерах.

Затем модель проверяют на более позднем временном периоде, который не участвовал в настройке. Это важно: случайное перемешивание соседних измерений может поместить почти одинаковые фрагменты одного отказа и в обучение, и в тест. Результат будет выглядеть лучше, чем способность системы работать в будущем.

Вариант C. Гибрид

Модель оценивает риск, правила независимо блокируют опасные режимы, а инженер подтверждает действия с высокой стоимостью ошибки. Здесь компоненты выполняют разные роли: статистическая модель выявляет сложные комбинации сигналов; правила обеспечивают жёсткие ограничения; человек отвечает за контекст и окончательное решение. Гибрид не становится автоматически надёжным: нужно проверить передачу данных между компонентами, приоритет правил и поведение при недоступности модели.

10. Как устроено обучение модели: маленький пример

Пусть модель прогнозирует условный риск перегрева по двум признакам: температуре и вибрации. Для простоты используется логистическая регрессия. Она вычисляет взвешенную сумму признаков, а затем преобразует её в число от 0 до 1. Это число можно интерпретировать как оценку вероятности только при корректной постановке и калибровке; само по себе оно не является гарантией.

Во время обучения алгоритм сравнивает прогноз с известной меткой и изменяет коэффициенты так, чтобы уменьшить функцию потерь. Важно различать четыре вещи:

• Признаки — измерения, подаваемые на вход модели.
• Целевая переменная — то, что модель должна предсказать.
• Параметры — числа, которые алгоритм подбирает в процессе обучения.
• Гиперпараметры — настройки процедуры обучения, которые задаются отдельно, например сила регуляризации.

Если инженер вручную задаёт коэффициенты и порог, это уже не обучение этих параметров на данных. Если алгоритм оценивает коэффициенты по размеченным примерам, это машинное обучение — даже если итоговая формула проста и понятна.

11. Как оценивать результат и не обмануться

Нельзя оценивать модель только на тех примерах, на которых она обучалась. Обучающая выборка нужна для настройки параметров; валидационная — для выбора конфигурации; тестовая — для итоговой независимой оценки. Для временных данных разделение обычно должно учитывать хронологию. Для объектов одного предприятия или пациента полезно проверять, не попали ли связанные наблюдения в разные части выборки.

Метрика зависит от последствий ошибок. В задаче обнаружения неисправности пропуск опасного события и лишнее предупреждение имеют разную цену. Accuracy может вводить в заблуждение, если неисправности редки: модель, всегда отвечающая «неисправности нет», получит высокую точность по доле правильных ответов, но окажется бесполезной. Поэтому рассматривают полноту, точность положительных прогнозов, матрицу ошибок, PR-кривую и стоимость решений.

Нужно также проверять устойчивость к изменению условий: новый тип оборудования, другой датчик, сезонность, изменение режима эксплуатации. Изменение распределения данных называют дрейфом. Хорошая оценка на старом наборе не гарантирует сохранения качества после такого изменения.

12. Практическая схема выбора подхода

1. Можно ли точно сформулировать правило и перечислить допустимые исключения?
2. Насколько критична проверяемость каждого шага решения?
3. Есть ли достаточно репрезентативных примеров с надёжными метками?
4. Можно ли измерить последствия ложных срабатываний и пропусков?
5. Изменяется ли среда, в которой система будет работать?
6. Нужно ли сочетать жёсткие ограничения с вероятностной оценкой?

Если правило короткое, стабильно и связано с безопасностью, его не следует заменять моделью только ради использования ML. Если задача связана со сложными изображениями, речью или множеством взаимодействующих сигналов, ручные правила могут быть слишком хрупкими. Если нужны и гибкость, и гарантированные ограничения, стоит рассмотреть гибридную архитектуру.

13. Типичные ошибки проектирования

• Путать данные и обучение. Программа может обрабатывать миллионы записей, но оставаться набором заранее написанных правил.
• Считать любую адаптацию ML. Изменение порога оператором не равно оценке параметров алгоритмом по примерам.
• Считать ML автономным от человека. Постановка задачи, сбор данных, выбор метрик и контроль эксплуатации остаются инженерными решениями.
• Называть гибридную систему нейросетью. Это скрывает роли правил, поиска, баз данных и человека.
• Принимать корреляцию за причину. Предсказательная связь может исчезнуть при изменении условий.

14. Практическое задание