522 гр., по выбору. Спецкурс «Интеллектуальный анализ данных» (5 курс)

Место и время проведения: каждая вторая суббота, 3-я и 4-я пары, 4399
Преподаватель: Абильдаев Темирлан, t.abildaev23@gmail.com

---

Программа курса

1. 15.02. Causal Inference. Structural Causal Models (SCM), граф SCM. Проблема идентифицируемости, d-разделение, свойства марковости и достоверности. Методы построения SCM. Do-исчисление и контрфактуалы.
2. 01.03. Регрессия и УМО. Экспоненциальное семейство распределений, обобщённая линейная регрессия. Выбор регрессоров. Оценка качества модели.
3. 15.03. Классификация:
   • Байесовский классификатор. GDA, QDA, LDA, логистическая регрессия.
   • Дерево решений: построение, обрезка. Ансамбль деревьев.
   • Метод опорных векторов.
4. 12.04. Кластеризация. Классификация алгоритмов, основные алгоритмы. Оценка качества алгоритма.
5. 19.04. Глубокое обучение. Shallow neural networks, deep neural networks. Многослойный перцептрон. Оптимизация: backpropagation, SGD, Adam. Основы PyTorch.
6. 26.04. Глубокое обучение. Основные архитектуры. Обучение нейросети с использованием PyTorch.
7. 03.05. Natural Language Processing. Трансформерная архитектура, механизм внимания (self-attention). Большие языковые модели (LLM). Современный pipeline, токенизация.
8. 10.05. Обучение с подкреплением. Марковские процессы принятия решений (MDP). Награда, value function, state-action value function. Уравнения Беллмана. Value-based и policy-based алгоритмы.Глубокое обучение с подкреплением.

Рекомендуемая литература

1. L. Wasserman, All of Statistics
2. G. James, D. Witten, T. Hastie, R. Tibshirani, An Introduction to Statistical Learning
3. J. Peters, D. Janzing, B. Scholkopf, Elements of Causal Inference
4. S. J. D. Prince, Understanding Deep Learning
5. R. S. Sutton, A. G. Barto, Reinforcement Learning: An Introduction