Задачи, требующие решения на основе машинного обучения. Постановка задач обучения по прецедентам. Объекты и признаки. Типы шкал: бинарные, номинальные, порядковые, количественные. Особенности языка R. Установка R Studio, работа с R Markdown.

Работа с данными, преобразование данных из узких таблиц в широкую, фильтрация и объединение данных по определенному признаку. Процедуры подготовки данных для исследований. Восполнение пропусков, устранение аномалий Упорядоченные и неупорядоченные данные. Верификация. Трансформация. Оптимизация признакового пространства. Работа с таблицами, датасетами и датафреймами. Разделение выборок, кросс-валидация и метрики качества моделей. Селекция алгоритмов машинного обучения. ROC-анализ. Чувствительность и специфичность. Ложноположительные и ложноотрицательные исходы. Площадь под кривой (Area under curve). Особенности применения ROC-кривых в медицинских исследованиях. Сравнение ROC-кривых между собой. Валидациия и кросс-валидация при обучении алгоритмов машинного обучения.

Понятия парсинга и веб-скрейпинга: Проблем роста объемов данных. Интернет как основной источник больших данных. Веб-скрейпинг как технология получения веб-данных со страниц веб-ресурсов. Парсинг неструктурированной информации. Структурированная, полуструктурированная, неструктурированная информация. Этические вопросы сбора данных в сети Интернет. Законодательное регулирование. Стандарт исключений для роботов или robots.txt. HTML разметка и модель DOM: Браузер, HTML, CSS, JavaScript (JS). Cтруктура web-элемента: тег, атрибут, свойство, содержимое. DOM, или объектная модель документов (Document Object Model). Узлы, родительские и дочерние элементы. Извлечение HTML текстов и анализ их содержимого. Формирование циклов для сбора данных. Установка ограничения на скорость сбора данных согласно Crawl-delay. Функция TryCatch в процессе сбора данных.. Динамические сайты, проблемы сбора данных с динамических сайтов. Selenium —  платформа автоматизации браузера с открытым исходным кодом. Имитация взаимодействия с сайтом, проявляющаяся в генерирации JavaScript контента и обработке асинхронных запросов. 

Решение задач регрессии, проверка адекватности модели. Метод наименьших квадратов. Проверка адекватности уравнения регрессии. Предпосылки для эффективности несмещенности и состоятельности оценок. Борьба с мультиколлинеарностью, метод LASSO, гребневая регрессия, выбор параметра регуляризации.  

Модели множественного выбора с неупорядоченными, бинарными и упорядоченными альтернативами. Условные логит-модель. Вложенные (nested) логит-модели. Оценивание логит-моделей: метод максимального правдоподобия. Интерпретация моделей множественного выбора на основе маржинальных эффектов. Мультиномиальная логит-модель. Примеры моделей с упорядоченными альтернативами. Упорядоченные пробит-модели. Оценка качества для решения задач классификации. Кредитный скоринг (scorecard), WOE-бининг.и фильтрация на основе критерия идентичности.  

Алгоритмы дерева принятия решения. Решающее дерево. Жадная нисходящая стратегия «разделяй и властвуй». Алгоритм ID3. Недостатки жадной стратегии и способы их устранения. Проблема переобучения. Редукция решающих деревьев: предредукция и постредукция, прунинг. CARD-деревья. Алгоритмы случайного леса (Random Forest). Алгоритмы случайного леса: косоугольный, синтетический, изолированный и полностью рандомизированный. Определение важности признаков по алгоритмам, основанным на деревьях решений). Ансамблевые методы: бустинги. Экстремальный градиентный бустинг. Стохастический градиентный бустинг. Алгоритмы случайного леса (Random Forest). Алгоритмы случайного леса: косоугольный, синтетический, изолированный и полностью рандомизированный. Определение важности признаков по алгоритмам, основанным на деревьях решений). Ансамблевые методы: бустинги. Экстремальный градиентный бустинг. Стохастический градиентный бустинг. Подбор гиперпараметров по сетке поиска. Технологии сэмплирования. оверсэмплинг, андерсэмплинг, ASMO, SMOTE Проблема неполных данных. Восстановление пропуском. Метод ресамплинга. Цензурирование. Метод исключения некомплектных объектов. Методы с заполнением. Методы взвешивания. Методы, основанные на моделировании. Оптимальная гиперплоскость, зазор между классами, функции потерь для алгоритмов SVM, понятие опорного вектора Функция ядра (kernel functions), спрямляющее пространство, теорема Мерсера. Проверка данных на линейную разделимость, нормализация данных для SVM, Построение линейной решающей функции, предварительно разметка данных, применение алгоритма Вапника. При отсутствии линейного разделения, выбор ядра классификатора: полиномиальное, сигмоидное, радиальное и радиальное Гауссово. 

Понятие промышленной разработки программного обеспечения: отладка; статический анализ кода; логирование и анализ во время исполнения; функциональное и юнит тестирование; анкетирование и автоматизированная сборка. Создание Shiny-приложений. Идея многоядерных систем, устройства для ускорения вычислений (CPU, GPU, FGPA, eGPU), высокопроизводительные вычисления (суперкомпьютеры, кластеры). Распределенные и облачные вычисления. Параллелизация вычислений. Создание виртуальной машины.