Площадки по машинному обучению
площадок: 13 · курсов: 2 · тем: 6
На сайте площадки двух курсов — «Основы машинного обучения» и «Основы программирования систем ИИ на языке Python». Здесь они собраны по темам: площадка одного курса часто отвечает на вопрос, который в другом не рассматривается.
Устанавливать ничего не нужно: Python исполняется в самом браузере. Первая загрузка страницы скачивает среду исполнения Python и занимает до минуты.
Курсы целиком: «Основы машинного обучения» начинается с градиентного спуска, у «Основы программирования систем ИИ на языке Python» есть своя страница. Определения всех терминов — в глоссарии.
Задачи и модели
- Основы машинного обучения · вводная лекция
Три задачи вводной лекцииДерево решений по признакам, которые придумал бы лингвист, длина перевода и сочетания для глоссария.
- ИСТ-51 · модули 2–3
Сложность моделиМногочлен, ближайшие соседи, дерево решений, штрафы Ridge и Lasso: гибкость модели задаётся настройкой, цена ошибки измеряется на данных, которых модель не видела.
Данные
- Основы машинного обучения · лекция «Текст как данные»
Данные и разметкаЧто полезнее — другие признаки, другая модель или дополнительная разметка; можно ли принимать перевод по BLEU; насколько можно доверять самой разметке.
- ИСТ-51 · модуль 1
Конвейер подготовки данныхПорядок шагов очистки как параметр: статистика, вычисленная до удаления выбросов, вносит в таблицу невозможные значения. Кроме того — скорость векторизации в вашем браузере.
Обучение и оптимизация
- Основы машинного обучения
Градиентный спускКак модель подбирает свои параметры: шаг за шагом, с графиком убывающей ошибки и поверхностью, по которой движется спуск. Обучение здесь можно и сорвать — слишком большим шагом.
- ИСТ-51 · модуль 3
Нейросеть на NumPyДвухслойная сеть, в обратном проходе которой можно испортить одну строку. Обучение этой ошибки не замечает, а численная проверка градиента её обнаруживает.
Оценка качества
- Основы машинного обучения · ЛР № 3
Метрики машинного переводаПравьте перевод и следите, какие изменения BLEU, chrF и TER замечают, а какие пропускают.
- ИСТ-51 · модуль 2
Утечка данныхОтбор признаков до разбиения выборки находит сигнал в чистом шуме. Два конвейера рядом: с утечкой и без неё.
- ИСТ-51 · модуль 2
Метрика и дисбалансМодель, не нашедшая ни одного отказа, верна в 98 случаях из 100. Порог, цена пропуска и три способа исправить дисбаланс классов.
Тексты
- Основы машинного обучения · ЛР № 4
Языковая модель и температураМодель предсказывает следующий символ и обучается прямо в браузере: на что она опирается, что делает температура и где проходит граница между «складно» и «выучено наизусть».
- Основы машинного обучения · ЛР № 1
Векторизация текстаКлассификация 160 сегментов локализации: способ построения признаков задаётся настройками, доля правильных ответов видна сразу.
- Основы машинного обучения · ЛР № 2
Память переводовНечёткий поиск по памяти переводов: четыре меры близости на одном запросе и где они расходятся.
Конвейеры и эксплуатация
- ИСТ-51 · модуль 4
Граф задач и отказыПланировщик в сорок строк: повторы, пропуск задач после отказа и последствия удаления одного ребра, которое защищает публикацию.