Краткий обзор третьего урока Fast AI
- Расскажите о том, как студенты размещают полезные материалы (руководства, блоги) на вики-сайте Fast AI и в других местах.
- Как отправить результаты на конкурс Kaggle
- Почему PyTorch лучше Keras
- Введение в сверточные нейронные сети — CNN (примеры Excel)
- Активация — это расчетное число, полученное после применения фильтра
(ReLu -> MAX(0,X) в Excel) - В PyTorch фильтр/ядро (чаще всего матрица 3x3 — 9 чисел) называется тензором
- Функция активации — это функция, которая вводит активацию и выводит активацию-› вводит число a, выводит число a (по крайней мере, в случае ReLu)
- Функция активации является нелинейной и имеет свою индивидуальность.
- Softmax — «Я хочу выбрать что-то» (поэтому не может использоваться в классификации с несколькими ярлыками)
- Элементы с несколькими метками — элемент, который имеет более одной метки (пример набора данных Kaggle Planet) — используйте сигмовидную функцию.
- Dataloader — возвращает мини-партию
- Несколько ключевых слов — одно закодированное в горячем режиме, data.resize (чтобы изменить размер больших изображений — поиск на быстром форуме)
- Дифференциальная скорость обучения (поиск на форуме fastai)
Андрей о скорости обучения
Визуализация скорости обучения в зависимости от размера партии
Улучшение как мы работаем со скоростью обучения
Циклическая скорость обучения - Учебник по структурированным данным (записная книжка Россмана в курсе Fastai) — подробнее в следующем уроке
