razinkov.ai

2021-01-15 13:33:16 Добрый день, уважаемые подписчики!

Появилась видеозапись одиннадцатой (и последней) лекции по Deep Learning на тему "Методы оптимизации в обучении глубоких нейронных сетей":




В рамках лекции рассмотрены следующие методы оптимизации, использующиеся в обучении глубоких нейронных сетей:
- Batch Gradient Descent;
- Stochastic Gradient Descent;
- Mini-Batch Gradient Descent;
- Momentum;
- Nesterov Accelerated Gradient;
- AdaGrad;
- Adam.

Коротко рассмотрены преимущества и недостатки алгоритмов, а также рекомендации по их применению. Доказательства сходимости НЕ приводятся. :)

Надеюсь, курс оказался Вам полезен) Открыть/Комментировать

2021-01-11 12:58:06 Продолжаем с Евгением Разинковым тему, начатую в предыдущем выпуске - дорожная карта погружения в машинное обучение. Евгений подробно рассказывает какие есть основные направления в машинном обучении и в какой последовательности их стоит изучать.
https://anchor.fm/kmsrus/episodes/019-ML-----------2-eopssg Открыть/Комментировать

2021-01-04 12:49:23 С Новым годом, уважаемые слушатели и подписчики! Праздники - хорошее время, чтобы поставить цели на год. Если у вас есть цель стать специалистом по машинному обучению - этот и следующий выпуски для вас! Мы с Евгением Разинковым нарисуем дорожную карту погружения в машинное обучение. Евгений профессиональный преподаватель машинного обучения и с его подходом к обучению однозначно имеет смысл ознакомиться!
https://anchor.fm/kmsrus/episodes/018-ML-----------1-eoftu6 Открыть/Комментировать

2020-12-24 16:15:52 Добрый день, уважаемые подписчики!
Отснято много материала по разным связанным с AI дисциплинам. Интересно узнать, какие направления интересуют вас в первую очередь, чтобы могли сконцентрироваться на них. :) Открыть/Комментировать

2020-12-24 15:49:08 Добрый день, уважаемые подписчики!

Мы начали монтаж курса по Reinforcement Learning, который был прочитан мной в этом семестре. Выкладываю первую лекцию на тему "Введение в обучение с подкреплением. Многорукие бандиты":




Это первая лекция вводного курса по обучению с подкреплением, посвященному обучению рациональных агентов. А рамках лекции рассмотрены приложения обучения с подкреплением, основные понятия.
Также рассмотрен метод многоруких бандитов:
- Эпсилон-жадная стратегия
- Оптимистичная инициализация
- Инкрементальная реализация
- Работа алгоритма в нестационарном окружении.

Лекции продолжат появляться на YouTube-канале:
http://video.razinkov.ai Открыть/Комментировать

2020-12-11 16:17:39 Добрый день, уважаемые подписчики!

Мы начали монтаж курса по Computer Vision, который был прочитан мной в этом семестре. Выкладываю первую лекцию на тему "Введение в компьютерное зрение":




В рамках этой вводной лекции обсуждается важность компьютерного зрения для сферы AI, поверхностно рассматриваются задачи:
- Классификация изображений;
- Локализация и распознавание объектов;
- Сегментация изображений;
- Отслеживание объектов;
- Multi-Object Tracking and Segmentation
- Распознавание текста;
- Распознавание лиц;
- Генерация реалистичных изображений.
Также рассмотрен самый простой подход к классификации изображений небольшого размера.

Для успешного освоения данного курса необходимо знакомство с вводным курсом по машинному обучению:
https://youtube.com/playlist?list=PL6-BrcpR2C5RYoCAmC8VQp_rxSh0i_6C6 Открыть/Комментировать

2020-12-05 18:24:13 Добрый вечер, уважаемые подписчики!
Появилась видеозапись десятой лекции по курсу Deep Learning на тему "Тонкости обучения и масштабирования нейронных сетей":




В рамках лекции рассмотрены следующие способы повышения точности глубоких нейронных сетей:
- Обучение со стохастической глубиной;
- Линейное масштабирование коэффициента обучения;
- Learning Rate Warm-up;
- Cosine Learning Rate Decay;
- Нулевое значение гаммы в Batch Normalization;
- Недобавление смещений в Weight Deay;
- Label Smoothing;
- Mixup Data Augmentation.
Помимо этого рассматривается метод масштабирования нейронных сетей EfficientNet.

Видеозаписи лекций про AI продолжат появляться на YouTube-канале:
http://video.razinkov.ai Открыть/Комментировать

2020-12-01 19:24:59 Добрый вечер, уважаемые подписчики!

Появилась видеозапись девятой лекции по курсу Deep Learning на тему "Residual Networks":




Лекция посвящена главной сверточной архитектуре в компьютерном зрении – ResNet! Так как к данному моменту мы с вами изучили все необходимые компоненты, то можно уверенно приступать к Residual Networks, которые могут иметь сотни слоев и при этом эффективно обучаться. :)
В рамках лекции рассмотрены следующие вопросы:
- Эффект Training Degradation;
- Residual Connection, Residual Block;
- Архитектура ResNet;
- Свойства нейронных сетей ResNet.

Видео по Deep Learning и по другим курсам, связанным с машинным обучением, продолжат появляться на YouTube-канале:
http://video.razinkov.ai Открыть/Комментировать

2020-11-25 15:06:57 Добрый день, уважаемые подписчики!
Появилась видеозапись восьмой лекции по курсу Deep Learning на тему " Batch Normalization":




В рамках лекции рассмотрена пусть не самая удобная, но точно самая распространенная техника нормализации – Batch Normalization. Это последний шаг к полному пониманию ResNet, которой посвящена следующая лекция. :)

Лекция раскрывает следующие вопросы:
- Что такое Batch Normalization?
- Какие есть объяснения тому, почему это работает?
- Как вычисляются производные через Batch Normalization?

Приятного просмотра!

Подписывайтесь на YouTube-канал, там продолжат появляться лекции:
http://video.razinkov.ai Открыть/Комментировать

2020-11-16 19:37:34 Добрый вечер, уважаемые подписчики!

Наконец-то появилась видеозапись очередной лекции по курсу Deep Learning на тему "Регуляризация глубоких нейронных сетей":




В рамках этой лекции рассмотрены основные подходы к регуляризация нейронных сетей:
- Weight Decay;
- Data Augmentation;
- Dropout;
- Label Smoothing.

Приятного просмотра!

P.S. Предыдущие две лекции "Pooling-слои. Архитектура сверточных слоев. Архитектура VGG" и "VGG" на этапе тестирования были объединены в одну (старые видео будут удалены):


Открыть/Комментировать