Release Train Engineer

Программа курса

Ознакомьтесь с программой курса «Release Train Engineer» от Лидеры изменений - changeleaders.ru

1. Обзор Deep Learning. Погрузитесь в тему Deep Learning. Изучите методы обучения глубоких нейросетей. Получите хорошую базу в области глубокого обучения (DL) для дальнейшего освоения темы на курсе.
2. Построение нейросети и методы оптимизации. Поймете принципы сборки нейросети. Научитесь работать с функциями потерь в PyTorch. Узнаете, как выстроить процесс обучения нейронной сети в рамках конвейера глубинного обучения (пайплайна DL).
3. Продвинутые техники. Освоите разные методы оптимизации. Узнаете, что такое эксперименты DL. Научитесь решать задачи классификации табличных данных.
4. Работа с картинками. Начнете знакомиться с задачами CV. Узнаете, как работать с изображениями, используя нейросети. Изучите концепт GAN.
5. NLP. Познакомитесь с задачами NLP (обработка текстов). Поймете, как работать с текстом. Начнете изучение рекуррентных нейросетей.
6. Real Life DL. Узнаете, что такое LLM (большие языковые модели) сети, и как с ними работать. Научитесь работать с нейросетью в облаке. Поймете процесс деплоя (развертывания) в DL.
7. Погружение в NLP. Узнаете, чем отличаются задачи обработки текстов от других задач DL. Изучите структуру решения задач обработки текстов. Поймете принципы кодирования слов.
8. Классификация текста. Узнаете простейшие методы решения задач классификации и их недостатки. Научитесь решать простейшие задачи классификации.
9. Токенизация, языковые модели. Поймете отличия задач генерации текста от классификации. Изучите устройство n-gram модели и ее недостатки. Узнаете, как устроены рекуррентные сверточные сети.
10. Продвинутые рекуррентные нейронные сети. Узнаете все о недостатках RNN и о том, как нивелировать их с помощью LSTM. Освоите различные методы сэмплирования для разных ситуаций.
11. Уменьшение размеров модели. Изучите различные способы уменьшения размеров модели и поймете, как применять их на практике.
12. BERT и GPT. Узнаете, чем BERT и GPT отличаются от Трансформера. Научитесь решать задачи превода текста.
13. Transfer learning (модели с переносом знания). Поймете, чем дообучение лучше обучения с нуля. Узнаете, чем отличаются способы дообучения. Научитесь применять предобученные модели для решения downstream задач (задач, для которых дообучается или используется пр…
14. Prompt Engineering, Parameter-efficient, Fine-tunning (промпт-инжиниринг, эффективная донастройка параметром, донастройка модели). Познакомитесь со свойствами больших предобученных моделей. Научитесь дообучивать модели в парадигме PEFT.
15. Seq2seq, механизм внимания, трансформер. Поймете отличия языкового моделирования от seq2seq задач. Изучите ценность механизма внимания. Вникнете в суть архитектуры трансформера.

Чему вы научитесь

• Transfer learning (модели с переносом знания). Поймете, чем дообучение лучше обучения с нуля. Узнаете, чем отличаются способы дообучения. Научитесь применять предобученные модели для решения downstream задач (задач, д…
• Prompt Engineering, Parameter efficient, Fine tunning (промпт инжиниринг, эффективная донастройка параметром, донастройка модели). Познакомитесь со свойствами больших предобученных моделей. Научитесь дообучивать модел…
• Обзор Deep Learning. Погрузитесь в тему Deep Learning. Изучите методы обучения глубоких нейросетей. Получите хорошую базу в области глубокого обучения (DL) для дальнейшего освоения темы на курсе.
• Токенизация, языковые модели. Поймете отличия задач генерации текста от классификации. Изучите устройство n gram модели и ее недостатки. Узнаете, как устроены рекуррентные сверточные сети.
• Real Life DL. Узнаете, что такое LLM (большие языковые модели) сети, и как с ними работать. Научитесь работать с нейросетью в облаке. Поймете процесс деплоя (развертывания) в DL.