Регистрация на мастер-класс
Менеджер перезвонит и ответит на ваши вопросы
Что даст курс?
Инструменты
Hugging Face Transformers
Hugging Face
LangGraph
VLLM
TRL (для RLHF)
LoRA / QLoRA
FAISS
MLflow
Langfuse
Gradio / Streamlit
DeepEval
Docker
llama.cpp
Arize / Fiddler
OpenAI Agents API
Навыки
Строить эффективные RAG-системы на LangChain и LangGraph
Оценивать качество LLM и RAG (DeepEval, ROUGE, BERTScore)
Разрабатывать интеллектуальных агентов и мультиагентные системы
Использовать reasoning-подходы: ReAct, Tree of Thoughts
Разворачивать LLM и чат-ботов с помощью современных инструментов
Отслеживать и версионировать поведение моделей и запросов
Устранять галлюцинации и защищать LLM-системы от уязвимостей
Разбираться в архитектурах современных LLM
Запускать и адаптировать open-source модели под свои задачи
Настраивать модели с помощью fine-tuning и PEFT
Использовать методы RLHF (включая DPO, PPO)
Снижать ресурсоёмкость моделей через квантизацию и дистилляцию
Обрабатывать тексты: парсинг, чанкинг, препроцессинг
Работать с энкодерами и векторными базами
Настраивать и оптимизировать системы информационного поиска
Возможность создать
LLM-проект
освоив технологии разработки LLM, вы сможете запускать свои проекты с нуля, создавая решения на базе передовых технологий.
Улучшить существующие сервисы
возможность создавать и оптимизировать LLM для реальных задач, повышая эффективность бизнес-процессов и улучшая качество сервисов.
Как LLM меняет мир вокруг нас?
Какой формат курса?
Продолжительность курса 25 недель
Занятия по вторникам и четвергам с 19:00 до 21:00 Мск
Регулярные запланированные каникулы для отдыха после больших модулей
Доступ к записям всех теоретических и практических занятий курса
Соотношение практики и теории 70/30
Старт курса
04
июня
Кому подойдет этот курс?
Студентам и выпускникам
бакалавриатов в области ИТ и машинного обучения
Специалистам с опытом в программировании
на Python и работе с ML (желательно знакомство с PyTorch и Hugging Face)
Разработчикам
желающие перейти в область AI-инженерии или улучшить свои навыки в NLP и LLM-разработке
Программа курса
Раздел 1
Выравнивающий
1/
NLP — от базы до DL
Лекция: Задачи NLP и уровни представления текста; сегментация, нормализация, токенизация, стемминг/лемматизация; векторизация BoW/TF-IDF; Word2Vec, GloVe, FastText; меры близости и оценка эмбеддингов.
Лекция: Парсинг данных, очистка, предобработка, обучение модели классификации текстов.
2/
Attention & трансформеры
Лекция: База нейросетей, разбор архитектуры трансформера (Encoder–Decoder, self-attention, multi-head self-attention, positional encoding, residual/normalization, MLP), идея transfer learning.
Практика: Детальный разбор блоков трансформера и изучение экосистемы Hugging Face.
3/
Эволюция трансформеров до наших дней
Лекция: Сравнение encoder-only, decoder-only и encoder-decoder моделей — архитектуры и детали обучения, алгоритмы токенизации и их влияние на качество модели.
Практика: Токенизация на практике, алгоритмы семплирования и параметры генерации текста — ключевые тонкости.
Лекция: Ключевые концепции современных трансформеров — эволюция архитектуры до наших дней.
Раздел 2
Современные LLM
1/
Современные LLM
Лекция: Close VS open models, этапы обучения (Pretraining, Supervised Fine-Tuning, Instruction-tuning, Alignment), бенчмарки, схема выбора LLM под задачу, прайсинг.
Лекция: Domain adaptation, task adaptation и transfer learning; выбор стратегии адаптации; SFT, CPT; обзор downstream-задач и способов сбора данных для дообучения, контрастивное дообучение энкодеров.
2/
Эффективное обучение LLM
Лекция: Mixed Precision, gradient checkpointing, gradient accumulation; PEFT; архитектуры параллелизма; нюансы применения оптимизаций.
Практика: Тюнинг LLM и энкодеров, использование PEFT и TRL, сравнение методов дообучения.
3/
Ускорение LLM
Лекция: Ключевые аспекты ускорения и оптимизации инференса LLM - метрики производительности, профилирование, memory-bound VS compute-bound, prefill-decode, KV-cache и его оптимизации, батчинг, спекулятивный декодинг, квантизация, дистилляция.
Практика: Профилирование LLM через PyTorch Profiler, сравнение этапов prefill и decode, типичные узкие места и способы ускорения, сравнение инструментов и влияние «битности» на качество квантизации, QLoRA.
4/
RLHF и выравнивание моделей (Alignment)
Лекция: Определение и цели alignment, классический RLHF, PPO, reward-модели и нюансы их применения, RLAIF и Constitutional AI, DPO, KTO, GRPO, когда и что использовать.
Практика: DPO с TRL, LLM-as-Judge и best-of-N с реранжированием по reward-модели, детекторы токсичности, Constitutional AI, пайплайн fallback-решений.
5/
LLM system design
Лекция: Нюансы проектирования end-to-end пайплайна под задачу — работа с требованиями, выбор стратегии адаптации, схема оценивания (offline + online).
Раздел 3
Advanced LLM
1/
Мультимодальность и сложные рассуждения
Лекция: Основные концепции мультимодальности, исторически ключевые архитектуры, мультимодальные LLM, практические кейсы применения VLLM. Стадии pretraining VLLM, бенчмарки. Reasoning: определение, варианты архитектурной реализации, преимущества и ограничения, эволюция reasoning, современные методы улучшения.
2/
Практическая интерпретируемость LLM и трансформеров
Практика: Сравнение методов интерпретации для encoder и decoder моделей, LIME, Captum.
3/ Инфраструктура обучения
Практика: Жизненный цикл LLM-модели, LLMOps vs MLOps, версионирование, трекинг экспериментов, распределенное обучение, model Registry, CI/CD. Распределенное обучение на практике с accelerate — сравнение DDP и ZERO сценариев.
4/ Эволюция архитектур
Лекция: Ограничения трансформеров и мотивация альтернатив; Attention-Free Transformer; SSM-подходы, RWKV, Mamba, xLSTM.
Раздел 4
RAG-системы
1/ Основы RAG систем:
Лекция: Фреймворки для RAG (LangChain + LangGraph), разбор разных ретриверов; как оценивать работу RAG системы и основные сложности.
Практика: Простая RAG система как бенчмарк, демонстрация; наглядная демонстрация нерепрезентативности основных метрик и сложностей, практика DeepEval.
2/ Усложнение RAG-систем
Лекция: Усложнение RAG-системы: ансамблевые ретриверы, Query Expansion, обработка запросов пользователя (+перефразы, отлов галлюцинаций).
Практика: Разработка всего, что было на лекции, на практике.
Раздел 5
Агенты
1/ Введение
Лекция: Что такое агенты, как это работает и сфера применимости.
Практика: Построение собственной системы простейших агентов (поиск авиабилетов), сравнение работы обычной модели vs агент.
Доп. литература: Анализ реальных примеров: как OpenAI ChatGPT действует в качестве агента.
2/ Мультиагентные системы
Лекция: Мультиагентные системы, контекстная адаптация, точки отказа системы, галлюцинации агентов, следование промпту, уязвимости.
Практика: Реализация агента с поддержкой многошагового планирования, использование LLM для генерации и корректировки пошаговых инструкций: добавление валидации и ограничений на действия, тесты для проверки корректности работы агента.
Доп. литература: Multi-hop reasoning & Tree of Thoughts + ReAct.
Раздел 5
Инфраструктура
1/ Хостинг LLM, эмбеддингов
Лекция: Обзор инструментов (ollama, tgi, tei, vllm, llama.cpp).
Практика: Поднятие модели vllm и работа с ней.
Доп. литература: Кэширование.
2/ Разворачивание чатбота
Лекция: Обзор UI для чатботов Streamlit, Gradio.
Практика: Деплой чатбота в веб/тг.
3/ Observing
Лекция: Отслеживание работы модели и запросов, версионирование (langfuse, MLflow, arize, fiddler).
Практика: Интеграция с чатботом из предыдущего пункта.
Преимущества курса
Освоение передовых технологий
Изучите инструменты для работы с LLM, такие как PyTorch, Hugging Face, vLLM.
Диплом о профессиональной переподготовке
Получите диплом ДПО, который повысит вашу конкурентоспособность на рынке труда.
Нетворкинг с экспертами
Обучение проводится экспертами уровня lead и head ведущих IT-компаний страны, которые в ежедневном формате работают с LLM и RAG, именно они будут давать обратную связь по вашим проектам.
Практика разработки и внедрения LLM
Создадите собственный LLM-проект и внедрите его в продакшн.
Эксперты курса
Корпоративное обучение
Учитесь командой
Присоединяйтесь к основному потоку курса всей командой (от 3 человек)
Скидки для команды
10% при регистрации 3+ человек.
Совместная практика
RAG-системы, агенты, fine-tuning — применяйте к вашим задачам вместе с менторством.
Вопросы и ответы
Для участия в курсе рекомендуется иметь уверенные базовые знания Python, а также знакомство с основами машинного обучения.
Да, по завершении курса вы получите диплом государственного образца о профессиональной переподготовке. Этот документ будет служить подтверждением вашего нового уровня знаний и компетенций в области разработки и внедрения LLM.
Курс длится 5 месяцев (25 недель), и вам нужно будет проходить 2 пары в неделю, что составляет примерно 4 часа в неделю. Учитывайте, что дополнительно вам нужно будет выполнять домашние задания и проекты, ~ 4−5 часов.
Да, в процессе обучения вам доступна поддержка преподавателей и менторов, которые помогут разобраться с трудными моментами и ответят на вопросы. А совместная работа на семинарах и воркшопах с другими студентами ускорит ваш прогресс
На курсе вы освоите инструменты и технологии, которые широко используются в LLM-разработке, включая:
- PyTorch и Hugging Face для работы с трансформерами
- Методы претрейн и файнтюнинг
- Работу с векторными базами данных и информационным поиском
- Стек для развертывания и хостинга LLM-моделей (например, Ollama, PyTorch, Gradio)
- Методы работы с агентами и мультиагентными системами
- Безопасность и этику в использовании LLM
Наличие опыта будет вашим преимуществом, но обязательного требования к опыту работы с LLM нет. Курс ориентирован как на студентов с базовыми знаниями в Python и машинном обучении, так и на тех, кто уже имеет некоторый опыт в области LLM. Программа курса охватывает как основные аспекты, так и продвинутые техники.
Да, вы сможете вернуть полную стоимость курса в течение двух недель после начала обучения. Далее — перерасчет будет происходить в зависимости от количества освоенных модулей.
Да, вы можете вернуть часть средств в виде налогового вычета. Основные условия: быть налоговым резидентом РФ и платить НДФЛ. Налоговый вычет составит до 13% от стоимости курса.
Есть сомнения? Запишитесь на бесплатный вводный урок
Корпоративное обучение
Менеджер перезвонит и ответит на ваши вопросы
Консультация
Менеджер перезвонит и ответит на ваши вопросы