Онлайн‑курс «LLM-инженер»
Создавай, обучай и внедряй LLM‑проекты под руководством экспертов и практиков
6 месяцев
70% практики
2 онлайн-занятия в неделю
запись на следующий поток
30 января в в 19:00 мск - открытый воркшоп
Построй AI-агента за 60 минут: от простой LLM к reasoning-системе
Что даст курс?
Инструменты
Hugging Face Transformers
Hugging Face
LangGraph
VLLM
TRL (для RLHF)
LoRA / QLoRA
FAISS
MLflow
Langfuse
Gradio / Streamlit
DeepEval
Docker
llama.cpp
Arize / Fiddler
OpenAI Agents API
Навыки
Строить эффективные RAG-системы на LangChain и LangGraph
Оценивать качество LLM и RAG (DeepEval, ROUGE, BERTScore)
Разрабатывать интеллектуальных агентов и мультиагентные системы
Использовать reasoning-подходы: ReAct, Tree of Thoughts
Разворачивать LLM и чат-ботов с помощью современных инструментов
Отслеживать и версионировать поведение моделей и запросов
Устранять галлюцинации и защищать LLM-системы от уязвимостей
Разбираться в архитектурах современных LLM
Запускать и адаптировать open-source модели под свои задачи
Настраивать модели с помощью fine-tuning и PEFT
Использовать методы RLHF (включая DPO, PPO)
Снижать ресурсоёмкость моделей через квантизацию и дистилляцию
Обрабатывать тексты: парсинг, чанкинг, препроцессинг
Работать с энкодерами и векторными базами
Настраивать и оптимизировать системы информационного поиска
Возможность создать
LLM-проект
освоив технологии разработки LLM, вы сможете запускать свои проекты с нуля, создавая решения на базе передовых технологий.
Улучшить существующие сервисы
возможность создавать и оптимизировать LLM для реальных задач, повышая эффективность бизнес-процессов и улучшая качество сервисов.
30 января в в 19:00 мск - открытый воркшоп
Построй AI-агента за 60 минут: от простой LLM к reasoning-системе
За один вечер пройдем путь от базовой языковой модели до умного агента, способного рассуждать, планировать и использовать инструменты. И поймем, как заставить LLM не просто генерировать текст, а целенаправленно решать задачи.
Регистрация на воркшоп
Менеджер перезвонит и ответит на ваши вопросы
Как LLM меняет мир вокруг нас?
Какой формат курса?
Продолжительность курса 25 недель
Занятия по вторникам и четвергам с 19:00 до 21:00 Мск
Регулярные запланированные каникулы для отдыха после больших модулей
Доступ к записям всех теоретических и практических занятий курса
Соотношение практики и теории 70/30
Старт курса
21
октября
Количество мест в группе ограничено
Кому подойдет этот курс?
Студенты и выпускники
бакалавриатов в области ИТ и машинного обучения
Специалисты с опытом в программировании
на Python и работе с ML (желательно знакомство с PyTorch и Hugging Face)
Разработчики
желающие перейти в область AI-инженерии или улучшить свои навыки в NLP и LLM-разработке
Программа курса
Раздел 1
Своя LLM
1/ Современные LLM
Лекция: современные LLM, close vs open models, оценка качества, бенчмарки, что выбрать для своих задач, прайсинг
Лекция: оптимизации инференса в LLM - KV-caching, speculative decoding, MoE.
2/ PEFT
Лекция: проблематика обучения LLM, обзор методов PeFT, нюансы применения
Практика: сравнение методов файнтюнинга - полный, LP, LP+FT, PEFT
3/ RLHF & Alignment
Лекция: что это и зачем, базовая терминология RL и обзор методов: - RLHF, PPO, DPO.
Практика: TRL, RLHF для чат-модели - PPO или DPO
4/ Уменьшение размеров модели
Лекция: обзор методов - дистилляция, квантование, прунинг, виды, применимость в LLM
Практика: сравнение инструментов и влияние «битности» на качество, Quantization + LoRA и прочие миксы
Раздел 2
Prerequisites для RAG
1/ Работа с текстами
Лекция: парсинг, обработка текстов (применение ML + LLM в обработке)
Практика: различные виды чанкинга
На выходе таланты:
Умеют выполнять базовую обработку текстов
Умеют работать с методами чанкинга для подготовки данных
2/ Векторы
Лекция: векторная БД, энкодеры, MTEB
Практика: развёртывание векторной БД, проверка качества различных энкодеров
Доп. литература: статья BGE-M3, статья E5
На выходе таланты:
Умеют работать с векторными базами данных
Умеют оценивать качество энкодеров и выбирать подходящие для задач
3/ Информационный поиск
Лекция: полнотекстовый, гибридный поиск, BM25, симметричный и ассиметричный поиск
Практика: сравнение симметричного поиска и ассиметричного на конкретном примере
На выходе таланты:
Умеют настраивать системы информационного поиска
Умеют оценивать методы поиска по их эффективности
4/ Ранжирование
Лекция: инструменты ранжирования, метрики для оценки качества, переранжирование
Практика: построение собственное системы ранжирования, использование кросс-энкодера для переранжирования
Доп. литература: обучение кроссэнкодера
На выходе таланты:
Умеют оценивать качество поиска по метрикам
Умеют создавать системы ранжирования и настраивать их под задачи
Умеют использовать кроссэнкодеры для улучшения качества поиска
Раздел 3
RAG
1/ Основы RAG систем:
Лекция: фреймворки для RAG (LangChain + LangGraph), разбор разных ретриверов; как оценивать работу RAG системы и основные сложности
Практика: простая RAG система как бенчмарк, демонстрация; наглядная демонстрация нерепрезентативности основных метрик и сложностей, практика DeepEval
На выходе таланты:
Умеют разрабатывать простую RAG систему
Умеют оценивать её
2/ Усложнение RAG-систем
Лекция: усложнение RAG-системы: ансамблевые ретриверы, Query Expansion, обработка запросов пользователя (+перефразы, отлов галлюцинаций)
Практика: разработка всего, что было на лекции, на практике
На выходе таланты:
Умеют писать RAG-системы устойчивые к реальной жизни и реальным запросам
Раздел 4
Агенты
1/ Введение
Лекция: что такое агенты, как это работает и сфера применимости
Практика: построение собственной системы простейших агентов (поиск авиабилетов), сравнение работы обычной модели vs агент
Доп. литература: анализ реальных примеров: как OpenAI ChatGPT действует в качестве агента
На выходе таланты:
Понимают, что такое агенты и чем они отличаются от других ИИ-инструментов
Умеют строить простейших агентов
2/ Мультиагентные системы
Лекция: мультиагентные системы, контекстная адаптация, точки отказа системы, галлюцинации агентов, следование промпту, уязвимости
Практика: реализация агента с поддержкой многошагового планирования, использование LLM для генерации и корректировки пошаговых инструкций: добавление валидации и ограничений на действия, тесты для проверки корректности работы агента
Доп. литература: multi-hop reasoning & Tree of Thoughts + ReAct
На выходе таланты:
Понимают, что такое мультиагентные системы
Умеют строить более сложных агентов
Верхнеуровнево понимают пределы применимости агентов
Понимают, какие ошибки и опасности могут встречаться в работе с агентами
Имеют полное понимание о точках отказа агентов и где их применять нельзя
Умеют отлаживать и валидировать агентные системы
Раздел 5
Инфраструктура
1/ Хостинг LLM, эмбеддингов
Лекция: обзор инструментов (ollama, tgi, tei, vllm, llama.cpp)
Практика: поднятие модели vllm и работа с ней
Доп. литература: кэширование
На выходе таланты:
Понимают и умеют хостить модели «из коробки»
Могут оценить требования системы для той или иной модели
Выбирают необходимый инструмент для хостинга самостоятельно
2/ Разворачивание чатбота
Лекция: обзор UI для чатботов Streamlit, Gradio
Практика: деплой чатбота в веб/тг
На выходе таланты:
Работают с классическими инструментами интерфейса чат-ботов
Смогут развернуть собственного чат-бота
3/ Observing
Лекция: отслеживание работы модели и запросов, версионирование (langfuse, MLflow, arize, fiddler)
Практика: интеграция с чатботом из предыдущего пункта
На выходе таланты:
Умеют обращаться с инструментами трекинга и версионирования (промптов, экспериментов)
Могут самостоятельно подобрать набор необходимых сервисов и инструментов
Преимущества курса
Освоение передовых технологий
Изучите инструменты для работы с LLM, такие как PyTorch, Hugging Face, vLLM
Диплом о профессиональной переподготовке
Получите диплом ДПО, который повысит вашу конкурентоспособность на рынке труда
Нетворкинг с экспертами
Обучение проводится экспертами уровня lead и head ведущих IT-компаний страны, которые в ежедневном формате работают с LLM и RAG, именно они будут давать обратную связь по вашим проектам.
Практика разработки и внедрения LLM
Создадите собственный LLM-проект и внедрите его в продакшн
Эксперты курса
Стоимость курса
Записаться на консультацию
Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности.
Записаться на следующий поток
Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности.
Вопросы и ответы
Для участия в курсе рекомендуется иметь уверенные базовые знания Python, а также знакомство с основами машинного обучения.
Да, по завершении курса вы получите диплом государственного образца о профессиональной переподготовке. Этот документ будет служить подтверждением вашего нового уровня знаний и компетенций в области разработки и внедрения LLM.
Курс длится 5 месяцев (18 недель), и вам нужно будет проходить 2 пары в неделю, что составляет примерно 4 часа в неделю. Учитывайте, что дополнительно вам нужно будет выполнять домашние задания и проекты, ~ 4−5 часов.
Да, в процессе обучения вам доступна поддержка преподавателей и менторов, которые помогут разобраться с трудными моментами и ответят на вопросы. А совместная работа на семинарах и воркшопах с другими студентами ускорит ваш прогресс
На курсе вы освоите инструменты и технологии, которые широко используются в LLM-разработке, включая:
- PyTorch и Hugging Face для работы с трансформерами
- Методы претрейн и файнтюнинг
- Работу с векторными базами данных и информационным поиском
- Стек для развертывания и хостинга LLM-моделей (например, Ollama, PyTorch, Gradio)
- Методы работы с агентами и мультиагентными системами
- Безопасность и этику в использовании LLM
Наличие опыта будет вашим преимуществом, но обязательного требования к опыту работы с LLM нет. Курс ориентирован как на студентов с базовыми знаниями в Python и машинном обучении, так и на тех, кто уже имеет некоторый опыт в области LLM. Программа курса охватывает как основные аспекты, так и продвинутые техники.
Да, вы можете вернуть часть средств в виде налогового вычета. Основные условия: быть налоговым резидентом РФ и платить НДФЛ. Налоговый вычет составит до 13% от стоимости курса.
Да, вы сможете вернуть полную стоимость курса в течение двух недель после начала обучения. Далее — перерасчет будет происходить в зависимости от количества освоенных модулей.