AI-агенты на отечественных LLM: GigaChat, YandexGPT и on-premise модели

Агент, который уверенно работает на демонстрации с зарубежным API, часто не доходит до эксплуатации. Мешают персональные данные, которые нельзя передавать в зарубежное облако, непредсказуемая стоимость, недоступность сервиса в самый неудобный момент и отсутствие способа доказать руководителю, что агент отвечает правильно. Производственный агент на российских и открытых моделях требует инженерных решений: какую модель взять под класс данных, где её запускать, как измерять качество и какие действия агенту запрещены.

Курс последовательно разбирает весь путь. Вы изучите ландшафт моделей (GigaChat, Alice AI и YandexGPT в Yandex AI Studio, T-Pro, открытые Qwen и DeepSeek), научитесь подключаться по API с учётом квот и стоимости, получать от модели ответы строго по JSON-схеме и вызывать инструменты. Затем построите RAG по корпоративным документам с разграничением прав, развернёте открытую модель в собственном контуре через Ollama и vLLM, соберёте набор проверочных случаев и ограничители, отработаете атаки через prompt injection. Оркестрацию, каналы и согласования с человеком вы реализуете в Nodul, ядро логики и вызов собственной модели напишете на Python.

Весь курс строится вокруг одного растущего агента: от классификатора обращений до ассистента с базой знаний и обработкой ошибок, который работает на модели в вашем контуре. Модели вы сравниваете не по рекламным бенчмаркам, а на собственном наборе задач, а решения о размещении и маршрутизации подкрепляете расчётом стоимости и замером задержек. В результате у вас останутся рабочий агент, набор для регрессионной проверки, расчёт экономики и план эксплуатации.

Регуляторика в курсе занимает ровно столько места, сколько нужно инженеру при выборе модели: класс данных определяет допустимое размещение, персональные данные не отправляются в зарубежные облачные модели. Глубокий разбор требований и документов вынесен в отдельный курс «ИИ и регуляторика РФ». Автор курса работает в Nodul, поэтому платформа показана как один из способов оркестрации наряду с кодом на Python, а основной объём занятий не привязан к конкретному вендору.