LLM-инженер в Финтех
Мы активно развиваем направление генеративного ИИ в Финтехе. Создаём агентские системы и другие LLM-продукты для самых разных доменов: клиентской поддержки, комплаенса, ИИ-коммерции, операционной эффективности, инфраструктуры и т. д. Ищем инженера, который будет создавать и внедрять такие системы для внутренних и внешних пользователей.
Разработка агентских систем
Вам предстоит заниматься разработкой полного цикла — от проектирования сценария и выбора архитектуры до деплоя, мониторинга и итераций по качеству. Нужно будет не просто написать промпт, а сделать работающий продукт с tool calling, fallback-логикой и измеримым результатом.
RAG
Вы будете заниматься генерацией от этапа понимания, какие данные нужны пользователю, до пайплайна, который надёжно находит информацию и генерирует ответы, и системы оценки, которая это подтверждает.
Инфраструктура и качество
Эта задача включает деплой и эксплуатацию LLM-моделей в банковском контуре, мониторинг и observability агентов, автоматизацию экспериментов и офлайн-оценок.
Больше об ML в Яндексе — в канале Yandex for ML
- Строили RAG-системы, включая эксперименты, эксплуатацию, оценку качества, знаете много способов модификации стандартного RAG-пайплайна для улучшения его характеристик
- Работали с vLLM или другими inference-движками, понимаете тонкости multi-GPU-параллелизации моделей
- Умеете писать продакшн-код на Python: знаете, как написать код агента, обернуть его в сервис, умеете правильно использовать различные виды параллелизма и т. д.
- Понимаете архитектуру LLM-приложений, современные подходы к созданию агентских систем
- Уверенно владеете одним из фреймворков создания агентов: LangGraph или LangChain, Crew AI, Pydantic AI или аналогами
- Понимаете, как оцениваются и измеряются системы на основе LLM, владеете инструментами observability
- Знаете, как работать с Docker, Bash, Zsh
- Активно используете ИИ в работе, понимаете область применения, возможности современных LLM-систем для написания кода и прочих помощников
- Держите руку на пульсе разработок в области ИИ-агентов и LLM, пробуете новые подходы в своих рабочих или пет-проектах
