Бэкенд-разработчик в команду голосовых технологий
Мы разрабатываем высоконагруженные сервисы распознавания (ASR) и синтеза речи (TTS), работающие в Алисе, Браузере, Переводчике и других продуктах Яндекса, которыми ежедневно пользуются миллионы людей.
Наша команда отвечает за бэкенд-инфраструктуру этих технологий: от проектирования и разработки gRPC-сервисов до оптимизации инференса современных нейросетевых моделей.
Сейчас голосовые технологии переживают бурное развитие: по нескольким секундам вашего голоса можно синтезировать любую фразу или даже заставить модель спеть песню в вашем стиле. За этими возможностями — всё более сложные модели, зачастую объединённые в каскады с нетривиальной логикой инференса. Это ставит перед нами новые вызовы: как сохранить высокую производительность, масштабируемость и стабильность, когда требования к задержкам измеряются в миллисекундах, а нагрузка — в тысячах запросов в секунду.
Внедрение новых моделей синтеза и распознавания речи
Вам предстоит тесно работать с ML-командами, понимать архитектуру новых моделей (TTS, ASR), проектировать эффективные схемы инференса и адаптировать наши сервисы под их особенности — с учётом жёстких требований к latency, throughput и стабильности.
Разработка высоконагруженных gRPC-сервисов с нуля
Вы будете писать производительный, тестируемый и отказоустойчивый код на C++ для новых функций и сервисов, которые потом попадут в Алису, Поиск, Переводчик и другие продукты.
Оптимизация инференса нейросетей
Вы будете исследовать и внедрять современные движки инференса (vLLM, SGLang, TensorRT-LLM), экспериментировать с батчингом, квантованием и кешированием — всем, что помогает ускорить модели без потери качества.
Повышение надёжности сервисов
Вам предстоит участвовать в полном цикле разработки — от проектирования и тестирования до деплоя и поддержки. Важная часть нашей работы — улучшение мониторинга, добавление метрик и логов, а также автоматизация процессов релиза.
Больше о бэкенде в Яндексе — в канале Yandex for Backend
- Уверенно владеете C++, желательно C++17 и выше
- Разрабатывали высоконагруженные бэкенд-сервисы: умеете проектировать системы с предсказуемым latency, стабильным throughput, а также находить и устранять утечки памяти и деградацию производительности под нагрузкой
- Имеете базовые знания в области ML и знакомы с PyTorch — наша команда не обучает модели, но важно понимать, как устроен инференс, и иногда уметь читать ML-код
- Знакомы с современными фреймворками для инференса LLM-моделей: SGLang, vLLM, TensorRT-LLM
- Работали с GPU NVIDIA: понимаете архитектуру GPU, разрабатывали или оптимизировали алгоритмы с использованием CUDA или Triton
