Аналитик-разработчик в команду еком-агентов Алисы
Привет! Меня зовут Егор, я занимаюсь аналитикой еком-агентов в Алисе. Еком-агенты помогают пользователям выбирать товары и принимать решения о покупке прямо в чат-интерфейсе: уточняют потребности, ищут подходящие варианты, сравнивают характеристики и цены, находят лучшие предложения и сопровождают пользователя на пути от первого запроса до покупки.
Мы используем LLM, VLM, классическое ML и еком-инфраструктуру Поиска. Сейчас мы активно развиваем существующие сценарии и запускаем новых агентов. Мы ищем человека, который сможет самостоятельно находить точки роста еком-агентов, превращать их в работающие решения и доводить задачи до продакшена.
Почему у нас классно
- AI-driven-аналитика уже сегодня. Мы используем AI-агентов не только внутри продукта, но и в повседневной аналитической и инженерной работе. Значительная часть типовых задач уже автоматизирована, поэтому команда может больше времени уделять сложным продуктовым проблемам и запуску новых решений.
- Работа над современным продуктом с прямым влиянием на пользователей. Мы создаём еком-сценарии на базе LLM и VLM, но оцениваем свою работу не по сложности технологии, а по результату в продакшене: насколько лучше агент помогает пользователю выбрать товар и приблизиться к покупке.
- Динамичная среда. Еком-агенты — молодое и быстро развивающееся направление. Продукт и технологии быстро меняются, поэтому здесь можно за короткое время попробовать много разных задач, глубоко погрузиться в современные AI-подходы и заметно вырасти профессионально.
- Небольшая команда и высокий уровень ответственности. У нас короткий путь от идеи до реализации. Каждый участник команды может заметно влиять на продуктовые приоритеты, метрики, аналитическую систему и технические решения.
- Кросс-сервисный продукт. Еком-агенты используют технологии и данные разных сервисов Яндекса. Поэтому в работе много взаимодействия с продуктовыми, инженерными, ML- и аналитическими командами. Это позволяет развивать не только техническую экспертизу, но и коммуникационные и менеджерские навыки.
Искать и реализовывать точки роста продукта
Вам предстоит разбираться, где и почему пользовательский сценарий работает недостаточно хорошо: агент не понял запрос, подобрал нерелевантные товары, не учёл важное ограничение, показал неподходящие предложения или не помог пользователю приблизиться к покупке.
Нужно будет формулировать гипотезы, находить решения, проводить полный цикл экспериментов и доводить успешные изменения до продакшена. Мы ориентированы на практический результат: решения должны доходить до продакшена и заметно улучшать пользовательский опыт и продуктовые метрики.
Развивать систему оценки качества еком-агентов
Вы будете проектировать и поддерживать автоматизированные eval-пайплайны, которые позволяют оценивать качество работы агентов:
- создавать golden datasets для ключевых еком-сценариев;
- формулировать критерии качества и инструкции для разметки;
- строить пайплайны на основе LLM-as-a-judge;
- автоматизировать разметку с помощью LLM;
- организовывать и анализировать асессорскую разметку;
- исследовать связь между офлайн-оценками, поведением пользователей и онлайн-метриками;
- следить за тем, чтобы ответы агентов были полезными, точными и заслуживающими доверия.
Работать с данными и моделями
Вам предстоит собирать датасеты, разбираться в логах пользовательских сценариев и событиях разных сервисов, решать проблемы качества данных и создавать воспроизводимые пайплайны обработки.
В зависимости от задачи вы сможете использовать классические ML-модели, LLM, VLM и другие методы. Для нас важен не выбор технологии сам по себе, а измеримый результат для продукта.
Развивать аналитическую систему
Вы будете поддерживать и развивать систему данных, на которой строится аналитика еком-агентов: витрины, метрики, документацию и инструменты для продуктовых исследований и экспериментов.
Одно из важных направлений — делать хранилище понятным для AI-систем: развивать семантический контекст, метаданные, lineage, документацию и паттерны получения данных, необходимые агентам для корректной работы с аналитикой.
Больше об аналитике в Яндексе — в канале Yandex for Analytics
- Самостоятельно находили точки роста и улучшали продуктовые метрики
- Уверенно владеете Python и SQL
- Работали с большими объёмами событийных данных и логами разных сервисов
- Работали с пайплайнами обработки данных и инструментами оркестрации, например Airflow
- Умеете находить и исправлять проблемы качества данных
- Понимаете принципы работы LLM-систем, AI-агентов и классического ML
- Комфортно работаете с AI-assisted development tools и используете агентские coding-workflow, чтобы быстрее прототипировать и доводить решения до результата
- Способны самостоятельно вести задачу от обнаружения проблемы и исследования данных до эксперимента, реализации и выкатки в продакшен
- Автономны, проактивны, готовы отвечать за результат
- Работали с A/B-экспериментами, LLM-as-a-judge, разметкой данных или оценкой качества генеративных моделей
