Технический продакт-менеджер LLM-платформ

Мы ищем технического продакт-менеджера, который будет развивать два платформенных продукта для команд Авито:

LLM Gateway — единую точку доступа к внутренним и внешним языковым моделям с удобным подключением, управлением лимитами и прозрачной стоимостью использования;

LLM Eval — платформу оценки качества разных LLM-проектов, которая поможет командам сравнивать решения, проверять изменения и находить ухудшения качества до релиза.Вам предстоит вести полный продуктовый цикл: исследовать потребности внутренних пользователей, определять стратегию и приоритеты, запускать решения вместе с техническими командами и оценивать их пользу.

исследовать потребности внутренних команд, находить общие проблемы и превращать их в возможности для развития платформ формировать стратегию, дорожную карту и бэклог двух продуктов, согласовывать приоритеты и зависимости с заинтересованными командами определить метрики успеха: скорость подключения и запуска первых сценариев, активное использование платформ, стоимость обращений к моделям и охват проектов регулярными проверками качества отвечать за внедрение продуктов: организовывать пилоты, собирать обратную связь, улучшать документацию и пользовательские сценарии развивать самостоятельное подключение команд к моделям: каталог доступных LLM, оформление доступов, управление квотами и лимитами, просмотр потребления выстроить прозрачную экономику использования внутренних и внешних моделей: оценку стоимости запросов, распределение затрат между командами, бюджетирование и прогнозирование расходов вместе с закупками, юристами, информационной безопасностью и инженерами организовать выбор и подключение внешних провайдеров с учётом качества, стоимости, надёжности и требований к данным совместно с DS и инженерными командами развивать подходы к выбору моделей и маршрутизации запросов, находить баланс между качеством ответа, скоростью и стоимостью определить ключевые сценарии и MVP платформы оценки качества для разных LLM-проектов внутри Авито вместе с DS и продуктовыми командами сформировать требования к тестовым наборам, метрикам и способам оценки: автоматическим проверкам, экспертной разметке и использованию…