Стройте и релизьте слой оркестрации агентов. Оптимизируйте выбор моделей, латентность и стоимость для тысяч агентов.
ЛокацияУдалённо (ЕС)
ТипПолная занятость
Зарплата$110k, $160k + equity
О роли
Наш agent orchestration layer маршрутизирует миллионы разговоров в месяц между LLM, voice-моделями и custom skills. Вы будете отвечать за его производительность, надёжность и стоимость.
Мы оптимизируем под sub-300мс response time в voice и sub-2с в чате. Подбираем модели под запрос на основе компромиссов качество vs стоимость. A/B-тестируем промпты в проде. Вы будете делать всё это и больше.
Это hands-on инженерная роль с существенными research-компонентами. Вы будете писать код, читать papers, запускать эксперименты и релизить в продакшн.
Что вы будете делать
Владеете model serving и orchestration-слоем
Оптимизируете latency, стоимость и качество у разных провайдеров (OpenAI, Anthropic, in-house)
Строите evaluation harnesses и инфраструктуру A/B-тестирования
Исследуете и релизите улучшения RAG, tool-use и multi-step reasoning
Менторите других инженеров по ML best practices
Кого мы ищем
5+ лет ML engineering, 2+ года production LLM-систем
Глубокое знание Python; опыт работы с vLLM, Triton или подобными inference-серверами
Сильное systems thinking, вы дебажили production-latency или cost issues
Комфортно читаете research-статьи и прототипируете их идеи
Бонус: опыт работы с distributed systems
Преимущества и бонусы
Remote-firstОпцион / equityМедицинское страхование$2k бюджет на обучениеCompute-бюджет на эксперименты
Подать заявку на Senior ML Engineer
Расскажите о себе. Мы читаем каждую заявку и отвечаем в течение 1 рабочей недели. Заявка и резюме приходят письмом на team@mychatbot.app.