Middle​/Senior LLM Engineer

Overview

Ищем LLM-инженеров для разработки финтех-решений на базе языковых моделей.

Привет!

Fortis - это финтех-компания, использующая современные подходы к ведению бизнеса. Мы предлагаем эффективные IT-решения, которые помогают нашим партнерам работать с платежами, клиентами и автоматизировать бизнес.

Fortis в цифрах:

• 4млрд транзакций ежегодно
• 10млн покупателей
• 4000+ мерчантов в ОАЭ
• 70+ человек в команде

• Проектировать и разрабатывать end-to-end LLM-пайплайны: от приема и обработки входных данных до генерации, пост-обработки и выдачи финального результата
• Создавать и оптимизировать сложные RAG-системы: чанкинг, генерация эмбеддингов, работа с векторными БД и настройка релевантного поиска
• Заниматься продвинутым prompt engineering: разработка, тестирование и совершенствование prompt-шаблонов, включая использование chain-of-thought, tool calling и получения структурированных выходных данных
• Интегрировать и выбирать LLM: работать с облачными API и/или с open-source моделями, подбирая оптимальное решение под задачу с учетом качества, стоимости и задержек
• Обеспечивать вывод решений в production: развертывать, масштабировать и поддерживать отказоустойчивые inference-сервисы, используя контейнеризацию (Docker) и облачные платформы
• Настраивать и проводить fine-tuning моделей: дообучать open-source LLM под специфические домены и задачи
• Разрабатывать и внедрять систему оценки качества: создавать автоматические метрики и human-in-the-loop процессы для тестирования, мониторинга качества ответов и выявления дрифта или деградации
• Внедрять механизмы безопасности и контроля: предотвращать утечки конфиденциальных данных (PII), минимизировать галлюцинации и ограничивать нежелательное поведение моделей
• Тесно взаимодействовать с продуктовыми и инженерными командами: переводить бизнес-требования в технические спецификации и интегрировать LLM-компоненты в backend-сервисы и пользовательские интерфейсы
• Вести MLOps-практики: обеспечивать воспроизводимость экспериментов, версионирование данных и моделей, настройку мониторинга и CI/CD пайплайнов для ML-компонентов

• Опыт коммерческой разработки LLM-решений от 2-х лет
• Глубокое знание Python и опыт разработки backend-сервисов
• Практический опыт построения RAG-архитектур: от чанкинга и эмбеддингов до работы с векторными БД (FAISS, Milvus, Weaviate, Pinecone и аналоги)
• Свободное владение современными подходами prompt engineering
• Опыт работы как с облачными LLM API, так и с open-source моделями — их запуском, инференсом и интеграцией
• Понимание принципов MLOps: контейнеризация (Docker), логирование, мониторинг, версионирование
• Владение Git, умение проводить и принимать code review

Будет плюсом:

• Опыт работы с фреймворками
• Опыт fine-tuning open-source моделей (LLaMA, Mistral, Qwen и аналоги)
• Опыт построения LLM-агентов и multi-agent систем
• Оплачиваемые командировки, чтобы быть в более тесной связи с командой
• Бонусы по итогам…