ML Engineer

Описание Ищем прикладного AI-инженера для запуска и адаптации open-source моделей под наши продукты. Наш фокус - не теоретический R&D, а быстрая доставка готовых ML-решений в продакшен: взять проверенную открытую модель, дообучить под наши сценарии и задеплоить на собственном GPU-сервере. Продуктовый бэкенд, базы данных и сбор данных закрывает основная команда разработки. Ваша зона ответственности - подбор и тюнинг моделей, инференс, производительность на GPU и качество генерации.

Задачи • развернуть и сопровождать open-source модели (Qwen, Llama и др.) на выделенном сервере с GPU Nvidia через vLLM. • дообучать модели под определенную персону (сленг, подача, характерные мысли) через LoRA / QLoRA с сохранением связности и логики ответов. • собирать пайплайны контекстного поиска на базе эмбеддеров для русского языка (ruBERT / BGE / Sentence Transformers). • настраивать логику вызова инструментов и промпт-пайплайны под автономные задачи. • поднять и настроить готовый сервис генерации картинок на базе open-source моделей (Flux / SDXL).

Требования • Коммерческий опыт в прикладном ML / NLP от 2 лет. • Опыт запуска и инференса LLM на видеокартах Nvidia (понимание vLLM, Docker, работы с CUDA и контролем видеопамяти без падений в OOM). • Практический опыт файн-тюнинга через LoRA / QLoRA (Hugging Face PEFT, TRL, Unsloth). • Понимание подготовки данных: фильтрация шума, сбор пар «промпт-ответ», предотвращение выгорания логики модели (catastrophic forgetting). • Базовый опыт (или…