LLM Architect
Задачи
- Проектирование и контроль реализации отказоустойчивой архитектуры для работы с LLM и агентами;
- Принятие ключевых технических решений по выбору моделей, фреймворков и инфраструктуры;
Тесное взаимодействие с ключевыми стейкхолдерами и исполнителями:
- Представителями бизнеса;
- Техлидами LLM-команд и владельцами продуктов;
- Архитекторами смежных направлений, не связанных напрямую с LLM;
- Архитектором GPU-инфраструктуры.
Требования
- 5+ лет в коммерческом ML/AI;
- 2+ года работы с LLM: RAG, агенты, локальный инференс;
- Опыт технического руководства командой или работы архитектором;
- Опыт проектирования AI-решений полного цикла (от задачи до production);
- Большой кругозор и насмотренность в технологиях как напрямую связанных с ML/AI, так и в классической разработке и архитектуре;
- Глубокое понимание принципов MLOps/LLMOps и жизненного цикла моделей;
- Python 3.x на уровне проектирования и code review;
Хороший кругозор в классической разработке и архитектуре:
- Понимание микросервисов, монолитов, событийной архитектуры (Event-driven) и Serverless;
- Знание протоколов взаимодействия систем (REST, gRPC) и брокеров сообщений (Kafka, RabbitMQ);
- Умение выбирать между SQL и NoSQL базами данных в зависимости от нагрузки и структуры данных;
- Понимание принципов работы Docker, Kubernetes и основных облачных провайдеров.
Будет плюсом:
- Понимание требований ИБ и работы в закрытых контурах;
- Понимание принципов оценки качества LLM (метрики, бенчмарки, человеческая оценка).
Требования по архитектуре:
- Глубокое понимание микросервисов (MSA), монолитов, событийной архитектуры (Event-driven) и Serverless;
- Знание протоколов взаимодействия систем (REST, gRPC, GraphQL) и брокеров сообщений (Kafka, RabbitMQ);
- Умение выбирать между SQL и NoSQL базами данных в зависимости от нагрузки и структуры данных;
- Понимание принципов работы Docker, Kubernetes и основных облачных провайдеров.