Техвилл
ТехВилл

LLM Architect

Задачи

- Проектирование и контроль реализации отказоустойчивой архитектуры для работы с LLM и агентами;

- Принятие ключевых технических решений по выбору моделей, фреймворков и инфраструктуры;

Тесное взаимодействие с ключевыми стейкхолдерами и исполнителями:

- Представителями бизнеса;

- Техлидами LLM-команд и владельцами продуктов;

- Архитекторами смежных направлений, не связанных напрямую с LLM;

- Архитектором GPU-инфраструктуры.

Требования

- 5+ лет в коммерческом ML/AI;

- 2+ года работы с LLM: RAG, агенты, локальный инференс;

- Опыт технического руководства командой или работы архитектором;

- Опыт проектирования AI-решений полного цикла (от задачи до production);

- Большой кругозор и насмотренность в технологиях как напрямую связанных с ML/AI, так и в классической разработке и архитектуре;

- Глубокое понимание принципов MLOps/LLMOps и жизненного цикла моделей;

- Python 3.x на уровне проектирования и code review;

Хороший кругозор в классической разработке и архитектуре:

- Понимание микросервисов, монолитов, событийной архитектуры (Event-driven) и Serverless;

- Знание протоколов взаимодействия систем (REST, gRPC) и брокеров сообщений (Kafka, RabbitMQ);

- Умение выбирать между SQL и NoSQL базами данных в зависимости от нагрузки и структуры данных;

- Понимание принципов работы Docker, Kubernetes и основных облачных провайдеров.

Будет плюсом:

- Понимание требований ИБ и работы в закрытых контурах;

- Понимание принципов оценки качества LLM (метрики, бенчмарки, человеческая оценка).

Требования по архитектуре:

- Глубокое понимание микросервисов (MSA), монолитов, событийной архитектуры (Event-driven) и Serverless;

- Знание протоколов взаимодействия систем (REST, gRPC, GraphQL) и брокеров сообщений (Kafka, RabbitMQ);

- Умение выбирать между SQL и NoSQL базами данных в зависимости от нагрузки и структуры данных;

- Понимание принципов работы Docker, Kubernetes и основных облачных провайдеров.