Engenheiro(a) de LLMOps Senior - 133003

Estamos buscando um(a) LLMOps Engineer para sustentar, evoluir e testar a nossa infraestrutura de Inteligência Artificial. Sua missão será garantir que nossas plataformas de IA (Google Gemini Enterprise, Azure Foundry, AWS Agent Core), AI Gateway e Orquestração de Agentes operem com alta disponibilidade, segurança e eficiência de custos.

Mais do que rodar o que já existe, você será peça-chave na validação do futuro da nossa stack, apoiando na homologação de novas tecnologias, liderando testes e desenvolvendo soluções práticas.

Principais Responsabilidades

• Operação de Plataformas Agênticas: Gerenciar e otimizar a camada de agentes e proxies utilizando ferramentas como litellm, GCP Gemini, AWS Agent Core e Azure Foundry.


• Homologação e P&D: Avaliar e homologar novas ferramentas, modelos e tecnologias do ecossistema de GenAI, conduzindo testes de estresse, latência e qualidade, além de desenvolver MVPs/soluções internas.


• Gestão de Gateways e RAG: Configurar rate limiting, failover, load balancing e gerenciar a infraestrutura de bases vetoriais (OpenSearch, Vertex AI Vector Search, etc.).


• Observabilidade e FinOps: Implementar tracing e monitoramento em tempo real (LangFuse, Datadog AI, Grafana) focado em consumo de tokens, latência e otimização de custos de inferência.


• Automação (CI/CD para IA): Criar pipelines automatizados para deploys de IA, incluindo esteiras de avaliação de prompts (Evals) e testes de regressão de modelos.

Requisitos Técnicos (Hard Skills)

• Domínio em IA Agêntica e Gateways: Experiência prática com litellm, GCP Gemini, AWS Agent Core e/ou Azure Foundry/OpenAI.


• Multicloud e IaC: Sólidos conhecimentos nos serviços de GenAI da AWS, Azure ou GCP, além de provisionamento via Terraform.


• Programação: Proficiência em Python (obrigatório para automações e SDKs) .


• DevOps Fundamental: Experiência prática com containers e orquestração (Docker e Kubernetes).


• Arquitetura de Dados para IA: Compreensão de pipelines de RAG e bancos de dados vetoriais.


• Experiência com desenvolvimento de Código com IA (Github Copilot, Claude Code, Codex...)

Diferenciais

• Certificações de Nuvem focadas em IA/ML (AWS, Azure ou GCP).


• Experiência na implementação de LLMs locais (vLLM, Ollama) para otimização de custos.


• Conhecimento em segurança de IA (OWASP Top 10 para LLMs, PII masking)