Engenheiro de IA Sênior; Guardrails e Segurança de LLM na Educação

Position: Engenheiro(a) de IA Sênior (Guardrails e Segurança de LLM na Educação)

Vaga aberta de Engenheiro(a) de IA Sênior (Guardrails e Segurança de LLM na Educação). A empresa contratante é confidencial neste anúncio, e a seleção é conduzida pela Sylision.

Nível: senior.

Modelo de trabalho: 100% Remoto.

Contratação: tempo integral, CLT ou PJ.

Sobre a vaga:

Um assistente de estudos baseado em LLM responde dúvidas de estudantes de ensino médio e de graduação, inclusive menores, sobre conteúdo, prazos e notas. O risco é concreto: o aluno tenta fazer o modelo entregar a resposta de uma prova, um texto escondido em um material enviado manda o assistente ignorar suas regras, uma pergunta sobre saúde emocional pede tratamento cuidadoso, e o modelo pode revelar dado de outro aluno que apareceu em um documento recuperado.

Você será quem desenha e mantém as camadas de proteção: filtros de entrada e de saída, defesa contra injeção de instruções em conteúdo recuperado, controle de acesso aos documentos por aluno e por turma, recusa bem-feita e encaminhamento humano quando o tema pede. Cada camada tem custo de latência e de falso bloqueio, e um assistente que recusa tudo não ajuda ninguém.

Por isso o trabalho inclui um conjunto de ataques e de casos legítimos para medir os dois lados.

O resultado se mede por taxa de ataques bloqueados, taxa de pedidos legítimos recusados por engano, latência adicionada e número de incidentes com dado pessoal, que deve ser zero.

O que você vai fazer:

• Construir e manter um conjunto de testes adversariais e de pedidos legítimos
• Implementar filtros de entrada e saída e a defesa contra injeção de instruções
• Aplicar controle de acesso no RAG, de modo que cada aluno só recupere o que pode ver
• Tratar dados pessoais conforme a LGPD, com mascaramento e registro de acesso
• Definir respostas de recusa e o encaminhamento para um responsável humano
• Medir falso bloqueio, latência e custo por camada e ajustar o equilíbrio
• Observar o sistema em produção com rastros de cada decisão de proteção
• Treinar o time para revisar novos prompts e ferramentas sob a ótica de segurança

Requisitos:

• Aplicações com LLM e RAG em produção, com Python, FastAPI e Lang Chain ou equivalente
• Entendimento de ataques a modelos de linguagem, como injeção de instruções e vazamento de contexto
• Banco vetorial e controle de acesso na recuperação
• Avaliação sistemática de modelos com conjuntos de teste
• Conhecimento prático de LGPD aplicada a dados de estudantes
• Capacidade de decidir desenho e responder por incidente

Diferenciais:

• Experiência com avaliação automática por modelo como juiz, com calibração
• Conhecimento de proteção de menores em serviços digitais
• Docker e implantação com observabilidade
• Exercícios de ataque simulado (red team) em sistemas de linguagem
• Escrita de política de uso para equipes pedagógicas

Como é trabalhar aqui:

Vaga 100% remota, com contratação CLT, para cliente da Sylision com sede em Minas Gerais. Mudanças em prompts e em regras de proteção passam por revisão e pela bateria de testes antes de ir ao ar. Incidentes são tratados em revisão sem culpa, e o conjunto de ataques cresce a cada caso novo.

Benefícios oferecidos pela empresa contratante:

• Ambiente colaborativo, com senso de comunidade e conquistas celebradas em equipe
• Trabalhe de qualquer lugar, com liberdade e flexibilidade
• Conexão global: convivência com times de diferentes países e culturas
• Apoio à saúde física com Total Pass e Mediquo
• Cuidado com a saúde mental pelo programa Team Care
• Contratação e jornada definidas com a empresa contratante

Tecnologias envolvidas:

• Python
• LLMs
• RAG
• Lang Chain
• Banco vetorial
• FastAPI
• Docker
• Segurança de LLM
• LGPD
• Git

Seus dados:

Tratados conforme a LGPD, com remoção a qualquer momento, a pedido.