Continue aprendendo enquanto ouve.
Conversa sobre este artigo
Uma adaptação em áudio com exemplos e reflexões. O texto completo e as fontes continuam disponíveis abaixo.
Conversa roteirizada com locutor sintético e participação sintetizada da voz clonada TESTE de Bruno Costa, usada com sua autorização. Não é uma entrevista gravada ao vivo.
Leve esta leitura para a prática: conheça o caderno gratuito e suas fichas editáveis.
Camadas de proteção para um agente
Cada camada controla um risco diferente. Selecione uma etapa para ver seu papel.
Entrada não confiável
Mensagens, páginas e documentos podem conter instruções maliciosas. Conteúdo recuperado deve ser tratado como dado.
Na prática: Uma página não pode autorizar o agente a revelar um segredo.
Instruções e contexto
Separe instruções do sistema, pedidos do usuário e conteúdo de fontes. Limite dados expostos ao mínimo necessário.
Na prática: Não coloque credenciais no prompt ou em arquivos que o modelo possa consultar.
Executor e permissões
O sistema valida ferramentas, parâmetros e acesso por usuário/organização fora da LLM.
Na prática: Uma saída do modelo não concede permissão para acessar outro cliente.
Revisão e limites
Ações de maior impacto exigem confirmação e limites de escopo, volume e duração.
Na prática: Enviar uma mensagem e preparar um rascunho devem ter permissões distintas.
Teste e auditoria
Registre decisões sem vazar dados sensíveis e teste falhas, abuso e recuperação.
Na prática: Uma tentativa bloqueada é evidência de um controle; não prova ausência de todos os ataques.
Nenhuma instrução de prompt oferece blindagem total. A segurança depende de controles externos ao modelo e testes contínuos.
Desenhe a fronteira antes do fluxo
Liste as ações permitidas, os dados necessários e situações que exigem revisão. Ambiguidade, alto impacto, ausência de informação e exceções são sinais frequentes de transferência.
Essa fronteira precisa ser compreensível para quem opera o sistema, não só para quem escreveu o prompt. Uma pessoa deve poder revisar o motivo da ação e interrompê-la.
Transfira contexto, não apenas texto
Quando o agente chama uma pessoa, entregue o objetivo, o histórico relevante, as fontes consultadas, o que já tentou e por que parou. Obrigar alguém a reconstruir a conversa anula parte do ganho.
Registre também o desfecho. Ele mostra padrões de exceção e ajuda a corrigir tanto o agente quanto o processo humano.
Aprofunde este tema: Chatbot, agente ou automação: qual tarefa você precisa resolver? →
Supervisão é uma decisão de projeto
A supervisão não pode aparecer apenas depois de um incidente. O NIST inclui processos de monitoramento e gestão contínua no seu framework de risco para IA. A intensidade da revisão deve acompanhar impacto e incerteza.
Uma resposta informativa pode pedir revisão amostral. Uma ação que altera dados, compromissos ou dinheiro merece controles mais fortes e possibilidade de reversão.
Ajuste a autonomia pela evidência
Acompanhe acertos, erros, casos inconclusivos e satisfação de quem recebe o trabalho. Amplie o escopo somente quando a equipe confia no comportamento observado, e não na primeira demonstração.
Quer um material complementar para aplicar este artigo?Opcional, sem interromper a leitura
Agentes de IA no negócio: decidir, testar e operar
Decida quando um agente faz sentido e organize missão, fontes, permissões e supervisão. Registre evidências antes de ampliar sua atuação.
