Copiloto, RAG e automação não resolvem o mesmo problema

Quando uma empresa decide usar IA, o pedido costuma chegar vago: um assistente, um chatbot, algo que ajude o time. O trabalho de engenharia começa em separar esse pedido em três categorias, porque cada uma tem escopo, custo e risco diferentes.

  • Copiloto: assistente embutido na ferramenta que a equipe já usa (CRM, ERP, editor de contrato). Sugere, resume e redige; a pessoa decide.
  • RAG (Retrieval-Augmented Generation): o sistema busca trechos de documentos internos antes de o modelo responder, para citar a política real da empresa em vez de uma média genérica.
  • Automação com LLM: o modelo executa uma etapa do processo sem humano no meio, normalmente convertendo texto livre em dado estruturado, como um pedido por e-mail virando linhas no ERP.

Confundir as três leva a erros previsíveis: contratar um copiloto para fazer o trabalho de uma automação, ou montar automação onde uma sugestão já resolveria. O segundo caso costuma sair caro, porque exige validação, monitoramento e tratamento de exceção para um ganho pequeno.

RAG: quando o valor está no dado interno

RAG resolve um problema simples: o modelo não conhece o seu negócio, apenas padrões de linguagem. Para responder sobre tabela de preços, contrato ou procedimento interno, é preciso recuperar esse conteúdo e entregá-lo junto com a pergunta.

O pipeline tem etapas que precisam de dono:

  1. Ingestão e atualização dos documentos de origem.
  2. Divisão em trechos com metadados de origem e permissão.
  3. Geração de embeddings e indexação em base vetorial.
  4. Busca híbrida (semântica e palavra-chave) com reranking.
  5. Montagem do prompt com os trechos e citação da fonte.

A pergunta que o decisor deve fazer não é qual banco vetorial foi escolhido, e sim: quando um documento muda, quanto tempo até a resposta refletir a mudança? Se a atualização do índice depende de alguém rodar um script manualmente, a base envelhece e o copiloto passa a errar com confiança.

O segundo ponto é controle de acesso. Um RAG que indexa tudo e devolve tudo cria vazamento de informação. Um vendedor não precisa receber a margem de lucro do produto; um técnico não precisa ler o contrato do cliente. A permissão do documento de origem precisa sobreviver até a resposta.

Um caso concreto: uma distribuidora de autopeças cujo time comercial respondia, por telefone e e-mail, dúvidas sobre prazo, condição de pagamento e compatibilidade de peça. As respostas existiam espalhadas em catálogo, contrato e planilha de política comercial, cada uma com um dono. Com RAG sobre esse acervo, o vendedor passou a receber a resposta com o trecho de origem, e o comercial deixou de ser gargalo para perguntas repetidas. O ganho veio menos do modelo e mais da indexação correta e atualizada.

Automação com LLM: regra de entrada e saída

Automação com LLM rende quando a entrada é linguagem natural e a saída é estruturada e verificável: triagem de e-mails, extração de campos de pedido ou nota, resumo de laudo para a recepção de uma clínica, rascunho de resposta padronizada.

Ela não rende, ou rende com risco alto, em cálculo fiscal definitivo, decisão de crédito sem revisão humana e qualquer processo que exija resultado determinístico e auditoria fechada. Nesses casos, o modelo pode apoiar, nunca decidir.

O padrão que funciona em produção: o LLM propõe, o sistema valida contra schema e regras de negócio, e o humano trata as exceções. Em volta disso, vale o básico de engenharia: fila, idempotência para não duplicar lançamento, log de prompt e resposta, versionamento de modelo e de prompt, e fallback para quando o provedor falhar ou a latência estourar.

Na prática

Para quem mantém software em produção, IA aplicada é operação, não demonstração:

  • Trate prompt como código: versionado, revisado e testado antes de ir para produção.
  • Meça custo por requisição e latência por rota, com limite de gasto por usuário e por processo.
  • Registre pergunta, trechos recuperados e resposta, para auditar uma decisão errada depois.
  • Propague a permissão do dado de origem até o índice de busca.
  • Revise a qualidade com um conjunto pequeno de casos reais, de forma periódica.
  • Mantenha humano no circuito onde o erro tem impacto financeiro, fiscal ou regulatório.

Copiloto, RAG e automação são camadas diferentes da mesma disciplina: dar contexto ao modelo, limitar o que ele decide e manter o sistema auditável. Quem trata isso como projeto de engenharia, e não como compra de ferramenta, colhe ganho que se sustenta.