Quando uma área pede "IA" para resolver um problema, a conversa técnica precisa começar por uma pergunta simples: qual é o formato da tarefa? Copiloto, RAG e automação com LLM resolvem problemas de naturezas diferentes, e tratar os três como sinônimo é a origem mais comum de projeto que empaca no piloto.

Copiloto, RAG e automação não são a mesma coisa

Copiloto. O modelo trabalha dentro de uma ferramenta que o time já usa (CRM, ERP, editor de propostas, mesa de atendimento). Ele resume histórico, sugere redação, classifica um chamado, preenche campos a partir de uma conversa. O ganho vem da velocidade do humano, não da substituição dele. Exige integração com as permissões de quem está logado.

RAG (retrieval augmented generation). A pergunta é feita em linguagem natural sobre uma base documental: políticas comerciais, contratos, manuais, fichas técnicas. O modelo não "sabe" a resposta, ele redige a partir de trechos recuperados por busca. A qualidade do resultado depende de indexação, segmentação dos documentos e citação da fonte.

Automação com LLM. O modelo executa uma etapa de um fluxo: extrai campos de um PDF, classifica e-mails recebidos, gera rascunho de resposta, aciona uma API interna. Aqui a saída precisa ser previsível e validável, porque não há humano lendo cada execução.

O erro clássico é usar o arranjo errado. Chatbot genérico sobre o drive inteiro da empresa, sem recuperação e sem permissão, vira gerador de resposta plausível e errada. RAG para extrair um campo estruturado de uma nota fiscal é complexidade desnecessária. Automação sem contrato de saída rígido falha em silêncio no meio da madrugada.

O que sustenta IA em produção

O modelo é a parte barata do projeto. O que decide se a solução sobrevive ao segundo mês é a engenharia em volta:

  • Fonte de verdade identificada, com dono e versionamento: preço, política e ficha técnica mudam, e o índice precisa acompanhar.
  • Permissão herdada do sistema de origem, porque o modelo não pode responder o que o usuário não tem direito de ver.
  • Contrato de saída explícito, com schema, campos obrigatórios e tratamento de resposta inválida.
  • Conjunto de avaliação com casos reais, revisado por quem entende do domínio, rodado a cada mudança de prompt, modelo ou índice.
  • Observabilidade: registro do contexto recuperado, da resposta, da decisão humana e do custo por execução.
  • Caminho de fallback e rollback para voltar à versão anterior do prompt ou do modelo sem parar a operação.

Um caso concreto em uma distribuidora

Uma distribuidora de materiais elétricos, com catálogo grande e equipe comercial distribuída, tentou começar pelo caminho mais óbvio: um assistente que respondia qualquer pergunta sobre a empresa. Em poucas semanas, o time recebia tabela de preço desatualizada e compatibilidade de produto errada, porque o conteúdo indexado não tinha curadoria e misturava versões.

O projeto foi refeito em três frentes. O RAG ficou restrito às fichas técnicas vigentes e às políticas comerciais, com citação obrigatória da fonte na resposta. O copiloto no CRM passou a montar o rascunho da proposta a partir desses trechos, deixando o vendedor revisar valores e condições. A automação com LLM entrou no recebimento de propostas de fornecedores: extração dos itens do PDF, validação contra o cadastro do ERP e fila de conferência para o que não casar.

O efeito prático não foi "ter IA". Foi reduzir ida e volta entre vendedor e retaguarda, evitar proposta montada sobre documento vencido e impedir que item divergente entrasse no pedido de compra sem conferência.

Na prática

Para quem mantém software em produção, IA com LLM entra no mesmo regime de qualquer integração crítica:

  1. Trate prompt, índice e modelo como artefatos versionados, com changelog e revisão.
  2. Rode a avaliação antes de publicar, com casos que representem as perguntas reais e não as perguntas que o time gostaria de receber.
  3. Defina o que acontece quando o modelo erra: mensagem clara, encaminhamento humano e registro para análise.
  4. Monitore custo por requisição e latência, porque ambos escalam com contexto mal dosado.
  5. Reveja a exposição de dados pessoais no prompt e no log, com base legal e prazo de retenção definidos.
  6. Tenha um plano de desligamento: se o provedor mudar preço, política ou disponibilidade, o fluxo precisa continuar funcionando ou falhar de forma controlada.

Copiloto, RAG e automação são boas ferramentas quando a tarefa está bem descrita, a fonte de verdade é confiável e alguém responde pelo erro. Sem isso, o modelo apenas acelera a produção de inconsistência.