🧠 Prompt Engineering + RAG + Fine-Tuning: O Guia Prático para Escolher Certo

📌 Pra que serve

Não escolher entre prompt engineering, RAG e fine-tuning — combinar na ordem certa. A maioria dos projetos falha não por má escolha de modelo, mas por diagnóstico errado: aplicar fine-tuning quando o problema era de conhecimento (informação que o modelo não possui), ou depender de prompts quando a lacuna era estrutural. Este guia ensina a diagnosticar seu problema e escalar da solução mais simples para a mais complexa.

🛠️ Passo a passo

1. Comece com prompt engineering — sempre

• Escreva um system prompt claro com instruções, exemplos few-shot e restrições de formato


• Teste com 20-30 perguntas reais que hoje o modelo responde mal


• Se atinge sua meta: pare aqui. Você economizou semanas e milhares de reais

2. Diagnostique por que falhou

• Modelo não sabia a informação? → Problema de conhecimento → vai para RAG


• Errou formato, tom ou raciocínio mesmo sabendo? → Problema de comportamento → vai para fine-tuning

3. RAG para conhecimento (quando o modelo não sabe)

• Divida documentos em fragmentos (512-1024 tokens)


• Converta em vetores com BGE-M3 ou Voyage-3-Large


• Armazene em Qdrant, Pinecone ou pgvector


• Aplique re-ranking (Cohere Rerank 3 ou BGE-Reranker-v2)


• Custo: ~$3.000-7.000/mês para sistema médio (10k queries/dia)


• Maior custo oculto: manutenção do índice (30-50% do TCO)

4. Fine-tuning para comportamento (quando precisa formatar ou mudar tom)

• Use LoRA (Low-Rank Adaptation) — apenas 1% dos parâmetros, não full fine-tuning


• 500-10.000 exemplos (entrada, saída desejada)


• Modelos recomendados: Llama 3.3, Qwen 2.5, Mistral


• Custo inicial: $5.000-20.000 | Mensal: $500-2.000


• Só vale a pena com alto volume (>500k queries/mês) ou domínio muito específico

5. Sistema híbrido para alta criticidade

• Fine-tuning garante comportamento + RAG garante conhecimento atualizado


• Padrão adotado por Harvey (IA jurídi

• Precisão resultante: 94-96%

💡 Dica: Em 2026, 60-70% dos casos resolvem com prompt engineering bem feito. Não escale antes de medir dados reais.

🔗 Links e instalação

Fonte: https://neuralnet.com.br/fine-tuning-rag-prompt-engineering-guia-definitivo/

Embeddings (open-source):

copiarpip install sentence-transformers

Vector DBs:

• Qdrant: https://qdrant.tech/


• Pinecone: https://pinecone.io/


• pgvector (PostgreSQL): CREATE EXTENSION vector;

Fine-tuning (LoRA):

copiarpip install peft torch transformers
Treine modelos de 7B em GPU 24GB em horas

Modelos base (open-source):

• Llama 3.3 / Qwen 2.5 / Mistral

Benchmark: Estude o caso BetterTogether (2025) — combinar prompt + fine-tuning supera qualquer abordagem isolada em +6 pontos percentuais.