🔄 Comece com RAG (Retrieval-Augmented Generation)
Nível 4 · 👁️ Polifemo · ⏱️ ~60 min · Pré-requisitos: Python básico, terminal e pip instalados, noção de LLMs e acesso a uma API ou modelo local
📌 Pra que serve
RAG conecta modelos de linguagem a documentos externos, permitindo respostas contextualizadas e atualizadas. Ideal para chatbots que consultam PDFs, políticas da empresa ou bases de conhecimento — sem retreinar o modelo toda vez que a documentação muda.🛠️ Passo a passo
1. Instale as ferramentas
pip install langchain sentence-transformers faiss-cpu chromadb2. Carregue seus documentos (PDFs, planilhas, anotações) e divida em chunks de 100–512 tokens cada, preservando contexto.
3. Gere embeddings com all-MiniLM-L6-v2 (Sentence Transformers) — leve e eficiente para começar.
4. Armazene em banco vetorial
- FAISS: rápido, local, sem infraestrutura.
- Chroma: gerenciado, interface simples.
5. Implemente a recuperação: quando o usuário pergunta, converta a pergunta em vetor, busque os chunks mais similares e envie para seu LLM (GPT, Claude local, etc.) com instrução para responder apenas com o contexto fornecido.
6. Teste com 20 perguntas com respostas conhecidas. Variedade e limite (ex: 3 vs. 5 chunks) e tamanho de chunk um de cada vez — rastreie o que melhora a qualidade.
💡 Dica: Comece com seus próprios PDFs ou documentos internos. Adicione novos documentos sem retreinamento — basta re-indexar.
🔗 Links e instalação
- LangChain (tutorial oficial): https://python.langchain.com/docs/use_cases/retrieval_augmented_generation/
- FAISS (Meta): https://github.com/facebookresearch/faiss
- Chroma: https://www.trychroma.com/
- Sentence Transformers: https://www.sbert.net/