🤖 Rodando Modelos de IA Open-Source Localmente com Ollama
📌 Pra que serve
Executar modelos open-source profissionais (Gemma 4, Qwen 3.8, Muse Glimmer) no seu próprio computador sem APIs pagas, throttling ou preocupação com privacidade. Funciona offline, sem custos recorrentes.🛠️ Passo a passo
1. Instale Ollama (ollama.ai)
- Mac, Windows, Linux — baixa pelo site oficial
- Instala como daemon local, interface web nativa
2. Escolha seu modelo conforme seu hardware
- Laptop comum: ollama run gemma4:12b (12B, rápido, texto puro)
- Mac bem-equipado: ollama run qwen2.5:27b (27B, visão + texto, 262K contexto)
- Apple Silicon: ollama run muse-glimmer:30b-mlx (agentes locais, Meta)
- Só testar: ollama run gemma4:2b (2B em qualquer máquina)
3. Rode o modelo
ollama run <modelo>Ollama baixa os pesos (~7GB para 27B) na primeira execução e abre um chat no terminal.
4. Integre com apps Python (opcional)
import ollama
response = ollama.generate(model="qwen2.5:27b", prompt="Explique IA generativa")
print(response['response'])5. Acesse via navegador
- URL: localhost:11434
- Ou configure apps third-party (VS Code extensions, WebUI do OpenWebUI)
💡 Dica: Comece com Gemma 4 12B se sua máquina é limitada — roda em ~8GB de RAM mesmo em quantização 4-bit. GLM 5.3 Flash (321B, ativa 18B) é melhor que 100x seu tamanho se você tiver GPU.
🔗 Links e instalação
- Ollama: https://ollama.ai (downloads Mac/Windows/Linux)
- Modelos recomendados no Ollama Library:
ollama run gemma4 (padrão: 31B)
- ollama run qwen2.5 (padrão: 27B)
- ollama run muse-glimmer:30b-mlx (Apple Silicon)
- Fonte: https://felloai.com/best-open-source-ai-models/
- Benchmarks independentes: Artificial Analysis Intelligence Index v4.3.2
Comparação rápida: Gemma 4 roda em laptop (1.2 GB 4-bit). Qwen 3.8 27B em Mac M1+ (15GB). Muse Glimmer tun
ed para agentes. Todos Apache 2.0 ou MIT — comercialmente livres.