---

🚀 Rodando Modelos de IA Localmente com Ollama

📌 Pra que serve

Ollama permite executar modelos de linguagem grandes (como Llama 3.3, Mistral, Qwen) diretamente no seu computador, sem enviar dados para servidores externos. Zero custos de API, sem limites de uso, e privacidade total. Ideal para desenvolvimento, prototipagem e uso offline de IA generativa.

🛠️ Passo a passo

1. Instale Ollama

Linux/macOS:

curl -fsSL https://ollama.com/install.sh | sh

macOS (Homebrew):

brew install ollama

Windows: Baixe o instalador em [ollama.com/download](https://ollama.com/download)

Verifique a instalação:

ollama --version

2. Baixe seu primeiro modelo

Recomendado para iniciar (requer 8 GB RAM):

ollama pull llama3.3:8b

Outras opções: mistral:7b (rápido), qwen2.5:7b (coding), phi4 (bom raciocínio).

3. Execute o modelo

ollama run llama3.3:8b

Digite suas perguntas no prompt interativo. Saia com /bye.

4. Use a API REST

Com Ollama rodando, acesse em http://localhost:11434:

curl http://localhost:11434/api/generate \
  -d '{
    "model": "llama3.3:8b",
    "prompt": "Escreva uma função Python para verificar números primos",
    "stream": false
  }'

5. Integre com Python

pip install ollama

import ollama
response = ollama.chat(
  model='llama3.3:8b',
  messages=[{'role': 'user', 'content': 'Qual é a capital da França?'}]
)
print(response['message']['content'])

6. Ative aceleração GPU (opcional)

Apple Silicon (M1+): Automático, sem configuração.

NVIDIA: Instale a NVIDIA Container Toolkit (se usar Docker) e execute com --gpus=all.

AMD: Use a imagem ROCm:

docker run -d --device /dev/kfd --device /dev/dri \
  -v ollama:/root/.ollama -p 11434:11434 ollama/ollama:rocm

💡 Dica: Para interfaces gráficas, use Open-WebUI (similar a ChatGPT):

docker run -d -p 3000:8080 \
  --add-host=host.docker.inte
rnal:host-gateway \
  -v open-webui:/app/backend/data \
  ghcr.io/open-webui/open-webui:main

Acesse em http://localhost:3000.

🔗 Links e instalação

Site oficial: https://ollama.com
GitHub: https://github.com/ollama/ollama
Modelos disponíveis: https://ollama.com/library
Documentação API: https://github.com/ollama/ollama/blob/main/docs/api.md
Open-WebUI: https://github.com/open-webui/open-webui