⚙️ Run:ai Open Source: Orquestração de GPU em Kubernetes

📌 Pra que serve

Run:ai é a ferramenta que as empresas usam pra gerenciar GPUs em produção sem desperdício. Agora aberta, você pode usar KAI Scheduler (agendador Kubernetes-nativo), GPU Fractioning (dividir GPU entre workloads), Resource Management (quota por time) e Workload Map (entender qualquer tipo de job). Ideal pra quem roda PyTorch, Ray, KServe ou treina/infere em Kubernetes.

🛠️ Passo a passo

1. Clone o repositório oficial

git clone https://github.com/NVIDIA/dsx-ai-factory.git
cd dsx-ai-factory

2. Instale via Helm (jeito mais rápido)

## Adicione o chart do NGC (Community Product)
helm repo add nvidia-run-ai https://nvidia.github.io/dsx-ai-factory
helm repo update
Instale no seu cluster
kubectl create namespace runai
helm install runai nvidia-run-ai/runai \
  --namespace runai \
  --values values.yaml

3. Teste o KAI Scheduler sozinho (se já tem Kubernetes rodando)

kubectl apply -f https://raw.githubusercontent.com/kai-scheduler/KAI-Scheduler/main/manifests/install.yaml

4. Ative GPU Fractioning (compartilhar GPU entre jobs)

## Requer CUDA 13.4+
kubectl apply -f https://github.com/NVIDIA/run-ai-operator/gpu-fractioning-operator

5. Teste com um workload

kubectl apply -f - <<EOF
apiVersion: batch/v1
kind: Job
metadata:
  name: test-fractioned-gpu
spec:
  template:
    spec:
      containers:
      - name: test
        image: nvidia/cuda:12.0-runtime
        resources:
          limits:
            nvidia.com/gpu: "0.5"  # meia GPU
EOF

💡 Dica: Comece com KAI Scheduler se sua principal dor é compartilhar GPU justo entre times; se o problema é ter 10 notebooks idle queimando GPU, use GPU Fractioning first. Não precisa instalar tudo de uma vez.

🔗 Links e instalação

Repositório completo: https://github.com/nvidia-open-source/run-ai
KAI Scheduler (agendador): https://github.com/kai-schedu

ler/KAI-Scheduler

GPU Fractioning Operator: https://docs.run.ai/latest/Operator/gpu-fractioning/
Documentação oficial: https://docs.run.ai
Community Product (NGC): https://catalog.ngc.nvidia.com/orgs/nvidia/containers/runai
Blog anúncio: https://developer.nvidia.com/blog/nvidia-runai-is-now-open-source-as-part-of-nvidia-dsx-ai-factory-platform/

Licença: Apache 2.0 · Sem suporte oficial NVIDIA obrigatório · Comunidade CNCF ativa no Slack (#kai-scheduler).