Como implantar e executar modelos DeepSeek localmente com Ollama e LM Studio para inferência offline

Para desenvolvedores de software que lidam com código-fonte proprietário e usuários focados em privacidade de dados sensíveis, enviar requisições a APIs na nuvem de terceiros representa um risco considerável de vazamento e não conformidade. Executar os modelos abertos da DeepSeek diretamente em sua máquina garante soberania total sobre as informações: zero telemetria externa, ausência de custos por token e independência absoluta de infraestruturas remotas.

Tanto o Ollama quanto o LM Studio viabilizam a execução dos modelos de raciocínio e programação da DeepSeek em hardware convencional. Após o download ou a transferência manual dos pesos (weights), ambas as ferramentas funcionam com isolamento de rede completo (air-gapped). Este guia detalha o dimensionamento de hardware, os passos de validação offline, a criação de servidores de desenvolvimento locais compatíveis com a OpenAI e a configuração dos parâmetros recomendados pela equipe da DeepSeek.

1. Escolhendo o modelo DeepSeek adequado ao seu hardware

A linha DeepSeek-R1 compreende o modelo original completo de 671 bilhões de parâmetros (671B) em arquitetura Mixture-of-Experts (MoE) e seis versões destiladas (distilled) densas construídas com base no Qwen 2.5 e Llama 3. Embora o modelo completo de 671B exija clusters corporativos com múltiplas placas de vídeo ou estações com memória unificada massiva (como um Mac Studio de 512GB), as versões destiladas rodam com alto desempenho em computadores pessoais e notebooks.

Para rotinas focadas em programação, o DeepSeek-Coder-V2 também disponibiliza uma versão MoE compacta de 16B, muito indicada para estações de desenvolvimento.

Para a grande maioria dos fluxos de trabalho de engenharia de software, o DeepSeek-R1-Distill-Qwen-14B e o DeepSeek-R1-Distill-Qwen-32B oferecem o equilíbrio mais vantajoso entre profundidade de raciocínio e consumo de memória local.

2. Implantando o DeepSeek localmente com o Ollama

O Ollama é um ambiente de execução focado em linha de comando, ideal para serviços contínuos em segundo plano, automação via scripts e integração direta com IDEs.

Passo 1: Instalação do Ollama

Baixe o instalador compatível com seu sistema operacional:

• macOS: Baixe o arquivo ZIP no site oficial, descompacte e arraste o aplicativo para a pasta Aplicativos.
• Windows: Baixe e execute o assistente OllamaSetup.exe.
• Linux: Execute o script oficial no terminal:

  curl -fsSL https://ollama.com/install.sh | sh
  

Passo 2: Baixar e executar o modelo

Com acesso à internet, faça o download e inicialize a versão desejada:

# Baixar e iniciar uma sessão interativa no terminal com o modelo de 8B
ollama run deepseek-r1:8b

# Ou implantar as variantes de maior capacidade de 14B ou 32B
ollama run deepseek-r1:14b
ollama run deepseek-r1:32b

O Ollama detecta automaticamente os aceleradores gráficos instalados (NVIDIA CUDA, Apple Metal ou AMD ROCm), aloca a VRAM correspondente e abre a interface de interação no terminal.

Passo 3: Verificação de funcionamento totalmente offline

Para comprovar que a inferência não realiza chamadas externas de rede:

1. Desconecte o Wi-Fi ou desconecte o cabo de rede do computador.
2. Abra um novo terminal e execute:

   ollama run deepseek-r1:8b
   

Como os pesos e configurações estão gravados no armazenamento local (~/.ollama/models no Linux/macOS ou %USERPROFILE%\.ollama\models no Windows), o processamento ocorre normalmente sem qualquer conexão ativa.

Passo 4: Transferência para ambientes isolados (Air-Gapped)

Para implantar o modelo em computadores de alta segurança sem conexão externa:

1. Em uma máquina com acesso à internet, execute ollama pull deepseek-r1:14b.
2. Localize a pasta definida por OLLAMA_MODELS (ou o diretório padrão ~/.ollama/models).
3. Copie o diretório completo para um disco externo criptografado.
4. Cole os arquivos no mesmo caminho da máquina isolada e confirme a presença do modelo com ollama list.

Passo 5: Ajustando o tamanho da janela de contexto (Context Window)

O Ollama adota como padrão uma janela de contexto de 4.096 tokens. Em análises de bases de código volumosas ou documentos extensos:

• No prompt interativo do terminal:

  /set parameter num_ctx 16384
  

• Ao inicializar o serviço em segundo plano:

  OLLAMA_CONTEXT_LENGTH=16384 ollama serve
  

Passo 6: Integração com APIs locais e scripts de automação

O Ollama disponibiliza uma API REST na porta 11434, incluindo rotas compatíveis com a OpenAI.

Requisição via cURL

curl http://localhost:11434/api/chat -d '{
  "model": "deepseek-r1:8b",
  "messages": [
    {"role": "user", "content": "Escreva um componente de cache concorrente seguro para threads em Go."}
  ],
  "stream": false
}'

Integração em Python com a biblioteca oficial do Ollama

from ollama import chat

response = chat(
    model="deepseek-r1:8b",
    messages=[
        {
            "role": "user",
            "content": "Explique o impacto do GIL no Python em tarefas com alta demanda de CPU e as soluções arquiteturais.",
        }
    ],
    options={
        "temperature": 0.6,
    },
)

print(response.message.content)

Em editores como VS Code ou IDEs JetBrains, você pode apontar extensões como Continue.dev ou Aider para a URL http://localhost:11434/v1 e obter assistência de código sem transmissão externa.

3. Implantando o DeepSeek localmente com o LM Studio

O LM Studio oferece uma interface gráfica elegante com ajuste visual de camadas na GPU, comparação entre quantizações e servidor de API local imediato.

Passo 1: Instalação do LM Studio

Acesse o site oficial e obtenha o pacote de instalação para macOS (Apple Silicon M1–M4), Windows (x64 / Snapdragon ARM) ou Linux (AppImage). Complete a instalação no seu sistema.

Passo 2: Busca e download dos modelos DeepSeek

1. Clique na aba Discover (ícone de lupa na barra lateral esquerda).
2. Digite deepseek-r1 ou deepseek-coder no campo de busca.
3. O catálogo listará os arquivos GGUF quantizados pela comunidade (como Q4_K_M, Q5_K_M ou Q8_0).
4. Verifique o indicador de estimativa de memória e clique em Download no arquivo compatível com sua máquina.

Passo 3: Importação manual offline (Sideloading de arquivos GGUF)

Caso o computador final não tenha acesso à internet:

1. Baixe o arquivo .gguf desejado da DeepSeek em outra máquina pelo Hugging Face.
2. No LM Studio, acesse a seção My Models (ícone de pasta).
3. Arraste e solte o arquivo .gguf na janela do programa ou copie para a pasta ~/.cache/lm-studio/models.
4. O aplicativo indexará e registrará a arquitetura do modelo de imediato.

Passo 4: Ajuste de alocação de hardware e GPU Layer Offload

1. Acesse a aba AI Chat.
2. Na parte superior, clique em Select a model to load e escolha o modelo DeepSeek.
3. No painel lateral Inference Parameters:
   • GPU Offload: Deslize o controle para definir a quantidade de camadas direcionadas à VRAM da GPU. Com memória de vídeo de sobra, defina o valor máximo (Max); se a VRAM for restrita (por exemplo, um modelo 14B em uma placa de 8GB), aloque parte das camadas na GPU e deixe a RAM do sistema (CPU) processar as demais.
   • Context Length: Configure o limite de contexto de acordo com o espaço de memória disponível.

Passo 5: Inicializando o servidor local de desenvolvimento

Para usar o LM Studio como backend de inferência para suas aplicações locais:

1. Clique na aba Developer (ícone de chaves de código).
2. Ative a chave Start Server.
3. O endpoint padrão será aberto em http://localhost:1234/v1.

Conexão com o SDK oficial da OpenAI em Python

Aplicações existentes que usam a biblioteca oficial da OpenAI podem ser conectadas apenas ajustando a URL base:

from openai import OpenAI

# Conecta ao servidor local do LM Studio sem enviar dados à nuvem
client = OpenAI(
    base_url="http://localhost:1234/v1",
    api_key="lm-studio",  # O LM Studio não exige chave por padrão
)

completion = client.chat.completions.create(
    model="deepseek-r1-distill-qwen-14b",
    messages=[
        {
            "role": "user",
            "content": "Analise a definição da tabela SQL abaixo e proponha índices eficientes:\nCREATE TABLE metric_logs (id BIGINT, host_id INT, payload TEXT, created_at TIMESTAMP);",
        }
    ],
    temperature=0.6,
)

print(completion.choices[0].message.content)

4. Recomendações essenciais para DeepSeek-R1 e manipulação de tags Think

Por ser um modelo centrado em cadeia de pensamento (chain-of-thought), o DeepSeek-R1 possui particularidades operacionais importantes:

1. Fixar a Temperature em 0.6

A equipe da DeepSeek recomenda manter a temperatura de amostragem entre 0,5 e 0,7, utilizando 0,6 como valor oficial de referência. Temperaturas muito elevadas introduzem alucinações ou repetições excessivas, enquanto valores próximos a zero limitam a profundidade investigativa do raciocínio lógico.

2. Evitar System Prompts complexos

Ao contrário de modelos puramente conversacionais, o DeepSeek-R1 foi ajustado para receber todas as diretrizes diretamente dentro do prompt do usuário. Adicionar instruções prévias densas no System Prompt pode degradar a estrutura de raciocínio ou causar respostas repetitivas. Mantenha os papéis, regras e formatos de saída dentro do User Prompt.

3. Tratamento de tags <think> em softwares de produção

O DeepSeek-R1 estrutura o raciocínio intermediário dentro das tags <think>...</think> antes de emitir o texto final.

• Aplicações voltadas ao usuário final: Utilize expressões regulares para remover o bloco <think> caso apenas o resultado definitivo seja relevante.
• Auditorias de código e depuração matemática: Preserve os dados de pensamento para inspecionar os passos e premissas calculados pelo modelo.

5. Comparativo e matriz de decisão: Ollama vs. LM Studio

Recomendação de escolha:

• Escolha o Ollama se priorizar um serviço leve e discreto em segundo plano, automação de scripts, contêineres Docker e integração estreita com editores de código.
• Escolha o LM Studio se preferir um painel gráfico com controle fino sobre a alocação de camadas entre GPU e CPU, comparação direta de quantizações e consulta direta a documentos locais sem recorrer ao terminal.

Referências

• deepseek-r1
• Offline Operation | LM Studio
• System Requirements | LM Studio
• LM Studio Developer Docs | LM Studio
• FAQ
• DeepSeek-R1