Cómo desplegar y ejecutar modelos DeepSeek en local con Ollama y LM Studio para inferencia sin conexión

Para los desarrolladores de software que gestionan código fuente propietario y los usuarios que manejan datos confidenciales, enviar consultas a las API en la nube implica riesgos de seguridad y cumplimiento normativo. Ejecutar los modelos de DeepSeek de forma local garantiza una soberanía de datos absoluta: cero telemetría hacia el exterior, sin costes por token y sin depender de la infraestructura de terceros.

Tanto Ollama como LM Studio permiten ejecutar los modelos de razonamiento y programación de DeepSeek directamente sobre hardware de consumo. Una vez descargados o transferidos los pesos del modelo, ambas plataformas operan en entornos completamente aislados de internet (air-gapped). Esta guía detalla cómo dimensionar el hardware, validar la inferencia sin conexión, iniciar servidores de desarrollo locales compatibles con OpenAI y configurar los parámetros óptimos recomendados por DeepSeek.

1. Selección del modelo DeepSeek según las especificaciones de hardware

La familia DeepSeek-R1 abarca desde el modelo insignia de 671 mil millones de parámetros (671B) con arquitectura Mixture-of-Experts (MoE) hasta seis versiones destiladas densas basadas en Qwen 2.5 y Llama 3. Mientras que el modelo completo de 671B requiere clústeres empresariales con múltiples GPU o estaciones con memoria unificada extrema (como un Mac Studio de 512GB), las variantes destiladas funcionan con gran fluidez en ordenadores portátiles y de sobremesa estándar.

En flujos de desarrollo de software, DeepSeek-Coder-V2 ofrece asimismo un modelo MoE ligero de 16B adaptado a estaciones de trabajo convencionales.

Para la mayoría de los proyectos de desarrollo de software, DeepSeek-R1-Distill-Qwen-14B y DeepSeek-R1-Distill-Qwen-32B representan la relación más eficiente entre profundidad de razonamiento y consumo de memoria local.

2. Despliegue local de DeepSeek con Ollama

Ollama es un entorno de ejecución ligero orientado a la línea de comandos, ideal para servicios en segundo plano, scripts de terminal y complementos para entornos de desarrollo (IDE).

Paso 1: Instalación de Ollama

Descargue el instalador correspondiente a su sistema operativo:

• macOS: Descargue el archivo ZIP desde la web oficial, descomprímalo y mueva Ollama a la carpeta Aplicaciones.
• Windows: Descargue y ejecute el instalador OllamaSetup.exe.
• Linux: Ejecute el script oficial en la terminal:

  curl -fsSL https://ollama.com/install.sh | sh
  

Paso 2: Descarga y ejecución del modelo

Con conexión a internet activa, descargue e inicie la variante de DeepSeek elegida:

# Descargar e iniciar una sesión interactiva en terminal con el modelo 8B
ollama run deepseek-r1:8b

# O desplegar las versiones avanzadas de 14B o 32B
ollama run deepseek-r1:14b
ollama run deepseek-r1:32b

Ollama detectará de forma automática los recursos de aceleración gráfica (NVIDIA CUDA, Apple Metal o AMD ROCm), asignará la VRAM correspondiente y abrirá el prompt interactivo.

Paso 3: Verificación del funcionamiento 100% offline

Para comprobar que no existe intercambio de datos con la red durante la inferencia:

1. Desactive la conexión Wi-Fi o desconecte el cable de red del equipo.
2. Abra una nueva ventana de terminal y ejecute:

   ollama run deepseek-r1:8b
   

Dado que los archivos del modelo residen en el almacenamiento local (~/.ollama/models en Linux/macOS o %USERPROFILE%\.ollama\models en Windows), la generación de texto se realiza sin realizar ninguna petición a internet.

Paso 4: Migración a entornos físicamente aislados (Air-Gapped)

Para desplegar el modelo en máquinas seguras sin salida a internet:

1. En un equipo conectado a la red, ejecute ollama pull deepseek-r1:14b.
2. Localice el directorio definido por la variable OLLAMA_MODELS (o la ruta por defecto ~/.ollama/models).
3. Copie todo el contenido a una unidad de almacenamiento externa cifrada.
4. Pegue los archivos en la ruta homóloga del equipo aislado y compruebe su disponibilidad con ollama list.

Paso 5: Ajuste de la ventana de contexto (Context Window)

Ollama asigna por defecto una longitud de contexto de 4.096 tokens. Para analizar código fuente extenso o documentación amplia:

• En el prompt interactivo:

  /set parameter num_ctx 16384
  

• Al iniciar el servicio daemon en segundo plano:

  OLLAMA_CONTEXT_LENGTH=16384 ollama serve
  

Paso 6: Integración con la API local para desarrolladores

Ollama expone una API REST en el puerto 11434 con compatibilidad directa para clientes estándar de OpenAI.

Petición mediante cURL

curl http://localhost:11434/api/chat -d '{
  "model": "deepseek-r1:8b",
  "messages": [
    {"role": "user", "content": "Escribe un componente de caché concurrente y seguro para hilos en Go."}
  ],
  "stream": false
}'

Integración en Python con la biblioteca oficial de Ollama

from ollama import chat

response = chat(
    model="deepseek-r1:8b",
    messages=[
        {
            "role": "user",
            "content": "Explica el impacto del GIL en Python sobre tareas intensivas en CPU y sus soluciones de diseño.",
        }
    ],
    options={
        "temperature": 0.6,
    },
)

print(response.message.content)

En editores como VS Code o JetBrains, puede configurar extensiones de desarrollo como Continue.dev o Aider apuntando su URL base a http://localhost:11434/v1 para disponer de asistencia de código sin depender de la nube.

3. Despliegue local de DeepSeek con LM Studio

LM Studio proporciona una interfaz gráfica completa con controles visuales para distribuir capas en la GPU, evaluación comparativa de modelos y un servidor de inferencia local listo para producción.

Paso 1: Instalación de LM Studio

Descargue el paquete de instalación correspondiente para macOS (Apple Silicon M1–M4), Windows (x64 / Snapdragon ARM) o Linux (formato AppImage) desde el sitio oficial e instálelo en su máquina.

Paso 2: Búsqueda y descarga de modelos DeepSeek

1. Haga clic en la pestaña Discover (icono de lupa en la barra lateral izquierda).
2. Introduzca deepseek-r1 o deepseek-coder en el buscador.
3. El catálogo mostrará las distintas versiones cuantizadas en formato GGUF (como Q4_K_M, Q5_K_M o Q8_0).
4. Revise el indicador estimado de consumo de memoria y pulse en Download en la versión adecuada para su hardware.

Paso 3: Importación manual sin conexión (Sideloading GGUF)

Si el equipo de trabajo se encuentra en una red privada sin salida a internet:

1. Descargue el archivo .gguf de DeepSeek desde Hugging Face en otro equipo con conexión.
2. En LM Studio, vaya a la sección My Models (icono de carpeta).
3. Arrastre el archivo .gguf directamente a la ventana de la aplicación o cópielo en ~/.cache/lm-studio/models.
4. El programa indexará automáticamente el modelo.

Paso 4: Asignación de VRAM y ajuste de GPU Layer Offload

1. Diríjase a la pestaña AI Chat.
2. En la parte superior, pulse sobre Select a model to load y elija el modelo DeepSeek importado.
3. En el panel lateral derecho Inference Parameters:
   • GPU Offload: Desplace el control deslizante para determinar cuántas capas se cargan en la VRAM de la GPU. Si la memoria de la tarjeta es suficiente, elija el valor máximo (Max); si la VRAM es ajustada (por ejemplo, al ejecutar un modelo 14B en una gráfica de 8GB), asigne parte de las capas a la GPU y permita que la RAM del sistema (CPU) gestione el resto.
   • Context Length: Configure el límite de contexto en función de la memoria disponible.

Paso 5: Puesta en marcha del servidor local para desarrolladores

Para utilizar LM Studio como sustituto de las API de terceros en sus aplicaciones:

1. Abra la pestaña Developer (icono de corchetes de código en la barra lateral).
2. Active la opción Start Server.
3. El servidor quedará a la escucha en http://localhost:1234/v1.

Conexión con el SDK oficial de OpenAI en Python

Los proyectos existentes que utilizan el cliente de OpenAI funcionan sin cambiar su lógica interna:

from openai import OpenAI

# Conexión directa al servidor local de LM Studio sin tráfico externo
client = OpenAI(
    base_url="http://localhost:1234/v1",
    api_key="lm-studio",  # LM Studio no requiere autenticación obligatoria por defecto
)

completion = client.chat.completions.create(
    model="deepseek-r1-distill-qwen-14b",
    messages=[
        {
            "role": "user",
            "content": "Analiza la siguiente definición de tabla SQL y sugiere optimizaciones de índices:\nCREATE TABLE audit_logs (id BIGINT, tenant_id INT, payload TEXT, created_at TIMESTAMP);",
        }
    ],
    temperature=0.6,
)

print(completion.choices[0].message.content)

4. Parámetros recomendados para DeepSeek-R1 y tratamiento de etiquetas de razonamiento

Al tratarse de un modelo orientado al razonamiento mediante cadenas de pensamiento, DeepSeek-R1 requiere ciertas pautas de configuración específicas:

1. Mantener la temperatura en 0,6

El equipo de DeepSeek aconseja de forma explícita establecer la temperatura de muestreo entre 0,5 y 0,7, utilizando 0,6 como valor de referencia. Temperaturas excesivamente altas provocan respuestas divagantes o bucles reiterativos, mientras que valores cercanos a cero restringen la capacidad exploratoria del razonamiento interno.

2. Evitar instrucciones pesadas en el System Prompt

A diferencia de los modelos de conversación habituales, DeepSeek-R1 fue entrenado para recibir todas las directrices dentro del mensaje del usuario. La inclusión de System Prompts extensos y rígidos puede degradar la calidad lógica del razonamiento o inducir repeticiones involuntarias. Se recomienda incluir el contexto, el rol y las restricciones de formato en el propio User Prompt.

3. Tratamiento de etiquetas <think> en aplicaciones

DeepSeek-R1 expone su proceso analítico detallado entre las etiquetas <think>...</think> antes de emitir la respuesta final.

• En aplicaciones para usuario final: Se puede aplicar una expresión regular para suprimir el bloque delimitado por <think> y entregar únicamente la solución final.
• En auditoría técnica y depuración de código: Es aconsejable conservar la cadena de pensamiento para examinar los supuestos intermedios adoptados por el modelo.

5. Comparativa y matriz de decisión: Ollama frente a LM Studio

Conclusión:

• Seleccione Ollama si busca un motor ligero, integrado en su flujo de terminal, automatizaciones de integración continua, contenedores Docker o extensiones de programación.
• Seleccione LM Studio si prefiere una consola gráfica para inspeccionar el uso de VRAM, distribuir capas de cálculo entre GPU y CPU con precisión, comparar archivos GGUF o consultar documentos privados locales sin necesidad de tocar la línea de comandos.

Referencias

• deepseek-r1
• Offline Operation | LM Studio
• System Requirements | LM Studio
• LM Studio Developer Docs | LM Studio
• FAQ
• DeepSeek-R1