Cómo configurar Raycast AI con Ollama para ejecutar modelos locales sin conexión en macOS

Para desarrolladores de software que trabajan bajo estrictas políticas de gobernanza de datos, cumplimiento normativo y acuerdos de confidencialidad (NDA), subir código fuente propietario a modelos lingüísticos en la nube (como OpenAI GPT-4o o Anthropic Claude 3.5 Sonnet) suele estar terminantemente prohibido. Sin embargo, prescindir de los atajos y la asistencia rápida de IA en el escritorio reduce notablemente la velocidad de desarrollo.

Al ejecutar modelos abiertos de forma local en macOS mediante Ollama y conectarlos directamente con Raycast AI, los desarrolladores obtienen un centro de productividad nativo sin riesgo de filtraciones. Raycast proporciona la interfaz rápida activada por teclado (mediante Quick AI, AI Chat y comandos personalizados de IA), mientras que Ollama ejecuta la inferencia aprovechando la arquitectura de memoria unificada de Apple Silicon sin enviar código ni datos a través de Internet.

Arquitectura y límites de privacidad: cero transmisión a la nube

Para superar cualquier auditoría de seguridad corporativa, es fundamental entender el flujo técnico de los datos:

• Bucle de inferencia local: Al utilizar modelos locales, Raycast envía las solicitudes mediante una conexión HTTP local al demonio de Ollama (por defecto en http://localhost:11434). Los pesos del modelo residen en la RAM/VRAM local y se aceleran mediante Metal en la GPU de Apple Silicon, transmitiendo el resultado directamente a Raycast.
• Sin registros de terceros: Ni los servidores de Raycast ni los proveedores comerciales de IA reciben tus fragmentos de código, consultas o respuestas.
• Funcionamiento 100% desconectado: Una vez descargados los pesos del modelo, el sistema funciona sin conexión a Internet y sin consumir créditos de Raycast AI.

Requisitos de hardware y modelos de programación recomendados

El rendimiento de la inferencia local depende de la cantidad de memoria unificada (UMA) de tu Mac. Para mantener abiertas herramientas pesadas como Xcode, VS Code o contenedores de Docker sin sufrir degradación de rendimiento, elige el tamaño de modelo adecuado:

Límite de ventana de contexto: Raycast limita el contexto de los modelos locales a 64k tokens para proteger la memoria del sistema y garantizar respuestas fluidas en macOS.

Guía de configuración paso a paso

Paso 1: Instalar Ollama y descargar modelos locales

En macOS puedes instalar Ollama mediante Homebrew o con el instalador oficial:

# Opción A: Instalar mediante Homebrew
brew install --cask ollama

# Opción B: Descargar el archivo DMG desde ollama.com y moverlo a /Applications

Abre la aplicación Ollama una vez para confirmar que el icono de la barra de menús aparece y que los binarios del sistema quedan vinculados.

A continuación, abre la Terminal de macOS y descarga los modelos orientados a desarrollo:

# Descargar modelos optimizados para programación
ollama pull qwen2.5-coder:7b
ollama pull llama3.1:8b

# Comprobar los modelos instalados
ollama list

Puedes verificar el funcionamiento local ejecutando una prueba rápida:

ollama run qwen2.5-coder:7b "Escribe una función en Python para calcular medias móviles"

Paso 2: Configurar los modelos locales en Raycast

Raycast cuenta con integración nativa para Ollama (disponible para usuarios con suscripción Raycast Pro):

1. Pulsa ⌥ Espacio (o tu atajo configurado) para abrir Raycast.
2. Pulsa ⌘ , para abrir los Ajustes de Raycast.
3. Selecciona la pestaña AI en la barra superior.
4. Entra en Models & Providers y desplázate hasta la sección Local Models.
5. Raycast detectará automáticamente tu instalación local de Ollama. Si los modelos descargados no aparecen de inmediato, pulsa Sync Models.
6. También puedes descargar modelos directamente desde Raycast: introduce el nombre (por ejemplo, qwen2.5-coder:7b) en el campo Install Ollama Model y haz clic en Install.

Nota: Raycast inicia automáticamente el servicio de Ollama en segundo plano cuando realizas una consulta, por lo que no necesitas mantener ventanas de terminal abiertas.

Paso 3: Configurar un servidor Ollama remoto en red local (opcional)

Si tu equipo dispone de un Mac Studio o servidor Linux con GPU dedicado dentro de la red corporativa o VPN:

1. Configura el servidor para escuchar en la red local (OLLAMA_HOST=0.0.0.0:11434).
2. En Raycast, dirígete a Settings → AI → Models & Providers → Local Models y localiza el campo Ollama Host.
3. Introduce la dirección privada, por ejemplo: http://192.168.1.50:11434.
4. Pulsa Sync Models. Las peticiones se dirigirán a tu servidor interno sin pasar por la red pública.

Lista de verificación de privacidad y cumplimiento normativo

Para certificar que ningún dato sensible abandona tu Mac bajo ninguna circunstancia, revisa los siguientes ajustes:

1. Desactivar la sincronización en la nube (Cloud Sync) para IA:
   • Accede a Settings → Cloud Sync.
   • Si Cloud Sync está activo, el historial de conversaciones de IA se cifra y almacena en los servidores de Raycast. Si las normas de tu empresa prohíben almacenar registros de código en la nube, desactiva la sincronización de IA o elimina periódicamente el historial.
2. Desactivar la memoria y personalización de IA (AI Memory):
   • Ve a Settings → AI → Personalization y revisa la opción Memory.
   • Cuando la memoria global está activada, los resúmenes automáticos de conversaciones pueden procesarse periódicamente mediante modelos alojados por Raycast en la nube. Para un entorno estrictamente aislado (air-gapped), desactiva Memory.
3. Evitar herramientas exclusivas de la nube:
   • Ciertas funciones especiales, como la generación de imágenes por IA, se procesan en los servidores de Raycast y consumen créditos. En tareas de desarrollo, utiliza exclusivamente herramientas locales de texto y código.
4. No enviar comentarios de depuración con código confidencial:
   • La opción "Send Feedback" adjunta el hilo de conversación actual para soporte técnico. Evita utilizarla en chats que contengan código propietario.

Flujos de trabajo y comandos personalizados de IA (AI Commands)

Una vez configurado, puedes crear accesos directos integrados con el sistema operativo:

1. Chat de IA seguro en el escritorio

Abre AI Chat (⌘ ⌥ Espacio) y selecciona tu modelo local (por ejemplo, Local: qwen2.5-coder:7b) en el selector inferior. Podrás consultar dudas sobre esquemas de bases de datos internas, llamadas a APIs privadas y trazas de error con absoluta confidencialidad.

2. Comandos personalizados para el ciclo de desarrollo

En Raycast Settings → Extensions → AI → AI Commands, pulsa Create AI Command para crear automatizaciones globales:

• Generar mensajes de commit (Conventional Commits):
  • Prompt: Basándote en el siguiente git diff, redacta un mensaje de commit conciso según el estándar Conventional Commits. Devuelve únicamente el título y los puntos del cuerpo, sin explicaciones adicionales en Markdown:
  • Input: Selected Text o Clipboard
  • Model: Local: qwen2.5-coder:7b
  • Action: Paste into Active App o Copy to Clipboard
• Auditoría de seguridad y vulnerabilidades:
  • Prompt: Analiza el siguiente código en busca de fugas de memoria, inyecciones SQL/XSS, condiciones de carrera o credenciales embebidas. Ordena los hallazgos por severidad e incluye propuestas de corrección concretas:
  • Input: Selected Text
  • Model: Local: qwen2.5-coder:14b
  • Action: Show in Chat
• Añadir tipado estricto y comentarios de documentación:
  • Prompt: Sin modificar la lógica de ejecución, añade anotaciones de tipos estrictas en TypeScript y comentarios estándar TSDoc al siguiente código:
  • Input: Selected Text
  • Model: Local: qwen2.5-coder:7b
  • Action: Replace Selected Text

Alternativa para usuarios de Raycast Free: extensiones de la comunidad

La integración nativa de Local Models forma parte de Raycast Pro. Si utilizas la versión gratuita de Raycast, puedes conectar Ollama mediante extensiones comunitarias desde la Raycast Store:

1. Abre Raycast y busca Store.
2. Instala la extensión Ollama AI.
3. En las preferencias de la extensión, establece la URL del servidor en http://localhost:11434.
4. Utiliza comandos como Ollama Chat o acciones de transformación de texto. Aunque no cuenta con la integración de Quick AI nativa, ofrece el mismo nivel de privacidad local y desconexión total.

Solución de problemas frecuentes (Troubleshooting)

• Raycast indica "Ollama is not installed": Verifica que Ollama esté instalado en /Applications o que el comando ollama esté accesible en tu variable PATH. Inicia la aplicación Ollama manualmente desde Finder una vez y luego haz clic en Sync Models en Raycast. Si la ruta es personalizada, define el campo Ollama Host explícitamente como http://localhost:11434.
• El modelo descargado no figura en el selector: Ejecuta ollama list en la terminal para confirmar que la etiqueta es correcta. Vuelve a Raycast en Settings → AI → Models & Providers → Local Models, pulsa Sync Models y entra en Manage Models para comprobar que la casilla del modelo está activada.
• Respuestas lentas o sobrecarga del sistema: Indica que el modelo supera la memoria unificada disponible y macOS está recurriendo a swap masivo en el SSD. En equipos de 16 GB, utiliza modelos de 7B u 8B en cuantización Q4; evita modelos de 14B o 32B y cierra pestañas o contenedores pesados antes de inferencias extensas.

Referencias

• Local Models | Raycast Manual
• Raycast AI Privacy & Security | Raycast Manual
• AI | Raycast Manual
• Ollama
• Download Ollama