Comment configurer Raycast AI avec Ollama pour exécuter des modèles locaux hors ligne sur macOS

Pour les ingénieurs logiciels soumis à des politiques strictes de gouvernance des données, de propriété intellectuelle ou à des accords de confidentialité (NDA), envoyer du code source propriétaire vers des modèles hébergés dans le cloud (comme OpenAI GPT-4o ou Anthropic Claude 3.5 Sonnet) est souvent formellement proscrit. Cependant, renoncer aux raccourcis d'intelligence artificielle au clavier réduit fortement la rapidité d'exécution lors des refactorisations, de l'écriture des tests ou de la rédaction des commits.

En exécutant des modèles ouverts directement sur macOS grâce à Ollama et en les intégrant de manière native dans Raycast AI, les développeurs peuvent concevoir un environnement de travail complet sans aucune fuite de données vers l'extérieur. Raycast offre une ergonomie fluide au clavier (via Quick AI, AI Chat et les commandes personnalisées AI Commands), tandis qu'Ollama prend en charge l'inférence sur la mémoire unifiée des puces Apple Silicon, sans qu'aucun octet ne transite par Internet.

Architecture et étanchéité des données : zéro transmission vers le cloud

Pour répondre aux exigences des audits de sécurité d'entreprise, il convient d'expliciter la circulation des données techniques :

• Boucle locale en loopback : Lorsqu'un modèle local est sollicité, Raycast émet des requêtes HTTP directes vers le démon Ollama en cours d'exécution sur votre machine (par défaut à l'adresse http://localhost:11434). Les poids du modèle restent chargés dans la mémoire RAM/VRAM locale et sont traités via l'accélération matérielle Metal, le flux de texte étant renvoyé instantanément dans Raycast.
• Aucune journalisation tierce : Ni les serveurs de Raycast ni des fournisseurs d'IA externes ne reçoivent vos invites, vos fragments de code ou vos messages d'erreur.
• Fonctionnement strictement hors ligne : Une fois les poids téléchargés, l'outil fonctionne sans connexion réseau et sans consommer de crédits Raycast AI.

Dimensionnement matériel et sélection des modèles de programmation

La réactivité de l'inférence dépend directement de la quantité de mémoire unifiée (UMA) de votre Mac. Pour continuer à faire tourner en parallèle des outils exigeants comme Xcode, VS Code ou des conteneurs Docker, veillez à adapter la taille du modèle à votre mémoire vive :

Précision sur la fenêtre de contexte : Raycast plafonne le contexte des modèles locaux à 64k tokens afin d'éviter la saturation de la mémoire système et d'assurer des réponses fluides sur macOS.

Guide d'installation pas à pas

Étape 1 : Installer Ollama et télécharger les modèles

Sur macOS, l'installation d'Ollama s'effectue simplement via Homebrew ou via le paquet officiel :

# Option A : Installation avec Homebrew
brew install --cask ollama

# Option B : Télécharger le fichier DMG sur ollama.com et le placer dans /Applications

Lancez l'application Ollama une première fois pour initialiser l'icône dans la barre des menus et relier les binaires dans votre environnement.

Ouvrez ensuite le Terminal de macOS pour télécharger les modèles adaptés au développement :

# Téléchargement des modèles spécialisés dans le code
ollama pull qwen2.5-coder:7b
ollama pull llama3.1:8b

# Vérifier la liste des modèles installés
ollama list

Vous pouvez valider le bon fonctionnement local avec une commande rapide :

ollama run qwen2.5-coder:7b "Écris une fonction Python calculant des moyennes mobiles"

Étape 2 : Activer les modèles locaux dans Raycast AI

Raycast propose une intégration directe d'Ollama (disponible pour les abonnés Raycast Pro) :

1. Pressez ⌥ Espace (ou votre raccourci dédié) pour afficher Raycast.
2. Pressez ⌘ , pour ouvrir les réglages (Raycast Settings).
3. Cliquez sur l'onglet AI dans la barre supérieure.
4. Rendez-vous dans Models & Providers, puis descendez jusqu'à la section Local Models.
5. Raycast détecte automatiquement votre serveur Ollama. Si les modèles téléchargés n'apparaissent pas immédiatement, cliquez sur Sync Models.
6. Vous pouvez aussi installer un modèle directement depuis cette interface : saisissez l'identifiant (par exemple qwen2.5-coder:7b) dans le champ Install Ollama Model et cliquez sur Install.

Remarque : Dès que vous sollicitez un modèle local, Raycast lance automatiquement le processus Ollama en arrière-plan, évitant d'avoir à garder un terminal ouvert en permanence.

Étape 3 : Raccorder un serveur Ollama distant sur réseau local (optionnel)

Si votre équipe dispose d'un Mac Studio ou d'un serveur Linux dédié équipé d'un GPU sur le réseau local ou sous VPN d'entreprise :

1. Configurez Ollama sur le serveur pour écouter sur son IP privée (OLLAMA_HOST=0.0.0.0:11434).
2. Dans Raycast, accédez à Settings → AI → Models & Providers → Local Models et repérez le champ Ollama Host.
3. Renseignez l'adresse interne, par exemple http://192.168.1.50:11434.
4. Cliquez sur Sync Models. Les inférences s'exécuteront sur ce serveur dédié sans transiter par Internet.

Liste de contrôle pour la confidentialité et la conformité

Pour garantir qu'aucune information sensible ne sorte de votre poste de travail, vérifiez les réglages suivants au sein de Raycast :

1. Désactiver la synchronisation cloud pour l'IA (Cloud Sync) :
   • Rendez-vous dans Raycast Settings → Cloud Sync.
   • Par défaut, Cloud Sync chiffre et synchronise les historiques de conversation. Si les règles de sécurité de votre entreprise interdisent le stockage de code source sur des serveurs tiers, désactivez la synchronisation de l'IA ou purgez régulièrement vos historiques.
2. Désactiver la mémoire et personnalisation de l'IA (AI Memory) :
   • Dans Settings → AI → Personalization, contrôlez le statut de Memory.
   • Lorsque la mémoire globale est active, la synthèse périodique des échanges peut faire appel en tâche de fond à des modèles hébergés dans le cloud. Dans un cadre de confidentialité stricte (air-gapped), désactivez cette option.
3. Éviter les outils nécessitant le cloud :
   • Certaines fonctionnalités spéciales (comme la génération d'images) dépendent d'infrastructures distantes et consomment des crédits. Dans votre travail de développement, cantonnez-vous aux traitements de texte et de code locaux.
4. Ne pas envoyer de rapports de diagnostic contenant du code privé :
   • L'action "Send Feedback" transmet le fil de discussion en cours à l'équipe de support technique. Évitez de l'utiliser sur des sessions contenant des extraits de code confidentiels.

Raccourcis et commandes d'IA sur mesure (Custom AI Commands)

Une fois la configuration terminée, vous pouvez intégrer vos modèles locaux directement dans vos tâches quotidiennes :

1. Fenêtre de chat sécurisée

Ouvrez AI Chat (⌘ ⌥ Espace) et choisissez votre modèle local dans le sélecteur (par exemple Local: qwen2.5-coder:7b). Vous pouvez y coller des schémas de bases de données internes, des modèles de payloads et des journaux d'erreurs en toute sérénité.

2. Création de commandes de développement (AI Commands)

Allez dans Raycast Settings → Extensions → AI → AI Commands et cliquez sur Create AI Command :

• Génération de messages Conventional Commits :
  • Prompt : À partir du git diff suivant, rédige un message de commit clair conforme à la spécification Conventional Commits. Ne renvoie que le titre et les puces du corps du message, sans explications Markdown superflues :
  • Input : Selected Text ou Clipboard
  • Model : Local: qwen2.5-coder:7b
  • Action : Paste into Active App ou Copy to Clipboard
• Audit de sécurité et détection de vulnérabilités :
  • Prompt : Analyse le code suivant pour identifier les fuites de mémoire, injections SQL/XSS, conditions de concurrence et identifiants codés en dur. Classe les problèmes par niveau de gravité et propose des correctifs concrets :
  • Input : Selected Text
  • Model : Local: qwen2.5-coder:14b
  • Action : Show in Chat
• Ajout de typage strict et documentation :
  • Prompt : Sans modifier la logique d'exécution, ajoute un typage strict TypeScript et des commentaires TSDoc standardisés au code suivant :
  • Input : Selected Text
  • Model : Local: qwen2.5-coder:7b
  • Action : Replace Selected Text

Alternative pour les utilisateurs gratuits de Raycast : extensions communautaires

L'intégration native des modèles locaux dans Local Models est une fonction réservée à Raycast Pro. Si vous utilisez la version gratuite de Raycast, vous pouvez connecter Ollama via des extensions issues du Raycast Store :

1. Ouvrez Raycast et recherchez Store.
2. Installez l'extension Ollama AI.
3. Dans les préférences de l'extension, indiquez l'adresse http://localhost:11434.
4. Utilisez des commandes comme Ollama Chat ou des actions de transformation textuelle. Bien que moins intégrée au raccourci Quick AI natif, cette approche conserve les mêmes garanties de confidentialité et d'exécution locale.

Dépannage (Troubleshooting)

• Message « Ollama is not installed » : Assurez-vous qu'Ollama est présent dans /Applications ou que la commande ollama se trouve dans votre variable PATH. Lancez l'application manuellement depuis le Finder une première fois, puis cliquez sur Sync Models dans Raycast. Si le chemin est atypique, saisissez http://localhost:11434 dans le champ Ollama Host.
• Le modèle téléchargé n'apparaît pas dans la liste : Tapez ollama list dans le Terminal pour vérifier que le téléchargement est effectif. Retournez ensuite dans Raycast sous Settings → AI → Models & Providers → Local Models, cliquez sur Sync Models, puis vérifiez dans Manage Models que la case du modèle est bien cochée.
• Latence élevée ou ralentissement du système : Le modèle sélectionné excède probablement la mémoire unifiée disponible, forçant macOS à faire du swap massif sur le SSD. Sur un Mac de 16 Go, privilégiez des modèles 7B ou 8B en quantification Q4 et évitez les versions 14B ou 32B. Fermez les onglets de navigateur énergivores ou les conteneurs volumineux avant les inférences complexes.

Références

• Local Models | Raycast Manual
• Raycast AI Privacy & Security | Raycast Manual
• AI | Raycast Manual
• Ollama
• Download Ollama