在嚴格注重程式碼合規、企業智慧財產權與保密協定（NDA）的研發環境中，將商業原始碼或系統架構細節上傳至雲端閉源大型語言模型（如 OpenAI GPT-4o 或 Anthropic Claude 3.5 Sonnet）往往受到企業資安規章的嚴格禁止。然而，若全面放棄鍵盤驅動的桌面 AI 捷徑，日常編程中的程式碼重構、單元測試補全與 Git Commit 整理效率將大幅下滑。
透過在 macOS 本地運行開源模型執行環境 Ollama，並直接與 Raycast AI 原生介面串接，開發者能建立一套「零雲端外傳、完全離線」的桌面原生 AI 效率中樞。Raycast 提供流暢的全域鍵盤呼叫體驗（包含 Quick AI、AI Chat 與自訂 AI Commands），而 Ollama 則完整調用 Apple Silicon 的統一記憶體架構（UMA）與 Metal 硬體加速，在 Mac 本機完成所有模型推論，達成兼顧資安合規與極致效率的工作流。
架構與隱私邊界：確保資料零雲端外洩
通過企業資安審查的關鍵在於釐清 Raycast 串接 Ollama 時的底層通訊架構：
- 本地端回環通訊（Loopback）：配置本地模型後，Raycast 在觸發推論時僅透過本機 HTTP 連線發送請求至 Ollama 守護行程（預設監聽
http://localhost:11434）。模型權重常駐於本地 RAM/VRAM 並由 GPU 運算，輸出成果直接串流回 Raycast 視窗。 - 無第三方記錄或雲端轉發：Prompt 提示詞、程式碼片段、錯誤日誌完全不經過 Raycast 雲端伺服器，更不會流向任何外部 AI 供應商。
- 純離線運作與零額度扣除：模型權重下載完畢後，電腦處於斷網狀態仍可正常推論。使用本地模型生成文字亦不消耗任何 Raycast AI 點數（AI Credits）。
硬體規格與推薦編程模型選型
本地模型推論速度與系統穩定度取決於 Mac 的統一記憶體容量。為了在同時開啟 Xcode、VS Code 與 Docker 等重度開發環境下維持流暢度，建議依照記憶體容量選用適配的模型規模：
| 統一記憶體規格 | 推薦模型組合 | 量化版本與記憶體佔用 | 開發應用情境與優勢 |
|---|---|---|---|
| 16 GB | qwen2.5-coder:7b；llama3.1:8b；mistral:7b | Q4_K_M（約佔用 4.7 GB - 5.2 GB） | 快速單行程式碼解析、正規表示式生成、函數註解補全、Git Commit 訊息產出；幾乎不佔用系統主要記憶體。 |
| 32 GB - 36 GB | qwen2.5-coder:14b；deepseek-coder-v2:16b；gemma2:9b | Q4_K_M / Q5_K_M（約佔用 9 GB - 11 GB） | 高精準度程式碼重構、跨檔案單元測試撰寫、系統架構問答、複雜 Shell/Python 腳本推理。 |
| 64 GB - 128 GB+ | qwen2.5-coder:32b；llama3.3:70b（64GB+ 可跑 Q4）；codellama:34b | Q4_K_M / Q8_0（約佔用 20 GB - 42 GB） | 深度原始碼資安審計、記憶體洩漏與漏洞排查、演算法設計，推論品質高度逼近頂級雲端模型。 |
上下文長度限制：Raycast 針對本地模型設定了 64k tokens 的上限，藉此避免本地顯示記憶體耗盡並確保低延遲的串流生成反應。
逐步配置指引
步驟一：安裝 Ollama 並下載本地程式模型
在 macOS 上建議透過 Homebrew 或官方安裝套件部署 Ollama：
# 選項 A：使用 Homebrew 安裝
brew install --cask ollama
# 選項 B：至 ollama.com 下載 DMG 檔案並拖曳至 Applications 資料夾
安裝後於應用程式中啟動一次 Ollama，確認選單列常駐圖示正常出現，且系統命令列環境變數已連結。
接著開啟 macOS 終端機（Terminal）拉取合適的編程模型：
# 下載主流開源編程模型
ollama pull qwen2.5-coder:7b
ollama pull llama3.1:8b
# 檢視已安裝模型列表
ollama list
可以在終端機中測試模型是否能於本機順暢回應：
ollama run qwen2.5-coder:7b "請撰寫一個計算移動平均線的 Python 函數"
步驟二：於 Raycast AI 設定中啟用並同步本地模型
Raycast 原生支援 Ollama 本地模型（該第一方整合功能提供給 Raycast Pro 訂閱用戶）：
- 按下
⌥ Space（或你的全域喚醒快捷鍵）開啟 Raycast。 - 按下
⌘ ,開啟 Raycast Settings（偏好設定）。 - 切換至頂部 AI 分頁。
- 點選 Models & Providers 並向下滾動至 Local Models（本地模型）區塊。
- Raycast 會自動辨識本機的 Ollama 服務。若清單中尚未出現剛下載的模型，點選 Sync Models（同步模型）。
- 你也能直接在 Raycast 中輸入模型名稱下載：於 Install Ollama Model 欄位填入模型標籤（例如
qwen2.5-coder:7b），點選 Install 即可。
備註：當你呼叫本地模型時，Raycast 會在背景自動喚醒 Ollama 服務，平時無須保持終端機視窗開啟。
步驟三：配置區域網路遠端 Ollama 伺服器（進階選配）
若團隊在公司內部網路中架設了專用的高效能 Mac Studio 或 Linux GPU 運算伺服器：
- 確保遠端伺服器的 Ollama 綁定內網 IP（設定環境變數
OLLAMA_HOST=0.0.0.0:11434）。 - 在 Raycast 的 Settings → AI → Models & Providers → Local Models 中找到 Ollama Host。
- 輸入內部網路位址，例如
http://192.168.1.50:11434。 - 點擊 Sync Models。往後的推論將由專用伺服器分擔運算，且流量依然維持在內網，無須經過公網傳輸。
資安防護：企業合規查核清單
為確保高度敏感的企業機密代碼在任何情況下皆不外洩，請落實以下 Raycast 設定檢查：
- 關閉 AI 對話雲端同步（Cloud Sync）：
- 進入 Raycast Settings → Cloud Sync。
- 啟動雲端同步時，Raycast 會將剪貼簿與 AI 對話記錄加密同步至雲端。若企業安全規章嚴格禁止將敏感專案對話存於第三方雲端，請停用針對 AI 的 Cloud Sync，或養成定期清除歷史紀錄的習慣。
- 停用 AI 記憶與個人化功能（AI Memory）：
- 前往 Settings → AI → Personalization，檢查 Memory 設定。
- 全域記憶功能開啟時，系統會在背景對近期對話進行重點提煉；此摘要動作有時會調用雲端託管模型。在要求完全實體隔離（Air-gapped）的專案環境下，務必關閉 Memory。
- 避免調用雲端專屬工具：
- Raycast 中的部分特殊擴充功能（如 AI 影像生成）屬於雲端伺服器運算，需連網並耗費點數。日常開發請專注於純文字與程式碼處理。
- 切勿隨意送出除錯回饋（Send Feedback）：
- 當模型運算發生錯誤時，避免在包含機密程式碼的視窗中點擊回饋回報，因除錯日誌會將對話上下文傳送至 Raycast 技術支援端。
提升開發效能：自訂 AI 指令（AI Commands）實戰
完成設定後，開發者可將本地模型與日常編程快捷動作深度結合：
1. 本地安全 AI 對話視窗
按下 ⌘ ⌥ Space 喚起 AI Chat，於底部的模型選擇器中將預設模型切換為本機模型（例如 Local: qwen2.5-coder:7b）。此時貼上內部未公開的資料庫結構、API 金鑰範例或錯誤堆疊追蹤，均完全在本機運算。
2. 建立常用開發 AI 命令（Custom AI Commands）
前往 Raycast Settings → Extensions → AI → AI Commands，點選 Create AI Command 建立系統級動作：
- 產出 Conventional Commits 訊息：
- Prompt：
請根據以下 git diff 變更內容，嚴格遵循 Conventional Commits 規範產出清晰俐落的 Commit 訊息。僅輸出標題與條列式內文，不包含任何 Markdown 額外說明： - Input：Selected Text 或 Clipboard
- Model：
Local: qwen2.5-coder:7b - Action：Paste into Active App 或 Copy to Clipboard
- Prompt：
- 程式碼資安漏洞審查：
- Prompt：
針對以下程式碼進行安全性檢查，找出可能存在的記憶體洩漏、注入攻擊、並行競態（Race Condition）或敏感憑證硬編碼問題。按風險嚴重程度排序並提出具體修正程式碼： - Input：Selected Text
- Model：
Local: qwen2.5-coder:14b - Action：Show in Chat
- Prompt：
- 型別宣告與標準註解補全：
- Prompt：
在不變更執行期邏輯的前提下，為以下程式碼補充嚴格的 TypeScript 型別宣告與標準 TSDoc 註解說明： - Input：Selected Text
- Model：
Local: qwen2.5-coder:7b - Action：Replace Selected Text
- Prompt：
免費版使用者的替代途徑：社群擴充套件
Raycast 原生偏好設定中的 Local Models 功能需訂閱 Raycast Pro。若你使用的是 Raycast 免費版本，仍可透過 Raycast Store 的開源社群套件串接本機 Ollama：
- 開啟 Raycast 搜尋並進入 Store。
- 搜尋 Ollama AI 擴充套件並進行安裝。
- 進入擴充套件設定，將 API 伺服器端點設為
http://localhost:11434。 - 使用擴充套件提供的 Ollama Chat 或文字轉換指令。雖然無法直接整合進全域 Quick AI 快捷彈窗，但背後的資料傳輸依然 100% 留存在本機，提供同等水準的隱私保護。
常見問題排查（Troubleshooting）
- Raycast 顯示「Ollama is not installed」（未偵測到安裝）：
請確認 Ollama 應用程式已放置於
/Applications目錄，或終端機環境變數 PATH 中包含ollama。先於 Finder 中手動啟動一次 Ollama 應用程式，再回到 Raycast 點選 Sync Models。若安裝路徑特殊，可在 Ollama Host 欄位明確填寫http://localhost:11434。 - 已下載的模型未列在選擇器中：
在終端機執行
ollama list確認模型標籤存在。接著至 Raycast Settings → AI → Models & Providers → Local Models 點選 Sync Models；並至 Manage Models 確認該模型的核取方塊已打勾啟用。 - 回應反應遲緩或系統出現卡頓： 代表模型權重大小超越了 Mac 目前可用的統一記憶體，引發 macOS 大規模使用 SSD 進行 Swap 交換。16GB 記憶體機種切勿載入 14B 或 32B 模型，應堅持使用 7B/8B 的 Q4 量化版本；執行長對話前，建議關閉背景高耗記憶體的瀏覽器分頁或容器環境。