什麼是百川智能：百川大模型矩陣、API 調用與開發者架構指南

百川智能（Baichuan AI）是一家由前搜狗 CEO 王小川於 2023 年創立的人工智慧企業，專注於針對中英雙語理解、知識檢索與特定領域推理進行最佳化的大語言模型。該公司提供雙軌交付模式，包括用於代管推論的商用雲端 API，以及用於自行託管部署的開源參數權重。開發者可以透過相容 OpenAI 的 REST 端點、原生搜尋增強工具、稠密向量嵌入（dense vector embeddings）以及靈活的開源權重架構，將百川模型整合至生產環境中。

百川模型矩陣

在百川的生態系統中進行選型，需要區分雲端託管的專有商業模型與專為本地部署設計的開源權重。各層級模型分別針對特定的效能、上下文長度與延遲限制。

商用 API 模型

百川透過其代管開發者平台提供了多個模型層級：

• 百川 4 系列（Baichuan4、Baichuan4-Turbo、Baichuan4-Air）： 旗艦代際模型，專為複雜推理、指令遵循與多模態理解設計。Baichuan4-Turbo 支援高達 192,000 tokens 的超長上下文視窗，適用於長文件剖析與多輪工作流程；而 Baichuan4-Air 則為高並行任務提供了輕量、高成本效益的替代方案。
• 百川 3 系列（Baichuan3-Turbo、Baichuan3-Turbo-128k）： 通用生產力主力模型，具備出色的性價比，其中 128k 版本可滿足長文本企業級上下文需求。
• 百川 2 系列（Baichuan2-Turbo）： 快速對話端點，適用於標準對話系統與對延遲敏感的互動情境。
• 領域專用模型（Baichuan-M 系列）： 領域適配檢查點（checkpoints），例如臨床級模型 Baichuan-M3 與 Baichuan-M2，專門針對醫學文獻綜合與結構化醫療輔助進行了校準。
• 嵌入端點（Baichuan-Text-Embedding）： 專用文字嵌入模型，輸出用於語意搜尋與檢索增強生成（RAG）的稠密向量表示。

開源模型

針對具有嚴格本地資料落地合規要求或自訂微調工作流程的機構，百川在社群友善授權下提供了開源權重：

• Baichuan2-7B（Base 與 Chat）： 擁有 70 億參數的基礎模型，訓練資料超過 2.6 兆 tokens，能夠在消費級硬體或邊緣伺服器上高效執行。
• Baichuan2-13B（Base 與 Chat）： 擁有 130 億參數的架構，採用旋轉位置嵌入（RoPE）與 ALiBi 位置編碼，為企業級伺服器提供更高的零樣本（zero-shot）精準度與指令忠實度。
• Baichuan-Omni： 開源多模態研究模型，具備影像與語言聯合處理能力。

開源權重與參考推論實作直接託管於 Baichuan Hugging Face Organization 與 Baichuan2 GitHub Repository。

快速上手百川開發者平台

存取百川的代管模型需要取得由 Baichuan AI Developer Platform 發行的憑據。

1. 帳號註冊： 在官方開發者入口網站註冊企業或個人開發者帳號，並完成必要的身分驗證步驟。
2. 產生 API Key： 前往 API keys 管理主控台產生 Bearer token。
3. 計費設定： 百川對 API 推論採用基於 token 消耗量的計費模式，若使用網路搜尋等選用外部工具，會加收單次呼叫費用。

所有請求均需包含 HTTP Bearer 授權標頭：

Authorization: Bearer YOUR_API_KEY
Content-Type: application/json

整合 Chat Completions API

百川的補全介面遵循標準 OpenAI API 規範，允許開發者重複使用現有的工具鏈、SDK 與編排架構，無需編寫自訂包裝。

標準請求格式

核心 chat completions 端點為：

POST https://api.baichuan-ai.com/v1/chat/completions

以下是向 Baichuan4-Turbo 發起請求的標準 curl 範例：

curl -X POST https://api.baichuan-ai.com/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $BAICHUAN_API_KEY" \
  -d '{
    "model": "Baichuan4-Turbo",
    "messages": [
      {
        "role": "system",
        "content": "You are an enterprise technical advisor."
      },
      {
        "role": "user",
        "content": "Summarize the architectural benefits of retrieval-augmented generation."
      }
    ],
    "temperature": 0.3,
    "top_p": 0.85,
    "stream": false
  }'

Python OpenAI SDK 相容性

由於該端點結構符合 OpenAI 規格，Python 開發者只需修改 base_url 即可直接實例化標準的 openai 函式庫：

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_BAICHUAN_API_KEY",
    base_url="https://api.baichuan-ai.com/v1"
)

response = client.chat.completions.create(
    model="Baichuan4-Turbo",
    messages=[
        {"role": "system", "content": "You are a bilingual coding assistant."},
        {"role": "user", "content": "Write a Python function to validate email addresses."}
    ],
    temperature=0.2
)

print(response.choices[0].message.content)

核心採樣參數

百川支援細粒度的解碼控制：

• temperature（浮點數，0.0 至 1.0，預設 0.3）： 控制生成熵。事實擷取、程式碼生成與結構化輸出建議使用較低值（0.1 至 0.3）；腦力激盪或創意起草建議使用較高值（0.7 至 0.9）。
• top_p（浮點數，0.0 至 1.0，預設 0.85）： 核採樣（nucleus sampling）門檻，將候選 token 限制在累積機率質量範圍內。
• top_k（整數，0 至 20，預設 5）： 限制每一步的候選 token 池。設定 top_k: 0 可停用此限制。
• stream（布林值，預設 false）： 啟用伺服器發送事件（SSE）串流傳輸，以實現 token 的即時轉譯輸出。

使用進階功能：搜尋與工具呼叫

百川架構的一大核心優勢在於其原生搜尋增強能力，該技術傳承自搜尋引擎系統的技術累積。

原生網路搜尋工具

開發者可以直接將即時網路資訊注入至對話補全中，而無需自行建置外部網路爬蟲。搜尋功能透過請求主體中的 tools 陣列啟用：

{
  "model": "Baichuan4-Turbo",
  "messages": [
    {
      "role": "user",
      "content": "What are the latest updates in Chinese artificial intelligence regulations this month?"
    }
  ],
  "tools": [
    {
      "type": "web_search",
      "web_search": {
        "enable": true,
        "search_mode": "quality_first"
      }
    }
  ]
}

• search_mode 選項： 開發者可在 quality_first（優先考量深度與來源權威性）與 performance_first（最小化延遲）之間進行選擇。
• 操作注意事項： 在單一 prompt 中不應同時呼叫網路搜尋與內部知識庫 retrieval 工具；兩者同時傳入會導致引擎預設僅執行內部檢索。

利用百川 Embeddings 建構 RAG 流程

對於語意搜尋、分群與自訂文件檢索，Baichuan-Text-Embedding 端點可產生與 Milvus、Qdrant、Pinecone 等主流向量資料庫相容的稠密向量表示。

嵌入 API 呼叫

嵌入端點位址為 https://api.baichuan-ai.com/v1/embeddings：

curl -X POST https://api.baichuan-ai.com/v1/embeddings \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $BAICHUAN_API_KEY" \
  -d '{
    "model": "Baichuan-Text-Embedding",
    "input": [
      "Vector search optimization techniques",
      "Large language model inference acceleration"
    ]
  }'

限制與規格

• 批次處理限制： 該 API 接受字串清單，每批最多包含 16 個文字項目。
• 序列長度： 每個輸入字串不得超過 512 tokens。較長的文件在嵌入前必須先進行分塊（chunking）。
• 架構整合： 包括 LangChain 與 LlamaIndex 在內的主流編排函式庫均提供了直接包裝該端點的社群連接器（BaichuanTextEmbeddings）。

架構權衡：雲端 API 對比自行託管模型

在選擇實作方案時，工程團隊應在四個關鍵維度評估其營運權衡：

實作建議

針對正在評估百川智能的開發團隊：

1. 快速原型建置： 優先採用相容 OpenAI 的 REST API 與 Baichuan4-Turbo，根據企業具體的測試集評估輸出品質。
2. 延遲敏感型生產環境： 將高用量、結構化任務遷移至 Baichuan4-Air，或使用 vLLM 自行託管微調後的 Baichuan2-13B-Chat 檢查點，以將週期性維運成本降至最低。
3. 雙語知識檢索： 將 Baichuan-Text-Embedding 與 Baichuan4-Turbo 搭配使用，建構既需精準理解中文專業術語與成語表達、又需結合英文技術文件的領域專用 RAG 應用。