什么是百川智能：百川大模型矩阵、API 调用与开发者架构指南

百川智能（Baichuan AI）是一家由前搜狗 CEO 王小川于 2023 年创立的人工智能企业，专注于针对中英双语理解、知识检索和特定领域推理进行优化的大语言模型。该公司提供双轨交付模式，包括用于托管推理的商用云端 API，以及用于自托管部署的开源参数权重。开发者可以通过兼容 OpenAI 的 REST 端点、原生搜索增强工具、稠密向量嵌入（dense vector embeddings）以及灵活的开源权重架构，将百川模型集成到生产环境中。

百川模型矩阵

在百川的生态系统中进行选型，需要区分云端托管的专有商业模型与专为本地部署设计的开源权重。各层级模型分别针对特定的性能、上下文长度和延迟要求。

商用 API 模型

百川通过其托管开发者平台提供了多个模型层级：

• 百川 4 系列（Baichuan4、Baichuan4-Turbo、Baichuan4-Air）： 旗舰代际模型，专为复杂推理、指令遵循与多模态理解设计。Baichuan4-Turbo 支持高达 192,000 tokens 的超长上下文窗口，适用于长文档解析和多轮工作流；而 Baichuan4-Air 则为高并发任务提供了轻量、高性价比的替代方案。
• 百川 3 系列（Baichuan3-Turbo、Baichuan3-Turbo-128k）： 通用生产力主力模型，具备出色的性价比，其中 128k 版本可满足长文本企业级上下文需求。
• 百川 2 系列（Baichuan2-Turbo）： 快速对话端点，适用于标准对话系统与对延迟敏感的交互场景。
• 领域专用模型（Baichuan-M 系列）： 领域适配检查点（checkpoints），例如临床级模型 Baichuan-M3 和 Baichuan-M2，专门针对医学文献综合与结构化医疗辅助进行了校准。
• 嵌入端点（Baichuan-Text-Embedding）： 专用文本嵌入模型，输出用于语义搜索和检索增强生成（RAG）的稠密向量表示。

开源模型

针对具有严格本地数据驻留合规要求或自定义微调工作流的机构，百川在社区友好型许可下提供了开源权重：

• Baichuan2-7B（Base 与 Chat）： 拥有 70 亿参数的基础模型，训练数据超过 2.6 万亿 tokens，能够在消费级硬件或边缘服务器上高效运行。
• Baichuan2-13B（Base 与 Chat）： 拥有 130 亿参数的架构，采用旋转位置嵌入（RoPE）与 ALiBi 位置编码，为企业级服务器提供更高的零样本（zero-shot）准确率与指令忠实度。
• Baichuan-Omni： 开源多模态研究模型，具备图像与语言联合处理能力。

开源权重与参考推理实现直接托管在 Baichuan Hugging Face Organization 和 Baichuan2 GitHub Repository。

快速上手百川开发者平台

访问百川的托管模型需要获取由 Baichuan AI Developer Platform 颁发的凭据。

1. 账号注册： 在官方开发者门户注册企业或个人开发者账号，并完成必要的实名/身份认证步骤。
2. 生成 API Key： 进入 API keys 管理控制台生成 Bearer token。
3. 计费配置： 百川对 API 推理采用基于 token 消耗量的计费模式，若使用网络搜索等可选外部工具，会加收单次调用费用。

所有请求均需包含 HTTP Bearer 认证请求头：

Authorization: Bearer YOUR_API_KEY
Content-Type: application/json

集成 Chat Completions API

百川的补全接口遵循标准 OpenAI API 规范，允许开发者复用现有的工具链、SDK 和编排框架，无需编写自定义封装。

标准请求格式

核心 chat completions 端点为：

POST https://api.baichuan-ai.com/v1/chat/completions

以下是向 Baichuan4-Turbo 发起请求的标准 curl 示例：

curl -X POST https://api.baichuan-ai.com/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $BAICHUAN_API_KEY" \
  -d '{
    "model": "Baichuan4-Turbo",
    "messages": [
      {
        "role": "system",
        "content": "You are an enterprise technical advisor."
      },
      {
        "role": "user",
        "content": "Summarize the architectural benefits of retrieval-augmented generation."
      }
    ],
    "temperature": 0.3,
    "top_p": 0.85,
    "stream": false
  }'

Python OpenAI SDK 兼容性

由于该端点 schema 遵循 OpenAI 规范，Python 开发者只需修改 base_url 即可直接初始化标准的 openai 库：

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_BAICHUAN_API_KEY",
    base_url="https://api.baichuan-ai.com/v1"
)

response = client.chat.completions.create(
    model="Baichuan4-Turbo",
    messages=[
        {"role": "system", "content": "You are a bilingual coding assistant."},
        {"role": "user", "content": "Write a Python function to validate email addresses."}
    ],
    temperature=0.2
)

print(response.choices[0].message.content)

核心采样参数

百川支持细粒度的解码控制：

• temperature（浮点数，0.0 到 1.0，默认 0.3）： 控制生成熵。事实抽取、代码生成和结构化输出建议使用较低值（0.1 到 0.3）；头脑风暴或创意起草建议使用较高值（0.7 到 0.9）。
• top_p（浮点数，0.0 到 1.0，默认 0.85）： 核采样（nucleus sampling）阈值，将候选 token 限制在累积概率质量范围内。
• top_k（整数，0 到 20，默认 5）： 限制每一步的候选 token 池。设置为 top_k: 0 可禁用此限制。
• stream（布尔值，默认 false）： 启用服务器发送事件（SSE）流式传输，以实现 token 的实时渲染输出。

使用高级功能：搜索与工具调用

百川架构的一大核心优势在于其原生搜索增强能力，这一特性承袭自搜索引擎系统的技术积累。

原生网络搜索工具

开发者可以直接将实时网络信息注入到对话补全中，而无需自行构建外部网页爬虫。搜索功能通过请求体中的 tools 数组启用：

{
  "model": "Baichuan4-Turbo",
  "messages": [
    {
      "role": "user",
      "content": "What are the latest updates in Chinese artificial intelligence regulations this month?"
    }
  ],
  "tools": [
    {
      "type": "web_search",
      "web_search": {
        "enable": true,
        "search_mode": "quality_first"
      }
    }
  ]
}

• search_mode 选项： 开发者可在 quality_first（优先保证深度与信息源权威性）和 performance_first（最小化延迟）之间进行选择。
• 操作注意事项： 在单个 prompt 中不应同时调用网络搜索和内部知识库 retrieval 工具；二者同时传入会导致引擎默认仅执行内部检索。

利用百川 Embeddings 构建 RAG 流程

对于语义搜索、聚类和自定义文档检索，Baichuan-Text-Embedding 端点可生成与 Milvus、Qdrant、Pinecone 等主流向量数据库兼容的稠密向量表示。

嵌入 API 调用

嵌入端点地址为 https://api.baichuan-ai.com/v1/embeddings：

curl -X POST https://api.baichuan-ai.com/v1/embeddings \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $BAICHUAN_API_KEY" \
  -d '{
    "model": "Baichuan-Text-Embedding",
    "input": [
      "Vector search optimization techniques",
      "Large language model inference acceleration"
    ]
  }'

约束与技术规格

• 批处理限制： 该 API 接受字符串列表，每批最多包含 16 个文本项。
• 序列长度： 每个输入字符串不得超过 512 tokens。较长的文档在嵌入前必须进行分块（chunking）。
• 框架集成： 包括 LangChain 和 LlamaIndex 在内的主流编排库均提供了直接封装该端点的社区连接器（BaichuanTextEmbeddings）。

架构权衡：云端 API 对比自托管模型

在选择实现方案时，工程团队应在四个关键维度评估其运行权衡：

实施建议

针对正在评估百川智能的研发团队：

1. 快速原型验证： 优先采用兼容 OpenAI 的 REST API 与 Baichuan4-Turbo，根据企业具体的测试集评估输出质量。
2. 延迟敏感型生产环境： 将大批量、结构化任务迁移至 Baichuan4-Air，或使用 vLLM 自托管微调后的 Baichuan2-13B-Chat 检查点，以最大限度降低周期性运营成本。
3. 双语知识检索： 将 Baichuan-Text-Embedding 与 Baichuan4-Turbo 搭配使用，构建既需精确理解中文专业术语和成语表达、又需结合英文技术文档的垂直领域 RAG 应用。