企业管理员如何配置 JetBrains AI Enterprise 将 Chat 请求路由至本地私有 OpenAI 兼容模型

在金融、军工、医疗及核心基础设施等强合规行业中，企业在引入 AI 研发提效工具时面临着严格的合规红线。GDPR、PCI-DSS 以及各类数据防泄漏（DLP）规范明确禁止将核心业务源码与商业机密发送至公网多租户大模型（如公有云 OpenAI 或 Anthropic Claude）。

针对这一落地瓶颈，JetBrains 提供了企业级解决方案——JetBrains AI Enterprise，该模块依托企业统一管控平台 JetBrains IDE Services 进行集中管理。通过在内部隔离或物理断网（Air-Gapped）环境中部署 IDE Services，企业管理员能够统一接入自建的 OpenAI 兼容端点（如基于 vLLM、llama.cpp、LM Studio 或企业私有网关运行的开源大模型），将研发人员的 JetBrains AI Assistant 对话与交互请求完全限定在内网边界以内。

本文将详细解析如何在 JetBrains IDE Services 中配置本地 OpenAI 兼容端点、下发统一研发配置以及实施企业级访问管控，搭建代码零外流的私有化 AI 编码枢纽。

架构拆解：AI Chat 对话与代码补全的分离机制

在着手配置之前，企业管理员需要明确 JetBrains AI 体系中两类核心功能的分流机制：

1. 交互式 AI Chat 对话与上下文操作：包括代码解释、重构建议、单元测试生成、提交信息起草等交互式任务。这类功能通过标准 OpenAI 兼容的 HTTP 接口（/v1/chat/completions）与大语言模型通信。企业管理员可以将其完全对接至内网自建的开源推理服务，如运行 Qwen 2.5 Coder、Llama 3.3 或 DeepSeek Coder 的 GPU 集群。
2. 原生代码自动补全：单行与多行行内代码补全对推理延迟要求极高。在纯内网及隔离基础设施环境中，JetBrains AI Enterprise 采用自建的 JetBrains Mellum 引擎来提供私有化代码补全支持。Mellum 需部署在企业内网专用的 NVIDIA GPU 服务器（推荐 L40、H100 或 H200）上。

通过将自建 OpenAI 兼容模型（负责 Chat 交互）与私有化部署的 Mellum 引擎（负责行内代码补全）相结合，企业可以在完全断网的环境下获得全套 AI 辅助编码能力，彻底杜绝源码外泄风险。

前置环境与准备工作

在登录 JetBrains IDE Services 管理平台进行配置之前，需确保以下基础设施已就绪：

• JetBrains IDE Services 服务器：已在企业内网（通过 Kubernetes Helm Chart 或 Docker 容器化方案）部署完成，并配置合规的企业内部 TLS 证书。
• AI Enterprise 授权激活：已在企业的 JetBrains Account 与当前 IDE Services 实例的“License & Activation”中启用 AI Enterprise 模块。
• 内网 OpenAI 兼容推理集群：已在私有算力平台部署稳定运行的大模型推理服务，对外暴露标准的 OpenAI 规范端点（如 http://vllm-cluster.internal:8000/v1 或内部网关 https://ai-gateway.corp.internal/v1）。
  • 推理引擎可采用 vLLM、llama.cpp、LM Studio 或企业定制 API 代理。
  • 端点需完整支持 /v1/chat/completions 请求与响应格式。
  • 模型分词器（Tokenizer）已内置正确的对话模板（Chat Template）。
• 客户端要求：研发终端已安装 JetBrains Toolbox App（版本 2.5.1 或更高），并已加入企业的 IDE Services 服务器。

步骤一：部署并验证内网 OpenAI 兼容推理服务

确保自建推理集群能够正常处理内网请求，且网络策略允许 IDE Services 主机访问。以使用 vLLM 部署代码大模型为例：

vllm serve Qwen/Qwen2.5-Coder-32B-Instruct \
  --host 0.0.0.0 \
  --port 8000 \
  --dtype auto \
  --tensor-parallel-size 2 \
  --api-key corp-internal-secret-token \
  --chat-template /path/to/chat_template.jinja

在 IDE Services 宿主机或同一内网节点上执行健康探测与对话测试：

curl -X POST https://ai-gateway.corp.internal/v1/chat/completions \
  -H "Authorization: Bearer corp-internal-secret-token" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Qwen/Qwen2.5-Coder-32B-Instruct",
    "messages": [{"role": "user", "content": "Ping"}]
  }'

若能成功接收包含有效回答的 JSON 响应，说明内部推理端点工作正常，可进入管理平台进行注册。

步骤二：在 IDE Services 中添加 OpenAI Compatible 提供商

企业管理员通过 JetBrains IDE Services 的管理界面集中纳管大模型配置：

1. 以企业管理员身份登录 JetBrains IDE Services Web UI。
2. 在左侧导航栏点击 Configuration（配置），并切换到 License & Activation（许可与激活）选项卡。
3. 向下滚动至 AI Enterprise 模块区域，点击 Settings（设置）。
4. 切换到 AI Providers（AI 提供商）选项卡。
5. 点击 Add provider（添加提供商），在下拉菜单中选择 OpenAI Compatible。
6. 在弹出的配置窗口中填写以下关键参数：
   • Endpoint（接口端点）：输入内部模型网关或推理集群的基础 URL（例如 https://ai-gateway.corp.internal/v1 或 http://vllm.internal:8000/v1）。注意只需填写基础路径，不要在末尾添加 /chat/completions，客户端在发起请求时会自动拼接标准化 API 路径。
   • Authentication / API Key（身份凭据）：填入内部网关所要求的 Bearer 令牌或预设密钥。若内部 API 网关使用自定义请求头认证，请在对应字段中配置 Header 名称与键值。
   • Model Name（模型名称）：填入推理服务暴露的精确模型标识符（如 Qwen/Qwen2.5-Coder-32B-Instruct 或 meta-llama/Llama-3.3-70B-Instruct）。
   • Tokens（Token 上下文限制）：根据企业自建 GPU 显存容量与模型承载上限，合理设定 Max input tokens（最大输入 Token 数）与 Max output tokens（最大输出 Token 数）。
7. 点击 Test connection（测试连接），系统将实时向该端点发送握手探测以检验网络可达性与鉴权有效性。
8. 验证通过后点击 Save（保存）完成提供商创建。

步骤三：设定默认提供商与隔离策略

为确保全员研发流量严格收敛至私有端点，管理员需要调整全局默认提供商规则：

1. 在 AI Providers 列表中，找到刚创建的 OpenAI 兼容提供商。
2. 将其勾选或设为 Default（默认提供商）。
3. 检查列表中是否存在公网模型（如默认的 JetBrains AI 或公有云 OpenAI Platform），并取消勾选或予以禁用。需要注意：若 JetBrains AI 被设为默认，系统限制其必须是唯一的默认提供商；启用自建私有提供商为默认时，必须将 JetBrains AI 从默认选项中移除。
4. 如果企业同时在内网部署了代码补全专用的 JetBrains Mellum 实例，请切换到 Code Completion 标签页，将补全提供商明确指定为自建的 Mellum。
5. 点击 Save 保存全局策略生效。

步骤四：在 Profiles（配置档案）中分配与下发权限

JetBrains IDE Services 通过 Profiles 统一分发 IDE 版本、插件清单、安全配置与 AI 访问策略：

1. 在 IDE Services Web UI 中打开 Profiles（配置档案）页面。
2. 点击需要配置的研发团队档案（如 Engineering-Core）或新建档案。
3. 找到档案中的 AI Enterprise 功能区块。
4. 确保该配置档案已开启 AI Enterprise 功能支持。
5. 在关联的 AI 提供商配置中，选择 Default provider（即上一步中绑定的私有 OpenAI 兼容模型）。
6. 将该档案绑定至目标研发用户组，或勾选为组织所有新用户的默认档案。
7. 点击 Save changes（保存更改）提交下发。

步骤五：验证开发者端使用体验与权限收敛

策略下发后，开发者端将自动同步配置，无需工程师手动干预：

1. Toolbox App 连接：开发者在工作机打开 JetBrains Toolbox App，通过邀请链接或企业单点登录（SSO）加入公司的 IDE Services 实例。
2. 自动配置同步：Toolbox App 进入 Enterprise 模式，自动将分配的 Profile 下发至本地安装的各类 IDE（IntelliJ IDEA、PyCharm、GoLand 等），并强制启用 AI Assistant 插件。
3. AI Chat 对话验证：
   • 开发者在 IDE 侧边栏打开 AI Assistant 交互窗口。
   • 窗口自动连接至管理员预设的内网模型，开发者可直接就本地代码发起提问、生成单元测试、审查代码复杂度或起草提交说明。
   • 所有对话数据与上下文切片均直接走内网通道发送至自建网关，不经过任何外部公网中继。
4. 终端权限收敛：在 IDE 的 Settings | Tools | AI Assistant | Providers & API keys（设置 | 工具 | AI Assistant | 提供商与 API 密钥）界面中，个人自定义 Bring Your Own Key（BYOK）及未授权第三方公网接口已被企业策略集中锁定，彻底规避了员工误配公网模型的安全隐患。

企业级运维与安全最佳实践

在生产级大规模落地过程中，建议管理员结合以下要点优化系统可靠性与合规水位：

私有证书信任链维护

在物理断网或严格管控的企业内网中，内部模型网关多由企业私有证书机构（Internal CA）颁发证书。务必确保将企业根证书统一导入至 IDE Services 容器镜像底座以及开发者的操作系统受信根证书库中，避免因 SSL/TLS 证书校验失败导致模型探测或流式响应中断。

显存预算与并发控制

IDE 场景的上下文携带量往往较大（包含跨文件引用、语法树摘要与长代码块）。

• 部署 vLLM 等高性能推理框架时，建议开启 PagedAttention、连续批处理（Continuous Batching）与分块预填（Chunked Prefill），以保障高并发下的首字延迟（TTFT）。
• 依据单卡显存合理配置 IDE Services 中的最大输入 Token 数量，避免单次超长请求耗尽 KV Cache 引发显存溢出（OOM）。

审计日志与脱敏策略

建议在 IDE Services 与内部推理集群之间接入统一的 API 网关（如 Envoy 或 Kong），记录每一次 AI 请求的调用者身份、时间戳、Token 消耗量与延时指标。对于极端敏感的涉密项目，可在网关层实施 Prompt 实时脱敏与合规审计，确保满足金融及军工领域严苛的安全追溯要求。

通过 JetBrains IDE Services 将 JetBrains AI Enterprise 与内网自建的 OpenAI 兼容端点深度集成，企业既能充分释放现代 AI 辅助研发的生产力红利，又能构筑完全自主可控、源码零泄露的坚固防线。

参考资料

• AI Enterprise in isolated infrastructure | IDE Services Documentation
• Manage AI Enterprise | IDE Services Documentation
• JetBrains Mellum | IDE Services Documentation
• Profiles | IDE Services Documentation
• User Guide: Connect to IDE Services Server | IDE Services Documentation