RouteMarket 文档
第三方集成

跨模型家族中转

使用某个模型家族的 CLI 工具,通过 RouteMarket 的路由调用另一家提供方的模型。

进阶用法警告:以下模式利用了部分 CLI 工具「只认协议格式、不校验模型家族」的特性,把原本设计给某个模型家族的客户端指向 RouteMarket 后调用其他家族的模型。这不是官方默认支持或推荐的标准用法,可能因为工具自身的提示词模板、工具调用格式针对特定模型家族优化,导致实际效果与预期不符,也可能在该 CLI 工具更新后失效。请仅在完全理解风险的前提下使用。

基本原理

一些 CLI 工具本身只是「协议客户端」——它只负责按照某种协议格式(例如 Anthropic Messages 协议)组装请求并发送到配置的 base_url,并不关心服务端实际返回内容出自哪个模型家族。这意味着理论上可以:

  1. 使用协议为 A 家族设计的 CLI 工具(例如遵循 Anthropic 协议的客户端)。
  2. 把它的 base_url 指向 RouteMarket 网关。
  3. 通过 RouteMarket 的路由能力,把请求实际转发给 B 家族的模型,同时 RouteMarket 负责协议格式转换。
A 家族协议客户端 → RouteMarket 网关(协议转换 + 路由) → B 家族模型

示例场景

假设你已经很熟悉某个遵循 Anthropic 协议的终端工具的操作习惯,但这次想用它来调用一个 OpenAI 协议家族的模型:

  1. Claude Code 的方式完成基础配置。
  2. 在 RouteMarket 控制台中,将该密钥请求的逻辑模型名指定为目标 B 家族模型对应的路由名称(具体路由名称以控制台模型列表为准)。
  3. 正常使用该 CLI 工具,实际请求会被路由到目标模型。

已知限制

  • 工具内置的系统提示词、工具调用(function calling)格式可能是针对原生模型家族调优的,切换目标模型后表现可能变化。
  • 部分高级功能(如某些家族特有的扩展参数)可能不会被正确转发。
  • 此模式依赖 RouteMarket 路由层的协议兼容能力,具体支持范围请以控制台实际路由配置为准。