大模型网关
企业大模型网关
Tokenjoy 把各团队对多家大模型的调用收进一个网关：应用只对接一个地址、一个 API Key，由网关按优先级选渠道、校验权限和额度，并记录每一次调用。
一个入口，多家模型
把 base_url 和 API Key 换成 Tokenjoy 的，原来的 OpenAI、Anthropic 调用方式不用改。同一个模型可以配置多个渠道，网关按优先级和权重把请求分给不同渠道。
- 兼容 OpenAI、Anthropic 接口
- 流式输出、函数调用、图像理解，按所选模型与渠道的能力支持
- 对话、图像、语音、视频、向量、重排等类型的模型，统一在模型目录里管理
渠道出问题，请求不中断
- 故障切换：渠道出问题时，按你的配置切到其他可用渠道
- 故障重试：上游出错时按策略重试，状态和错误都留记录
- 限流保护：按 API Key 设置请求速率与突发上限
谁能用哪些模型，由你定
按部门和 API Key 设置可用的模型范围，每次调用时校验。没有授权的模型会被直接拦下，并留下记录。
每次调用都留痕
每次调用都记录调用主体、模型、Token 用量和费用，支持按 Token、按量、分档计费，用多少付多少。调用日志可按部门、成员、模型、渠道筛选，并导出 CSV。
常见问题
什么是大模型网关？
大模型网关位于应用和模型供应商之间：应用只对接一个入口，网关负责渠道选择、权限、额度和调用留痕。
接入 Tokenjoy 需要改代码吗？
通常只改 base_url、API Key 和 model 名。具体模型能力取决于协议和上游渠道。