OrcaRouter

OrcaRouter

3.2

OrcaRouter 是一个兼容 OpenAI 的 AI 网关,可在 200 多个模型间自适应路由请求,支持故障转移、安全防护和零加价,面向开发者与团队。

关注
标签
AI API开发工具大型语言模型ai-workflowSAAS
最后更新 2026 年 10 月 21 日
OrcaRouter 截图

简介

OrcaRouter 是一个 AI 网关,把 200 多个语言模型聚合到单一的 OpenAI 兼容 API 端点之后。团队只需把现有 SDK 指向 OrcaRouter,服务会对每个传入的 prompt 评分,将其路由到满足所配置质量标准的模型,并在此过程中处理故障转移、日志和成本追踪。产品瞄准的是生产环境中管理多个提供商账号的常见痛点:开发者不必再绑定单一供应商,而是拿到一个 key、一个 base URL,以及一个能把简单 prompt 发给更便宜模型、把困难 prompt 升级到前沿模型的路由层。

该网关聚合了 OpenAI、Anthropic、Google、AWS、Azure、Mistral、Meta 等提供商。其定价模式为零加价:用户按公布的 token 价格直接向提供商付费,OrcaRouter 的收入来自可选的团队功能,而非 token 费用。隐私方面采用架构级设计:除非显式开启日志,prompt 不会被记录;个人身份信息(PII)可在到达模型前被遮蔽。公司还开源了 OrcaRouter Lite,一个采用 MIT 许可的自托管版网关。

主要功能

自适应路由:每个 prompt 都会被评分,然后路由到达到用户所配置质量阈值的模型,并可将困难 prompt 升级至前沿模型。
自动故障转移:用户可配置模型回退链,在响应开始前完成重试,吸收上游错误和速率限制。
防护与 Agent Firewall:PII、密钥、越狱和 prompt 注入攻击会在模型看到之前被拦截,Agent 发起的每次工具调用或 MCP 调用都会在执行前被评估。
零加价定价:用户按公布价格直接向提供商付费;OrcaRouter 表示不在 token 成本之上加收任何费用,且每次调用提供逐项列出的账单。
可观测性:请求日志记录每次调用的评分、模型、延迟和成本(可复制为 cURL),洞察视图汇总路由、延迟、支出和模型质量数据。
代码化路由规则:路由逻辑可用 YAML 加 CEL 的领域特定语言表达,立即生效,无需重新部署。
自带 key:用户可接入自己的提供商 key、速率限制和额度,也可在自有基础设施上自托管 MIT 许可的 OrcaRouter Lite 网关。

定价与费用

  • 定价:OrcaRouter 不在提供商 token 价格之上加收费用,收入来自可选的团队功能。Token 付费方式包括按量付费(pay-as-you-go)、额度订阅和自带 key。我们查阅的页面上未完整列出具体套餐价格,请以官网当前方案为准。
  • 快速上手:官网称开发者只需在 OpenAI SDK 中修改 base URL,约 60 秒即可上线,获取 API key 无需信用卡。
  • 默认隐私:默认不存储 prompt;日志在用户开启前保持关闭,并可签署零保留协议。
  • 数据保护:姓名、邮箱和银行卡号可在到达模型前被遮蔽;可声明数据驻留区域,涵盖 US、EU、UK、亚太或中国;保留的日志采用抗量子的混合 ML-KEM 加密。
  • 性能数据:官方称缓存感知的自适应路由可节省 40% 以上的推理成本,配合前沿升级实现 99% 的路由准确率,路由延迟低于 10 ms。

适用人群

OrcaRouter 面向在生产环境运行 AI 功能、希望用单一端点接入多家模型提供商的工程团队。AI 产品团队可以对接所有模型而不被供应商锁定;平台团队在上游提供商限流时可获得自动故障转移;安全与合规团队可获得策略执行、限定范围的 API key、RBAC、预算,以及覆盖 32 个合规框架的可导出证据;FinOps 人员可获得每次调用的成本归因,且零加价。Agent 开发者可受益于 Agent Firewall 和按 Agent 划分的预算,企业客户则可使用 SSO、数据驻留和 SLA 选项。

常见问题

OrcaRouter 是什么?它是一个 AI 网关,通过单一 OpenAI 兼容 API 提供 OpenAI、Anthropic、Google、Meta 等提供商的 200 多个语言模型,附带自适应路由、故障转移、防护和成本可观测性。

OrcaRouter 收费多少?它不在 token 成本上加价,用户按公布价格直接向提供商付费,厂商收入来自可选的团队功能。Token 可通过按量付费、额度订阅或自带 key 支付。

有免费试用的方式吗?有,官网称开发者无需信用卡即可获取 API key,约 60 秒即可上线。

支持哪些工具和框架?它兼容 OpenAI 系 SDK,并列出 Cursor、LangChain、n8n、Vercel AI SDK 和 MCP server 等集成,另有可并排比较模型的浏览器 playground。

OrcaRouter 会存储我的 prompt 吗?不会;除非用户显式开启日志,prompt 不会被记录,可签署零保留协议锁定这一点,PII 也可在到达任何模型前被遮蔽。