Descript 如何让新模型接入不再排队等待工程团队处理

Descript 是一个由 AI 驱动的视频和音频编辑平台，让每个人都能创作专业内容。Descript 将基于转录文本的编辑与音频增强、语音克隆和生成式媒体 AI 工具相结合，使团队无需专业知识也能制作录音棚级别的内容。医疗保健、金融服务、媒体和技术行业的企业客户使用 Descript 扩大内容制作规模，同时确保每一个创意决策都由人掌控。

Descript 的视频编辑智能体 Underlord 将 LLM 与智能体运行框架相结合，该框架告知模型如何行动以及如何编辑视频。

负责 AI 产品的 Aleks Mistratov 表示，Descript 专注于以人物出镜讲话为主的视频：YouTube 创作者视频、有人讲话的营销视频、视频播客。这些内容的共同点是以叙事和转录文本为驱动，而模型处理这类内容的能力如何，并不是公开基准测试能够回答的问题。

Descript 维护着与 OpenAI、Anthropic 和 Google 的三项直接集成。它们之间的回退逻辑由团队编写和维护，通过切换模型来运作：如果 GPT 请求失败，就由 Anthropic 模型代为回答。

技术上的阻力在于参数变化。每家模型开发商期望的信息传递方式各不相同，每次发布新版本都需要检查哪些参数现在缺失、哪些现在必填，以及哪些已不再受支持。接入一个新模型至少需要几个小时，其中大部分时间都花在排查某些功能为何无法正常工作上。

组织层面的阻力更大。想要测试新模型的人并不是能够接入模型的人，因此测试意味着要在工程师的日程中找到空闲时间。往往要过好几天才有人着手处理。这项工作本身始终只需几个小时。正是把这几个小时排进工程师的任务队列这件事，让一个关于潜力模型的问题变成了长达一周的等待，之后才有人知道它是否值得继续探索。

Descript 决定尝试 Claude 时，基本上只提供一个模型，而第二个模型正是通过 OpenRouter 引入的。

截至 2026 年 8 月，生产环境中运行着来自四家模型开发商的 13 个模型：

• Anthropic： Fable 5、Opus 5、Opus 4.8、Opus 4.7、Opus 4.6、Sonnet 5、Sonnet 4.6、Haiku 4.5
• Google： Gemini 3.1 Pro、Gemini 3.5 Flash
• OpenAI： GPT-5.4、GPT-5.5
• xAI： Grok 4.5

这些 Anthropic 模型中，有五个顶级版本同时运行。

生产环境从三个直接集成改为通过 OpenRouter 建立的单一连接。Descript 仍保留与 Anthropic 的直接连接，因为它是 Anthropic 的早期合作伙伴，部分抢先体验模型只能通过该 API 使用。这条连接不用于生产环境。

每个模型背后都有多个推理提供商可供选择，Descript 会按模型分别配置。OpenRouter 展示每个提供商的吞吐量、正常运行时间和成本，Descript 据此设置优先顺序：Sonnet 5 优先使用某个提供商，Gemini 则采用不同的顺序。数据保留策略也是这项决策的一部分，Descript 只会将请求路由至符合其策略的推理提供商。

第二种回退也发生在这一层。Descript 过去的逻辑会切换模型。OpenRouter 则切换推理提供商，同时保持模型不变，因此某个托管方发生故障不会改变回答请求的模型。

团队使用自有密钥接入 Baseten，以专用部署的方式运行一个开放权重模型。OpenRouter 将 Baseten 作为该模型的首选提供商，并将其他提供商配置为同一模型的回退选项，所有提供商都符合上述策略约束。Descript 保留了直接商业关系和自有密钥，同时仍能应对单个提供商的速率限制和服务中断。

Descript 现在每周都会多次评估模型。其中大多数从未进入生产环境，而这正是评估的意义所在。

Mistratov 描述了这样一种模式：他散步时看到新模型发布的公告，就在 Slack 中发消息请求对其进行评估，并附上该模型在 OpenRouter 上的链接。一两个小时后，评估就已在 Descript 自己的运行框架中完成。

实现这一流程的是 Claude Tag，即 Anthropic 的 Slack 集成，Descript 在一个频道中为其配置了一组用于此循环的技能。它会运行评估，创建一个拉取请求，将模型添加到 Descript 的运行框架中，再创建另一个拉取请求，将模型置于功能开关控制之下。随后由人工审核并批准。

OpenRouter 消除了逐个模型进行集成的工作，而此前正是这些工作让评估需要排队等待工程师处理。Descript 自己的智能体和运行框架将该接口周边的一切流程自动化。这项工作不再需要分配给任何人。

在 Anthropic 最近的一次发布中，从公告到上线只用了几个小时。剩余步骤都是 Descript 自身的流程：内部评估、决定模型是否优于当前模型、配置模型选择器、设置功能开关、部署。负责智能体团队运行框架和评估工作的 David Dodero 指出，剩余工作大多源于 Descript 的代码结构，而非与模型的连接方式，如果他们在自身系统中采用不同的设置，事情会更容易。

Descript 的 AI Enablement 团队技术负责人 Keith Simmons 一直注意到，前沿级模型的成本正成为一个问题，而开放权重模型发布得如此频繁，唯一的问题就是它们能否经受住 Descript 自有测试用例的检验。每周多次检验这个问题，让他们发现了部署在 Baseten 上的开放权重模型。Simmons 表示，Descript 的模型总支出已降至原来的一半以下，这在一定程度上得益于这一流程，并且质量在 Descript 自有测试用例中保持不变。

Simmons 最初认为，路由不值得 Descript 投入工程时间。如今这一看法已经改变。

故障转移触发后，团队只能事后通过阅读日志才得知，或者根本不会察觉。

在 OpenRouter 日志中，Mistratov 可以看到流量的流转：低峰期使用主要提供商，流量突增时出现 429，随后切换到方案 B、方案 C、方案 D，而用户获得的服务几乎不受影响。当有人在 Slack 中贴出 Claude 状态页的截图，询问 Descript 是否受到影响时，答案是否定的，因为 Claude 流量会转移到另一家推理提供商 Vertex AI。Simmons 指出，在这些时段，团队无法使用 Claude Code，但 Underlord 仍在正常运行。

在两次故障之间，情况也一样。

即使在 Descript 搭建 Baseten 部署期间，情况也是如此。

使用这一连接的不只有智能体团队。媒体理解团队通过 OpenRouter 将上传的视频路由至 Gemini 来分析内容，而 Google 已宣布将弃用他们正在使用的版本。迁移到其他版本只需更改配置，而不必作为一个项目来开展。

另一个团队利用现有连接，在四到六个模型上构建视觉布局生成原型，其中包括智能体团队未在生产环境中使用的模型。

这也影响了 Mistratov 如今评估推理服务销售方的方式。