Descript가 새 모델 도입을 엔지니어링 작업 대기열에서 제외한 방법

Descript는 누구나 전문적인 콘텐츠를 제작할 수 있도록 지원하는 AI 기반 동영상 및 오디오 편집 플랫폼입니다. Descript는 대본 기반 편집과 오디오 향상, 음성 복제, 생성형 미디어를 위한 AI 도구를 결합하여 팀이 전문 지식 없이도 스튜디오 수준의 콘텐츠를 제작할 수 있도록 합니다. 의료, 금융 서비스, 미디어, 기술 분야의 기업 고객은 Descript를 사용하여 모든 창작 결정에 대한 사람의 통제권을 유지하면서 콘텐츠 제작 규모를 확장합니다.

Descript의 동영상 편집 에이전트인 Underlord는 모델에 행동 방식과 동영상 편집 방법을 알려주는 하네스를 LLM과 결합합니다.

AI 제품 책임자인 Aleks Mistratov는 Descript가 YouTube 크리에이터 영상, 사람이 말하는 마케팅 영상, 영상 팟캐스트처럼 화자가 등장하는 영상에 특화되어 있다고 말합니다. 공통점은 서사와 대본 중심의 콘텐츠라는 점이며, 모델이 이를 얼마나 잘 처리하는지는 공개 벤치마크로 알 수 없습니다.

Descript는 OpenAI, Anthropic, Google과의 직접 연동 세 가지를 유지하고 있었습니다. 이들 간의 대체 로직은 팀이 직접 작성하고 관리하는 코드였으며, GPT 요청이 실패하면 Anthropic 모델이 대신 응답하는 식으로 모델을 교체하여 작동했습니다.

기술적 걸림돌은 매개변수의 변화였습니다. 모델 개발사마다 정보를 전달받는 방식이 달랐고, 새 버전이 나올 때마다 어떤 매개변수가 빠졌는지, 어떤 매개변수가 새로 필수가 되었는지, 어떤 매개변수가 더 이상 지원되지 않는지 확인해야 했습니다. 새 모델을 도입하는 데는 최소 두어 시간이 걸렸으며, 대부분의 시간은 무엇이 작동하지 않는지 디버깅하는 데 쓰였습니다.

조직적 걸림돌은 더 컸습니다. 새 모델을 테스트하려는 사람과 모델을 추가할 수 있는 사람이 달랐기 때문에, 테스트를 하려면 엔지니어의 일정에서 시간을 확보해야 했습니다. 누군가 작업에 착수하기까지 며칠이 지나곤 했습니다. 작업 자체는 늘 두어 시간이면 끝났습니다. 엔지니어의 작업 대기열에 그 시간을 확보하는 과정 때문에, 유망한 모델을 검토할 가치가 있는지 알아보려던 질문은 그 가치를 판단하기까지 일주일을 기다려야 하는 일이 되었습니다.

Descript가 Claude를 사용해 보기로 했을 당시 사실상 하나의 모델만 서비스하고 있었으며, 두 번째 모델은 OpenRouter를 통해 도입되었습니다.

2026년 8월 기준 프로덕션에서는 네 모델 개발사의 모델 13개를 실행하고 있습니다:

• Anthropic: Fable 5, Opus 5, Opus 4.8, Opus 4.7, Opus 4.6, Sonnet 5, Sonnet 4.6, Haiku 4.5
• Google: Gemini 3.1 Pro, Gemini 3.5 Flash
• OpenAI: GPT-5.4, GPT-5.5
• xAI: Grok 4.5

이 Anthropic 모델 중 다섯 개는 동시에 실행되는 최상위 버전입니다.

프로덕션은 세 개의 직접 연동에서 OpenRouter를 통한 하나의 연결로 전환되었습니다. Descript는 Anthropic의 초기 파트너이며 일부 사전 액세스 모델은 해당 API를 통해서만 사용할 수 있기 때문에 Anthropic 직접 연결도 계속 유지하고 있습니다. 이 경로는 프로덕션용이 아닙니다.

각 모델에는 추론 제공업체를 선택할 수 있는 옵션이 있으며, Descript는 이를 모델별로 구성합니다. OpenRouter는 각 제공업체의 처리량, 가동 시간, 비용을 제공하며, Descript는 이를 바탕으로 Sonnet 5에는 특정 제공업체를 우선 지정하고 Gemini에는 다른 순서를 적용하는 식으로 우선순위를 설정합니다. 데이터 보존 정책도 같은 결정에 반영되며, Descript는 자사 정책을 준수하는 추론 제공업체로만 라우팅합니다.

두 번째 유형의 대체 라우팅도 이 계층에서 이루어집니다. Descript의 기존 로직은 모델을 교체했습니다. OpenRouter의 로직은 모델을 그대로 유지하면서 추론 제공업체를 교체하므로, 한 호스트에 장애가 발생해도 응답하는 모델은 바뀌지 않습니다.

팀은 오픈 웨이트 모델의 전용 배포를 위해 자체 키를 Baseten에 사용합니다. OpenRouter는 해당 모델의 기본 제공업체인 Baseten으로 라우팅하며, 다른 제공업체는 같은 모델의 대체 제공업체로 구성되어 있고 모두 위의 정책 제약을 준수합니다. Descript는 직접적인 상업 관계와 자체 키를 유지하면서도 단일 제공업체의 속도 제한과 서비스 중단에 대비할 수 있습니다.

Descript는 이제 일주일에 여러 차례 모델을 평가합니다. 대부분의 모델은 프로덕션에 도입되지 않으며, 그것이 바로 목적입니다.

Mistratov는 이 과정을 이렇게 설명합니다. 산책 중에 새 모델 출시 공지를 보면 OpenRouter의 해당 모델 링크와 함께 Slack에 평가를 요청하는 글을 올립니다. 한두 시간 뒤면 Descript 자체 하네스에서 평가가 완료됩니다.

이를 가능하게 하는 것은 Anthropic의 Slack 통합인 Claude Tag로, Descript는 이 반복 작업을 위한 스킬 세트와 함께 이를 채널에 설정했습니다. 평가를 실행하고, Descript 하네스에 모델을 추가하는 풀 리퀘스트를 연 다음, 모델을 기능 플래그 뒤에 배치하는 두 번째 풀 리퀘스트를 엽니다. 사람이 이를 검토하고 승인합니다.

OpenRouter는 이러한 평가를 엔지니어의 작업 대기열에 올려놓게 했던 모델별 통합 작업을 없앴습니다. Descript 자체 에이전트와 하네스가 해당 인터페이스를 둘러싼 모든 작업을 자동화합니다. 이제 이 작업을 누구에게도 배정할 필요가 없습니다.

최근 Anthropic 모델 출시 때는 발표부터 실제 서비스 적용까지 두어 시간이 걸렸습니다. 남아 있는 단계는 내부 평가, 기존 모델보다 우수한지 판단, 모델 선택기 구성, 기능 플래그 설정, 배포 등 Descript 자체 작업입니다. 에이전트 팀의 하네스와 평가를 담당하는 David Dodero는 남은 작업 대부분이 모델 연결보다는 Descript의 코드 구조에서 비롯되며, 내부 구성을 다르게 했다면 더 수월했을 것이라고 설명했습니다.

Descript AI Enablement 팀의 기술 리드인 Keith Simmons는 최상위 모델의 비용이 문제가 되는 상황을 지켜보고 있었으며, 오픈 웨이트 모델이 워낙 빠르게 출시되고 있어 이 중 Descript 자체 테스트 케이스를 통과하는 모델이 있는지만 확인하면 됐습니다. 일주일에 여러 차례 이를 확인하는 과정에서 Baseten 배포 환경의 오픈 웨이트 모델을 발견했습니다. Simmons에 따르면 이러한 프로세스에 힘입어 Descript의 전체 모델 지출은 이전의 절반 미만으로 줄었으며, Descript 자체 테스트 케이스에서 품질도 유지됐습니다.

Simmons는 처음에 라우팅을 Descript가 엔지니어링 시간을 들여서는 안 되는 작업으로 여겼습니다. 이제는 생각이 달라졌습니다.

대체 라우팅이 작동하면 팀은 나중에 로그를 읽고서야 알게 되거나, 전혀 알아차리지 못합니다.

Mistratov는 OpenRouter 로그에서 트래픽이 이동하는 모습을 확인할 수 있습니다. 트래픽이 적은 시기에는 기본 제공업체로, 트래픽이 급증하는 시기에는 429를 거쳐 차선책, 그다음 대안, 또 그다음 대안으로 이동하며, 사용자에게 제공되는 결과에는 거의 영향이 없습니다. 누군가 Slack에 Claude 상태 페이지의 스크린샷을 올리며 Descript도 영향을 받는지 물으면, Claude 트래픽이 다른 추론 제공업체인 Vertex AI로 이동하므로 답은 아니요입니다. Simmons는 이런 시간대에 팀이 Claude Code를 사용할 수는 없지만 Underlord는 계속 작동한다고 말합니다.

장애가 없는 동안에도 이러한 양상은 이어집니다.

Descript가 Baseten 배포를 구축하던 중에도 마찬가지였습니다.

이 연결을 사용하는 것은 에이전트 팀만이 아닙니다. Media Understanding 팀은 콘텐츠를 분석하기 위해 업로드된 동영상을 OpenRouter를 통해 Gemini로 라우팅하고 있으며, Google은 이 팀이 사용하는 버전의 지원을 중단할 예정이라고 발표했습니다. 다른 버전으로 전환하는 일은 프로젝트가 아니라 설정 변경으로 끝납니다.

또 다른 팀은 기존 연결을 사용해 에이전트 팀이 프로덕션에서 실행하지 않는 모델을 포함한 네 개에서 여섯 개의 모델로 시각적 레이아웃 생성 프로토타입을 만들었습니다.

이는 이제 Mistratov가 자신에게 추론 서비스를 판매하려는 업체를 평가하는 방식에도 영향을 미칩니다.