gryphe/mythomax-l2-13b
One of the highest performing and most popular fine-tunes of Llama 2 13B, with rich descriptions and roleplay. #merge
不同公司托管同一个模型。OpenRouter 会根据您选择的路由模式,将您的请求路由到其中一家公司:Balanced(价格 + 速度)、Nitro(最快)或 Floor(最便宜)。
客户为此模型实际支付的平均价格,与提供商公布的价格并列展示。由于缓存和折扣,实际支付的价格往往远低于标价。
吞吐量是模型生成内容的速度(每秒 token 数,越高越好)。延迟是完整的往返时间(越低越好)。TTFT 是首个 token 的响应时间,即您看到内容出现前需要等待的时间(越低越好)。
正常运行时间是指过去 3 天中至少有一家提供商响应请求的时间百分比。可用性是指成功提供推理服务的时间百分比。OpenRouter 会持续监控,并在某家提供商返回错误时使用次优提供商。
向此模型发送最多流量的公开应用。这能很好地反映实际生产工作负载的情况,也能提示此模型最适合哪些用例。
此模型的 token 用量和请求流量随时间的变化。
可直接用于调用此模型的代码。OpenRouter 的 API 与 OpenAI 兼容——大多数 SDK 只需替换基础 URL 即可使用。切换模型时,唯一需要更改的是下方的模型标识符。
目前无法通过 EU 区域内路由使用。 区域内路由文档
P50,所有提供商中最佳
P50,最佳提供商
当上游提供商发生错误时,如果您的请求筛选条件允许,我们可以通过路由到另一家健康的提供商来恢复服务。您可以通过以下接口以编程方式访问各提供商的正常运行时间数据: 端点 API。了解更多有关我们的 负载均衡和提供商路由选项。
MythoMax 13B 的费用为 US$0.08/百万输入 token 和 US$0.11/百万输出 token。
MythoMax 13B 的上下文窗口为 8,192 个 token。它最多支持 4,096 个补全 token。
不支持。MythoMax 13B 不接受 tools,因此无法使用函数调用。 它还支持通过 response_format 中的 JSON schema 实现结构化输出。
tools
response_format
MythoMax 13B 在 OpenRouter 上由 2 家提供商提供服务:Parasail和Mancer。请求会路由至当前可用的最佳提供商,并在故障时自动切换至其他提供商,您也可以通过提供商路由固定或排除提供商。
MythoMax 13B 于 2023年7月2日 发布。其知识截止日期为 2023年6月30日。
From the creator of MythoMax, merges a suite of models to reduce word anticipation, ministrations, and other undesirable words in ChatGPT roleplaying data.
It combines Neural Chat 7B, Airoboros 7b, Toppy M 7B, Zepher 7b beta, Nous Capybara 34B, OpenHeremes 2.5, and many others.
#merge