Auto、TokenLab Verified 或 Official:如何选择交付层级

CryptoCrypto
·2026年9月19日·约 6 分钟阅读·更新 2026年9月19日·17 次浏览
#产品#定价#交付#API网关
Auto、TokenLab Verified 或 Official:如何选择交付层级

当我们发现一条意料之外的路由时,模型名称并不是有用的线索,交付层级(delivery tier)才是。即使逻辑模型保持不变,服务请求的路由也可能改变价格适用性。这种不匹配正是我们将交付层级视为路由决策而非质量标签的原因。当价格适用性和路由需要明确时,它至关重要。而当您的默认策略已经符合您的风险和成本目标时,它的重要性则较低。

关键要点

  • 请求可以通过 official(官方)路由或 verified(验证)路由提供服务。选择结果会记录在每个请求的 resolvedDeliveryTier 中(值为 verifiedofficial,若记录早于此功能则为 null)。
  • auto 是默认策略,而非第三种路由类型。它保留可达路径,并在分发前估算请求可能产生的最高费用。
  • 工作区和 API-key 策略继承是常规设置。在 2026-09-11 的生产环境回读中,5,536 个工作区拥有明确的 Auto 策略,217 个继承了系统默认值,所有 4,134 个 API key 均继承自其所属工作区。该周后期的回读显示有 219 个继承。明确设置的数量保持不变,因为那些继承策略的工作区是尚未设置策略的新建账户。这些数据来自内部发布排练记录中记录的 TokenLab 2.0 发布回读(观察于 2026-09-11);请将其视为内部生产回读,而非公开基准测试。
  • Official 定价适用性要求精确匹配 Official 路由。当没有 Official 路由匹配时,Verified 交付仍然可用。
  • 您可以通过 X-TokenLab-Delivery-Policy 请求头覆盖每个请求的交付选择。工作区默认设置涵盖了常见情况。

三种交付层级选项的实际含义

通道将交付层级声明为 VERIFIEDOFFICIAL。只有具有活跃公共交付层级的通道才能绑定到组织模型绑定。工作区可以将逻辑模型绑定到特定通道。除非该通道处于活跃状态、未被删除且声明了活跃的公共交付层级,否则该绑定将被拒绝。该通道上必须同时启用该模型的路由。

Official 意味着路由由官方提供商路径提供服务,而 Verified 意味着由 TokenLab 验证的路径提供服务。Auto 是允许路由器在可达路由中进行选择的策略;当我们分发后检查请求时,resolvedDeliveryTier 会告诉我们是 verified 还是 official 提供了服务。如果记录早于此功能,该字段为 null。

选择交付层级后的变化

选择层级会改变价格适用性、单次请求记录以及分发前看到的估算值。定价可以通过组织级的交付价格调整规则按交付层级进行调整,该调整在应用前会经过标准化和验证。发布后,明确的 Verified 或 Official 选择将继续适用,而早于该策略的请求默认使用 Auto。

Auto 估算的是请求的最高金额,而不是单一价格。可能存在多条可达路由,但 Auto 会保留所有可达路由,不会为了降低估算值而剔除较昂贵的路由。在我们的流水线中,我们在分发前检查估算值,并在完成后检查 resolvedDeliveryTier

选项 优化目标 选择时机 事后可验证内容
Auto 可达路由和最高成本估算 您希望默认策略在可达路由中进行选择 resolvedDeliveryTier 显示服务该请求的路由
TokenLab Verified 当 Official 不可用或不需要时,访问 TokenLab 验证路径 您需要验证路由,或没有 Official 路由匹配 resolvedDeliveryTier 显示 verified
Official 精确匹配 Official 路由以获得官方定价适用性 您需要官方定价适用性 resolvedDeliveryTier 显示 official

团队通常如何配置交付层级策略

本节中的回读数据来自内部发布排练记录中记录的 TokenLab 2.0 发布回读(观察于 2026-09-11);请将其视为内部生产回读,而非公开基准测试。

默认设置是继承,而非针对每个请求进行操作。在 2026-09-11 的生产环境回读中,我们看到 5,536 个工作区有明确的 Auto 策略,另有 217 个继承了系统默认值。所有 4,134 个 API key 均继承自其工作区,因此旧客户端无需新请求头。这种模式是合理的,因为工作区策略涵盖了常见情况,而针对每个请求的覆盖仍然是例外。

同周后期的回读显示有 5,536 个明确设置和 219 个继承,明确设置的数量保持不变,而继承数量从 217 变为 219。那些继承的工作区是尚未设置策略的新建账户,因此这些数字会随着账户创建而变动。设置策略从未涉及迁移,发布时没有运行工作区或 key 策略的批量回填,继承的 key 也不需要客户端更改。

当工作区将逻辑模型绑定到特定通道时,绑定规则仍然适用。除非通道处于活跃状态、未被删除且声明了活跃的公共交付层级,否则绑定将被拒绝。该通道上必须存在该模型的已启用路由。通道只有在 Registry 声明为 ACTIVE 且其自身记录为 ACTIVE 且无删除时间戳时,才能绑定到组织模型绑定,因此暂停或退役的通道无法被固定。

将逻辑模型固定到特定通道是工作区无需触及单个请求即可表达“此模型始终使用 Official”的方式。早于交付策略的请求默认使用 Auto。无需更改客户端,发布时也没有执行工作区或 key 策略的批量回填。如需模型级上下文,请结合 模型数据中心指南 阅读。

如何检查哪个交付层级服务了请求

请求完成后,读取请求记录中的 resolvedDeliveryTier;其值为 verifiedofficial,null 值表示记录早于该字段。请求还携带 requestedDeliveryPolicy,它记录了调用者的要求,在应用工作区默认值时可为空。

要覆盖单个请求的层级,请添加 X-TokenLab-Delivery-Policy 请求头;接受的值为 autoverifiedofficial。以下是该请求头示例:

# 将此请求头添加到 Claude Sonnet 5 请求中
X-TokenLab-Delivery-Policy: verified

例如,此 cURL 调用针对 Claude Sonnet 5 并要求使用 official

curl https://api.tokenlab.sh/v1/chat/completions -H "Authorization: Bearer $TOKENLAB_API_KEY" -H "Content-Type: application/json" -H "X-TokenLab-Delivery-Policy: official" -d '{"model":"Claude Sonnet 5","messages":[{"role":"user","content":"Hello"}]}'

调用后,该请求的记录将携带:

{
  "requestedDeliveryPolicy": "official",
  "resolvedDeliveryTier": "official"
}

请求记录还包括使用情况字段,请求控制台指南 展示了该记录的位置以及当前的使用情况字段名称。

如果请求的层级没有已启用的路由,网关将返回 delivery_tier_unavailable,而不会静默回退到其他层级。请求控制台显示了该记录的位置,请求控制台指南 解释了如何找到它。当价格或路由看起来不符合预期时,我们从这里开始排查,因为控制台和请求证据可以显示哪个层级服务了流量。

当 Auto 选择的交付层级不符合预期时

当 Auto 选择的层级不符合预期时,请读取请求上的 resolvedDeliveryTier 并将其与您组织绑定的通道进行比较。然后,要么将模型绑定到您想要的通道,要么覆盖该请求的层级。这既保持了默认策略的简单性,又为您提供了一种纠正意外路由的具体方法。

限制

此处的数据是 2026-09-11 的时间点回读,数据会发生漂移。交付层级的可用性取决于您的模型和组织启用的路由。如果通道处于非活跃状态、已删除、缺乏活跃的公共交付层级或没有该模型的已启用路由,工作区绑定可能会被拒绝。按交付层级调整价格取决于您自己的组织规则。我们无法提供通用的比较,因为源数据不提供此类信息。交付决策是在路由选择后确定的,因此您获得的层级取决于当时为您组织启用的路由。

常见问题解答

Auto 实际上选择了什么?

Auto 是默认策略,而非第三种路由类型。它保留可达路径,并在分发前估算请求可能产生的最高费用。早于此策略的请求默认使用 Auto。分发后,resolvedDeliveryTier 会记录请求是通过 verified 还是 official 路由提供的服务。

为什么 Verified 路由的成本可能高于 Official 路由?

定价可以通过组织级的交付价格调整规则按交付层级进行调整。该调整在应用前会经过标准化和验证。因此,差异取决于您的配置,您应该检查分发前显示的价格。

我必须在每个请求上设置交付层级吗?

不需要。工作区和 API-key 策略继承是常规设置。在 2026-09-11 的生产环境回读中,5,536 个工作区有明确的 Auto 策略,217 个继承了系统默认值,所有 4,134 个 API key 均继承自其工作区。该周后期继承数量变为 219,因为创建了新账户。这些数据来自内部发布排练记录中记录的 TokenLab 2.0 发布回读(观察于 2026-09-11);请将其视为内部生产回读,而非公开基准测试。您可以覆盖每个请求的交付选择,但工作区默认设置涵盖了常见情况。

我如何知道哪个层级服务了已完成的请求?

读取请求记录中的 resolvedDeliveryTier。其值为 verifiedofficial,若记录早于该字段则为 null。requestedDeliveryPolicy 显示了调用者的要求,在应用工作区默认值时可为空。请求控制台和 请求控制台指南 展示了该记录的位置。

如果我请求一个没有已启用路由的层级会怎样?

网关将返回 delivery_tier_unavailable。它不会静默回退到其他层级。请阅读请求记录,然后启用匹配的路由或更改请求的策略。

创建一个 API key 并将您获得的层级与预期的层级进行比较;请求控制台指南 展示了该记录的位置。

来源

分享:

最近更新的模型

试试本文提到的模型

聊天、出图或做视频,共用同一份 TokenLab 余额。