[控场AI]
概念Tokens Per Minute

TPM

每分钟Token数,LLM API速率限制的核心维度之一,衡量滚动60秒窗口内所有并发请求处理的输入和输出Token总量

时间轴 (近 90 天)

10月16日

签名迁移比密钥交换更困难,原因包括尺寸问题、信任锚点、长寿命签名产物和硬件限制。

待验证50%
10月15日

免费 LLM API 的 429 限流通常同时在 RPM、TPM、RPD 和并发数四个维度上计量,不同维度需要不同的修复策略。

待验证50%
10月15日

RPM 和 TPM 是模型 API 限流的两个正交维度:RPM 约束调用频次,与请求体大小无关;TPM 约束单位时间内消耗的 Token 总量,二者同时生效,任一先触顶即返回 429。

待验证50%
10月15日

Gemini强制执行RPM、TPM和每日RPD配额,付费层还有滚动10分钟消费限额

待验证50%
10月15日

OpenAI API按模型系列衡量RPM和合并TPM,并在请求时检查估算的提示Token加上请求的max_tokens是否在剩余TPM池内

待验证50%
10月15日

现代LLM速率限制是多维度吞吐量约束,同时评估RPM、TPM、RPD和TPD/消费限额,任一维度触顶即返回HTTP 429

待验证50%
10月14日

HSM 是独立的专用安全芯片,常见于手机的安全元件、笔记本的 TPM 模块以及外接硬件密钥。

待验证50%
10月4日

DMCA 第1201条禁止规避有效的技术保护措施(TPM),主机厂商的加密与签名机制通常被认定为 TPM

待验证50%
9月17日

AI API提供商通常从RPM(每分钟请求次数)和TPM(每分钟处理的Token总量)两个维度设定限制

待验证50%
9月11日

主流模型供应商按TPM或RPM设置配额上限,超出后返回429错误

待验证50%

全部知识事实 (10)

来源文章