TPM
每分钟Token数,LLM API速率限制的核心维度之一,衡量滚动60秒窗口内所有并发请求处理的输入和输出Token总量
时间轴 (近 90 天)
签名迁移比密钥交换更困难,原因包括尺寸问题、信任锚点、长寿命签名产物和硬件限制。
免费 LLM API 的 429 限流通常同时在 RPM、TPM、RPD 和并发数四个维度上计量,不同维度需要不同的修复策略。
RPM 和 TPM 是模型 API 限流的两个正交维度:RPM 约束调用频次,与请求体大小无关;TPM 约束单位时间内消耗的 Token 总量,二者同时生效,任一先触顶即返回 429。
Gemini强制执行RPM、TPM和每日RPD配额,付费层还有滚动10分钟消费限额
OpenAI API按模型系列衡量RPM和合并TPM,并在请求时检查估算的提示Token加上请求的max_tokens是否在剩余TPM池内
现代LLM速率限制是多维度吞吐量约束,同时评估RPM、TPM、RPD和TPD/消费限额,任一维度触顶即返回HTTP 429
HSM 是独立的专用安全芯片,常见于手机的安全元件、笔记本的 TPM 模块以及外接硬件密钥。
DMCA 第1201条禁止规避有效的技术保护措施(TPM),主机厂商的加密与签名机制通常被认定为 TPM
AI API提供商通常从RPM(每分钟请求次数)和TPM(每分钟处理的Token总量)两个维度设定限制
主流模型供应商按TPM或RPM设置配额上限,超出后返回429错误
全部知识事实 (10)
签名迁移比密钥交换更困难,原因包括尺寸问题、信任锚点、长寿命签名产物和硬件限制。
50%待验证免费 LLM API 的 429 限流通常同时在 RPM、TPM、RPD 和并发数四个维度上计量,不同维度需要不同的修复策略。
50%待验证RPM 和 TPM 是模型 API 限流的两个正交维度:RPM 约束调用频次,与请求体大小无关;TPM 约束单位时间内消耗的 Token 总量,二者同时生效,任一先触顶即返回 429。
50%待验证Gemini强制执行RPM、TPM和每日RPD配额,付费层还有滚动10分钟消费限额
50%待验证OpenAI API按模型系列衡量RPM和合并TPM,并在请求时检查估算的提示Token加上请求的max_tokens是否在剩余TPM池内
50%待验证现代LLM速率限制是多维度吞吐量约束,同时评估RPM、TPM、RPD和TPD/消费限额,任一维度触顶即返回HTTP 429
50%待验证HSM 是独立的专用安全芯片,常见于手机的安全元件、笔记本的 TPM 模块以及外接硬件密钥。
50%待验证DMCA 第1201条禁止规避有效的技术保护措施(TPM),主机厂商的加密与签名机制通常被认定为 TPM
50%待验证AI API提供商通常从RPM(每分钟请求次数)和TPM(每分钟处理的Token总量)两个维度设定限制
50%待验证主流模型供应商按TPM或RPM设置配额上限,超出后返回429错误
50%