[控场AI]
产品Together GPU集群

Together GPU Clusters

Together AI提供的GPU集群服务,支持大规模训练任务,具备节点自动修复、按故障类型和Xid代码精细控制等运维能力

时间轴 (近 90 天)

10月27日

Together GPU Clusters 推出了自动修复功能,目标让故障节点尽可能自动回到健康状态,同时把修复决策权交给用户。

待验证50%
10月27日

该自动修复系统覆盖三类故障源:GPU本身、宿主机(host)以及集群网络(fabric)。

待验证50%
10月27日

系统检测到问题后选择“最轻的修复动作”(the lightest fix),按故障严重程度逐级升级修复手段,而非一律采用最重的修复手段。

待验证50%
10月27日

用户可以针对每一类故障、每一个Xid错误代码,单独决定是否启用自动修复。

待验证50%
10月27日

Together此次公布的信息聚焦于机制本身,具体的修复动作清单和Xid覆盖范围还有待更详细的文档说明。

待验证50%
10月4日

Together GPU Clusters 宣布支持可抢占计算(preemptible compute),以按需价格的固定五折提供同等的 GPU 算力

待验证50%

全部知识事实 (6)

来源文章