SageMaker
亚马逊AWS提供的全托管机器学习平台,支持模型训练、部署和推理,可在企业VPC内运行,广泛用于生产级AI/ML工作负载
核心事实
时间轴 (近 90 天)
SageMaker Studio底层依托SageMaker的托管基础设施,可按需启动Notebook实例、训练作业和推理端点,并支持自动扩缩容。
SageMaker基于实例类型与运行时长计费,而非token数量。
该 MCP 服务器演示中包含六个推理后端:Amazon Bedrock、一个 SageMaker 端点、EC2 g6 上的 vLLM、g5g 上的推理服务,以及 Inferentia2 (inf2) 和 Trainium (trn1) 上的 Gemma 4 模型。
list_backends 一次调用在 0.78 秒内完成五个 AWS 查询(四个区域各一次 EC2 查询加一次 SageMaker 查询),每个运行中的实例额外增加一次 SSM 查询。
SageMaker每Token成本约为$3.24,是g6的$1.69的两倍。
SageMaker跑在与g6完全相同的L4 GPU和相同权重上,每个请求比g6多出约0.24秒的托管路径开销(87个Token在g6上耗时0.660秒,在SageMaker上耗时0.902秒)。
使用Strands的BedrockModel接入Bedrock只需少量代码,而SageMaker需要create-model、create-endpoint-config、create-endpoint三次API调用,且实测端点部署到InService耗时约9分钟。
SageMaker和Vertex AI等云平台托管服务功能强大,但学习曲线和成本对个人开发者不友好
AI Agent主流部署路径包括本地部署开源模型、AWS云端自建部署、托管API服务三种方案
S3 API 催生了大量工具链,包括 AWS CLI、各语言 SDK、s3cmd、rclone 等
还有 1 条时间轴事件
全部知识事实 (11)
对于高频使用场景,API 按量计费往往比订阅制更具成本可预测性
75%待验证S3 API 催生了大量工具链,包括 AWS CLI、各语言 SDK、s3cmd、rclone 等
60%待验证SageMaker Studio底层依托SageMaker的托管基础设施,可按需启动Notebook实例、训练作业和推理端点,并支持自动扩缩容。
50%待验证SageMaker基于实例类型与运行时长计费,而非token数量。
50%待验证该 MCP 服务器演示中包含六个推理后端:Amazon Bedrock、一个 SageMaker 端点、EC2 g6 上的 vLLM、g5g 上的推理服务,以及 Inferentia2 (inf2) 和 Trainium (trn1) 上的 Gemma 4 模型。
50%待验证list_backends 一次调用在 0.78 秒内完成五个 AWS 查询(四个区域各一次 EC2 查询加一次 SageMaker 查询),每个运行中的实例额外增加一次 SSM 查询。
50%待验证SageMaker跑在与g6完全相同的L4 GPU和相同权重上,每个请求比g6多出约0.24秒的托管路径开销(87个Token在g6上耗时0.660秒,在SageMaker上耗时0.902秒)。
50%待验证使用Strands的BedrockModel接入Bedrock只需少量代码,而SageMaker需要create-model、create-endpoint-config、create-endpoint三次API调用,且实测端点部署到InService耗时约9分钟。
50%待验证SageMaker和Vertex AI等云平台托管服务功能强大,但学习曲线和成本对个人开发者不友好
50%待验证AI Agent主流部署路径包括本地部署开源模型、AWS云端自建部署、托管API服务三种方案
50%待验证SageMaker更适合已进入规模化训练/推理、需要托管端点与模型版本管理的阶段,在MVP阶段引入会带来不必要的复杂度
50%