Amazon SageMaker
亚马逊AWS提供的全托管机器学习平台,支持模型训练、调优、部署全流程,提供强化学习训练管线、算力调度和环境编排能力
时间轴 (近 90 天)
SageMaker将训练任务从Notebook中剥离,使用托管计算资源单独执行,使Notebook回归探索工具定位。
SageMaker提供了Data Wrangler工具来辅助数据清洗和特征工程。
批量推理(Batch Transform)不常驻服务,对一批数据一次性完成推理后释放资源,适合离线打分、周期性报表等场景,成本通常更低。
实时推理(Real-time Inference)提供常驻的HTTPS端点,适合低延迟、持续在线的在线预测场景。
SageMaker通过推理端点(Endpoint)实现应用发送请求、端点调用模型并返回预测结果的交互。
模型血缘信息在SageMaker中可以通过SageMaker Lineage与Experiments等能力与训练任务、模型工件关联。
SageMaker模型注册表(Model Registry)允许团队对模型版本进行标注、审批和状态管理。
SageMaker训练任务产出的模型工件存储在S3中。
ChurnWatch 使用 Amazon S3 存储训练数据集,使用 Amazon SageMaker 训练流失预测模型,使用 Python 脚本以 PSI 进行漂移检测,使用 Amazon CloudWatch 进行指标监控。
SageMaker Model Monitor 服务用于持续检测数据漂移和模型质量偏移。
还有 8 条时间轴事件
全部知识事实 (18)
SageMaker将训练任务从Notebook中剥离,使用托管计算资源单独执行,使Notebook回归探索工具定位。
50%待验证SageMaker提供了Data Wrangler工具来辅助数据清洗和特征工程。
50%待验证批量推理(Batch Transform)不常驻服务,对一批数据一次性完成推理后释放资源,适合离线打分、周期性报表等场景,成本通常更低。
50%待验证实时推理(Real-time Inference)提供常驻的HTTPS端点,适合低延迟、持续在线的在线预测场景。
50%待验证SageMaker通过推理端点(Endpoint)实现应用发送请求、端点调用模型并返回预测结果的交互。
50%待验证模型血缘信息在SageMaker中可以通过SageMaker Lineage与Experiments等能力与训练任务、模型工件关联。
50%待验证SageMaker模型注册表(Model Registry)允许团队对模型版本进行标注、审批和状态管理。
50%待验证SageMaker训练任务产出的模型工件存储在S3中。
50%待验证ChurnWatch 使用 Amazon S3 存储训练数据集,使用 Amazon SageMaker 训练流失预测模型,使用 Python 脚本以 PSI 进行漂移检测,使用 Amazon CloudWatch 进行指标监控。
50%待验证SageMaker Model Monitor 服务用于持续检测数据漂移和模型质量偏移。
50%待验证SageMaker 作为 AWS 生态内的服务,优势在于和存储、计算、权限体系的集成比较自然;如果团队已经在用 AWS,迁移成本相对可控;如果技术栈不在 AWS 上,则需要评估集成成本。
50%待验证无服务器推理(Serverless Inference)适合流量稀疏或突发性的场景,按调用次数计费。
50%待验证SageMaker 提供实验追踪能力,把不同训练运行的超参数、指标、产物关联起来。
50%待验证SageMaker 提供托管式训练环境,支持自带容器或内置算法;训练任务可按需启动计算资源,任务结束后自动释放。
50%待验证Amazon SageMaker 覆盖数据标注、分布式训练、超参数调优到模型托管的完整流程
50%待验证典型云端 GenAI 工作流为:数据存入 S3 清洗格式化、评估 Bedrock 现成模型、在 SageMaker 提交分布式训练、封装为推理端点配合自动扩缩容、持续监控迭代
50%待验证对于可断点续训的分布式训练任务,配合 SageMaker 的检查点保存功能,使用竞价实例是压缩训练成本的有效手段
50%待验证Amazon SageMaker 推出了名为 aws-ai-ml 的新能力,通过 Agent Toolkit for AWS 向编码智能体开放
50%