Amazon SageMaker 与 Hugging Face 推出一键深度链接 让模型部署即点即用

2 阅读4分钟应用
Amazon SageMaker 与 Hugging Face 推出一键深度链接 让模型部署即点即用

背景与动机

传统的模型研发流程往往需要在多个平台之间切换:先在 Hugging Face Hub 浏览模型,再手动在 AWS 控制台创建 SageMaker 域、配置 IAM 权限、检查 GPU 配额,最后才能开始微调或部署。繁琐的步骤极大拖慢了从灵感到实验的速度。为了解决这一痛点,AWS 与 Hugging Face 合作推出“一键深度链接”功能,让模型即点即入 SageMaker Studio 工作流。

关键功能

  • 深度链接按钮:在 Hugging Face 支持的模型页面出现 Customize on SageMaker AIDeploy on SageMaker AI 两个按钮,分别对应微调和部署流程。点击后直接跳转至 SageMaker Studio 对应页面,模型已预加载。
  • 预配置权限:系统自动创建并附加 AmazonSageMakerModelCustomizationCoreAccess 托管策略,覆盖 SFT、DPO、RLVR、RLAIF 等全链路训练与部署所需权限,免除手动 IAM 配置。
  • GPU 配额可视化:在实例选择列表中实时显示当前账户的 GPU 配额,可直接跳转至 Service Quotas 页面请求提升,避免二次切换。
  • 统一上下文:模型信息在跳转后保持不变,用户无需再次搜索模型即可继续操作。

使用步骤

  1. 发现模型:在 Hugging Face Hub 浏览或搜索所需模型。支持的模型页面会出现上述按钮。
  2. 登录 AWS:若已登录 AWS 控制台,则自动跳过;否则弹出单点登录窗口。
  3. 进入 SageMaker Studio:系统自动创建新域(若不存在),并打开模型微调或部署页面,模型已在左侧资源树中选中。
  4. 配置并启动:填写训练数据、超参数或选择部署实例类型,点击提交即可启动微调或部署任务。
  5. 测试推理:部署完成后,可在 Studio 内置的端点测试界面直接发送推理请求验证效果。

“从 Hugging Face 直接进入 SageMaker Studio 的单击体验,填补了开源模型在企业云端落地的最后一公里。” — Mark McQuade, Arcee AI 创始人兼 CEO

行业意义

  • 加速创新:研发人员可以在发现模型的瞬间进入实验环境,极大缩短 PoC(概念验证)周期。
  • 降低门槛:免除 IAM、配额等运维细节,让中小企业和独立开发者也能在 AWS 上安全、合规地使用开源模型。
  • 促进模型所有权:Arcee 等公司强调“开放权重自行掌控”,该集成让企业在自有云中完整掌控模型全生命周期,符合数据合规和安全要求。
  • 生态联动:此举进一步巩固了 Hugging Face 作为模型库中心的地位,也提升了 SageMaker 在端到端 AI 开发平台的竞争力。

快速上手

  • 访问 Hugging Face Hub,搜索任意支持的模型。
  • 点击 Customize on SageMaker AIDeploy on SageMaker AI 按钮。
  • 按提示完成登录、配置,即可在 SageMaker Studio 中开始微调或部署。

通过“一键深度链接”,模型研发从发现到落地的全链路已实现无缝衔接,AI 开发者的工作流进入全新效率时代。

本文是对第三方新闻源的主观解读。消息可能出现过时、不准确、歧义或错误的地方,仅供参考使用。点击此处查看消息源。