亚马逊云科技不断完善机器学习相关服务和功能

在底层 AI 基础设施层面,亚马逊云科技在机器学习底层的框架和基础架构领域,全面提供基于各芯片供应商的最新技术选项和从小到大的各种配置,支持市面上流行的各种机器学习框架和算法。
硬件设备 亚马逊 AWS
2023-03-21 07:10:20  |   作者:admin  |   来源:转载 亚马逊云科技

亚马逊云科技不断完善机器学习相关服务和功能

在底层 AI 基础设施层面,亚马逊云科技在机器学习底层的框架和基础架构领域,全面提供基于各芯片供应商的最新技术选项和从小到大的各种配置,支持市面上流行的各种机器学习框架和算法。
硬件设备 亚马逊 AWS
2023-03-21 07:10:20
作者:admin
来源:转载 亚马逊云科技

在底层 AI 基础设施层面,亚马逊云科技在机器学习底层的框架和基础架构领域,全面提供基于各芯片供应商的最新技术选项和从小到大的各种配置,支持市面上流行的各种机器学习框架和算法。同时,为了不断向客户提供更好性价比的算力,亚马逊云科技自主设计芯片,推出了高性能机器习训练芯片 Amazon Trainium 和第二代高性能机器学习推理芯片 Amazon Inferentia2,并在刚刚过去的 re:Invent 2022上发布了采用上述自研芯片的最新实例。采用 Amazon Trainium 芯片的 Amazon Elastic Compute Cloud  (Amazon EC2) Trn1n 网络优化型训练实例,可提供 1600Gbps 网络带宽,有助于实现超大模型的并行训练;采用 Amazon Inferentia2 芯片的 Amazon EC2 Inf2 推理实例,专为运行大型深度学习模型而构建,单实例可支持多达1,750亿参数模型的推理,并且支持分布式推理,与当前一代实例相比可提供高达4倍的吞吐量,降低多达10倍的延迟。

20230321-1.jpg

在中间层的 AI 平台层面,亚马逊云科技不断完善机器学习相关服务和功能,在机器学习数据准备、数据源、数据可视化等方面提供大量创新服务,其中核心产品 Amazon SageMaker 在推出的五年时间里提供超过290项新功能与新特性。机器学习数据标注服务 Amazon SageMaker Ground Truth 新增的合成数据(图像)生成功能,让客户无需手动标注即可生成数十万计已标注的合成图像,有效提高了标注的准确性,并能够快速获取高质量的训练数据集。在 2022 re:Invent 上,亚马逊云科技还推出了 Amazon SageMaker 的八项新功能,其中,Amazon SageMaker Studio Notebook 推出了全新设计的用户界面,新增了可视化的数据准备功能和实时协作功能,同时也支持了将 Notebook 代码自动转换为生产就绪的作业,实现在生产环境的自动化运行,加速机器学习实验到生产的过程。除此之外,亚马逊云科技还为机器学习数据准备工具 Amazon SageMaker Data Wrangler 新增了40多个数据源,进一步提升了平台的易用性。

在上层的人工智能服务层面,亚马逊云科技为没有机器学习专业知识和技能的客户提供开箱即用的人工智能服务,这些服务覆盖了文本分析、代码检查、聊天机器人、需求预测、文档分析、企业搜索、反欺诈、图像视频分析、个性化推荐、实时翻译、文本语音转换、转录等各种功能,可以迅速开发成为面向各种具体应用场景的 AI 解决方案。其中,构建个性化推荐系统的完全托管型机器学习服务 Amazon Personalize,自动语音识别(ASR)服务 Amazon Transcribe 等多项新服务及功能,均已在中国区域(西云数据运营宁夏区域、光环新网运营北京区域)推出。

数智融合的趋势下,如何为 AI/ML 提供高效简洁的统一数据治理成为考验 AI 开发平台软实力的重要一环,亚马逊云科技推出的“智能湖仓架构”融合了机器学习平台与数据管理平台,为开发者提供数智融合、统一治理的便捷体验。Amazon Redshift ML 和 Amazon Athena ML 功能均支持以 SQL 语句的方式,直接利用数据仓库或数据库中的数据发起模型训练请求,通过 Amazon SageMaker 内置的 AutoML 能力提供模型训练,并以 SQL 语句返回。最新发布的 Amazon SageMaker ML Governance 新增3项模型治理功能,可以帮助客户更轻松控制访问权限,以及在整个机器学习生命周期中记录和审查模型信息,并通过 Model Dashboard 集中界面来跟踪和监控模型上线后的性能。