红帽宣布收购人工智能初创公司Neural Magic
人工智能优化初创公司Neural Magic开发了一款软件,使得人工智能推理模型能够在通用CPU硬件上高效运行。
2024-11-14 17:01:52 |
作者:开源爱好者 |
来源:
红帽宣布收购人工智能初创公司Neural Magic
人工智能优化初创公司Neural Magic开发了一款软件,使得人工智能推理模型能够在通用CPU硬件上高效运行。
2024-11-14 17:01:52作者:开源爱好者
来源:
红帽宣布计划收购Neural Magic,这是一家专注于生成式人工智能性能工程、模型优化算法以及高性能GPU和CPU推理服务的公司。 Neural Magic于2018年在麻省理工学院(MIT)成立,提供可加速生成式人工智能推理工作负载的软件和算法。Neural Magic在大规模语言模型方面的专长,加上红帽在混合云上支持这些模型的能力,与红帽提出的让更多组织更容易获得通用人工智能(gen AI)的目标不谋而合。 红帽计划通过可在任何地方运行的开源许可模型来普及人工智能的力量。这将提升组织定制大规模语言模型的能力,利用推理性能工程提高基础设施效率,并在开源生态系统中建立合作伙伴关系,从而为硬件和芯片架构提供更广泛的选择。 红帽总裁兼CEO Matt Hicks在声明中表示:“人工智能工作负载需要在混合云中客户数据所在的任何地方运行;因此,灵活、标准化和开放的平台和工具必不可少,因为它们使组织能够选择与其独特的运营和数据需求最契合的环境、资源和架构。” |