商用大模型面临 3 大挑战:成本高昂、定价不透明、开源大模型冲击

在企业广泛采用 LLM 之前,必须解决三个关键问题:高昂的LLM 开发和训练成本、定价缺乏透明度以及开源 LLM 对商业 LLM 的冲击。
2023-12-01 16:59:02  |   作者:开源爱好者  |   来源:

商用大模型面临 3 大挑战:成本高昂、定价不透明、开源大模型冲击

在企业广泛采用 LLM 之前,必须解决三个关键问题:高昂的LLM 开发和训练成本、定价缺乏透明度以及开源 LLM 对商业 LLM 的冲击。
2023-12-01 16:59:02
作者:开源爱好者
来源:

高昂的开发和训练成本,以及缺乏价格透明度,使许多公司对商用大型语言模型望而却步。开源模型可以改变这种状况。

图片12.jpg

大型语言模型(LLM)可以理解和生成人类语言。这些生成式人工智能工具功能强大且广受欢迎,根据最近的《未来商业》报告,超过 90% 的零售和电子商务领导者表示正使用它们来协助完成工作任务。

例如,LLM 可以为不同类型的客户(如对可持续性、价格或款式感兴趣的客户)生成不同版本的产品描述,帮助电子商务企业实现个性化互动,从而增加收入。2022 年,LLM 的估值达到 105 亿美元,专家预测到 2029 年,其估值将达到 408 亿美元。

然而,在企业广泛采用 LLM 之前,必须解决三个关键问题:高昂的LLM 开发和训练成本、定价缺乏透明度以及开源 LLM 对商业 LLM 的冲击。LLM炒作得热火朝天,但只有拥有大量现金储备的公司才有能力运行LLM,即便在早期阶段出现亏损也在所不惜。

挑战 1:开发和训练成本高昂

开发和训练 LLM 所需的大笔资金让企业难以证明其投资的合理性。LLM 需要大量的数据和计算能力来进行训练,这在运营预算中非常突出。例如,市场上常用的 GPT-3 就花费了 OpenAI 460 多万美元进行训练。

一直以来,部署和训练 LLM 的成本都很高,需要专门的硬件和软件。自己部署和训练一个基本的LLM可能需要花费大约 6 万美元,历时 5 年,然而对于某些应用还不适用。可扩展性更强的部署成本可能接近 9.5万美元。此外,聘请数据科学家和支持人员、构建合适的执行环境以及长期维护 LLM 也需要费用。项目的方方面面都需要钱,这些都需要投资方确认以避免意外的长期成本。

如今,部署和训练 LLM 的成本仍然很高,不过,正在变得越来越经济实惠,也越来越容易获得。预算有限的小公司一直难以获得 LLM,OpenAI 等公司通过提供其 API 模式的软件即服务(SaaS)版本,使 LLM 变得更加经济实惠和容易获得。这意味着企业无需购买和维护自己的硬件和软件,就能使用这些强大的语言模型。它们只需订购该服务,即可在线接入。

由于大多数公司使用“微调”而不是从头开始训练,因此现在的训练成本也更低。微调是一种允许公司在自己的数据上训练大型语言基础模型的技术,这比从头开始训练要便宜得多。微调只需要在新数据上训练 LLM,而不是从头开始训练整个模型。在这种情况下,LLM 已经了解基本的语言模式,为公司节省了时间和金钱。

开发和训练 LLM 的高昂成本阻碍了许多中小型企业的进入。因此,除了有资金在这项技术上投入巨资的大公司外,其他公司采用 LLM 的速度都放缓了。不过,得益于 OpenAI 等公司和微调等策略,部署和训练 LLM 的成本越来越低,也越来越容易获得。

挑战 2:缺乏定价透明度

即使独立软件供应商(ISV)目前采用按查询付费的定价模式,而最终用户则采用订阅系统,但缺乏定价透明度仍然是中小型企业(SMB)获取 LLM 的一大挑战。LLM 的定价可能因多种因素而异,如模型的大小和复杂程度、训练数据量以及提供的具体功能。这些因素会使中小企业难以比较不同 LLM 提供商的定价,并选择最适合自己需求的方案。

有些 LLM 提供商甚至可能不会事先披露其定价,这就使得中小企业在签订合同之前难以准确地为 LLM 做出预算。即使采用按查询付费和订阅定价模式,企业主可能仍会觉得价格过高,尤其是预算有限的小企业。

中小企业拥有LLM可能面临的其他障碍包括:

●  难以理解 LLM 的定价: 对于不具备人工智能和机器学习专业知识的中小企业来说,LLM 可能非常复杂且不透明,这使得选购最合适的 LLM 具有挑战性。

  隐性成本: 一些 LLM 提供商可能会收取隐藏费用,如配置费、维护费和超时费。

  长期合同:一些本地化服务提供商强迫中小企业签订长期合同,这对于无法承受持续使用本地化服务的企业来说可能存在财务风险。

LLM 的定价没有标准,也无法预测,但有一点是肯定的:成本高昂。目前的情况对中小型电子商务企业的进入制造了障碍,最终阻碍了行业创新。

挑战 3:开源的影响

开源 LLM(如 Llama 2 和 Megatron-Turing NLG)可以使获取这一强大技术更容易。然而,如果开源 LLM 取得成功,它们可能会给寻求商业化的公司带来巨大障碍。

开源 LLM 对商业化提出了双重挑战。首先,它们提供了一种无成本的替代方案,使企业能够选择开源解决方案,而不是付费购买商业模式。其次,开源为开发直接与商业LLM竞争的新应用和服务提供了契机,比如人工智能驱动的聊天机器人、翻译工具和代码生成工具。

开源软件在其他行业也有成功的记录。例如,开源 Linux 操作系统和 Apache 网络服务器已成为各自市场的主导者。不断壮大的开发人员和研究人员社区正在以惊人的速度产生新的想法和创新。算力的成本也在稳步下降,使 LLM 的商用更加经济实惠。

需要注意的是:开源 LLM 缺乏标准化,因此企业很难根据自身需求选择合适的 LLM 并将其集成到现有系统中。由于开源 LLM 通常得不到商业供应商的支持,因此企业需要具备内部专业知识,或与第三方供应商合作进行维护和持续支持。

开源 LLM 的前景

尽管存在这些问题,开源 LLM 仍有助于推动创新和经济增长,但这需要时间,因为促进社区驱动的开发和解决关键的道德和隐私问题需要规划、协作和改进。企业已经在许多应用中使用开源 LLM:

  提供全天候支持并快速准确回答客户问题的客服聊天机器人。

  营销活动和生成个性化的营销文案,并更有效地针对特定受众投放广告。

  产品设计和开发系统,可生成新的产品创意和改进方案。

  代码生成,在提高代码质量的同时节省开发人员的时间。

  产品推荐引擎,可提升购物体验并增加销售额。

LLM 商业化前景广阔,而且通过 SaaS API 解决方案能帮助解决传统的高成本问题。然而,成本、价格透明度以及开源替代方案的兴起等问题,也需要我们齐心协力推动 LLM 领域的创新和落地。