大模型热潮下的算力争夺战:服务商如何应对新商业模式

robot
摘要生成中

算力争夺战背后的新商业模式

大模型"炼丹"的热潮会过去,但算力正在成为一种新的商业模式。算力服务商需要未雨绸缪,及时转向。

近期,有研究者使用全球40年的天气数据,用200张GPU卡进行预训练,在2个月左右的时间内,训练出了参数量达亿级的气象大模型。按照一张GPU 7.8元/小时计算,这个模型的训练成本可能超过200万元。而如果是训练通用大模型,成本可能要翻百倍。

目前中国10亿参数规模的大模型已超过100个。然而,行业蜂拥而上的大模型"炼丹"却面临着高端GPU一卡难求的难题。算力成本高企,缺算力、缺资金成为了摆在行业面前最直观的问题。

高端GPU的短缺在全行业都无解。顶峰时期一张A100的价格已被炒到二三十万元,单台A100服务器的月租价格也飙到了5-7万元/月。即便如此,高昂的价格依然可能拿不到芯片。

大模型市场的竞争激烈,没有数十亿资金投入,很难持续开发大模型。一些创业者表示,如果没有百亿千亿资金支持,这条路很难走通。随着市场从狂热到理性,企业也会随着预期变化来控制成本、调整策略。

面对算力短缺,企业采取了多种应对措施:

  1. 使用更高质量的数据提升训练效率
  2. 提升基础架构能力,实现千卡以上稳定运行
  3. 优化算力卡资源调度
  4. 从云计算架构过渡到超算架构
  5. 使用国产平台替代英伟达GPU

这些方法每一种都是一个相对较大的工程,一般企业很难通过自建数据中心来满足需求。许多算法团队选择专业的算力厂商来提供支持。

算力已经成为一种新的服务模式。算力服务以多样性算力为基础,以算力网络为链接,以供给有效算力为目标。它不仅包括算力,还包括存储、网络等资源的统一封装,以服务形式(如API)完成算力交付。

从产业链结构来看,上游企业主要供给算力基础资源,中游企业负责算力生产和供给,下游企业则是算力的使用方。目前按量计费和包年包月是主流的计费模式。

随着大模型高性能计算需求的常态化,脱胎于云服务的算力服务快速进入大众视野,形成了独特的产业链和商业模式。在这个算力产业爆发的初期,高端GPU短缺、算力成本高企、抢"芯"成为了这个时代的独特风景。

长期来看,算力成为一种服务是确定性趋势。算力服务商需要做好准备,在大模型回归理性、市场风向快速转变时及时调整战略。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 分享
评论
0/400
StakeOrRegretvip
· 07-14 02:28
钱没到位啥都别说
回复0
偏执之王vip
· 07-14 02:27
缺卡缺疯了 啥时候矿难复刻一下
回复0
MEV猎手阿福vip
· 07-14 02:24
新矿难开始咯
回复0
DeFiCaffeinatorvip
· 07-14 02:23
囤显卡的路上了解一下~
回复0
metaverse_hermitvip
· 07-14 02:02
抢张卡都难现在
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)