算力短缺背后:大模型时代的新商业模式

大模型训练需要海量算力,但高端GPU供不应求已成为行业难题。一张英伟达A100的价格被炒到二三十万元,单台A100服务器月租也飙升至5-7万元。即便如此,许多企业仍难以获得所需芯片。

业内人士透露,目前中国市场约有10万张高端GPU卡,到年底可能增至20万张。拥有近万张卡的企业约占10%市场份额,4万张则可占20%。

但高昂的算力成本让许多企业望而却步。训练一个气象领域的垂直大模型就需要200万元,而通用大模型的成本可能是其百倍。业内普遍认为,没有数十亿资金支持,很难持续投入大模型研发。

面对算力短缺,企业正在积极应对。一些方法包括:使用高质量数据提升训练效率;提升基础架构稳定性;优化算力调度;从云计算架构过渡到超算架构;使用国产GPU平台等。

算力已成为一种新的服务模式。算力服务通过新计算技术实现异构算力统一输出,与云计算等技术融合。使用者只需提出算力需求,由服务商完成算力配置和交付。

目前算力服务主要采用按量计费和包年包月两种模式。未来可能发展"算网一体化"模式,支持跨架构、跨地域、跨服务商的灵活调度。

虽然当前高端GPU短缺,但长期来看供需终将平衡。算力服务商需未雨绸缪,为市场回归理性做好准备。随着大模型需求常态化,脱胎于云服务的算力服务正快速形成独特的产业链和商业模式。