算力短缺背後:大模型時代的新商業模式

大模型訓練需要海量算力,但高端GPU供不應求已成爲行業難題。一張英偉達A100的價格被炒到二三十萬元,單臺A100服務器月租也飆升至5-7萬元。即便如此,許多企業仍難以獲得所需芯片。

業內人士透露,目前中國市場約有10萬張高端GPU卡,到年底可能增至20萬張。擁有近萬張卡的企業約佔10%市場份額,4萬張則可佔20%。

但高昂的算力成本讓許多企業望而卻步。訓練一個氣象領域的垂直大模型就需要200萬元,而通用大模型的成本可能是其百倍。業內普遍認爲,沒有數十億資金支持,很難持續投入大模型研發。

面對算力短缺,企業正在積極應對。一些方法包括:使用高質量數據提升訓練效率;提升基礎架構穩定性;優化算力調度;從雲計算架構過渡到超算架構;使用國產GPU平台等。

算力已成爲一種新的服務模式。算力服務通過新計算技術實現異構算力統一輸出,與雲計算等技術融合。使用者只需提出算力需求,由服務商完成算力配置和交付。

目前算力服務主要採用按量計費和包年包月兩種模式。未來可能發展"算網一體化"模式,支持跨架構、跨地域、跨服務商的靈活調度。

雖然當前高端GPU短缺,但長期來看供需終將平衡。算力服務商需未雨綢繆,爲市場回歸理性做好準備。隨着大模型需求常態化,脫胎於雲服務的算力服務正快速形成獨特的產業鏈和商業模式。