AIGC Computing Power Panorama ve Trend Raporu Yayınlandı! Bir makale, AIGC'nin bilgi işlem gücünün, endüstri zincirinin ve beş yeni trend yargısının bileşimini yorumluyor
AI bilgi işlem gücü hiç bu kadar göz alıcı olmamıştı.
Büyük model trendinin ortaya çıkışından bu yana, büyük modellerin sayısı ve ölçeği sadece birkaç ay içinde önemli ölçüde arttı.
On milyarlarca yüz milyarlarca büyük model onlarcaya yükseldi ve trilyon parametreli büyük model resmen doğdu.
Bu büyüklükteki değişikliklerde, bilgi işlem gücüne olan talep ciddi değişiklikler gösterir.
Model seviyesindeki şirketler, neredeyse her ne pahasına olursa olsun bilgi işlem gücü hizmetlerini kapıyorlar.Nvidia'nın piyasa değeri bir zamanlar bir trilyon ABD dolarını aştı ve bulut bilişim pazarı, hızlandırılmış bir hızla yeniden şekilleniyor...
AIGC endüstrisinin gelişimi için hesaplama gücünün hidroelektrik ve petrol ile aynı temel enerji olduğuna şüphe yoktur.
AIGC çağının başlangıcından sonra, bilgi işlem gücü endüstrisinin nasıl anlaşılacağı özellikle önemlidir.
Kuruluşun ne tür bilgi işlem gücüne ihtiyacı var? AIGC'nin yükselişi nedeniyle bilgi işlem gücü endüstrisinde ne gibi değişiklikler olacak? Bilgi işlem gücü piyasasının mevcut bileşimi nedir?
"AIGC Bilgi İşlem Gücü Panoraması ve Eğilim Raporu" bu sorunları anlamanıza yardımcı olmak için burada.
Raporda, qubit düşünce kuruluşu, AIGC bilgi işlem gücünün ve endüstriyel zincirin bileşimini sistematik olarak analiz etti ve ayrıca AIGC bilgi işlem gücünün beş yeni trendine ve üç aşamalı geliştirme tahminine işaret etti. .
Temel fikirler şunları içerir:
AIGC tarafından yönlendirilen çipler, yüksek performans ve büyük bilgi işlem gücü için rekabet eder ve yeni bir bilgi işlem mimarisi sunar;
AI sunucusu aniden ortaya çıktı ve bonus eğrisi önce eğitildi ve sonra gerekçelendirildi;
MaaS, bulut hizmeti paradigmasını, AIGC iş modeli kapalı döngüsünü yeniden şekillendirir;
AI modeli hepsi bir arada makine kullanıma hazır ve geleneksel endüstri "kutudan çıktı";
Akıllı Bilgi İşlem Merkezi, AIGC'nin çalışmasına eşlik eder ve bilgi işlem gücü kiralama modeli yeni bir çözüm haline geldi;
……
Ayrıntılara tek tek bakalım.
Yerli sunucu üreticilerinin ticari büyümesi %30'u aştı
Mevcut endüstri statükonun analizinden, endüstrinin ana gövdesi esas olarak şunları içerir:
yonga
AI sunucusu (küme)
Bulut bilişim
Çip katmanı: AIGC iki yol bilgi işlem gücü sağlar
Bilgi işlem çiplerinde, AIGC endüstrisinin bilgi işlem gücü ihtiyaçlarını karşılamak için şu anda endüstride iki ana yol vardır.
Biri, evrensel çip olarak adlandırılan, Nvidia tarafından temsil edilen GPU rotasıdır.
Diğeri ise özel çip yolu olarak adlandırılan, Huawei ve Kambriyen tarafından temsil edilen ASIC yoludur.
Şu anda, bu iki rota farklı türde oyuncuları bir araya getiriyor ve üstlendikleri bilgi işlem görevleri de farklı.
Genel amaçlı çip rotası altında, çeşitli bilgi işlem görevlerini tamamlayabilir ve büyük ölçekli paralel bilgi işlem için uygundur.
Yani genel amaçlı çip (GPU), AIGC'nin mevcut bilgi işlem gücü için daha uygundur.
Özel rotanın avantajı, belirli senaryolarda daha iyi enerji verimliliği oranına yansır. Özel amaçlı yongalar, özel veya özelleştirilmiş görevleri gerçekleştirmek üzere tasarlandıklarından, belirli senaryolarda** genel amaçlı yongalardan daha iyi enerji verimliliği oranı ve bilgi işlem verimliliği elde edebilirler.
Özel çipler, belirli senaryolarda daha fazla bilgi işlem verimliliği sağlayabildiği için, İnternet ve diğer bulut satıcıları tarafından kendi çiplerini geliştirirken seçilen teknik rota haline geldi.
Genellikle, İnternet bulut üreticilerinin kendi geliştirdikleri yongalar, esas olarak kendi ürünlerine hizmet eder ve kendi ekolojilerinde yonga performansının maksimum salınımını vurgular.
### Sunucu katmanı: iş büyümesi bariz, esasen İnternet müşterilerine dayalı
AIGC'nin yüksek performanslı bilgi işlem talebi, AI sunucularını sunucu alanında en hızlı büyüyen segment haline getirdi.
GPT-3 gibi büyük model eğitimi, çok fazla bilgi işlem kaynağı ve bellek gerektirir ve genellikle eğitimi hızlandırmak için binlerce hatta on binlerce GPU kullanmayı içerir.
Bu hesaplamaların çip performansı üzerinde çok yüksek gereksinimleri olduğundan, çok büyük ölçüde paralel bilgi işlemi ve yüksek hızlı veri iletimini desteklemek için özel donanım ve yazılım gerekir.
AI sunucuları, yüksek performanslı bilgi işlem yetenekleri sağlamak için özel donanım hızlandırıcıları (GPU'lar, TPU'lar vb.) ve yüksek hızlı ağ bağlantıları ve depolama kullanan yapay zeka iş yüklerini işlemek için özel olarak tasarlanmış sunuculardır.
Buna karşılık, CPU'lar (genel amaçlı sunucular) genellikle AIGC'nin aşırı bilgi işlem gücü talebini karşılayamaz ve bilgi işlem güçleri, bellekleri ve depolama kapasiteleri genellikle düşüktür. Ek olarak, CPU'larda genellikle yüksek hızlı bilgi işlem sağlamak için özel donanım hızlandırıcıları yoktur.
Bu nedenle, büyük ölçekli model eğitiminin bilgi işlem hizmetleri sağlamak için yapay zeka sunucu kümelerine güvenmesi gerekir.
Qubit Think Tank'ın araştırmasına göre, bu yıl AIGC'nin patlak vermesinden sonra yerli sunucu üreticileri işlerini genel olarak %30'dan fazla artırdı**.
Son zamanlarda TrendForce, AI sunucu gönderilerinin 2022'den 2026'ya bileşik yıllık büyüme oranını da %22'ye çıkardı. AI sunucu işindeki artışın arkasında, en büyük alıcılar hala internet şirketleri.
2022'de ByteDance, Tencent, Alibaba, Baidu gibi büyük üreticiler, yapay zeka sunucu tedariki oranında ana alıcılar olacak. Bu yıl, büyük ölçekli model araştırma ve geliştirmeye yönelik coşku, aşağı yönlü İnternet şirketlerinin satın alma talebini artırdı ve bu da onu hâlâ yapay zeka sunucularının en büyük alıcısı haline getirdi.
### Bulut Bilişim: MaaS Hizmet Modelini Yeniden Şekillendiriyor, Eski ve Yeni Oyuncular Rekabet Gücünü Yeniden Yapılandırıyor
MaaS modeli ilk olarak Ali tarafından önerildi ve ardından büyük internet şirketleri ve yapay zeka şirketleri (SenseTime gibi) MaaS modelini tanıttı.
Ayrıca internet devleri ve Huawei gibi şirketler, MaaS üslerinin inşasında kendi geliştirdikleri çipleri zaten kullandılar.
2023'te, önde gelen yerel bulut üreticileri, sınırlı bilgi işlem kaynaklarına ve profesyonel deneyim eksikliğine sahip işletmeler için tek elden MaaS hizmetleri sağlamak üzere, büyük model tabanlarına dayanan kendi MaaS platformlarını art arda başlatacak.
Bulut satıcıları için MaaS hizmetlerinin temel amacı müşterilerin sektöre özel büyük modelleri hızla oluşturmasına yardımcı olmaktır. Buna bağlı olarak, bulut satıcıları arasındaki rekabet boyutu bilgi işlem gücü altyapısı, genel büyük ölçekli model yetenekleri ve AI platform/araç yetenekleri olarak değişti.
### Akıllı Bilgi İşlem Merkezinin Durumu: Altyapı düzeyinde yapay zeka bilgi işlem güç kaynağı, bölgesel ekonomik büyüme için yeni bir motor yaratıyor
Bilgi işlem ekipmanı dağıtımı açısından, sunucu ve yapay zeka sunucu pazarında Pekin, Guangdong, Zhejiang, Şangay ve Jiangsu, %75 ve %90'lık toplam pazar payıyla (sunucu ve yapay zeka sunucusu) ilk beşte yer alıyor. (2021 verileri) .
Arz açısından bakıldığında, akıllı bilgi işlem merkezlerinin çoğu Doğu ve Merkez eyaletlerinde bulunuyor ve AIGC işinin çok büyük verileri işlemesi gerekiyor, bu da bölgedeki bilgi işlem güç kaynaklarının yüksek maliyetine yol açıyor. Doğu**.
Büyük ölçekli model eğitimi gibi yüksek bilgi işlem gereksinimleri olan görevleri batı bölgesine taşımak, maliyetleri etkili bir şekilde azaltabilen ve bilgi işlem ağı kaynaklarının optimum kapsamlı maliyetini elde edebilen "Doğu Veri Eğitimi"ni oluşturur.
Spesifik olarak, hesaplama gücü talebinin dengesiz arz ve talebi gibi sorunları çözmek için, hesaplama gücü çizelgelemesi yoluyla doğudaki hesaplama gücü ve veri işleme görevlerinin batı bölgesine daha düşük maliyetlerle aktarılması gerekmektedir. Bunların arasında, doğu ile batı arasındaki ara bağlantı ağının ve merkez düğümler arasındaki doğrudan bağlantı ağının optimize edilmesi, bilgi işlem gücü planlama düzeyini iyileştirmenin anahtarıdır.
Talep perspektifinden bakıldığında, AIGC bilgi işlem gücüne olan talep, çoğunlukla Pekin-Tianjin-Hebei bölgesi, Yangtze Nehri Deltası ve Büyük Körfez Bölgesi'nde dağıtılan AIGC büyük modelleri geliştiren üreticilerden gelmektedir.
Çip sunucu devrimi ortaya çıkıyor
Büyük modellerin eğilimi, bilgi işlem gücü için yeni gereksinimler ortaya koyuyor ve temel donanımda yeni değişikliklere yol açıyor. İki seviye çip ve sunucuya bakalım:
çip seviyesi
Şu anda yüksek performanslı yongalar arasında Nvidia A100 mutlak bir avantaja sahip ve A100'ün yalnızca Çin'de stoğu var ancak artış yok. İç pazar, yerli GPU üreticilerine daha fazla fırsat sunacak**.
Ek olarak, çip dökümhanesi düzeyinde, şu anda 7nm ve üzeri süreçleri üstlenebilecek yerli bir dökümhane yoktur ve çoğu GPU üreticisi, daha yüksek performans göstergeleri elde etmek için olgun süreç + gelişmiş paketleme çözümlerini seçer.
Sunucu kümesi düzeyinde, yüksek performanslı bilgi işlem, çok kartlı, çok makineli paralel bilgi işlem ve yüksek performanslı ağ aracılığıyla gerçekleştirilir.
Nvidia'nın inşa ettiği donanım ürünü + CUDA ekolojisinin 10 yıl içinde aşılması zor olduğundan, gelecekte yüksek performanslı GPU'nun sınırlı olduğu zamanlarda, analistler donanım katmanı için iki ana çözüm olacağını tahmin ediyor, sonuncusu Büyük ölçüde paralel bilgi işlem elde etmek için GPU + yongalar arası Interconnect teknolojisini geliştirin**.
Diğeri ise, von Neumann mimarisinden atlayıp entegre bir depolama ve bilgi işlem mimarisi geliştirmek bilgi işlem birimleri ile depolama birimlerini entegre ederek bilgi işlem enerji verimliliğinde büyük bir iyileştirme elde etmektir.
Yazılım düzeyinde, seyrek bilgi işlem ve yüksek performanslı bir ağ oluşturmak şu anda iki çözümdür.
Seyrek bilgi işlemin yeniliği algoritma düzeyine yansır.Geçersiz veya fazlalık verilerin silinmesiyle (bu tür veriler genellikle çok büyüktür), veri hesaplama miktarı büyük ölçüde azaltılır ve böylece hesaplama hızlanır.
Yüksek performanslı bir ağ oluşturmanın amacı, büyük modellerin eğitim süresini azaltmaktır. Yüksek performanslı bir ağ oluşturarak, her bilgi işlem düğümü ultra yüksek bir iletişim bant genişliğine sahiptir ve bu da trafik performansında birkaç kat iyileştirme sağlar ve böylece büyük modellerin eğitim süresini kısaltır.
### Sunucu Düzeyi
AI büyük modellerinin bilgi işlem gücüne olan talep katlanarak artıyor ve bu da daha yüksek yapılandırmalara sahip AI sunucularını AIGC bilgi işlem gücünün ana taşıyıcısı haline getiriyor.
Geleneksel sunucularla karşılaştırıldığında, AI sunucularının bilgi işlem, depolama ve ağ iletim yetenekleri daha yüksek bir seviyeye ulaşabilir.
Örneğin, 8 GPU ve 2 CPU'lu NVIDIA DGX A100 sunucusunun yapılandırması, 1~2 CPU'lu geleneksel sunuculardan çok daha yüksektir.
Ülkemde Intelligent Computing Center, yapay zeka (büyük modeller) için bilgi işlem gücü kaynakları sağlayan bir kamu altyapı platformudur ve bilgi işlem güç birimleri, çoğunlukla AI eğitim sunucuları ve AI muhakeme sunucularıdır.
Büyük modellerin gelişmesiyle birlikte, gelecekteki AI sunucularına yönelik temel talep, eğitimden çıkarıma kayacaktır. IDC'nin tahminine göre, 2026 yılına kadar AIGC'nin hesaplama gücünün %62,2'si model muhakemesi için kullanılacak.
Sektördeki değişiklikler yeni iş fırsatları doğurur
Ayrıca, AI büyük ölçekli modellerinin trendi, bilgi işlem gücü endüstrisine yeni fırsatlar getiriyor ve yeni paradigmalar, yeni ürünler ve yeni altyapılar ortaya çıkıyor.
Yeni oyun kuralları: MaaS bulut hizmeti paradigmasını yeniden şekillendiriyor, AIGC iş modeli kapalı döngü
MaaS (Hizmet Olarak Model), büyük modelleri bilgi işlem gücüne, algoritmalara ve uygulama katmanlarına yerleştirir, uygulamaları akıllı tabanlarla bütünleştirir ve harici çıktıyı birleştirir.
MaaS'ın özü, çeşitli uygulama senaryolarının ihtiyaçlarını karşılamak için sektördeki ortak temel teknolojileri iyileştirmek ve hizmetlere entegre etmektir.
Ticarileştirme sürecinde, büyük ölçekli model yetenekleri ve destekleyici ara katman araçları, işletmelerin bulut bilgi işlem satıcıları için dikkate alması gereken yeni boyutlar haline gelecektir.
Bulut bilgi işlem hizmeti yeteneklerinin ayırt edici özelliği, bilgi işlem gücü seviyesinden "bulut-zeka entegrasyonu" kabiliyetine kaymıştır. Bilgi işlem gücü altyapısına ek olarak, temel rekabet gücü, bilgi işlem gücü, modeller ve sahne uygulamaları oluşturma becerisine dönüşmüştür. standartlaştırılmış ürünlere dönüştürülür.
### **Yeni türler: Yapay zeka modeli hepsi bir arada makine kullanıma hazır, geleneksel endüstriler "kutudan çıkar çıkmaz" **
AI modeli hepsi bir arada makine, yazılım ve donanımı derinlemesine entegre eder.Kurumların farklı ihtiyaçlarına göre, ilgili ürünler veya çözümler önceden AI sunucusunda dağıtılır ve eksiksiz bir çözüm seti oluşturmak için paketlenir.
AI modeli hepsi bir arada makinenin maliyet avantajı, esas olarak aşağıdaki üç noktada yansıtılmaktadır:
Genel satın alma fiyatı, ayrı yazılım + donanım satın alma fiyatından daha düşüktür;
İşletmenin sunucuyu ayrıca satın alıp yazılımı dağıtması için yapay zeka kuruluşuna teslim etmesi uzun zaman alıyor.Yapay zeka modeli all-in-one makine kutudan çıktığı haliyle kullanılabiliyor, teslimat maliyetinin düşürülmesi;
Gereken sunucuların sayısı büyük ölçüde azaltılarak müşteriler için alan maliyetlerinden tasarruf sağlanır.
### Yeni Altyapı: Akıllı Bilgi İşlem Merkezi, AIGC operasyonlarına eşlik eder, bilgi işlem gücü kiralama modu yeni bir çözüm haline gelir
Bilgi işlem gücü kiralama modeli, büyük ölçekli model geliştirme eşiğini etkili bir şekilde azaltabilir. Yeterli yapay zeka sunucusu satın alma gücüne sahip olmayan dikey endüstrilerdeki küçük model şirketler için, halka açık bilgi işlem güç tabanı platformu, küçük ve orta ölçekli işletmelere yardımcı olacaktır. kendi gerekli modellerini oluşturmak.
Kuruluşların sunucu satın alması gerekmez, ancak bilgi işlem güç merkezine bir tarayıcı aracılığıyla erişebilir ve bilgi işlem güç hizmetlerini kullanabilir.
Küçük ve orta ölçekli işletmeler için, ikincil geliştirme için bulut satıcıları tarafından oluşturulan büyük model tabanına güvenmeye gerek yoktur, bunun yerine halka açık bilgi işlem güç platformlarından bilgi işlem güç kaynakları kiralayarak küçük dikey endüstri modelleri geliştirmeye ihtiyaç vardır.
Endüstri Gelişim Tahmini
Özetlemek gerekirse, qubit düşünce kuruluşu AIGC'nin üç aşamaya ayrılabilecek gelecekteki gelişimini tahmin ediyor:
AIGC altyapı dönemi
AIGC geliştirme dönemi
AIGC iş dönemi
AIGC Altyapı Dönemi
Şu anda, AIGC model katmanındaki çoğu şirket ön eğitim aşamasındadır ve yongalara yönelik ana talep kaynağı GPU'dur.
İlk aşamada, yüksek performanslı GPU üreticileri bundan en çok yararlananlar olacak.
Ancak şu anda yerli GPU üreticileri ile Nvidia arasında büyük bir uçurum var ve ilk yararlanan borsaya hakim taraf oluyor.
Bu nedenle, yerli AI sunucu üreticileri bu aşamada güçlü tedarikçilerdir. Şu anda, yerel AI sunucu alanı yetersiz kalmıştır.
### AIGC geliştirme dönemi
Orta vadeli aşamada (5 yıl içinde), bilgi işlem gücü katmanı, eğitimden akıl yürütmeye doğru bir eğilme sürecidir.
Bu aşamada, akıl yürütme çipleri ana talep tarafı haline gelecektir. GPU'nun yüksek bilgi işlem gücü ve yüksek güç tüketimi ve buna karşılık gelen bilgi işlem gücü israfı ile karşılaştırıldığında, çıkarım çipi, çipin hesaplama verimliliği oranına daha fazla dikkat eder ve güç tüketimi ile maliyet üzerinde daha iyi kontrole sahiptir. Ayrıca bu aşama yenilikçi çipler için de bir fırsat olacaktır.
Analistler, bellek hesaplama entegre çipleri, beyinden ilham alan çipler ve silikon-optik çipler için daha fazla pazar fırsatı bekliyor.
Çıkarım aşamasında, uç bilişim, eğitim aşamasında bulut bilişimden daha fazla fırsata sahip olacaktır.
Her şeyden önce, çıkarım aşamasına karşılık gelen uygulamalar çeşitlenme eğilimindedir ve farklı gereksinimler, bulut bilişimin daha fazla bilgi işlem gücü israfı ve düşük bilgi işlem verimliliği üretmesine neden olur.
İkinci olarak uç bilgi işlem, büyük model muhakemesi için yeterli bilgi işlem gücü sağlayabilir.
Bu aşamada, AI sunucu üreticilerinin temettü dönemi kademeli olarak zirveye ulaşacak ve talep daha düşük maliyetli genel amaçlı sunuculara kayacak; çipler ayrıca GPU'dan NPU/ASIC/FPGA/CPU'ya ve diğer formlara bir arada var olacak. Yerli yenilikçi çiplerin rotaları arasında **, entegre depolama ve bilgi işlem mimarisinin geliştirilmesi konusunda iyimser **.
### AIGC İş Dönemi
Çiplerin altında yatan inovasyon avantajları ortaya çıkmaya başladı ve depolama ve bilgi işlem entegrasyonu, fotonik çipler ve beyin benzeri çipler gibi gerçekten yenilikçi teknolojilere sahip çip üreticileri pazardaki rollerini artırdı.
AIGC bilgi işlem gücü için gereken çip türleri daha çeşitlidir.
Bu aşamadaki işletmeler, bilgi işlem gücünü daha kapsamlı bir şekilde ele almakta, yalnızca bilgi işlem gücünün boyutunu dikkate almakla kalmamakta, güç tüketimi ve maliyeti, bilgi işlem gücünün boyutunu aşabilmekte ve şirketlerin her model katmanında önem verdiği göstergeler haline gelmektedir.
Rapor Al
Aşağıdaki bağlantıya tıklayın:
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
AIGC Computing Power Panorama ve Trend Raporu Yayınlandı! Bir makale, AIGC'nin bilgi işlem gücünün, endüstri zincirinin ve beş yeni trend yargısının bileşimini yorumluyor
Kaynak: Qubit
AI bilgi işlem gücü hiç bu kadar göz alıcı olmamıştı.
Büyük model trendinin ortaya çıkışından bu yana, büyük modellerin sayısı ve ölçeği sadece birkaç ay içinde önemli ölçüde arttı.
On milyarlarca yüz milyarlarca büyük model onlarcaya yükseldi ve trilyon parametreli büyük model resmen doğdu.
Bu büyüklükteki değişikliklerde, bilgi işlem gücüne olan talep ciddi değişiklikler gösterir.
Model seviyesindeki şirketler, neredeyse her ne pahasına olursa olsun bilgi işlem gücü hizmetlerini kapıyorlar.Nvidia'nın piyasa değeri bir zamanlar bir trilyon ABD dolarını aştı ve bulut bilişim pazarı, hızlandırılmış bir hızla yeniden şekilleniyor...
AIGC çağının başlangıcından sonra, bilgi işlem gücü endüstrisinin nasıl anlaşılacağı özellikle önemlidir.
Kuruluşun ne tür bilgi işlem gücüne ihtiyacı var? AIGC'nin yükselişi nedeniyle bilgi işlem gücü endüstrisinde ne gibi değişiklikler olacak? Bilgi işlem gücü piyasasının mevcut bileşimi nedir?
"AIGC Bilgi İşlem Gücü Panoraması ve Eğilim Raporu" bu sorunları anlamanıza yardımcı olmak için burada.
Raporda, qubit düşünce kuruluşu, AIGC bilgi işlem gücünün ve endüstriyel zincirin bileşimini sistematik olarak analiz etti ve ayrıca AIGC bilgi işlem gücünün beş yeni trendine ve üç aşamalı geliştirme tahminine işaret etti. .
Ayrıntılara tek tek bakalım.
Yerli sunucu üreticilerinin ticari büyümesi %30'u aştı
Mevcut endüstri statükonun analizinden, endüstrinin ana gövdesi esas olarak şunları içerir:
Çip katmanı: AIGC iki yol bilgi işlem gücü sağlar
Bilgi işlem çiplerinde, AIGC endüstrisinin bilgi işlem gücü ihtiyaçlarını karşılamak için şu anda endüstride iki ana yol vardır.
Biri, evrensel çip olarak adlandırılan, Nvidia tarafından temsil edilen GPU rotasıdır.
Diğeri ise özel çip yolu olarak adlandırılan, Huawei ve Kambriyen tarafından temsil edilen ASIC yoludur.
Şu anda, bu iki rota farklı türde oyuncuları bir araya getiriyor ve üstlendikleri bilgi işlem görevleri de farklı.
Genel amaçlı çip rotası altında, çeşitli bilgi işlem görevlerini tamamlayabilir ve büyük ölçekli paralel bilgi işlem için uygundur.
Yani genel amaçlı çip (GPU), AIGC'nin mevcut bilgi işlem gücü için daha uygundur.
Özel rotanın avantajı, belirli senaryolarda daha iyi enerji verimliliği oranına yansır. Özel amaçlı yongalar, özel veya özelleştirilmiş görevleri gerçekleştirmek üzere tasarlandıklarından, belirli senaryolarda** genel amaçlı yongalardan daha iyi enerji verimliliği oranı ve bilgi işlem verimliliği elde edebilirler.
Özel çipler, belirli senaryolarda daha fazla bilgi işlem verimliliği sağlayabildiği için, İnternet ve diğer bulut satıcıları tarafından kendi çiplerini geliştirirken seçilen teknik rota haline geldi.
Genellikle, İnternet bulut üreticilerinin kendi geliştirdikleri yongalar, esas olarak kendi ürünlerine hizmet eder ve kendi ekolojilerinde yonga performansının maksimum salınımını vurgular.
AIGC'nin yüksek performanslı bilgi işlem talebi, AI sunucularını sunucu alanında en hızlı büyüyen segment haline getirdi.
GPT-3 gibi büyük model eğitimi, çok fazla bilgi işlem kaynağı ve bellek gerektirir ve genellikle eğitimi hızlandırmak için binlerce hatta on binlerce GPU kullanmayı içerir.
Bu hesaplamaların çip performansı üzerinde çok yüksek gereksinimleri olduğundan, çok büyük ölçüde paralel bilgi işlemi ve yüksek hızlı veri iletimini desteklemek için özel donanım ve yazılım gerekir.
AI sunucuları, yüksek performanslı bilgi işlem yetenekleri sağlamak için özel donanım hızlandırıcıları (GPU'lar, TPU'lar vb.) ve yüksek hızlı ağ bağlantıları ve depolama kullanan yapay zeka iş yüklerini işlemek için özel olarak tasarlanmış sunuculardır.
Buna karşılık, CPU'lar (genel amaçlı sunucular) genellikle AIGC'nin aşırı bilgi işlem gücü talebini karşılayamaz ve bilgi işlem güçleri, bellekleri ve depolama kapasiteleri genellikle düşüktür. Ek olarak, CPU'larda genellikle yüksek hızlı bilgi işlem sağlamak için özel donanım hızlandırıcıları yoktur.
Bu nedenle, büyük ölçekli model eğitiminin bilgi işlem hizmetleri sağlamak için yapay zeka sunucu kümelerine güvenmesi gerekir.
Qubit Think Tank'ın araştırmasına göre, bu yıl AIGC'nin patlak vermesinden sonra yerli sunucu üreticileri işlerini genel olarak %30'dan fazla artırdı**.
Son zamanlarda TrendForce, AI sunucu gönderilerinin 2022'den 2026'ya bileşik yıllık büyüme oranını da %22'ye çıkardı. AI sunucu işindeki artışın arkasında, en büyük alıcılar hala internet şirketleri.
2022'de ByteDance, Tencent, Alibaba, Baidu gibi büyük üreticiler, yapay zeka sunucu tedariki oranında ana alıcılar olacak. Bu yıl, büyük ölçekli model araştırma ve geliştirmeye yönelik coşku, aşağı yönlü İnternet şirketlerinin satın alma talebini artırdı ve bu da onu hâlâ yapay zeka sunucularının en büyük alıcısı haline getirdi.
MaaS modeli ilk olarak Ali tarafından önerildi ve ardından büyük internet şirketleri ve yapay zeka şirketleri (SenseTime gibi) MaaS modelini tanıttı.
Ayrıca internet devleri ve Huawei gibi şirketler, MaaS üslerinin inşasında kendi geliştirdikleri çipleri zaten kullandılar.
2023'te, önde gelen yerel bulut üreticileri, sınırlı bilgi işlem kaynaklarına ve profesyonel deneyim eksikliğine sahip işletmeler için tek elden MaaS hizmetleri sağlamak üzere, büyük model tabanlarına dayanan kendi MaaS platformlarını art arda başlatacak.
Bulut satıcıları için MaaS hizmetlerinin temel amacı müşterilerin sektöre özel büyük modelleri hızla oluşturmasına yardımcı olmaktır. Buna bağlı olarak, bulut satıcıları arasındaki rekabet boyutu bilgi işlem gücü altyapısı, genel büyük ölçekli model yetenekleri ve AI platform/araç yetenekleri olarak değişti.
Bilgi işlem ekipmanı dağıtımı açısından, sunucu ve yapay zeka sunucu pazarında Pekin, Guangdong, Zhejiang, Şangay ve Jiangsu, %75 ve %90'lık toplam pazar payıyla (sunucu ve yapay zeka sunucusu) ilk beşte yer alıyor. (2021 verileri) .
Arz açısından bakıldığında, akıllı bilgi işlem merkezlerinin çoğu Doğu ve Merkez eyaletlerinde bulunuyor ve AIGC işinin çok büyük verileri işlemesi gerekiyor, bu da bölgedeki bilgi işlem güç kaynaklarının yüksek maliyetine yol açıyor. Doğu**.
Büyük ölçekli model eğitimi gibi yüksek bilgi işlem gereksinimleri olan görevleri batı bölgesine taşımak, maliyetleri etkili bir şekilde azaltabilen ve bilgi işlem ağı kaynaklarının optimum kapsamlı maliyetini elde edebilen "Doğu Veri Eğitimi"ni oluşturur.
Spesifik olarak, hesaplama gücü talebinin dengesiz arz ve talebi gibi sorunları çözmek için, hesaplama gücü çizelgelemesi yoluyla doğudaki hesaplama gücü ve veri işleme görevlerinin batı bölgesine daha düşük maliyetlerle aktarılması gerekmektedir. Bunların arasında, doğu ile batı arasındaki ara bağlantı ağının ve merkez düğümler arasındaki doğrudan bağlantı ağının optimize edilmesi, bilgi işlem gücü planlama düzeyini iyileştirmenin anahtarıdır.
Talep perspektifinden bakıldığında, AIGC bilgi işlem gücüne olan talep, çoğunlukla Pekin-Tianjin-Hebei bölgesi, Yangtze Nehri Deltası ve Büyük Körfez Bölgesi'nde dağıtılan AIGC büyük modelleri geliştiren üreticilerden gelmektedir.
Çip sunucu devrimi ortaya çıkıyor
Büyük modellerin eğilimi, bilgi işlem gücü için yeni gereksinimler ortaya koyuyor ve temel donanımda yeni değişikliklere yol açıyor. İki seviye çip ve sunucuya bakalım:
çip seviyesi
Şu anda yüksek performanslı yongalar arasında Nvidia A100 mutlak bir avantaja sahip ve A100'ün yalnızca Çin'de stoğu var ancak artış yok. İç pazar, yerli GPU üreticilerine daha fazla fırsat sunacak**.
Ek olarak, çip dökümhanesi düzeyinde, şu anda 7nm ve üzeri süreçleri üstlenebilecek yerli bir dökümhane yoktur ve çoğu GPU üreticisi, daha yüksek performans göstergeleri elde etmek için olgun süreç + gelişmiş paketleme çözümlerini seçer.
Sunucu kümesi düzeyinde, yüksek performanslı bilgi işlem, çok kartlı, çok makineli paralel bilgi işlem ve yüksek performanslı ağ aracılığıyla gerçekleştirilir.
Nvidia'nın inşa ettiği donanım ürünü + CUDA ekolojisinin 10 yıl içinde aşılması zor olduğundan, gelecekte yüksek performanslı GPU'nun sınırlı olduğu zamanlarda, analistler donanım katmanı için iki ana çözüm olacağını tahmin ediyor, sonuncusu Büyük ölçüde paralel bilgi işlem elde etmek için GPU + yongalar arası Interconnect teknolojisini geliştirin**.
Diğeri ise, von Neumann mimarisinden atlayıp entegre bir depolama ve bilgi işlem mimarisi geliştirmek bilgi işlem birimleri ile depolama birimlerini entegre ederek bilgi işlem enerji verimliliğinde büyük bir iyileştirme elde etmektir.
Yazılım düzeyinde, seyrek bilgi işlem ve yüksek performanslı bir ağ oluşturmak şu anda iki çözümdür.
Seyrek bilgi işlemin yeniliği algoritma düzeyine yansır.Geçersiz veya fazlalık verilerin silinmesiyle (bu tür veriler genellikle çok büyüktür), veri hesaplama miktarı büyük ölçüde azaltılır ve böylece hesaplama hızlanır.
Yüksek performanslı bir ağ oluşturmanın amacı, büyük modellerin eğitim süresini azaltmaktır. Yüksek performanslı bir ağ oluşturarak, her bilgi işlem düğümü ultra yüksek bir iletişim bant genişliğine sahiptir ve bu da trafik performansında birkaç kat iyileştirme sağlar ve böylece büyük modellerin eğitim süresini kısaltır.
AI büyük modellerinin bilgi işlem gücüne olan talep katlanarak artıyor ve bu da daha yüksek yapılandırmalara sahip AI sunucularını AIGC bilgi işlem gücünün ana taşıyıcısı haline getiriyor.
Geleneksel sunucularla karşılaştırıldığında, AI sunucularının bilgi işlem, depolama ve ağ iletim yetenekleri daha yüksek bir seviyeye ulaşabilir.
Örneğin, 8 GPU ve 2 CPU'lu NVIDIA DGX A100 sunucusunun yapılandırması, 1~2 CPU'lu geleneksel sunuculardan çok daha yüksektir.
Ülkemde Intelligent Computing Center, yapay zeka (büyük modeller) için bilgi işlem gücü kaynakları sağlayan bir kamu altyapı platformudur ve bilgi işlem güç birimleri, çoğunlukla AI eğitim sunucuları ve AI muhakeme sunucularıdır.
Büyük modellerin gelişmesiyle birlikte, gelecekteki AI sunucularına yönelik temel talep, eğitimden çıkarıma kayacaktır. IDC'nin tahminine göre, 2026 yılına kadar AIGC'nin hesaplama gücünün %62,2'si model muhakemesi için kullanılacak.
Sektördeki değişiklikler yeni iş fırsatları doğurur
Ayrıca, AI büyük ölçekli modellerinin trendi, bilgi işlem gücü endüstrisine yeni fırsatlar getiriyor ve yeni paradigmalar, yeni ürünler ve yeni altyapılar ortaya çıkıyor.
Yeni oyun kuralları: MaaS bulut hizmeti paradigmasını yeniden şekillendiriyor, AIGC iş modeli kapalı döngü
MaaS (Hizmet Olarak Model), büyük modelleri bilgi işlem gücüne, algoritmalara ve uygulama katmanlarına yerleştirir, uygulamaları akıllı tabanlarla bütünleştirir ve harici çıktıyı birleştirir.
MaaS'ın özü, çeşitli uygulama senaryolarının ihtiyaçlarını karşılamak için sektördeki ortak temel teknolojileri iyileştirmek ve hizmetlere entegre etmektir.
Ticarileştirme sürecinde, büyük ölçekli model yetenekleri ve destekleyici ara katman araçları, işletmelerin bulut bilgi işlem satıcıları için dikkate alması gereken yeni boyutlar haline gelecektir.
Bulut bilgi işlem hizmeti yeteneklerinin ayırt edici özelliği, bilgi işlem gücü seviyesinden "bulut-zeka entegrasyonu" kabiliyetine kaymıştır. Bilgi işlem gücü altyapısına ek olarak, temel rekabet gücü, bilgi işlem gücü, modeller ve sahne uygulamaları oluşturma becerisine dönüşmüştür. standartlaştırılmış ürünlere dönüştürülür.
AI modeli hepsi bir arada makine, yazılım ve donanımı derinlemesine entegre eder.Kurumların farklı ihtiyaçlarına göre, ilgili ürünler veya çözümler önceden AI sunucusunda dağıtılır ve eksiksiz bir çözüm seti oluşturmak için paketlenir.
AI modeli hepsi bir arada makinenin maliyet avantajı, esas olarak aşağıdaki üç noktada yansıtılmaktadır:
Bilgi işlem gücü kiralama modeli, büyük ölçekli model geliştirme eşiğini etkili bir şekilde azaltabilir. Yeterli yapay zeka sunucusu satın alma gücüne sahip olmayan dikey endüstrilerdeki küçük model şirketler için, halka açık bilgi işlem güç tabanı platformu, küçük ve orta ölçekli işletmelere yardımcı olacaktır. kendi gerekli modellerini oluşturmak.
Kuruluşların sunucu satın alması gerekmez, ancak bilgi işlem güç merkezine bir tarayıcı aracılığıyla erişebilir ve bilgi işlem güç hizmetlerini kullanabilir.
Küçük ve orta ölçekli işletmeler için, ikincil geliştirme için bulut satıcıları tarafından oluşturulan büyük model tabanına güvenmeye gerek yoktur, bunun yerine halka açık bilgi işlem güç platformlarından bilgi işlem güç kaynakları kiralayarak küçük dikey endüstri modelleri geliştirmeye ihtiyaç vardır.
Endüstri Gelişim Tahmini
Özetlemek gerekirse, qubit düşünce kuruluşu AIGC'nin üç aşamaya ayrılabilecek gelecekteki gelişimini tahmin ediyor:
AIGC Altyapı Dönemi
Şu anda, AIGC model katmanındaki çoğu şirket ön eğitim aşamasındadır ve yongalara yönelik ana talep kaynağı GPU'dur.
İlk aşamada, yüksek performanslı GPU üreticileri bundan en çok yararlananlar olacak.
Ancak şu anda yerli GPU üreticileri ile Nvidia arasında büyük bir uçurum var ve ilk yararlanan borsaya hakim taraf oluyor.
Bu nedenle, yerli AI sunucu üreticileri bu aşamada güçlü tedarikçilerdir. Şu anda, yerel AI sunucu alanı yetersiz kalmıştır.
Orta vadeli aşamada (5 yıl içinde), bilgi işlem gücü katmanı, eğitimden akıl yürütmeye doğru bir eğilme sürecidir.
Bu aşamada, akıl yürütme çipleri ana talep tarafı haline gelecektir. GPU'nun yüksek bilgi işlem gücü ve yüksek güç tüketimi ve buna karşılık gelen bilgi işlem gücü israfı ile karşılaştırıldığında, çıkarım çipi, çipin hesaplama verimliliği oranına daha fazla dikkat eder ve güç tüketimi ile maliyet üzerinde daha iyi kontrole sahiptir. Ayrıca bu aşama yenilikçi çipler için de bir fırsat olacaktır.
Analistler, bellek hesaplama entegre çipleri, beyinden ilham alan çipler ve silikon-optik çipler için daha fazla pazar fırsatı bekliyor.
Çıkarım aşamasında, uç bilişim, eğitim aşamasında bulut bilişimden daha fazla fırsata sahip olacaktır.
Her şeyden önce, çıkarım aşamasına karşılık gelen uygulamalar çeşitlenme eğilimindedir ve farklı gereksinimler, bulut bilişimin daha fazla bilgi işlem gücü israfı ve düşük bilgi işlem verimliliği üretmesine neden olur.
İkinci olarak uç bilgi işlem, büyük model muhakemesi için yeterli bilgi işlem gücü sağlayabilir.
Bu aşamada, AI sunucu üreticilerinin temettü dönemi kademeli olarak zirveye ulaşacak ve talep daha düşük maliyetli genel amaçlı sunuculara kayacak; çipler ayrıca GPU'dan NPU/ASIC/FPGA/CPU'ya ve diğer formlara bir arada var olacak. Yerli yenilikçi çiplerin rotaları arasında **, entegre depolama ve bilgi işlem mimarisinin geliştirilmesi konusunda iyimser **.
Çiplerin altında yatan inovasyon avantajları ortaya çıkmaya başladı ve depolama ve bilgi işlem entegrasyonu, fotonik çipler ve beyin benzeri çipler gibi gerçekten yenilikçi teknolojilere sahip çip üreticileri pazardaki rollerini artırdı.
AIGC bilgi işlem gücü için gereken çip türleri daha çeşitlidir.
Bu aşamadaki işletmeler, bilgi işlem gücünü daha kapsamlı bir şekilde ele almakta, yalnızca bilgi işlem gücünün boyutunu dikkate almakla kalmamakta, güç tüketimi ve maliyeti, bilgi işlem gücünün boyutunu aşabilmekte ve şirketlerin her model katmanında önem verdiği göstergeler haline gelmektedir.
Rapor Al
Aşağıdaki bağlantıya tıklayın: