Bilgi İşlem Gücü Kıtlığının Arkasında: Büyük Model Çağındaki Yeni İş Modelleri
Büyük model eğitimi, devasa bilgi işlem gücü gerektiriyor, ancak yüksek kaliteli GPU'ların yetersizliği sektörde bir sorun haline geldi. Bir NVIDIA A100'ün fiyatı 200.000-300.000 TL'ye kadar yükseldi, tek bir A100 sunucusunun aylık kirası ise 50.000-70.000 TL'ye fırladı. Yine de, birçok şirket gerekli yongaları temin etmekte zorlanıyor.
Sektör uzmanları, şu anda Çin pazarında yaklaşık 100.000 yüksek kaliteli GPU kartı bulunduğunu ve yılsonuna kadar bu sayının 200.000'e çıkabileceğini belirtiyor. Yaklaşık 10.000 karta sahip olan şirketler pazarın %10'unu, 40.000 kart ise %20'sini elinde tutuyor.
Ancak yüksek bilgi işlem gücü maliyetleri birçok işletmeyi caydırıyor. Bir meteoroloji alanında dikey bir büyük model eğitmek 2 milyon yuan gerektiriyor, oysa genel büyük modelin maliyeti bunun yüz katı olabilir. Sektörde genel olarak, on milyarlarca yuan finansman desteği olmadan büyük model araştırma ve geliştirmeye sürekli yatırım yapmanın zor olduğu düşünülüyor.
Karşı karşıya olduğu Bilgi İşlem Gücü eksikliğine, şirketler aktif bir şekilde yanıt veriyor. Bazı yöntemler şunlardır: Eğitim verimliliğini artırmak için yüksek kaliteli veriler kullanmak; altyapı istikrarını artırmak; Bilgi İşlem Gücü planlamasını optimize etmek; bulut bilişim mimarisinden süper bilgisayar mimarisine geçiş yapmak; yerli GPU platformları kullanmak.
Bilgi İşlem Gücü, yeni bir hizmet modeli haline geldi. Bilgi İşlem Gücü hizmetleri, yeni hesaplama teknolojileri aracılığıyla heterojen bilgi işlem gücünün birleşik çıktısını sağlamakta ve bulut bilişim gibi teknolojilerle entegrasyon göstermektedir. Kullanıcılar sadece bilgi işlem gücü taleplerini iletmekte, hizmet sağlayıcılar ise bilgi işlem gücü yapılandırmasını ve teslimatını gerçekleştirmektedir.
Şu anda bilgi işlem gücü hizmetleri, esas olarak kullanım başına ücretlendirme ve yıllık/aylık abonelik olmak üzere iki modelde sunulmaktadır. Gelecekte "hesaplama ve ağın entegrasyonu" modeli geliştirilmesi, mimari, coğrafi ve hizmet sağlayıcılar arasında esnek planlamayı desteklemesi muhtemeldir.
Mevcut yüksek performanslı GPU kıtlığına rağmen, uzun vadede arz ve talep nihayetinde dengelenecektir. Bilgi İşlem Gücü hizmet sağlayıcıları, piyasanın rasyonelliğe dönüşü için hazırlıklı olmalıdır. Büyük model taleplerinin normalleşmesiyle birlikte, bulut hizmetlerinden doğan bilgi işlem hizmetleri hızla benzersiz bir endüstri zinciri ve iş modeli oluşturmaktadır.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
24 Likes
Reward
24
7
Share
Comment
0/400
WalletDetective
· 07-17 18:11
Kartı kapmaya çalıştın ama param kalmadı mı?
View OriginalReply0
SignatureAnxiety
· 07-17 00:53
GPU çok pahalı değil, ben çok fakirim.
View OriginalReply0
OnchainSniper
· 07-14 22:19
Para hepsi Nvidia'nın cebine girdi.
View OriginalReply0
AirdropFreedom
· 07-14 22:18
Paranın olması, Bilgi İşlem Gücü olmasını sağlar.
View OriginalReply0
MoneyBurner
· 07-14 22:15
İyimser işçi, her an pasaportunu kaybetmek için Rug Pull yapmaya hazır.
Büyük model döneminde bilgi işlem gücü sıkıntısı: Yeni iş modelleri ve yanıt stratejileri
Bilgi İşlem Gücü Kıtlığının Arkasında: Büyük Model Çağındaki Yeni İş Modelleri
Büyük model eğitimi, devasa bilgi işlem gücü gerektiriyor, ancak yüksek kaliteli GPU'ların yetersizliği sektörde bir sorun haline geldi. Bir NVIDIA A100'ün fiyatı 200.000-300.000 TL'ye kadar yükseldi, tek bir A100 sunucusunun aylık kirası ise 50.000-70.000 TL'ye fırladı. Yine de, birçok şirket gerekli yongaları temin etmekte zorlanıyor.
Sektör uzmanları, şu anda Çin pazarında yaklaşık 100.000 yüksek kaliteli GPU kartı bulunduğunu ve yılsonuna kadar bu sayının 200.000'e çıkabileceğini belirtiyor. Yaklaşık 10.000 karta sahip olan şirketler pazarın %10'unu, 40.000 kart ise %20'sini elinde tutuyor.
Ancak yüksek bilgi işlem gücü maliyetleri birçok işletmeyi caydırıyor. Bir meteoroloji alanında dikey bir büyük model eğitmek 2 milyon yuan gerektiriyor, oysa genel büyük modelin maliyeti bunun yüz katı olabilir. Sektörde genel olarak, on milyarlarca yuan finansman desteği olmadan büyük model araştırma ve geliştirmeye sürekli yatırım yapmanın zor olduğu düşünülüyor.
Karşı karşıya olduğu Bilgi İşlem Gücü eksikliğine, şirketler aktif bir şekilde yanıt veriyor. Bazı yöntemler şunlardır: Eğitim verimliliğini artırmak için yüksek kaliteli veriler kullanmak; altyapı istikrarını artırmak; Bilgi İşlem Gücü planlamasını optimize etmek; bulut bilişim mimarisinden süper bilgisayar mimarisine geçiş yapmak; yerli GPU platformları kullanmak.
Bilgi İşlem Gücü, yeni bir hizmet modeli haline geldi. Bilgi İşlem Gücü hizmetleri, yeni hesaplama teknolojileri aracılığıyla heterojen bilgi işlem gücünün birleşik çıktısını sağlamakta ve bulut bilişim gibi teknolojilerle entegrasyon göstermektedir. Kullanıcılar sadece bilgi işlem gücü taleplerini iletmekte, hizmet sağlayıcılar ise bilgi işlem gücü yapılandırmasını ve teslimatını gerçekleştirmektedir.
Şu anda bilgi işlem gücü hizmetleri, esas olarak kullanım başına ücretlendirme ve yıllık/aylık abonelik olmak üzere iki modelde sunulmaktadır. Gelecekte "hesaplama ve ağın entegrasyonu" modeli geliştirilmesi, mimari, coğrafi ve hizmet sağlayıcılar arasında esnek planlamayı desteklemesi muhtemeldir.
Mevcut yüksek performanslı GPU kıtlığına rağmen, uzun vadede arz ve talep nihayetinde dengelenecektir. Bilgi İşlem Gücü hizmet sağlayıcıları, piyasanın rasyonelliğe dönüşü için hazırlıklı olmalıdır. Büyük model taleplerinin normalleşmesiyle birlikte, bulut hizmetlerinden doğan bilgi işlem hizmetleri hızla benzersiz bir endüstri zinciri ve iş modeli oluşturmaktadır.