Daya Komputasi yang Kurang: Model Bisnis Baru di Era Model Besar
Pelatihan model besar membutuhkan daya komputasi yang sangat besar, tetapi kekurangan GPU high-end telah menjadi masalah industri. Harga satu NVIDIA A100 telah meroket menjadi dua hingga tiga ratus ribu yuan, sewa bulanan untuk satu server A100 juga melonjak hingga 50-70 ribu yuan. Meskipun demikian, banyak perusahaan masih kesulitan untuk mendapatkan chip yang dibutuhkan.
Para ahli di industri mengungkapkan, saat ini ada sekitar 100.000 kartu GPU kelas atas di pasar China, dan jumlahnya mungkin meningkat menjadi 200.000 kartu menjelang akhir tahun. Perusahaan yang memiliki hampir 10.000 kartu menyumbang sekitar 10% pangsa pasar, sedangkan 40.000 kartu dapat menyumbang 20%.
Namun, biaya daya komputasi yang tinggi membuat banyak perusahaan mundur. Untuk melatih sebuah model besar vertikal di bidang meteorologi memerlukan 2 juta yuan, sementara biaya model besar umum bisa seratus kali lipatnya. Di industri ini, secara umum diyakini bahwa tanpa dukungan dana miliaran, sangat sulit untuk terus berinvestasi dalam penelitian dan pengembangan model besar.
Menghadapi Daya Komputasi yang kurang, perusahaan sedang mengambil tindakan aktif. Beberapa metode termasuk: menggunakan data berkualitas tinggi untuk meningkatkan efisiensi pelatihan; meningkatkan stabilitas infrastruktur; mengoptimalkan penjadwalan Daya Komputasi; beralih dari arsitektur komputasi awan ke arsitektur superkomputer; menggunakan platform GPU dalam negeri, dll.
Daya Komputasi telah menjadi model layanan baru. Layanan daya komputasi mewujudkan keluaran daya komputasi heterogen secara terpadu melalui teknologi komputasi baru, dan berintegrasi dengan teknologi seperti komputasi awan. Pengguna hanya perlu mengajukan permintaan daya komputasi, dan penyedia layanan akan menyelesaikan konfigurasi dan pengiriman daya komputasi.
Saat ini, layanan daya komputasi terutama menggunakan dua model, yaitu penagihan berdasarkan penggunaan dan paket tahunan/bulanan. Di masa depan, mungkin akan berkembang menjadi model "integrasi daya komputasi dan jaringan", yang mendukung penjadwalan fleksibel lintas arsitektur, lintas wilayah, dan lintas penyedia layanan.
Meskipun saat ini terjadi kekurangan GPU kelas atas, namun dalam jangka panjang penawaran dan permintaan pada akhirnya akan seimbang. Penyedia layanan daya komputasi perlu bersiap-siap, siap untuk pasar yang kembali ke rasionalitas. Dengan normalisasi permintaan model besar, layanan daya komputasi yang berasal dari layanan cloud sedang dengan cepat membentuk rantai industri dan model bisnis yang unik.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
24 Suka
Hadiah
24
7
Bagikan
Komentar
0/400
WalletDetective
· 07-17 18:11
Kartu yang direbut sudah tidak ada uangnya, kan?
Lihat AsliBalas0
SignatureAnxiety
· 07-17 00:53
Bukan GPU-nya yang terlalu mahal, tapi saya yang terlalu miskin.
Lihat AsliBalas0
OnchainSniper
· 07-14 22:19
Uang semua masuk ke kantong Nvidia.
Lihat AsliBalas0
AirdropFreedom
· 07-14 22:18
Uang banyak berarti Daya Komputasi.
Lihat AsliBalas0
MoneyBurner
· 07-14 22:15
Pekerja optimis, selalu siap untuk kehilangan paspor dan Rug Pull.
Kekurangan daya komputasi di era model besar: model bisnis baru dan strategi respons
Daya Komputasi yang Kurang: Model Bisnis Baru di Era Model Besar
Pelatihan model besar membutuhkan daya komputasi yang sangat besar, tetapi kekurangan GPU high-end telah menjadi masalah industri. Harga satu NVIDIA A100 telah meroket menjadi dua hingga tiga ratus ribu yuan, sewa bulanan untuk satu server A100 juga melonjak hingga 50-70 ribu yuan. Meskipun demikian, banyak perusahaan masih kesulitan untuk mendapatkan chip yang dibutuhkan.
Para ahli di industri mengungkapkan, saat ini ada sekitar 100.000 kartu GPU kelas atas di pasar China, dan jumlahnya mungkin meningkat menjadi 200.000 kartu menjelang akhir tahun. Perusahaan yang memiliki hampir 10.000 kartu menyumbang sekitar 10% pangsa pasar, sedangkan 40.000 kartu dapat menyumbang 20%.
Namun, biaya daya komputasi yang tinggi membuat banyak perusahaan mundur. Untuk melatih sebuah model besar vertikal di bidang meteorologi memerlukan 2 juta yuan, sementara biaya model besar umum bisa seratus kali lipatnya. Di industri ini, secara umum diyakini bahwa tanpa dukungan dana miliaran, sangat sulit untuk terus berinvestasi dalam penelitian dan pengembangan model besar.
Menghadapi Daya Komputasi yang kurang, perusahaan sedang mengambil tindakan aktif. Beberapa metode termasuk: menggunakan data berkualitas tinggi untuk meningkatkan efisiensi pelatihan; meningkatkan stabilitas infrastruktur; mengoptimalkan penjadwalan Daya Komputasi; beralih dari arsitektur komputasi awan ke arsitektur superkomputer; menggunakan platform GPU dalam negeri, dll.
Daya Komputasi telah menjadi model layanan baru. Layanan daya komputasi mewujudkan keluaran daya komputasi heterogen secara terpadu melalui teknologi komputasi baru, dan berintegrasi dengan teknologi seperti komputasi awan. Pengguna hanya perlu mengajukan permintaan daya komputasi, dan penyedia layanan akan menyelesaikan konfigurasi dan pengiriman daya komputasi.
Saat ini, layanan daya komputasi terutama menggunakan dua model, yaitu penagihan berdasarkan penggunaan dan paket tahunan/bulanan. Di masa depan, mungkin akan berkembang menjadi model "integrasi daya komputasi dan jaringan", yang mendukung penjadwalan fleksibel lintas arsitektur, lintas wilayah, dan lintas penyedia layanan.
Meskipun saat ini terjadi kekurangan GPU kelas atas, namun dalam jangka panjang penawaran dan permintaan pada akhirnya akan seimbang. Penyedia layanan daya komputasi perlu bersiap-siap, siap untuk pasar yang kembali ke rasionalitas. Dengan normalisasi permintaan model besar, layanan daya komputasi yang berasal dari layanan cloud sedang dengan cepat membentuk rantai industri dan model bisnis yang unik.