Daya Komputasi Layanan: Model Bisnis Baru di Era Model Besar
Pelatihan model besar membutuhkan dukungan Daya Komputasi yang besar, yang mendorong layanan Daya Komputasi menjadi model bisnis baru yang muncul. Meskipun saat ini ada kekurangan GPU kelas atas, industri sedang aktif menghadapi tantangan ini.
Melatih model bahasa berskala besar memerlukan sumber daya komputasi yang sangat besar. Sebagai contoh model cuaca besar, menggunakan 200 kartu GPU untuk pelatihan selama dua bulan, biayanya bisa melebihi 2 juta yuan. Sementara itu, biaya untuk melatih model besar umum mungkin seratus kali lipat lebih tinggi. Saat ini, di Cina sudah ada lebih dari 100 model besar dengan skala parameter mencapai 1 miliar, tetapi permintaan untuk GPU kelas atas melebihi pasokan menjadi tantangan utama yang dihadapi industri.
Untuk mengatasi kekurangan Daya Komputasi, perusahaan mengambil berbagai langkah:
Menggunakan data berkualitas lebih tinggi untuk meningkatkan efisiensi pelatihan
Mengoptimalkan infrastruktur, mencapai operasi stabil di atas seribu kalori.
Meningkatkan kemampuan penjadwalan Daya Komputasi, meningkatkan pemanfaatan sumber daya
Menggunakan arsitektur superkomputer untuk menurunkan biaya
Menjelajahi penggunaan platform GPU domestik
Sementara itu, penyedia layanan daya komputasi sedang menjajaki model bisnis baru. Saat ini, metode penagihan yang umum meliputi penagihan berdasarkan penggunaan dan langganan tahunan/bulanan. Di masa depan, akan ada kemajuan dalam "integrasi daya komputasi dan jaringan", untuk mewujudkan penjadwalan yang fleksibel lintas arsitektur, lintas wilayah, dan lintas penyedia layanan.
Seiring dengan normalisasi permintaan model besar, layanan daya komputasi sedang berkembang pesat menjadi rantai industri yang unik. Meskipun saat ini kekurangan GPU kelas atas menyebabkan fenomena "perebutan chip", namun dalam jangka panjang, layanan daya komputasi adalah tren yang pasti. Penyedia layanan daya komputasi perlu mempersiapkan diri untuk perkembangan setelah pasar kembali ke rasional.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
12 Suka
Hadiah
12
4
Bagikan
Komentar
0/400
OnchainSniper
· 07-21 08:21
Sekarang semua kurang.
Lihat AsliBalas0
BearMarketNoodler
· 07-21 08:18
Pasar mengejar harga sampai kekurangan chip, saat spekulasi menjadi gila adalah sinyal puncak.
Layanan daya komputasi dalam pelatihan model besar: peluang baru di bawah tantangan kekurangan
Daya Komputasi Layanan: Model Bisnis Baru di Era Model Besar
Pelatihan model besar membutuhkan dukungan Daya Komputasi yang besar, yang mendorong layanan Daya Komputasi menjadi model bisnis baru yang muncul. Meskipun saat ini ada kekurangan GPU kelas atas, industri sedang aktif menghadapi tantangan ini.
Melatih model bahasa berskala besar memerlukan sumber daya komputasi yang sangat besar. Sebagai contoh model cuaca besar, menggunakan 200 kartu GPU untuk pelatihan selama dua bulan, biayanya bisa melebihi 2 juta yuan. Sementara itu, biaya untuk melatih model besar umum mungkin seratus kali lipat lebih tinggi. Saat ini, di Cina sudah ada lebih dari 100 model besar dengan skala parameter mencapai 1 miliar, tetapi permintaan untuk GPU kelas atas melebihi pasokan menjadi tantangan utama yang dihadapi industri.
Untuk mengatasi kekurangan Daya Komputasi, perusahaan mengambil berbagai langkah:
Sementara itu, penyedia layanan daya komputasi sedang menjajaki model bisnis baru. Saat ini, metode penagihan yang umum meliputi penagihan berdasarkan penggunaan dan langganan tahunan/bulanan. Di masa depan, akan ada kemajuan dalam "integrasi daya komputasi dan jaringan", untuk mewujudkan penjadwalan yang fleksibel lintas arsitektur, lintas wilayah, dan lintas penyedia layanan.
Seiring dengan normalisasi permintaan model besar, layanan daya komputasi sedang berkembang pesat menjadi rantai industri yang unik. Meskipun saat ini kekurangan GPU kelas atas menyebabkan fenomena "perebutan chip", namun dalam jangka panjang, layanan daya komputasi adalah tren yang pasti. Penyedia layanan daya komputasi perlu mempersiapkan diri untuk perkembangan setelah pasar kembali ke rasional.