Dịch vụ khả năng tính toán trong đào tạo mô hình lớn: Cơ hội kinh doanh mới dưới thách thức thiếu hụt

robot
Đang tạo bản tóm tắt

Khả năng tính toán dịch vụ: Mô hình kinh doanh mới trong thời đại mô hình lớn

Đào tạo mô hình lớn cần hỗ trợ khả năng tính toán lớn, điều này đã thúc đẩy dịch vụ khả năng tính toán trở thành một mô hình kinh doanh mới nổi. Mặc dù hiện tại có sự thiếu hụt GPU cao cấp, nhưng ngành công nghiệp đang tích cực ứng phó với thách thức này.

Việc huấn luyện các mô hình ngôn ngữ quy mô lớn cần một nguồn lực tính toán khổng lồ. Lấy một mô hình khí tượng lớn làm ví dụ, việc sử dụng 200 thẻ GPU để huấn luyện trong hai tháng có thể tốn hơn 2 triệu nhân dân tệ. Trong khi đó, chi phí để huấn luyện các mô hình lớn tổng quát có thể cao gấp trăm lần. Hiện tại, Trung Quốc đã có hơn 100 mô hình lớn với quy mô tham số đạt 1 tỷ, nhưng việc thiếu hụt GPU cao cấp đã trở thành vấn đề chính mà ngành công nghiệp đang phải đối mặt.

Để đối phó với việc thiếu hụt khả năng tính toán, các doanh nghiệp đã thực hiện nhiều biện pháp:

  1. Sử dụng dữ liệu chất lượng cao hơn để nâng cao hiệu quả đào tạo
  2. Tối ưu hóa cơ sở hạ tầng, đạt được hoạt động ổn định trên 1000 kcal
  3. Cải thiện khả năng tính toán, nâng cao tỷ lệ sử dụng tài nguyên
  4. Sử dụng kiến trúc siêu máy tính để giảm chi phí
  5. Khám phá việc sử dụng nền tảng GPU nội địa

Trong khi đó, các nhà cung cấp dịch vụ khả năng tính toán đang khám phá các mô hình kinh doanh mới. Hiện tại, các phương thức tính phí chính bao gồm tính phí theo lượng và gói theo năm hoặc theo tháng. Trong tương lai, sẽ thúc đẩy "sự tích hợp và hợp nhất khả năng tính toán", đạt được việc điều phối linh hoạt qua các kiến trúc, khu vực và nhà cung cấp dịch vụ khác nhau.

Với nhu cầu mô hình lớn ngày càng trở nên bình thường hóa, khả năng tính toán dịch vụ đang nhanh chóng phát triển thành một chuỗi ngành độc đáo. Mặc dù hiện tại sự thiếu hụt GPU cao cấp gây ra hiện tượng "cạnh tranh chip", nhưng về lâu dài, việc dịch vụ hóa khả năng tính toán là xu hướng chắc chắn. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị sẵn sàng cho sự phát triển sau khi thị trường trở lại trạng thái hợp lý.

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 6
  • Chia sẻ
Bình luận
0/400
MetaverseLandlordvip
· 07-24 00:54
Mua card đồ họa gì đây, hết sạch rồi.
Xem bản gốcTrả lời0
MevHuntervip
· 07-23 22:03
GPU khó mua quá đi, thật sự là cạnh tranh quá.
Xem bản gốcTrả lời0
OnchainSnipervip
· 07-21 08:21
Bây giờ thiếu mọi thứ.
Xem bản gốcTrả lời0
BearMarketNoodlervip
· 07-21 08:18
Thị trường đuổi theo giá đến khi thiếu chip, đẩy giá lên điên cuồng chính là tín hiệu đỉnh.
Xem bản gốcTrả lời0
EthSandwichHerovip
· 07-21 08:17
Card đồ họa chính là thần
Xem bản gốcTrả lời0
LoneValidatorvip
· 07-21 08:14
Cái gì cũng thiếu chỉ có tiền là không thiếu.
Xem bản gốcTrả lời0
Giao dịch tiền điện tử mọi lúc mọi nơi
qrCode
Quét để tải xuống ứng dụng Gate
Cộng đồng
Tiếng Việt
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)