Khả năng tính toán dịch vụ: Mô hình kinh doanh mới trong thời đại mô hình lớn
Đào tạo mô hình lớn cần hỗ trợ khả năng tính toán lớn, điều này đã thúc đẩy dịch vụ khả năng tính toán trở thành một mô hình kinh doanh mới nổi. Mặc dù hiện tại có sự thiếu hụt GPU cao cấp, nhưng ngành công nghiệp đang tích cực ứng phó với thách thức này.
Việc huấn luyện các mô hình ngôn ngữ quy mô lớn cần một nguồn lực tính toán khổng lồ. Lấy một mô hình khí tượng lớn làm ví dụ, việc sử dụng 200 thẻ GPU để huấn luyện trong hai tháng có thể tốn hơn 2 triệu nhân dân tệ. Trong khi đó, chi phí để huấn luyện các mô hình lớn tổng quát có thể cao gấp trăm lần. Hiện tại, Trung Quốc đã có hơn 100 mô hình lớn với quy mô tham số đạt 1 tỷ, nhưng việc thiếu hụt GPU cao cấp đã trở thành vấn đề chính mà ngành công nghiệp đang phải đối mặt.
Để đối phó với việc thiếu hụt khả năng tính toán, các doanh nghiệp đã thực hiện nhiều biện pháp:
Sử dụng dữ liệu chất lượng cao hơn để nâng cao hiệu quả đào tạo
Tối ưu hóa cơ sở hạ tầng, đạt được hoạt động ổn định trên 1000 kcal
Cải thiện khả năng tính toán, nâng cao tỷ lệ sử dụng tài nguyên
Sử dụng kiến trúc siêu máy tính để giảm chi phí
Khám phá việc sử dụng nền tảng GPU nội địa
Trong khi đó, các nhà cung cấp dịch vụ khả năng tính toán đang khám phá các mô hình kinh doanh mới. Hiện tại, các phương thức tính phí chính bao gồm tính phí theo lượng và gói theo năm hoặc theo tháng. Trong tương lai, sẽ thúc đẩy "sự tích hợp và hợp nhất khả năng tính toán", đạt được việc điều phối linh hoạt qua các kiến trúc, khu vực và nhà cung cấp dịch vụ khác nhau.
Với nhu cầu mô hình lớn ngày càng trở nên bình thường hóa, khả năng tính toán dịch vụ đang nhanh chóng phát triển thành một chuỗi ngành độc đáo. Mặc dù hiện tại sự thiếu hụt GPU cao cấp gây ra hiện tượng "cạnh tranh chip", nhưng về lâu dài, việc dịch vụ hóa khả năng tính toán là xu hướng chắc chắn. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị sẵn sàng cho sự phát triển sau khi thị trường trở lại trạng thái hợp lý.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
19 thích
Phần thưởng
19
6
Chia sẻ
Bình luận
0/400
MetaverseLandlord
· 07-24 00:54
Mua card đồ họa gì đây, hết sạch rồi.
Xem bản gốcTrả lời0
MevHunter
· 07-23 22:03
GPU khó mua quá đi, thật sự là cạnh tranh quá.
Xem bản gốcTrả lời0
OnchainSniper
· 07-21 08:21
Bây giờ thiếu mọi thứ.
Xem bản gốcTrả lời0
BearMarketNoodler
· 07-21 08:18
Thị trường đuổi theo giá đến khi thiếu chip, đẩy giá lên điên cuồng chính là tín hiệu đỉnh.
Dịch vụ khả năng tính toán trong đào tạo mô hình lớn: Cơ hội kinh doanh mới dưới thách thức thiếu hụt
Khả năng tính toán dịch vụ: Mô hình kinh doanh mới trong thời đại mô hình lớn
Đào tạo mô hình lớn cần hỗ trợ khả năng tính toán lớn, điều này đã thúc đẩy dịch vụ khả năng tính toán trở thành một mô hình kinh doanh mới nổi. Mặc dù hiện tại có sự thiếu hụt GPU cao cấp, nhưng ngành công nghiệp đang tích cực ứng phó với thách thức này.
Việc huấn luyện các mô hình ngôn ngữ quy mô lớn cần một nguồn lực tính toán khổng lồ. Lấy một mô hình khí tượng lớn làm ví dụ, việc sử dụng 200 thẻ GPU để huấn luyện trong hai tháng có thể tốn hơn 2 triệu nhân dân tệ. Trong khi đó, chi phí để huấn luyện các mô hình lớn tổng quát có thể cao gấp trăm lần. Hiện tại, Trung Quốc đã có hơn 100 mô hình lớn với quy mô tham số đạt 1 tỷ, nhưng việc thiếu hụt GPU cao cấp đã trở thành vấn đề chính mà ngành công nghiệp đang phải đối mặt.
Để đối phó với việc thiếu hụt khả năng tính toán, các doanh nghiệp đã thực hiện nhiều biện pháp:
Trong khi đó, các nhà cung cấp dịch vụ khả năng tính toán đang khám phá các mô hình kinh doanh mới. Hiện tại, các phương thức tính phí chính bao gồm tính phí theo lượng và gói theo năm hoặc theo tháng. Trong tương lai, sẽ thúc đẩy "sự tích hợp và hợp nhất khả năng tính toán", đạt được việc điều phối linh hoạt qua các kiến trúc, khu vực và nhà cung cấp dịch vụ khác nhau.
Với nhu cầu mô hình lớn ngày càng trở nên bình thường hóa, khả năng tính toán dịch vụ đang nhanh chóng phát triển thành một chuỗi ngành độc đáo. Mặc dù hiện tại sự thiếu hụt GPU cao cấp gây ra hiện tượng "cạnh tranh chip", nhưng về lâu dài, việc dịch vụ hóa khả năng tính toán là xu hướng chắc chắn. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị sẵn sàng cho sự phát triển sau khi thị trường trở lại trạng thái hợp lý.