GPU-as-a-Service đang nổi lên như một giải pháp cho nhu cầu tính toán AI ngày càng tăng
- Nhu cầu sức mạnh tính toán cho AI đang tăng mạnh, đặc biệt là GPU do khả năng xử lý hiệu quả nhiều tác vụ đồng thời.
- Không phải startup AI nào cũng đủ vốn đầu tư vào số lượng lớn GPU cần thiết, dẫn đến sự xuất hiện của dịch vụ GPU-as-a-Service (GPUaaS).
- Các công ty như Hyperbolic, Kinesis, Runpod và Vast.ai cung cấp sức mạnh xử lý từ xa cho khách hàng.
- Kinesis phát hiện và tận dụng sức mạnh tính toán nhàn rỗi từ GPU và CPU trên các máy chủ toàn cầu, tổng hợp thành một nguồn tính toán duy nhất.
- Hơn 50% GPU hiện có không được sử dụng tại bất kỳ thời điểm nào, tạo ra cơ hội lớn cho GPUaaS.
- Kinesis hợp tác với đại học, trung tâm dữ liệu, công ty và cá nhân để mua lại sức mạnh tính toán không sử dụng.
- GPUaaS giúp tiết kiệm chi phí bằng cách loại bỏ nhu cầu mua và bảo trì cơ sở hạ tầng vật lý, cho phép công ty tập trung vào cải thiện mô hình AI.
- Các startup không cần máy chủ như Kinesis tuyên bố thân thiện với môi trường hơn bằng cách tận dụng đơn vị xử lý hiện có thay vì cấp nguồn cho máy chủ bổ sung.
- Quy mô thị trường GPUaaS đạt 3,23 tỷ USD vào năm 2023, tăng lên 4,31 tỷ USD năm 2024 và dự kiến đạt 49,84 tỷ USD vào năm 2032.
- Ngành công nghiệp AI đang chuyển trọng tâm từ xây dựng và đào tạo mô hình sang tối ưu hóa hiệu quả.
📌 GPU-as-a-Service đang bùng nổ, tận dụng 50% GPU nhàn rỗi để đáp ứng nhu cầu tính toán AI tăng vọt. Thị trường dự kiến đạt 49,84 tỷ USD vào 2032, mang lại giải pháp tiết kiệm chi phí và bền vững cho các startup AI.
https://spectrum.ieee.org/gpu-as-a-service
Thảo luận
Follow Us
Tin phổ biến
