CEO Jensen Huang công bố GPU "khủng khiếp" Blackwell, đánh dấu sự chuyển sang kỷ nguyên của AI tạo sinh (generative AI), vượt qua định luật Moore

• Tại sự kiện NVIDIA GTC 2024, CEO Jensen Huang công bố GPU "khủng khiếp" mới có tên Blackwell, đánh dấu sự chuyển sang kỷ nguyên mới của AI tạo sinh (generative AI), vượt qua luật Moore truyền thống.

• Trong 8 năm qua, NVIDIA đã tăng khả năng tính toán gấp 1.000 lần, vượt xa so với thời kỳ đỉnh cao của luật Moore, nhưng vẫn chưa đủ để đáp ứng nhu cầu ngày càng tăng của ngành công nghiệp.

• Huang cho rằng tương lai thuộc về AI tạo sinh, vì vậy họ đã tạo ra bộ xử lý đặc biệt cho kỷ nguyên này, với khả năng tạo sinh nội dung token (content token generation) ở định dạng FP4 mới.

• Blackwell cung cấp 20 petaflops sức mạnh, hỗ trợ mô hình AI quy mô nghìn tỷ tham số, với hiệu suất cao gấp 30 lần so với thế hệ trước cho việc suy luận mô hình ngôn ngữ lớn (LLM inference).

• Kiến trúc mới có Tensor Engine thế hệ 2 để nhân đôi kích thước mô hình AI, kết nối NVLink thế hệ 5 cho phép tối đa 576 GPU làm việc đồng bộ, và công nghệ đảm bảo tin cậy cho quá trình huấn luyện kéo dài nhiều tuần.

• Các hãng công nghệ lớn như Amazon, Google, Microsoft và Tesla đã cam kết sử dụng Blackwell.

• So với kiến trúc Hopper trước đây, Blackwell chỉ cần 2.000 GPU và ít năng lượng hơn (4 megawatt) để huấn luyện mô hình GPT-4 1,8 nghìn tỷ tham số trong cùng khoảng thời gian 90 ngày.

• NVIDIA cũng giới thiệu siêu máy tính AI DGX SuperPOD mới với tối đa 576 GPU Blackwell và 11,5 exaflops sức mạnh tính toán AI.

• Trong khi Intel và AMD đang đuổi theo, Blackwell của NVIDIA nâng tầm mới cho AI tạo sinh quy mô lớn thông qua các đổi mới kiến trúc được thiết kế riêng.

📌 Với Blackwell, NVIDIA tái định nghĩa định luật Moore, mở ra kỷ nguyên mới của AI tạo sinh quy mô nghìn tỷ tham số, cung cấp sức mạnh tính toán khổng lồ 20 petaflops/GPU và hiệu suất cao gấp 30 lần cho suy luận LLM.

https://analyticsindiamag.com/nvidia-rewrites-moores-law-with-blackwell/