Sau khi NVIDIA tiên phong áp dụng, hai đối thủ sừng sỏ là AMD và Qualcomm cũng đang ráo riết tích hợp chuẩn bộ nhớ mới mang tên SOCAMM vào các sản phẩm AI thế hệ tiếp theo của mình. Đây được xem là chìa khóa để giải quyết bài toán “nút thắt cổ chai” về bộ nhớ đang kìm hãm sự phát triển của các hệ thống AI tác nhân (Agentic AI) hiện nay.
SOCAMM là gì mà khiến các ông lớn “đứng ngồi không yên”?
Ban đầu, SOCAMM được cho là một tiêu chuẩn bộ nhớ được “may đo” riêng cho NVIDIA, và Đội Xanh lá đã sớm áp dụng nó.
Cho anh em nào chưa rõ, SOCAMM về cơ bản dựa trên công nghệ LPDDR DRAM (loại RAM tiết kiệm điện thường thấy trên di động). Tuy nhiên, điểm “ăn tiền” của nó so với các giải pháp như HBM (High Bandwidth Memory) hay LPDDR5X thông thường là khả năng có thể nâng cấp (upgradable). Thay vì bị hàn chết vào bo mạch (PCB), SOCAMM cho phép tháo lắp linh hoạt, trở thành một phương án tuyệt vời để hoạt động song song với HBM nhằm xử lý các tác vụ ngốn bộ nhớ.
Nước đi khác biệt của AMD và Qualcomm
Theo báo cáo từ Hankyung, cả AMD và Qualcomm đang nghiên cứu một hướng đi khác với NVIDIA. Thay vì sao chép y nguyên, họ dự định sắp xếp mô-đun theo dạng “hình vuông” với hai hàng chip DRAM riêng biệt.
Mục đích của thiết kế này là đưa vi mạch quản lý năng lượng (PMIC) tích hợp thẳng lên mô-đun bộ nhớ. Điều này mang lại hai lợi ích lớn:
- Ổn định năng lượng: Cho phép điều tiết điện năng hiệu quả hơn ngay tại nguồn, đảm bảo SOCAMM chạy ở tốc độ cực cao mà không gặp sự cố.
- Đơn giản hóa bo mạch chủ: Giảm bớt sự phức tạp khi sản xuất bo mạch chủ vì không cần thiết kế mạch nguồn riêng cho RAM trên mainboard nữa.
Tại sao AI lại cần nhiều RAM đến thế?
Với sự bùng nổ của Agentic AI (AI tác nhân – loại AI có khả năng tự chủ hành động), nhu cầu lưu trữ ngắn hạn bên cạnh bộ nhớ HBM tốc độ cao trở nên cấp thiết.
SOCAMM cho phép hệ thống trang bị hàng Terabyte (TB) bộ nhớ cho mỗi CPU. Điều này giúp một tác nhân AI có thể giữ hàng triệu “token” (dữ liệu ngữ cảnh) ở trạng thái “kích hoạt” (active) trong bộ nhớ cùng lúc. Dù tốc độ không thể so với HBM, nhưng SOCAMM lại là giải pháp cân bằng tuyệt vời về dung lượng và điện năng tiêu thụ.
Hiện tại, NVIDIA dự kiến sẽ trang bị SOCAMM 2 cho các cụm siêu máy tính AI Vera Rubin. Với động thái nhập cuộc của AMD và Qualcomm, chúng ta hoàn toàn có thể tin rằng chuẩn bộ nhớ này sẽ sớm trở thành tiêu chuẩn vàng trong các trung tâm dữ liệu AI thế hệ mới.