JEDEC Solid State Technology Association, tổ chức hàng đầu trong phát triển tiêu chuẩn vi điện tử, vừa thông báo đang ở giai đoạn cuối cùng của việc hoàn thiện JESD328 – chuẩn mới cho Small Outline Compression Attached Memory Module (SOCAMM2) dựa trên LPDDR5/5X. Chuẩn này được thiết kế dành riêng cho các nền tảng AI và trung tâm dữ liệu thế hệ tiếp theo, nhằm cung cấp băng thông cao, tiêu thụ điện năng thấp và khả năng mở rộng mô-đun.

Đặc điểm kỹ thuật chính của SOCAMM2

SOCAMM2 định nghĩa một module LPDDR5/5X có thiết kế thấp, dễ bảo trì, phù hợp cho các cấu hình dày đặc và hiệu quả cao trong môi trường AI trung tâm dữ liệu. Theo thông báo từ JEDEC, chuẩn này hỗ trợ tốc độ dữ liệu lên đến 9,6 Gb/s mỗi chân, đáp ứng yêu cầu băng thông cho các ứng dụng huấn luyện và suy luận AI hiện đại, đồng thời giảm nhu cầu năng lượng và làm mát so với bộ nhớ server truyền thống. Module tích hợp Serial Presence Detect (SPD) để nhận dạng và giám sát, đảm bảo tính tương thích với các yêu cầu độ tin cậy cấp doanh nghiệp.

Thiết kế cơ học của SOCAMM2 phù hợp cho khung máy nhỏ gọn và bố trí bo mạch mật độ cao, tạo đường dẫn mở rộng đến dung lượng bộ nhớ lớn hơn trong các hệ thống AI sắp tới. Điều này giúp các nhà sản xuất dễ dàng tích hợp vào các server CPU AI và nền tảng tính toán tăng tốc, với khả năng mở rộng linh hoạt.

Tác động đến ngành công nghiệp và các nhà sản xuất

Một số nhà sản xuất, bao gồm NVIDIA, đã bắt đầu chuyển đổi các nền tảng server sang thiết kế tương tự SOCAMM2 dựa trên các triển khai độc quyền ban đầu. Về mặt vật lý, chúng có thể tương tự hoặc giống hệt, cho phép nâng cấp tốc độ từ 8.533 MT/s lên 9.600 MT/s một cách dễ dàng. Đối với NVIDIA, đây là bước logic để cải thiện hiệu suất mà không cần thay đổi lớn về phần cứng.

JEDEC cho biết, thông số JESD328 sẽ được công bố sớm, theo thông cáo báo chí chính thức. Việc hoàn thiện chuẩn này đánh dấu nỗ lực của các thành viên JEDEC – hơn 380 công ty với hàng nghìn tình nguyện viên – trong việc định hình tiêu chuẩn cho module bộ nhớ thế hệ mới, thúc đẩy đổi mới cơ sở hạ tầng và hiệu suất AI. Ông Mian Quddus, Chủ tịch Hội đồng Quản trị JEDEC và Ủy ban JC-45 về Module DRAM, nhấn mạnh rằng các thành viên đang tích cực định hình các chuẩn sẽ định nghĩa module cho trung tâm dữ liệu AI.

Bối cảnh và triển vọng triển khai

SOCAMM2 xuất hiện trong bối cảnh nhu cầu bộ nhớ hiệu quả cao cho AI ngày càng tăng, với LPDDR5/5X đã được định nghĩa trong JESD209-5C từ năm 2023, hỗ trợ mật độ từ 2 Gb đến 32 Gb. So với các chuẩn trước như LPCAMM, SOCAMM2 nổi bật với số lượng cổng I/O lớn hơn (khoảng 649), tích hợp trực tiếp substrate LPDDR5X và hình thức nhỏ gọn hơn, giúp tăng băng thông lên đến 16 TB/s trong các hệ thống như Blackwell Ultra của NVIDIA.

Trong ngành, chuẩn này có thể thúc đẩy sự chuẩn hóa rộng rãi hơn, đặc biệt khi NVIDIA đang chuyển sang SOCAMM2 để hỗ trợ LPDDR6 từ nhiều nhà cung cấp. Các cập nhật liên quan, như hỗ trợ SOCAMM2 trong chuẩn DDR5 SPD (JESD400-5D) năm nay, cho thấy sự đồng bộ hóa giữa các tiêu chuẩn bộ nhớ.

Tóm lại, việc hoàn tất SOCAMM2 sẽ cung cấp nền tảng bộ nhớ mô-đun, tiết kiệm năng lượng cho các ứng dụng AI, góp phần nâng cao hiệu quả trung tâm dữ liệu. Các nhà phát triển nên theo dõi thông báo chính thức từ JEDEC để cập nhật triển khai.