Công nghệ bộ nhớ tiêu thụ điện năng thấp mới hứa hẹn tăng tốc độ xử lý AI và giảm đáng kể mức tiêu thụ năng lượng trong trung tâm dữ liệu.
Ngày 24/10/2025, Micron thông báo đã bắt đầu cung cấp mẫu thử nghiệm (sampling) bộ nhớ SOCAMM2 – thế hệ mới của dòng module nhớ dành riêng cho máy chủ AI, với dung lượng lên tới 192GB/module dựa trên chuẩn LPDDR5X.
Thông số và lợi ích chính
- Dung lượng: 192GB/module – tăng 50% so với thế hệ SOCAMM trước, trong cùng kích thước vật lý.
- Tốc độ: 9,6 Gbps – đảm bảo băng thông cao cho các tác vụ AI.
- Quy trình sản xuất: 1-gamma DRAM – giúp giảm hơn 20% điện năng so với thế hệ trước.
- Hiệu quả năng lượng: Tiêu thụ ít hơn 2/3 so với module RDIMM truyền thống.
- Kích thước nhỏ: Chỉ chiếm khoảng 1/3 diện tích bo mạch, phù hợp với thiết kế máy chủ làm mát bằng chất lỏng.
Tác động đến hiệu năng AI
Micron cho biết việc tăng dung lượng bộ nhớ giúp giảm thời gian tạo token đầu tiên (time-to-first-token) trong các mô hình AI suy luận thời gian thực trên 80%. Điều này đặc biệt quan trọng với các mô hình có cửa sổ ngữ cảnh lớn (large context window), nơi dữ liệu cần được lưu trữ và truy xuất nhanh chóng mà không phải trao đổi qua lại với bộ nhớ ngoài.
Hợp tác với NVIDIA và định hướng thị trường
Micron đã phối hợp chặt chẽ với NVIDIA để tích hợp bộ nhớ tiêu thụ điện năng thấp vào các thiết kế máy chủ AI. SOCAMM2 được tối ưu cho các nền tảng xử lý mô hình ngôn ngữ lớn (LLM) và AI suy luận thời gian thực, nơi hiệu suất trên mỗi watt là yếu tố then chốt.
Hiện tại, công nghệ này chỉ nhắm đến thị trường trung tâm dữ liệu, không có kế hoạch triển khai cho người tiêu dùng hoặc máy tính để bàn.
Kế hoạch sản xuất
- Đang trong giai đoạn cung cấp mẫu cho các đối tác chiến lược.
- Sản xuất hàng loạt sẽ bắt đầu theo lịch ra mắt của các nền tảng máy chủ đối tác – có thể vào đầu năm 2026.
Kết luận
Với SOCAMM2, Micron không chỉ nâng cao mật độ bộ nhớ, mà còn giải quyết bài toán nhiệt và điện năng – hai rào cản lớn trong việc mở rộng hạ tầng AI. Trong bối cảnh ngành công nghiệp chạy đua để xây dựng các “nhà máy AI” với công suất hàng gigawatt, những cải tiến như SOCAMM2 có thể trở thành yếu tố then chốt giúp giảm chi phí vận hành và tăng tính bền vững.