Module Quang Marvell Đặt Bộ Nhớ Cách GPU 50m

Trong suốt nhiều năm qua, một quy tắc vật lý bất thành văn trong thiết kế máy chủ AI là: bộ nhớ tốc độ cao nhất bắt buộc phải nằm sát ngay bên cạnh hoặc xếp chồng trực tiếp lên chip xử lý với khoảng cách chỉ vỏn vẹn vài milimet. Mới đây, Marvell Technology đã chính thức phá vỡ giới hạn này khi công bố module bộ nhớ quang học Photonic Fabric Memory Module, cho phép đặt bộ nhớ băng thông cao (cả HBM lẫn DDR) cách xa chip tăng tốc GPU hoặc XPU tới 50 mét. Bước tiến này mở ra một kỷ nguyên mới cho kiến trúc trung tâm dữ liệu khi biến bộ nhớ thành một tài nguyên phân tán độc lập. Cùng Sicomp đi sâu phân tích cơ chế quang tử và ý nghĩa thực tiễn đối với hạ tầng tính toán trí tuệ nhân tạo.

I. GIỚI HẠN VẬT LÝ 1,5 MM CỦA DÂY ĐỒNG VÀ "BỨC TƯỜNG BỘ NHỚ" AI

Khi xử lý các mô hình ngôn ngữ lớn (LLM), năng lực tính toán toán học thuần túy của các bộ tăng tốc AI liên tục tăng vọt qua từng thế hệ kiến trúc. Tuy nhiên, tốc độ nạp dữ liệu từ bộ nhớ vào nhân tính toán lại không thể theo kịp – hiện tượng này được giới công nghệ gọi là Bức tường bộ nhớ (Memory Wall).

Nguyên nhân chính nằm ở giới hạn suy hao tín hiệu điện từ của dây đồng: khi tốc độ truyền dữ liệu chạm ngưỡng hàng Terabit mỗi giây, các đường vi mạch bằng đồng trên bo mạch chủ bị suy giảm chất lượng tín hiệu cực nhanh. Đó là lý do vì sao các chuẩn bộ nhớ HBM siêu tốc bắt buộc phải nằm trên cùng một đế silicon liên kết (interposer) ngay cạnh GPU với khoảng cách điện học thông thường tối đa chỉ là 1,5 mm. Rào cản vật lý này khiến dung lượng VRAM bị khóa chặt theo từng con chip, buộc người dùng nếu muốn có thêm bộ nhớ để chạy mô hình AI lớn thì phải mua thêm cả một cụm GPU đắt đỏ dù không cần thêm sức mạnh tính toán.

II. MARVELL ĐÃ CHẾ TẠO RA ĐIỀU GÌ: THAY THẾ ĐỒNG BẰNG ÁNH SÁNG

Để giải phóng bộ nhớ khỏi sự kìm kẹp của dây đồng, module Photonic Fabric Memory Module của Marvell đã thay thế toàn bộ kết nối điện truyền thống bằng công nghệ quang tử học (Photonics). Dữ liệu giờ đây được mã hóa và truyền đi dưới dạng ánh sáng xuyên qua các sợi cáp quang với tốc độ cao và suy hao tín hiệu gần như bằng không:

III. BỘ NHỚ DÙNG CHUNG VƯỢT MỐC 32TB CHO 16 MÁY CHỦ

Không chỉ dừng lại ở việc kéo dài dây cáp kết nối, công nghệ của Marvell mở ra khái niệm Bể chứa bộ nhớ phân tán (Disaggregated Memory Pools). Module này có khả năng gom cụm và phân bổ tài nguyên bộ nhớ cho tối đa 16 máy chủ (hosts) cùng lúc:

IV. TÁCH RỜI COMPUTE VÀ MEMORY: LỜI GIẢI CHO CHI PHÍ AI INFERENCE

Trong các bài toán suy luận trí tuệ nhân tạo quy mô lớn (Large-scale AI Inference), kích thước mô hình ngày càng phình to đòi hỏi dung lượng bộ nhớ cực lớn để chứa toàn bộ trọng số (weights) và bảng ngữ cảnh (KV Cache). Trong kiến trúc truyền thống, nếu muốn có thêm 1 TB VRAM, doanh nghiệp bắt buộc phải chi hàng tỷ đồng mua thêm cả cụm GPU mới – dù năng lực tính toán của các GPU cũ vẫn chưa dùng hết.

Triết lý của Marvell là: Bộ nhớ phải có khả năng mở rộng độc lập hoàn toàn với năng lực tính toán (Compute). Khi hệ thống thiếu bộ nhớ, bạn chỉ việc gắn thêm module bộ nhớ vào tủ rack mà không cần phải đầu tư thêm bất kỳ con chip xử lý đắt đỏ nào khác.

Ông Dave Lazovsky – Phó Chủ tịch Điều hành tại Marvell – nhấn mạnh rằng giải pháp tách rời này có thể giúp tăng thông lượng suy luận (Inference Throughput) lên từ 2 đến 3 lần trong một số kịch bản tác vụ cụ thể, đồng thời giảm mạnh chi phí điện năng làm mát do không phải vận hành thêm các nhân tính toán nhàn rỗi.

V. NHỮNG YẾU TỐ CẦN THEO DÕI VÀ GÓC NHÌN HẠ TẦNG TỪ SICOMP

Sau các công bố sơ khởi vào tháng 8/2026 tại các hội nghị kỹ thuật FMS và Hot Interconnects, Marvell đã đi sâu vào lộ trình thương mại hóa tại sự kiện Ngày Hội Nhà Đầu Tư (Investor Day) diễn ra vào cuối tháng 10/2026. Tuy nhiên, giới chuyên gia hạ tầng nhận định thị trường thực tế cần thời gian để kiểm chứng hai yếu tố then chốt:

• Độ trễ thực tế ngoài phòng thí nghiệm: Liệu con số độ trễ dưới 200 nanogiây có duy trì ổn định khi triển khai trên hệ thống tủ rack thực tế với môi trường nhiệt độ và tải công việc phức tạp?
• Mức độ đón nhận của các Hyperscaler: Các ông lớn dịch vụ đám mây và phòng nghiên cứu AI như Microsoft, AWS hay Google sẽ tích hợp kiến trúc bộ nhớ quang học phân tán này vào môi trường sản xuất (Production) với quy mô như thế nào trong thời gian tới.

Tại Sicomp, chúng tôi đánh giá đây là một trong những bước ngoặt quan trọng định hình lại cách thức xây dựng trung tâm dữ liệu trong nửa cuối thập kỷ này. Việc chuyển dịch từ kết nối đồng sang quang tử học sẽ sớm giải quyết triệt để bài toán thiếu hụt VRAM trên quy mô lớn.

Hiện tại, để phục vụ nhu cầu tính toán AI và xử lý dữ liệu lớn của các doanh nghiệp và viện nghiên cứu, Sicomp cung cấp đa dạng các cấu hình máy trạm PC AI tối ưu VRAM thế hệ mới, các hệ thống PC Server & Workstation chạy đa GPU hiệu năng cao và giải pháp máy tính PC Gaming cao cấp với chi phí đầu tư hợp lý nhất.