SSD NVMe Cho AI Local: Vì Sao Phải Là NVMe Và Vì Sao Chọn 4TB Nhiều Nhất?

"Vì sao máy chạy AI local bắt buộc phải dùng SSD NVMe? Và tại sao ai cũng chốt mức dung lượng 4TB?" Đó là hai câu hỏi thường trực nhất mà khách hàng đặt ra khi cấu hình máy trạm tại Sicomp. SSD NVMe giúp rút ngắn thời gian nạp mô hình xuống còn chưa tới một nửa so với SSD SATA, còn 4TB là dung lượng tối thiểu để lưu trữ đồng thời vài mô hình nền lớn cùng các biến thể lượng tử hóa của chúng. Một phép đo công bố ghi nhận việc nạp một model 19,92 GiB mất 25,74 giây trên SSD NVMe PCIe 4.0 nhưng mất tới 57,97 giây trên SSD SATA. Trong khi đó, riêng bản gốc chưa nén của Llama 3.3 70B đã chiếm tới 141,1 GB bộ nhớ. Dưới đây là các số liệu thực tế giúp bạn ra quyết định đầu tư chính xác nhất.

I. SSD NVMe nạp model AI nhanh hơn SSD SATA bao nhiêu?

SSD NVMe nạp model nhanh hơn SSD SATA khoảng 2,25 lần trong các bài đo thực tế có công bố đầy đủ điều kiện testbed. Chuyên trang bestin-it đã sử dụng hệ thống máy trạm HP Z6 G4, trang bị card màn hình Radeon PRO W7900 48GB và công cụ llama-server để nạp mô hình Qwen3.6-35B-A3B bản Q4_K_S. Mỗi ổ cứng được chạy lặp lại 10 lần, xóa sạch bộ nhớ đệm cache hệ điều hành trước mỗi lượt đo (bestin-it, 29/07/2026):

Nguyên nhân của khoảng cách này xuất phát từ giới hạn vật lý của chuẩn kết nối: Giao tiếp SATA thế hệ 3 bị chặn trần băng thông ở mức 600 MB/s (theo SATA-IO Revision 3.0 FAQ). Do đó, bất kể bạn mua ổ SSD SATA cao cấp cỡ nào, nó cũng không thể vượt qua rào cản này.

II. Ổ SSD nhanh hơn có làm AI trả lời nhanh hơn không?

Câu trả lời là: KHÔNG, nếu mô hình đã nằm trong bộ nhớ VRAM của GPU.

Trong cùng bài đo của bestin-it, thời gian sinh ra token đầu tiên đạt 0,184 giây trên ổ NVMe và 0,178 giây trên ổ SATA. Hai con số này hoàn toàn tương đương nhau trong phạm vi sai số đo lường.

Ổ cứng chỉ hoạt động tích cực trong lúc khởi động nạp trọng số mô hình lên VRAM/RAM. Một nghiên cứu chuyên sâu về máy chủ chạy framework vLLM sử dụng cụm GPU NVIDIA H100 kết hợp mảng 4 ổ SSD PCIe 5.0 chạy RAID 0 cho thấy: thời gian đọc trọng số từ ổ đĩa chỉ chiếm vỏn vẹn 7% đến 10% tổng thời gian khởi động dịch vụ. Việc ép hệ thống đọc trực tiếp từ SSD thay vì từ bộ nhớ cache chỉ làm thay đổi tổng thời gian khởi động khoảng 1,04 lần; phần lớn thời gian còn lại phụ thuộc vào năng lực xử lý luồng của CPU (arXiv 2606.07362, 06/2026).

Ý nghĩa thực tế khi ra quyết định: Nếu cỗ máy của bạn là một AI Server khởi động một mô hình duy nhất vào đầu ngày rồi để chạy liên tục phục vụ người dùng, tốc độ SSD Gen4 hay Gen5 hầu như không tác động đến năng suất sinh chữ. Tốc độ ổ cứng chỉ đáng tiền khi bạn thường xuyên chuyển đổi giữa nhiều mô hình trong ngày, hoặc rơi vào trường hợp đặc biệt ở phần tiếp theo.

III. Khi nào tốc độ SSD quyết định trực tiếp tốc độ sinh chữ?

Tốc độ SSD quyết định trực tiếp tốc độ sinh chữ khi kích thước mô hình vượt quá tổng dung lượng RAM và VRAM sẵn có của hệ thống.

Khi rơi vào tình huống này, công cụ llama.cpp sẽ kích hoạt cơ chế ánh xạ bộ nhớ tệp (memory-mapped file - mmap) để đọc trực tiếp các khối trọng số từ ổ SSD trong lúc tính toán: mỗi khi sinh ra một token mới, GPU buộc phải kéo một phần dữ liệu mô hình từ SSD lên. Một trường hợp điển hình được chia sẻ trên cộng đồng Hugging Face: người dùng chạy mô hình DeepSeek-R1 bản Q2_K_XL nặng tới 212 GB trên một cỗ máy chỉ có 96 GB RAM và 24 GB VRAM ghi nhận tốc độ sinh chữ đạt khoảng 1,0 đến 1,3 tokens/giây, trong đó ổ SSD PCIe 5.0 phải duy trì tốc độ đọc liên tục từ 2 đến 5 GB/s (Hugging Face, thảo luận unsloth/DeepSeek-R1-GGUF #13, 01/2025).

IV. Một model AI local chiếm bao nhiêu dung lượng ổ cứng?

Mỗi mô hình AI chiếm từ vài Gigabyte đến hàng trăm Gigabyte trên đĩa cứng, tùy thuộc vào số lượng tham số (parameters) và định dạng lượng tử hóa. Bảng dưới đây đối chiếu dung lượng thực tế của các tệp trọng số trích xuất trực tiếp từ kho lưu trữ Hugging Face (kho Unsloth) vào ngày 29/09/2026:

Cái bẫy khi tải mô hình từ Hugging Face: Kho lưu trữ Llama 3.3 70B chính thức trên Hugging Face có dung lượng tổng lên tới 282,3 GB vì nó chứa thêm một thư mục original/ bên cạnh các tệp checkpoint chuẩn. Nếu lập trình viên gõ lệnh git clone mà không lọc bỏ thư mục thừa, ổ cứng sẽ lập tức bị nuốt trọn gần 300GB dữ liệu.

V. Vì sao ổ cứng 1TB hay 2TB đầy nhanh chóng trên máy chạy AI?

Một ổ cứng 1TB hoặc 2TB sẽ bị lấp đầy chỉ sau vài tuần vì kỹ sư AI không bao giờ giữ duy nhất một mô hình. Trong công việc hàng ngày, họ luôn phải lưu trữ đồng thời:

• Nhiều mô hình và nhiều định dạng lượng tử hóa: Để so sánh câu trả lời, team cần giữ bản gốc FP16, bản Q8_0 để làm chuẩn và bản Q4_K_M để chạy thực tế cho nhẹ máy.
• Image Container môi trường chạy: Bản image Docker vllm/vllm-openai mới nhất nặng tới 8,73 GB ở dạng nén (giải nén ra chiếm hơn 15GB), image ollama/ollama nặng 3,75 GB (Docker Hub, 29/09/2026).
• Checkpoint khi tinh chỉnh: Đây là chỗ nuốt dung lượng dữ dội nhất. Thuật toán tối ưu hóa AdamW lưu 8 byte cho mỗi tham số, bản sao lưu trọng số FP32 lưu thêm 4 byte. Theo tài liệu Hugging Face Transformers, khi tinh chỉnh toàn phần một model 8B kèm trạng thái optimizer, mỗi checkpoint tiêu tốn: 12 bytes × 8 tỷ tham số ≈ 96 GB cho mỗi bản lưu.

VI. Dữ liệu thực tế tại Sicomp: 90% khách hàng chốt ổ SSD 4TB nào?

Trong giai đoạn 12 tháng gần nhất (từ 10/2025 đến 09/2026), theo số liệu thống kê dự án do Sicomp tổng hợp: Khoảng 90% hệ thống PC AI và máy trạm AI local xuất xưởng tại Sicomp đều được khách hàng lựa chọn dung lượng SSD 4TB.

Cơ cấu phân bổ trong nhóm 4TB phản ánh xu hướng rất thực tế:

• Khoảng 70% khách hàng chọn Samsung 990 PRO 4TB (PCIe 4.0): Đây là "lựa chọn quốc dân" vì ổ Gen4 đã khai thác được phần lớn khoảng cách tốc độ so với SATA (nạp model 25 giây thay vì 58 giây), trong khi mức chi phí đầu tư vô cùng hợp lý và hoạt động cực kỳ mát mẻ.
• Khoảng 20% khách hàng chọn SanDisk Optimus GX Pro 8100 4TB (PCIe 5.0): Dòng sản phẩm flagship mới nhất của SanDisk (mã SDSP82400TAH-000E0) tốc độ đọc 14.900 MB/s.