Nếu như trước đây nhắc đến CPU server chúng ta thường chỉ nghĩ đến xung nhịp hay số nhân, thì với thế hệ Intel Xeon 6 Intel đã thực sự thay đổi bằng việc mang đến một thiết kế chia tách rõ ràng để tối ưu hóa cho từng nhu cầu cụ thể của doanh nghiệp và Data Center hiện đại. Vậy Intel Xeon 6 có gì đặc biệt và công nghệ AMX đang làm mưa làm gió thế nào trong mảng AI? Hãy cùng Sicomp tìm hiểu về dòng CPU Server mới nhất này nhé.

Kiến trúc kép tách đôi hiệu năng và hiệu quả

Thay vì cố nhét mọi thứ vào một con chip, Intel Xeon 6 được chia làm hai nhánh vi xử lý riêng biệt trên cùng một nền tảng:

• P-cores: Đây là dòng chip dành cho những tác vụ nặng với kiến trúc tối ưu cho hiệu năng, các nhân P-core được thiết kế to hơn, mạnh hơn, xung nhịp cao hơn. Từ đó các hệ thống cần sức mạnh tính toán thuần như AI training, HPC hay phân tích dữ liệu lớn sẽ luôn đạt được sức mạnh hiệu năng rất vượt trội so với đời cũ.

• E-cores: Đây là điểm sáng mới mẻ nhất vì dòng E-core tập trung vào mật độ và tiết kiệm năng lượng. Một con chip có thể chứa tới 144 hoặc 288 nhân, giúp xử lý song song khối lượng công việc khổng lồ nhưng lại tiêu tốn ít điện năng hơn hẳn. Cực kỳ phù hợp với các dịch vụ Microservices, Cloud-native, Web server và đặc biệt là hệ thống mạng 5G/vRAN tại biên.

Điều này thay đổi Data Center và Edge Computing thế nào?

Sự phân hóa này giải quyết vấn đề đau đầu nhất của các Data Center hiện nay - Chi phí vận hành và tốc độ.

• Tại Data Center: Thay vì phải dùng những con chip đắt và nóng để chạy các tác vụ nền nhẹ nhàng, giờ đây doanh nghiệp có thể chuyển sang dùng dòng E-core. Thực tế cho thấy, một server chạy Xeon 6 E-core có thể gánh tải lượng công việc tương đương 3-4 server đời cũ, giúp tiết kiệm diện tích tủ rack và giảm hóa đơn tiền điện làm mát một cách chóng mặt.
• Tại biên Edge/5G: Với các trạm viễn thông hay máy chủ đặt tại biên mà nơi không gian chật hẹp và nguồn điện hạn chế, dòng Xeon 6 E-core giúp tăng mật độ xử lý vRAN lên gấp hơn 2 lần mà không làm hệ thống bị quá nhiệt.

Ngoài ra Intel Xeon 6 hỗ trợ chuẩn MRDIMM mới cho băng thông bộ nhớ cực cao lên tới 8800 MT/s, từ đó giải quyết triệt để vấn đề nghẽn cổ chai khi CPU phải xử lý lượng dữ liệu quá lớn từ RAM, điểm trừ mà nhiều hệ thống nhiều nhân khác hay gặp phải.

Trong các tác vụ cơ sở dữ liệu hay các ứng dụng doanh nghiệp yêu cầu độ phản hồi tức thì, xung nhịp cao và kiến trúc P-core của Intel vẫn cho độ ổn định nhỉnh hơn khi so sánh với Epyc của AMD.  Đặc biệt phần mềm của Intel như bộ công cụ OpenVINO, oneAPI đã được tối ưu hàng chục năm nay, giúp các lập trình viên triển khai ứng dụng mượt mà, ít gặp lỗi tương thích hơn so với nền tảng của đối thủ.

Intel AMX - Công nghệ vượt trội cho AI

Nhiều người vẫn nghĩ làm AI thì bắt buộc phải mua card rời đắt tiền. Nhưng với Intel Advanced Matrix Extensions tích hợp sẵn trên Xeon 6, câu chuyện đã khác.

AMX là gì? Hiểu đơn giản thì AI thuần là phép nhân ma trận dữ liệu khổng lồ. AMX là một bộ tăng tốc phần cứng chuyên biệt nằm ngay trên CPU. Thay vì load từng dòng dữ liệu, AMX load một lúc 1KB dữ liệu vào nằm chờ sẵn trong thanh ghi TMM, từ đó TMUL có thể thực hiện hàng ngàn phép tính FMA song song nhờ vào lưới các bộ nhân phần cứng mà không cần phải load lại dữ liệu. Từ đó tốc độ training AI tăng lên rất nhiều.

AMX tác động thế nào đến AI?

• AMX hỗ trợ cực tốt định dạng dữ liệu BF16 và INT8. Đây là ưu điểm lớn cho việc chạy các model AI với tốc độ cao mà vẫn giữ được độ chính xác cần thiết.
• Với các mô hình AI dưới 20 tỷ tham số như các chatbot CSKH, nhận diện hình ảnh, phân tích video thông minh, hệ thống gợi ý sản phẩm thì Intel Xeon 6 với AMX có thể xử lý tốt mà không cần gắn thêm GPU. Tiết kiệm kha khá cho nhiều người vì không cần bỏ thêm vài trăm triệu để mua VGA có nhiều VRAM đắt đỏ.

Kết luận

Với sự linh hoạt giữa P-core và E-core cùng AMX, nếu bạn cần một loại CPU ổn định, tích hợp sẵn khả năng AI mà không muốn phức tạp hóa hệ thống thì Intel Xeon 6 chính là lựa chọn an toàn và thông minh nhất cho tương lai dài hạn.