AMD MI450X và MI455X: chọn GPU Helios theo tải suy luận
MI450X thêm lựa chọn 288 GB bộ nhớ trên AMD Helios. Số đo MI455X với DeepSeek-R1 giúp tham khảo, nhưng cần thử lại bằng tải ứng dụng của mình.

Đội chatbot đã chạy được mô hình trên máy thử, nhưng giờ cao điểm người dùng phải chờ lâu. Khi mở rộng, CTO cần biết nên trả thêm cho bộ nhớ GPU hay tăng số máy phục vụ. Tin AMD giới thiệu MI450X và công bố phép đo mới cho MI455X đưa ra một ví dụ hữu ích: dung lượng bộ nhớ và tốc độ xử lý theo lô giải quyết hai bài toán khác nhau.
AMD công bố gì ngày 12/11?
AMD Newsroom giới thiệu MI450X như một lựa chọn trong hệ thống Helios, nền tảng kết hợp nhiều máy và GPU trong một tủ. Hãng công bố MI450X có 288 GB HBM4 mỗi GPU. HBM là bộ nhớ băng thông cao đặt gần bộ xử lý, giúp GPU đọc dữ liệu nhanh. AMD cho biết MI450X và MI455X chia sẻ nền tảng phần mềm ROCm và có cùng các khả năng cốt lõi về tính toán, băng thông bộ nhớ và kết nối; MI455X có thêm dung lượng bộ nhớ.
Đây là thông báo về danh mục và cấu hình Helios. Doanh nghiệp cần hỏi mã thiết bị, cách cấp tài nguyên và thời điểm có thể chạy thử ở địa điểm dự kiến; thông báo không xác nhận tình trạng cho thuê ở Việt Nam.
Đọc phép đo MI455X đúng phạm vi
Theo chú thích phép đo của AMD, nhóm thử nghiệm hãng ghi nhận 21.333 token mỗi giây trên mỗi GPU với DeepSeek-R1 theo cấu hình MLPerf Inference Offline vào tháng 10/2026. Token là đơn vị văn bản mô hình xử lý. AMD so kết quả này với mục đã công bố của NVIDIA Vera Rubin NVL72 trong MLPerf Inference v6.1, rồi nêu thông lượng cao hơn tới 30% trong phép so sánh đó.
Offline là phép đo xử lý một tập yêu cầu đã chuẩn bị, hữu ích với việc tổng hợp tài liệu hoặc phân loại dữ liệu theo lô. Chatbot trực tuyến còn cần đo thời gian đến phần trả lời đầu tiên và trải nghiệm khi nhiều yêu cầu tới bất chợt. Số công bố trên là phép thử của AMD, không phải kết quả MI450X hay cam kết về mọi hệ thống DeepSeek-R1.
Chạy thử trước khi chọn dung lượng
- Dùng câu hỏi tiếng Việt và tài liệu có độ dài gần với tải thực tế. Ghi phiên bản mô hình, phần mềm phục vụ, định dạng số và số GPU.
- Đo bộ nhớ khi mới nạp mô hình và khi đông người dùng. Phần bộ nhớ giữ trạng thái của cuộc hội thoại cũng tăng theo chiều dài và số phiên.
- Đo thời gian chờ phần trả lời đầu tiên, tốc độ sinh tiếp và tỷ lệ yêu cầu lỗi. Với xử lý theo lô, ghi số tài liệu hoàn tất mỗi giờ.
- Giữ nguyên mục tiêu chất lượng khi đổi cấu hình. Nếu dùng định dạng số gọn hơn để giảm bộ nhớ, thử lại câu trả lời tiếng Việt và khả năng bám nội dung nguồn.
Khi nào nên giữ cấu hình hiện tại?
Nếu máy hiện tại vẫn đạt thời gian phản hồi và nguyên nhân chính là truy xuất tài liệu chậm, tối ưu tầng dữ liệu trước. Nếu mô hình đã sát giới hạn bộ nhớ ngay ở tải bình thường, ưu tiên phương án còn dư bộ nhớ hoặc chia mô hình hợp lý. Sau vòng thử, so chi phí trên số yêu cầu đạt chuẩn, gồm cả thời gian máy nhàn và chi phí chuyển đổi phần mềm.
Trước khi quyết định, nên đo hai thời điểm: khi mới khởi động và khi tải đã ổn định. Cách này giúp nhóm không nhầm thời gian nạp mô hình với thời gian phản hồi trong phiên sử dụng bình thường.
288 GB là bộ nhớ của cả tủ Helios?
Không. AMD nêu 288 GB HBM4 trên mỗi GPU MI450X.
Phép đo MI455X có dự báo tốc độ chatbot không?
Chỉ giúp tham khảo thông lượng với mô hình và cấu hình đã nêu. Cần thử thời gian phản hồi trên luồng trực tuyến.
Nguồn tham khảo
Nếu đội AI đang lập kế hoạch thử cấu hình, xem trang máy chủ GPU và gửi tên mô hình, chiều dài hội thoại, số phiên đồng thời và mục tiêu phản hồi qua hotro@thuemaychu.vn để trao đổi phương án thử.
Cần máy chủ cho workload này?
NOC thuemaychu.vn hỗ trợ chọn CPU, GPU và băng thông. PoC trong 24 giờ.
Bài viết liên quan
Máy chủAMD EPYC thế hệ 6 SP7: khi nào nên đổi máy chủ?
AMD công bố nền tảng EPYC thế hệ 6 SP7 đã được giao qua đối tác. Đội hạ tầng nên đo tải thật trước khi quyết định thay máy.
GPU / AIVera Rubin tối ưu HBM và KV cache cho suy luận AI ra sao?
NVIDIA cho rằng hiệu quả suy luận không chỉ phụ thuộc dung lượng HBM mà còn ở độ chính xác số, cách phân bổ mô hình, định tuyến KV cache và tầng lưu trữ.
GPU / AIAgentCore thêm GPU G7 dùng RTX PRO 4500 Blackwell
AgentCore hỗ trợ EC2 G7 với GPU RTX PRO 4500 Blackwell Server Edition. Đội AI cần kiểm tra vùng, bộ nhớ và vòng đời phiên trước khi triển khai.