Vera Rubin và Vera CPU lên OCI: doanh nghiệp cần đọc gì?

Một đội AI có thể mua thêm GPU nhưng vẫn thấy hệ thống chờ lâu vì các bước gọi công cụ, chạy mã và truy xuất dữ liệu nằm ở CPU. Thông báo mới của Oracle và NVIDIA đáng chú ý vì đưa cả cụm GPU rack-scale lẫn CPU dành cho tác vụ agent lên cùng một nền tảng, thay vì chỉ nói về số lượng bộ tăng tốc.

Ngày công bố và ngày sự kiện đều là 27/10/2026 tại Oracle AI World. Theo thông cáo Oracle–NVIDIA, Vera Rubin NVL72 và Vera CPU đã ở trạng thái GA, tức sẵn sàng cung cấp rộng rãi trên OCI. Kế hoạch mở rộng Supercluster lên quy mô nhiều gigawatt và hệ HGX Rubin NVL8 là lộ trình tương lai, không nên hiểu là mọi khu vực đã có sẵn dung lượng.

Điểm mới nằm ở việc tách tải GPU và CPU

Vera Rubin NVL72 kết nối 72 GPU trong một miền NVLink để phục vụ huấn luyện và suy luận mô hình lớn. Trong khi đó, Vera CPU hướng đến phần việc giữa các lần gọi mô hình: điều phối agent, thực thi công cụ, chạy môi trường cách ly và truy xuất dữ liệu. OCI cho phép tăng giảm CPU và GPU độc lập, nhờ vậy đội triển khai có thể giảm tình trạng GPU đắt tiền phải chờ một hàng đợi CPU quá chậm.

Oracle cũng giới thiệu cấu hình Rubin NVL8 dự kiến dùng tám GPU Rubin, hai CPU Intel Xeon 6 64 nhân, 4 TB DDR5 và mạng RDMA 6,4 Tbps. Đây là thông số kế hoạch do hãng công bố, chưa phải phép đo độc lập hay cam kết rằng cấu hình đó đã có tại Việt Nam.

Tác động với đội AI tại Việt Nam

• Đội xây agent nên đo riêng thời gian mô hình sinh token và thời gian CPU thực thi công cụ; chỉ nhìn token/giây sẽ bỏ sót nút thắt.
• Mô hình lớn cần xem đồng thời VRAM/HBM, băng thông liên kết GPU, mạng giữa nút và tốc độ lưu trữ; tên GPU không đủ để dự báo thời gian phản hồi.
• Doanh nghiệp dùng dữ liệu nhạy cảm cần kiểm tra khu vực lưu dữ liệu, luồng ra Internet, nhật ký môi trường cách ly và quyền truy cập trước khi thử dịch vụ đám mây mới.
• Các con số tăng tốc trong bài của hãng là benchmark nhà cung cấp. Cần chạy lại với prompt, độ dài ngữ cảnh, mức đồng thời và chuỗi công cụ thực tế.

Checklist thử nghiệm trước khi quyết định

1. Chia luồng agent thành các pha: tiền xử lý, suy luận, gọi công cụ, truy xuất, hậu xử lý và ghi log.
2. Ghi p50, p95 và p99 cho từng pha; theo dõi cả mức sử dụng CPU, GPU, bộ nhớ, mạng và IOPS.
3. Thử hai cấu hình: GPU mạnh với CPU vừa phải, rồi CPU mạnh hơn với cùng GPU để xác định phần nào đang chờ.
4. Mô phỏng lỗi mạng, công cụ phản hồi chậm và yêu cầu chạy dài; xác nhận cơ chế thử lại không làm tăng tải dây chuyền.
5. So sánh chi phí theo một tác vụ hoàn tất, không chỉ theo giờ GPU hoặc thông lượng tối đa.

Với hạ tầng trong nước, thông báo này hữu ích như một khung thiết kế: CPU cho agent và GPU cho mô hình phải được định cỡ cùng nhau. Nó không chứng minh Datahub đang có Vera Rubin hoặc Vera CPU, cũng không tạo ra cam kết giá, tồn kho hay thời gian bàn giao.

Khi nào nên chờ, khi nào nên thử ngay?

Nếu dự án đang ở giai đoạn thử nghiệm, một máy GPU nhỏ hơn thường đủ để xác nhận mô hình, ngữ cảnh và phần mềm phục vụ. Nếu hệ thống đã có hàng nghìn tác vụ agent mỗi ngày và GPU thường xuyên chờ CPU, thử kiến trúc tách tài nguyên là hợp lý. Còn với Rubin NVL8 hoặc mở rộng nhiều gigawatt, nên coi đó là roadmap và yêu cầu nhà cung cấp xác nhận vùng, hạn mức, lịch khả dụng bằng văn bản.

Nguồn tham khảo

• Oracle và NVIDIA, thông cáo ngày 27/10/2026: https://www.oracle.com/ca-en/news/announcement/ai-world-nvidia-and-oracle-expand-nvidia-vera-rubin-to-multi-gigawatt-scale-2026-10-27/
• Oracle Cloud Infrastructure, bài kỹ thuật ngày 27/10/2026: https://blogs.oracle.com/cloud-infrastructure/nvidia-vera-rubin-vera-cpus-oci

Nếu bạn đang định cỡ hệ thống agent hoặc LLM, hãy gửi loại mô hình, VRAM dự kiến, số người dùng đồng thời, độ dài ngữ cảnh và tỷ lệ thời gian gọi công cụ tới hotro@thuemaychu.vn. Đội kỹ thuật có thể dùng các thông tin đó để cùng bạn lập cấu hình thử nghiệm và phép đo cần thu thập.