NVIDIA Runtime AI Inventory: kiểm kê AI trên cụm GPU
NVIDIA minh họa cách đối chiếu cấu hình cụm GPU với danh mục ứng dụng AI đang chạy. Danh mục chỉ bao phủ những loại tác vụ mà công cụ nhận diện được.

Nhóm nền tảng đã ghi phiên bản trình điều khiển cho cụm GPU, nhưng lúc xảy ra sự cố lại không biết nhóm ứng dụng nào vừa thay mô hình hay đổi dịch vụ AI bên ngoài. Đội vận hành cần trả lời hai câu hỏi: cụm có đúng cấu hình đã duyệt không, và cụm đang chạy những thành phần AI nào? NVIDIA đưa ra một ví dụ kết hợp hai công cụ để trả lời từng câu.
Điểm mới trong hướng dẫn ngày 11/11
NVIDIA Technical Blog ngày 11/11/2026 trình bày cách phối hợp AICR với k8s-aibom. AICR tạo bản cấu hình có khóa phiên bản cho một tổ hợp phần cứng, hệ điều hành và kiểu tải, sau đó kiểm tra cụm theo cấu hình đó. k8s-aibom quan sát một số loại tác vụ Kubernetes và tạo AIBOM, tức danh mục thành phần AI nhận diện được, theo định dạng CycloneDX 1.6.
Hãng minh họa trên Google Kubernetes Engine (dịch vụ Kubernetes do Google quản lý) từ Kubernetes 1.32, dùng GPU H100, Container-Optimized OS và trình điều khiển do GKE quản lý. Ví dụ dùng AICR 1.2.0 cùng k8s-aibom 1.6.2. Đây là cấu hình được nêu trong bài thử, chưa đủ để kết luận mọi cụm thuê GPU hoặc tự quản đều được hỗ trợ.
Một danh mục trống có thể bỏ sót gì?
Theo NVIDIA, công cụ chỉ ghi nhận loại tác vụ được hỗ trợ và có dấu hiệu AI mà nó nhận ra. Ví dụ có dịch vụ NVIDIA NIM và các tác vụ hẹn giờ CronJob thỏa điều kiện. Nếu một nhóm chạy mô hình bằng cách đóng gói riêng hoặc đặt dịch vụ ở ngoài cụm, hãy xác minh bằng sổ đăng ký nội bộ và danh sách hệ thống tích hợp. Không nên dùng số lượng ghi nhận bằng không để kết luận rằng không có AI.
Một cấu hình cụm đúng bản mẫu cũng không cho biết ứng dụng đang chạy có dùng đúng dữ liệu hoặc mô hình đã duyệt hay không. Hãy lưu kết quả kiểm tra cấu hình cùng danh mục thành phần AI, ghi thời điểm tạo và chỉ định người xác nhận. Nếu lần cập nhật sau xuất hiện một dịch vụ mới, việc đối chiếu hai bản ghi sẽ cho biết nên hỏi nhóm nào trước.
Chạy thử trong một phạm vi nhỏ
- Chọn một cụm thử nghiệm và một vùng tên Kubernetes, tức khu vực logic để gom tài nguyên. Lập danh sách ba ứng dụng đại diện trước khi thu thập dữ liệu.
- Kiểm tra quyền đọc tài nguyên của bộ thu thập. Chỉ cấp quyền phù hợp và quy định ai được xem hoặc xuất danh mục, nhất là khi danh mục chứa tên dịch vụ nội bộ.
- Đổi một phiên bản mô hình đã biết rồi so sánh hai lần kiểm kê. Ghi riêng mục phát hiện được, mục bỏ sót và trường thông tin chưa đáng tin.
- Thống nhất người chịu trách nhiệm duy trì dữ liệu, cách bổ sung hệ thống nằm ngoài phạm vi và quy trình xử lý mục không có chủ.
Khi nào đủ giá trị để mở rộng?
Với một máy GPU chạy một dịch vụ, danh sách cấu hình và phiên bản do người vận hành quản lý có thể đã đủ. Với nhiều nhóm triển khai chung một cụm, hãy thử tự động hóa nếu danh mục giúp tra được ứng dụng và chủ sở hữu trong một buổi diễn tập sự cố. Tiêu chí này thiết thực hơn số lượng mục thu được.
Danh mục có thay việc quét lỗ hổng không?
Không. Danh mục hỗ trợ kiểm kê. Vẫn cần công cụ và quy trình riêng để xác định rủi ro và cập nhật phần mềm.
Có cần đổi GPU để thử không?
Không nên quyết định chỉ vì ví dụ dùng H100. Hãy kiểm tra phạm vi hỗ trợ và thử trên cấu hình phù hợp với công việc.
Nguồn tham khảo
Đội nền tảng cần máy thử có thể xem trang máy chủ GPU và gửi cấu hình GPU, phiên bản Kubernetes cùng danh sách tác vụ mẫu qua hotro@thuemaychu.vn để xác nhận điều kiện chạy thử.
Cần máy chủ cho workload này?
NOC thuemaychu.vn hỗ trợ chọn CPU, GPU và băng thông. PoC trong 24 giờ.
Bài viết liên quan
GPU / AINVKE và NVKR: NVIDIA mở công cụ quản lý cụm Kubernetes GPU
Công bố ngày 10/11/2026 tách việc dựng phần mềm khỏi quản lý cụm GPU. Hai dự án đang ở bản xem trước, chưa được khuyến nghị cho hệ thống phục vụ khách hàng.
GPU / AINVIDIA Attribution: tìm nguyên nhân lỗi trong cụm GPU phân tán
NVIDIA Attribution gom bằng chứng theo từng tác vụ để phân biệt lỗi gốc với chuỗi lỗi NCCL, GPU và mạng phát sinh sau đó.
GPU / AIAgentCore thêm GPU G7 dùng RTX PRO 4500 Blackwell
AgentCore hỗ trợ EC2 G7 với GPU RTX PRO 4500 Blackwell Server Edition. Đội AI cần kiểm tra vùng, bộ nhớ và vòng đời phiên trước khi triển khai.