Agent Substrate 1.0 trên GKE: chạy AI agent không giữ pod nhàn rỗi
Agent Substrate tách trạng thái agent khỏi máy chạy, đưa worker nhàn rỗi về pool và khôi phục phiên khi cần. Google công bố GA trên GKE ngày 05/11.

Một AI agent thường chỉ chạy vài giây rồi chờ mô hình, API hoặc con người. Nếu mỗi phiên giữ nguyên một Kubernetes Pod, CPU và RAM vẫn bị chiếm trong thời gian chờ. Ngày 05/11/2026, Google công bố Agent Substrate 1.0 và trạng thái GA trên GKE để tách phiên agent khỏi tài nguyên thực thi.
Ba dự án được đưa vào CNCF Sandbox
Theo Google Cloud Blog, Google hiến tặng Agent Substrate, gVisor và OpenRL cho CNCF sau khi được chấp nhận vào Sandbox. CNCF Sandbox là giai đoạn sớm trong hệ sinh thái Cloud Native Computing Foundation; việc được nhận không đồng nghĩa dự án đã trưởng thành như Kubernetes.
- Agent Substrate quản lý vòng đời phiên agent, tạm dừng trạng thái và cấp lại worker khi cần.
- gVisor chặn lời gọi hệ thống trong một kernel ứng dụng chạy ở userspace, giảm tiếp xúc trực tiếp với kernel host.
- OpenRL cung cấp vòng lặp hậu huấn luyện bằng reinforcement learning trên Kubernetes, kết hợp công cụ lấy mẫu và huấn luyện.
Actor, Worker và Gateway hoạt động thế nào?
Actor giữ bộ nhớ, tệp và danh tính riêng của agent. Worker là sandbox lấy từ pool Kubernetes đã làm nóng. Gateway kiểm soát luồng vào/ra và cấp bí mật theo danh tính Actor, nhờ đó khóa truy cập không phải nằm cố định trong môi trường agent.
Khi agent chờ, hệ thống chụp trạng thái bộ nhớ và tệp xuống lưu trữ rồi trả Worker về pool. Khi có yêu cầu mới, Actor được phục hồi trên một Worker khả dụng. Google công bố thời gian khôi phục dưới 500 mili giây, mật độ gấp 10 lần runtime container tiêu chuẩn và hơn 500 lượt suspend/resume mỗi giây. Đây là số liệu của hãng trên thiết kế của họ, không phải SLA chung.
Tại sao container thường chưa đủ cho mã do agent sinh?
Container tiêu chuẩn chia sẻ kernel Linux với host. Khi agent tự sinh lệnh shell, cài package hoặc chạy mã từ nguồn ngoài, lỗi kernel hay cấu hình quyền sai có thể ảnh hưởng node. gVisor thêm lớp kernel ứng dụng ở userspace; Agent Substrate cũng hỗ trợ microVM qua Cloud Hypervisor khi cần ranh giới phần cứng mạnh hơn.
Sandbox không tự bảo vệ mọi thứ. Nếu Gateway cấp token quá rộng, agent vẫn có thể đọc hoặc thay đổi dữ liệu hợp lệ theo quyền đó. Vì vậy, mỗi Actor cần danh tính riêng, quyền tối thiểu, giới hạn mạng và log đầy đủ.
Ảnh hưởng với đội nền tảng tại Việt Nam
Mô hình này phù hợp với nền tảng coding agent, phòng thử nghiệm AI nhiều tenant hoặc hệ thống cần hàng nghìn phiên ngắn. Doanh nghiệp chỉ có vài chatbot ổn định có thể chưa cần thêm lớp điều phối. Chi phí lưu snapshot, tốc độ phục hồi, áp lực control plane và khả năng quan sát phải được đo cùng chi phí node.
- Phân loại agent theo mức tin cậy và hành động được phép.
- Tách danh tính agent khỏi Pod; không dùng chung tài khoản dịch vụ có quyền rộng.
- Chọn gVisor hay microVM dựa trên rủi ro, GPU passthrough và yêu cầu hiệu năng.
- Đặt chính sách mạng đầu ra, danh sách domain/API và ngân sách token.
- Đo thời gian suspend/resume, dung lượng snapshot, tỷ lệ worker nhàn rỗi và lỗi phục hồi.
- Kiểm thử thoát sandbox, lộ khóa, dữ liệu tồn dư giữa tenant và thu hồi quyền.
OpenRL liên quan gì tới GPU?
OpenRL dùng Kubernetes Dynamic Resource Allocation để chia pool tăng tốc và hỗ trợ vLLM cho lấy mẫu. llm-d có thể định tuyến rollout theo prefix KV cache và chia thời gian GPU giữa lấy mẫu với huấn luyện. Đây là lộ trình hạ tầng hậu huấn luyện; TPU còn được nêu là roadmap, không nên hiểu mọi tổ hợp phần cứng đã sẵn sàng.
Agent Substrate có thay thế Kubernetes không?
Không. Nó chạy trên Kubernetes và bổ sung vòng đời, trạng thái, danh tính cho agent.
gVisor có an toàn tương đương máy ảo không?
gVisor tăng cách ly so với container thường, nhưng ranh giới và hiệu năng khác microVM phần cứng. Cần chọn theo mô hình đe dọa.
Agent Substrate có chỉ chạy trên GKE không?
Bản managed đã GA trên GKE; Google cũng mô tả mã nguồn mở có thể chạy trên cụm Kubernetes khác, nhưng đội vận hành tự chịu tích hợp và hỗ trợ.
Bước tiếp theo
Đội xây nền tảng agent có thể gửi số phiên đồng thời, thời gian chờ trung bình, loại mã được chạy, yêu cầu GPU và ranh giới tenant qua trang liên hệ. Đây là đầu vào để đánh giá pool worker, sandbox và lưu trữ snapshot.
Cần máy chủ cho workload này?
NOC thuemaychu.vn hỗ trợ chọn CPU, GPU và băng thông. PoC trong 24 giờ.
Bài viết liên quan
GPU / AINVIDIA OpenShell: kiến trúc bảo vệ AI Agent có gì đáng chú ý?
NVIDIA giới thiệu kiến trúc tham chiếu OpenShell ngày 21/10/2026. Bài viết giải thích cách cô lập AI Agent, quản lý khóa truy cập và thử nghiệm trước khi triển khai.
GPU / AINVIDIA NemoClaw: bộ khung mở để tự chủ AI agent
NVIDIA giới thiệu NemoClaw ngày 30/10/2026 như một bộ khung mở kết nối agent harness, Nemotron, NeMo và OpenShell. Bài viết phân tích giá trị, giới hạn và checklist thử nghiệm cho đội phát triển AI.
GPU / AINeMo Compass biến lỗi AI agent thành bài kiểm thử như thế nào?
NVIDIA giới thiệu quy trình dùng trace để tìm lỗi lặp lại, tạo bài kiểm thử và sửa lớp điều khiển AI agent. Đây là cách áp dụng có kiểm soát cho đội phát triển.