Google TPU lên OCI từ 2027: thêm lựa chọn cho hạ tầng AI

Một doanh nghiệp đã đặt dữ liệu trong Oracle Database nhưng muốn thử TPU thường phải tính thêm đường truyền liên đám mây, quyền truy cập và độ trễ. Thỏa thuận mới giữa Google Cloud và Oracle hướng đến việc đặt TPU ngay trong OCI, nhưng mốc triển khai là năm 2027 chứ chưa phải dịch vụ có thể bật ngay hôm nay.

Google Cloud đăng thông báo ngày 27/10/2026, cũng là ngày sự kiện hợp tác được công bố. Theo bài chính thức, OCI sẽ là hyperscaler đầu tiên ngoài Google cung cấp TPU, với dung lượng bắt đầu được triển khai trong năm 2027. Hãng chưa nêu giá, khu vực hay lịch mở cụ thể.

Điều mới: TPU đi ra ngoài đám mây Google

TPU là bộ tăng tốc do Google đồng thiết kế cùng mạng quang, cấp điện, làm mát và trình biên dịch. Điểm đáng chú ý không chỉ là chip: dữ liệu trong Oracle Database, lưu trữ OCI và ứng dụng doanh nghiệp có thể ở gần tài nguyên TPU hơn, giảm nhu cầu chuyển khối dữ liệu lớn qua biên giới đám mây.

Google cho biết TPU thế hệ thứ tám đạt tối đa 12,6 PFLOPS FP4 mỗi chip và hệ thống quy mô lớn duy trì hơn 97% goodput. Goodput là tỷ lệ thời gian cụm thực sự làm phép tính hữu ích, sau khi trừ thời gian chờ và phục hồi. Đây là số liệu của hãng trong điều kiện của hãng; không thể dùng trực tiếp để dự báo chi phí cho mô hình của doanh nghiệp.

Đa kiến trúc không đồng nghĩa thay thế GPU

OCI muốn cung cấp TPU bên cạnh GPU và các bộ tăng tốc suy luận khác. Sự đa dạng giúp chọn phần cứng theo từng giai đoạn: huấn luyện, tinh chỉnh, phục vụ thời gian thực hoặc xử lý batch. Tuy nhiên mỗi kiến trúc có trình biên dịch, thư viện, định dạng mô hình và công cụ quan sát khác nhau. Chi phí chuyển đổi phần mềm có thể lớn hơn khoản tiết kiệm từ phần cứng.

• Mô hình dùng JAX hoặc XLA có thể phù hợp TPU hơn ứng dụng phụ thuộc chặt vào CUDA.
• Các toán tử tùy biến cần được kiểm tra khả năng biên dịch, tính đúng số và hiệu năng trên kiến trúc mới.
• Hệ thống phục vụ cần đo thời gian tới token đầu tiên, token/giây, mức đồng thời và thời gian khởi động.
• Dữ liệu gần Oracle Database có thể giảm chi phí truyền, nhưng vẫn phải kiểm tra quyền truy cập, mã hóa và nơi dữ liệu được xử lý.

Checklist chuẩn bị cho năm 2027

1. Lập danh mục mô hình, framework, toán tử tùy biến và phụ thuộc CUDA đang dùng.
2. Tạo bộ benchmark cố định gồm prompt, độ dài ngữ cảnh, batch, mức đồng thời và tiêu chí chất lượng.
3. Tách chi phí chuyển đổi mã, vận hành đa kiến trúc, truyền dữ liệu và khóa nhà cung cấp khỏi giá phần cứng.
4. Yêu cầu xác nhận vùng triển khai, hạn mức, khả năng đặt trước và chính sách dữ liệu khi OCI công bố chi tiết.
5. Giữ phương án quay lại GPU hoặc CPU nếu trình biên dịch, thư viện hay quan sát chưa đáp ứng hệ thống đang phục vụ khách hàng.

Tác động với khách thuê GPU tại Việt Nam

Trong ngắn hạn, thông báo không làm thay đổi ngay lựa chọn phần cứng tại Việt Nam. Giá trị thực tế là tạo thêm phương án so sánh cho workload quy mô lớn từ 2027. Với đội đang làm bằng chứng khái niệm, ưu tiên hiện nay vẫn là chọn mô hình đúng, đo VRAM và kiểm chứng chất lượng. Đổi kiến trúc quá sớm dễ làm tăng công việc mà chưa tạo lợi ích.

Khi so sánh TPU và GPU, hãy dùng chi phí trên một kết quả đạt chuẩn, ví dụ một nghìn yêu cầu với p95 dưới ngưỡng đã đặt. Không nên so PFLOPS danh nghĩa hoặc benchmark hãng giữa hai hệ có phần mềm và độ chính xác khác nhau.

Nguồn tham khảo

• Google Cloud, công bố ngày 27/10/2026: https://cloud.google.com/blog/products/infrastructure/bringing-google-tpus-to-oracle-cloud-infrastructure
• Oracle AI World, sự kiện ngày 27/10/2026; lịch triển khai TPU được nêu là từ năm 2027.

Nếu đội AI muốn chuẩn hóa bài đo trước khi chọn phần cứng, hãy gửi mô hình, framework, số yêu cầu đồng thời, độ dài ngữ cảnh và tiêu chí p95 tới hotro@thuemaychu.vn. Mục tiêu là xây phép thử có thể lặp lại trên GPU hiện tại và các kiến trúc khác về sau.