Hạ tầng tính toán AI trong nước (GPU cloud, nhà máy AI)

Mọi năng lực AI đều cần hạ tầng tính toán GPU quy mô lớn để huấn luyện và suy luận. Thuê hạ tầng AI của nhà cung cấp nước ngoài buộc dữ liệu huấn luyện (gồm dữ liệu nghiệp vụ nhạy cảm) rời khỏi phạm vi kiểm soát; đồng thời nguồn cung chip GPU là điểm 'phụ thuộc tất yếu' cần quản trị rủi ro

Về nghiệp vụ: hạ tầng phục vụ ba lớp việc — huấn luyện/tinh chỉnh định kỳ các mô hình, suy luận thời gian thực cho hàng triệu phiên đồng thời, và môi trường nghiên cứu thử nghiệm. Về kỹ thuật: cụm suy luận đặt trong Trung tâm dữ liệu Bộ Công an; phần huấn luyện quy mô lớn thuê năng lực GPU trong nước theo hợp đồng kiểm soát dữ liệu nghiêm ngặt (dữ liệu đã khử định danh); lớp phần mềm nền (điều phối GPU, hàng đợi tác vụ, tối ưu suy luận) chuẩn hóa trên mã nguồn mở. Năng lực trong nước đã hình thành: FPT AI Factory đầu tư 200 triệu USD với hàng nghìn GPU NVIDIA H100/H200, xếp hạng Top 500 siêu máy tính thế giới (cụm tại Việt Nam ở vị trí 38), đã hòa vốn từ tháng 12/2025 và đang nâng cấp lên HGX B300; GreenNode (VNG) là đối tác đám mây ưu tiên của NVIDIA với hạ tầng InfiniBand 3,2 Tbps, đa vùng Hà Nội - TP. Hồ Chí Minh; Viettel xây dựng năng lực tương tự tại Trung tâm dữ liệu Hòa Lạc.

Phương thức áp dụng: hình thành cụm suy luận AI chuyên trách của VNeID (quy mô ban đầu 500-1.000 GPU) trong Trung tâm dữ liệu Bộ Công an, do liên minh doanh nghiệp trong nước cung cấp và chuyển giao vận hành; ký hợp đồng khung thuê năng lực huấn luyện với tối thiểu hai nhà cung cấp. Mục tiêu cụ thể: bảo đảm toàn bộ vòng đời mô hình (huấn luyện - triển khai - giám sát) diễn ra trong nước, đáp ứng độ trễ suy luận cho các dịch vụ thời gian thực và không phụ thuộc một đầu mối GPU duy nhất.