AI Datacenter

Trong bối cảnh hạ tầng tính toán đang trải qua một sự thay đổi mang tính kiến tạo để đáp ứng nhu cầu khổng lồ của AI, việc nắm bắt cơ hội này không chỉ là một bước tăng trưởng mà còn là một yêu cầu chiến lược để duy trì vị thế dẫn đầu trong ngành công nghệ tại Việt Nam. Báo cáo này phác thảo ba định hướng chiến lược chính, được cấu trúc theo mô hình trưởng thành từ cung cấp hạ tầng cơ bản đến các giải pháp chuyên ngành có giá trị gia tăng cao: Hạ tầng dưới dạng Dịch vụ (IaaS), Nền tảng dưới dạng Dịch vụ (PaaS), và Giải pháp dưới dạng Dịch vụ (SaaS).

Sự khác biệt giữa trung tâm dữ liệu truyền thống và trung tâm dữ liệu AI bắt nguồn từ chính loại hình công việc mà chúng được thiết kế để xử lý. Trung tâm dữ liệu truyền thống được tối ưu hóa cho các tác vụ đa dạng như lưu trữ web, ứng dụng doanh nghiệp và cơ sở dữ liệu, vốn không đòi hỏi sức mạnh xử lý song song cường độ cao. 

Ngược lại, trung tâm dữ liệu AI là một “cỗ máy” hiệu năng cao, được chế tạo đặc biệt cho các ứng dụng AI và học máy (ML), chẳng hạn như huấn luyện các mô hình ngôn ngữ lớn (LLM), nhận dạng hình ảnh và xử lý ngôn ngữ tự nhiên. Sự khác biệt này thể hiện rõ nét ở mọi tầng của kiến trúc.

• Năng lực tính toán (Compute): Đây là điểm khác biệt cơ bản nhất. Kiến trúc truyền thống tập trung vào các Đơn vị xử lý trung tâm (CPU), vốn rất hiệu quả cho các tác vụ tuần tự. Trong khi đó, kiến trúc AI chuyển trọng tâm sang các Đơn vị xử lý đồ họa (GPU) và các bộ xử lý chuyên dụng như Đơn vị xử lý Tensor (TPU). GPU, với hàng ngàn lõi xử lý, có khả năng thực hiện đồng thời vô số phép tính toán học phức tạp—một khả năng được gọi là xử lý song song—làm cho chúng trở nên lý tưởng cho các phép toán ma trận vốn là trái tim của việc huấn luyện các mô hình học sâu. Các GPU hàng đầu thị trường như NVIDIA H100 hay GB200 đã trở thành tiêu chuẩn vàng cho các trung tâm dữ liệu AI hiệu năng cao.
• Năng lượng & Làm mát (Power & Cooling): Các cụm GPU dày đặc tiêu thụ một lượng điện năng khổng lồ và tỏa ra một lượng nhiệt cực lớn. Một tủ rack (rack) AI có thể yêu cầu mật độ công suất từ 50 kW đến 110 kW hoặc cao hơn, gấp 5 đến 10 lần so với mức 5-10 kW của một tủ rack truyền thống. Do đó, các phương pháp làm mát bằng không khí truyền thống trở nên hoàn toàn không đủ đáp ứng. Các trung tâm dữ liệu AI bắt buộc phải chuyển sang các giải pháp làm mát tiên tiến như làm mát bằng chất lỏng trực tiếp đến chip (direct-to-chip liquid cooling) hoặc làm mát ngâm (immersion cooling) để có thể tản nhiệt hiệu quả và duy trì hiệu suất hoạt động ổn định.
• Kết nối mạng (Networking): Huấn luyện một mô hình AI quy mô lớn không phải là công việc của một GPU đơn lẻ, mà là của một “cụm” (cluster) gồm hàng trăm, thậm chí hàng nghìn GPU hoạt động đồng bộ. Để cụm này hoạt động hiệu quả, chúng cần một hệ thống mạng có băng thông cực cao và độ trễ cực thấp để trao đổi dữ liệu liên tục. Các công nghệ kết nối chuyên dụng như InfiniBand, Ethernet tốc độ cao (400Gbps trở lên), và các kết nối trực tiếp giữa các GPU như NVLink của NVIDIA là những thành phần không thể thiếu, đảm bảo không có bất kỳ “nút thắt cổ chai” nào trong quá trình giao tiếp giữa các node.
• Lưu trữ (Storage): Các mô hình AI “ăn” dữ liệu. Chúng cần được cung cấp một lượng dữ liệu khổng lồ, thường là dữ liệu phi cấu trúc như hình ảnh, video, và văn bản, với tốc độ cực nhanh. Hệ thống lưu trữ trong trung tâm dữ liệu AI phải có khả năng xử lý hàng petabyte dữ liệu và cung cấp cho các GPU mà không gây ra độ trễ. Điều này đòi hỏi các giải pháp lưu trữ hiệu năng cao như ổ cứng thể rắn NVMe, các hệ thống tệp song song, và kiến trúc lưu trữ phân tán để đảm bảo tốc độ truy xuất dữ liệu tối đa.