Loại hạ tầng này có bốn điểm riêng: chip tăng tốc, mạng riêng nối các chip, làm mát bằng chất lỏng và điện rất lớn dồn vào mỗi tủ rack. Tủ rack là giá đứng chứa máy chủ.

Trung tâm dữ liệu là gì?

Trung tâm dữ liệu là tòa nhà chứa máy chủ, thiết bị lưu trữ và thiết bị mạng. Nơi này có điện dự phòng, hệ thống làm mát và bảo vệ, để lưu và xử lý dữ liệu cho các dịch vụ trực tuyến. Theo Amazon Web Services (AWS), gom thiết bị về một nơi giúp quản lý hiệu quả hơn và rẻ hơn.

Email, mạng xã hội, ứng dụng ngân hàng hay phim trực tuyến bạn xem mỗi ngày đều chạy trên những nơi như vậy. Theo cách chia của AWS, chủ của chúng có thể là doanh nghiệp tự vận hành, công ty cho thuê chỗ hoặc nhà cung cấp đám mây. Người dùng truy cập suốt ngày đêm, nên trung tâm dữ liệu phải chạy liên tục 24/7 và luôn có điện dự phòng.

Hành lang trung tâm dữ liệu với hai dãy tủ rack chứa máy chủ và thiết bị mạng
Ảnh minh họa: Brett Sayles / Pexels (Pexels License)

Bên trong một trung tâm dữ liệu có những gì?

Một trung tâm dữ liệu gồm năm khối chính: máy chủ, lưu trữ, mạng, điện và làm mát. Theo AWS, mỗi khối lo một việc riêng:

  • Máy chủ: phần tính toán, thường lắp trong tủ rack. Loại máy chủ phiến (blade) gọn hơn, tiết kiệm chỗ và điện hơn.
  • Lưu trữ: ổ cứng, ổ thể rắn và các hệ lưu trữ dùng chung, nơi giữ dữ liệu lâu dài.
  • Mạng: cáp, bộ chuyển mạch, bộ định tuyến và tường lửa, giúp máy chủ trao đổi với nhau và với internet.
  • Điện: nguồn từ lưới, bộ lưu điện (UPS) đỡ lúc mất điện tức thời và máy phát điện dự phòng.
  • Làm mát: thông gió và hệ thống làm mát đưa nhiệt thải của thiết bị ra ngoài.

AWS xếp thêm hệ thống chữa cháy và an ninh tòa nhà vào phần hạ tầng hỗ trợ.

Máy chủ là phần dùng nhiều điện nhất. Theo Cơ quan Năng lượng Quốc tế (IEA), năm 2024 máy chủ chiếm trung bình khoảng 60% điện năng của một trung tâm dữ liệu hiện đại. Lưu trữ chiếm khoảng 5%, thiết bị mạng tối đa khoảng 5%. Làm mát chỉ tốn khoảng 7% ở các cơ sở siêu lớn (hyperscale) chạy hiệu quả, nhưng hơn 30% ở cơ sở doanh nghiệp kém hiệu quả hơn.

Thẻ minh họa năm khối chính bên trong một trung tâm dữ liệu
Ảnh minh họa: Hỏa Tốc 24h

Trung tâm dữ liệu cho AI là gì?

Trung tâm dữ liệu cho AI là trung tâm dữ liệu xây quanh chip tăng tốc như GPU và TPU. Mọi phần còn lại, từ điện, mạng tới làm mát, đều phục vụ nhu cầu của các chip này để huấn luyện và chạy mô hình AI lớn.

Loại hạ tầng này làm hai việc chính. Huấn luyện (training) là lúc mô hình học từ dữ liệu. Suy luận (inference) là lúc mô hình đã học xong dùng kiến thức ấy để trả lời người dùng.

Nhiều hãng lớn đã xây loại hạ tầng này. Tháng 5/2020, Microsoft công bố một siêu máy tính trên đám mây Azure, xây riêng cho OpenAI. Tháng 3/2024, Meta công bố hai cụm GPU phục vụ các mô hình Llama. Tháng 4/2025, Google giới thiệu Ironwood, thế hệ TPU thứ bảy. Google gọi đây là TPU đầu tiên thiết kế riêng cho suy luận.

Thiết bị máy chủ màu đen xếp trong tủ rack của phòng máy trung tâm dữ liệu
Ảnh minh họa: Brett Sayles / Pexels (Pexels License)

GPU, TPU, tủ rack và kW: 4 thuật ngữ cần biết trước

Bốn thuật ngữ GPU, TPU, tủ rack và kW đủ để đọc hiểu phần lớn tin tức về trung tâm dữ liệu AI.

  1. GPU (Graphics Processing Unit): chip vốn làm đồ họa, tính được rất nhiều phép tính song song cùng lúc nên hợp với AI. Ví dụ: GPU H100 trong các cụm của Meta, GPU Blackwell trong hệ thống GB200 NVL72 của NVIDIA.
  2. TPU (Tensor Processing Unit): bộ tăng tốc AI do Google tự thiết kế. Ví dụ: theo công bố của hãng, Ironwood có hiệu năng trên mỗi watt gấp đôi Trillium, TPU thế hệ thứ sáu.
  3. Tủ rack: giá đứng tiêu chuẩn chứa nhiều máy chủ xếp chồng. Ví dụ: theo NVIDIA, GB200 NVL72 là hệ thống cỡ tủ rack, làm mát bằng chất lỏng. Mỗi tủ chứa 72 GPU Blackwell và 36 CPU Grace, tức bộ xử lý chính của máy chủ.
  4. kW (kilowatt): đơn vị đo công suất điện mà một tủ kéo cùng lúc. Ví dụ: khảo sát năm 2020 của Uptime Institute cho thấy mỗi tủ trung bình dùng 8,4 kW.

Mỗi câu hỏi gửi ChatGPT, Gemini hay Claude được xử lý ở đâu?

Mỗi câu hỏi gửi ChatGPT, Gemini hay Claude không được xử lý trên điện thoại của bạn mà trong trung tâm dữ liệu của hãng. Mỗi lần như vậy là một lượt suy luận. Với người dùng ở Việt Nam, câu hỏi gõ trên điện thoại chỉ là điểm bắt đầu của một hành trình dài.

  1. Điện thoại hoặc máy tính gửi câu hỏi đi qua internet.
  2. Câu hỏi tới trung tâm dữ liệu của hãng AI hoặc của nhà cung cấp đám mây mà hãng thuê.
  3. GPU hoặc TPU chạy mô hình để tạo câu trả lời, tức một lượt suy luận.
  4. Câu trả lời quay về máy của bạn, thường chỉ sau vài giây.
Sơ đồ bốn bước đường đi của một câu hỏi từ điện thoại tới trung tâm dữ liệu và quay về
Sơ đồ: Đường đi của một câu hỏi gửi chatbot – Nguồn: Hỏa Tốc 24h tổng hợp

Câu trả lời đến nhanh dù đi xa, vì dữ liệu chạy trên đường truyền tốc độ cao và chip chuyên dụng tính rất nhanh. Tháng 8/2025, Google Cloud công bố mức điện của Gemini theo câu lệnh trung vị, tức câu lệnh đứng giữa khi xếp từ ít tới nhiều điện. Theo số đo tháng 5/2025, một câu lệnh văn bản như vậy dùng 0,24 Wh (watt-giờ) điện và 0,26 mL nước. Google ví lượng điện này như xem TV chưa tới 9 giây.

Phép đo của Google tính cả máy chờ dự phòng, CPU, bộ nhớ và phần làm mát. Nếu chỉ tính chip đang chạy, kết quả là 0,10 Wh. Từ tháng 5/2024 đến tháng 5/2025, điện năng của một câu lệnh trung vị đã giảm 33 lần.

Với ChatGPT, Sam Altman, CEO OpenAI, viết trên blog cá nhân tháng 6/2025 rằng một câu hỏi trung bình dùng khoảng 0,34 Wh.

Trung tâm dữ liệu cho AI khác loại thông thường thế nào?

Trung tâm dữ liệu cho AI khác loại thông thường ở chip, mật độ điện, mạng nối, cách làm mát và công việc chính. Gốc của mọi khác biệt là cách chạy việc. Loại thông thường chạy nhiều việc nhỏ độc lập. Loại cho AI chạy một việc khổng lồ, chia cho hàng nghìn chip.

Khi hàng nghìn chip cùng làm một việc, chúng cần nhiều điện hơn trong cùng một chỗ. Chúng cũng phải nối với nhau nhanh hơn và thải nhiều nhiệt hơn.

Bảng so sánh 5 tiêu chí: chip, điện mỗi tủ rack, mạng kết nối, làm mát, công việc chính

Khác biệt lớn nhất nằm ở điện mỗi tủ rack: tủ AI kéo điện gấp nhiều lần tủ thông thường.

Tiêu chíTrung tâm dữ liệu thông thườngTrung tâm dữ liệu cho AI
ChipMáy chủ thông thường, không gắn chip chuyên cho AIMáy chủ tăng tốc gắn GPU, TPU. Tủ GB200 NVL72 chứa 72 GPU
Điện mỗi tủ rackNăm 2020 trung bình 8,4 kW, 71% đơn vị phổ biến dưới 10 kW. Năm 2025 nhiều nơi lên 10–30 kWNVIDIA chuẩn bị cho tủ vượt 200 kW và hạ tầng điện áp 800 V, tức 800 volt, cho tủ từ 1 MW, theo kế hoạch bắt đầu từ năm 2027
Mạng kết nốiCáp, bộ chuyển mạch, bộ định tuyến, tường lửa nối máy chủ với nhau và với internetNVLink 1.800 GB/s mỗi GPU trong tủ. Giữa các máy dùng InfiniBand hoặc Ethernet cho AI 400 Gb/s
Làm mátKhí là chính khi tủ dưới khoảng 20–25 kW. Hệ thống hiện có của Microsoft kết hợp khí và nướcChất lỏng đưa tới chip, như tủ GB200 NVL72 và pod Ironwood 9.216 chip của Google
Công việc chínhLưu và xử lý dữ liệu cho email, website, ứng dụng doanh nghiệpHuấn luyện mô hình và suy luận, tức trả lời yêu cầu của người dùng

Nguồn: Uptime Institute, IEA, NVIDIA, AWS, Meta, Microsoft.

Điện mỗi tủ là hàng quan trọng nhất, vì nó kéo theo cách làm mát và cả nơi đặt trung tâm dữ liệu. Tủ càng kéo nhiều điện thì càng thải nhiều nhiệt, nên tới một mức nào đó phải chuyển từ khí sang chất lỏng. Theo blog kỹ thuật của NVIDIA tháng 5/2025, khi tủ vượt 200 kW, cách cấp điện 54 V trong tủ chạm giới hạn vật lý. Vì thế không thể chỉ lắp chip mới vào trung tâm dữ liệu cũ. Đường điện và hệ làm mát cũng phải làm lại.

Khoảng cách giữa hai loại còn đang nới rộng. Theo IEA, điện năng của máy chủ tăng tốc dự kiến tăng khoảng 30% mỗi năm đến 2030, gấp hơn ba lần máy chủ thông thường.

Mức tăng điện năng mỗi năm đến 2030 theo loại máy chủ

%/năm0102030309Máy chủ tăng tốcMáy chủ thông thườngMáy chủ tăng tốc 30 %/nămMáy chủ thông thường 9 %/năm
Xem số liệu
Đơn vị: %/nămGiá trị
Máy chủ tăng tốc30
Máy chủ thông thường9
Biểu đồ: Hỏa Tốc 24h – Nguồn: IEA, Energy and AI, 2025

Vì sao huấn luyện AI cần hạ tầng rất lớn?

Huấn luyện AI cần hạ tầng rất lớn vì mô hình phải làm một khối lượng tính toán khổng lồ trên lượng dữ liệu rất lớn. Việc chỉ xong trong thời gian chấp nhận được khi chia cho hàng chục nghìn chip chạy cùng lúc. Theo Epoch AI, lượng tính toán để huấn luyện các mô hình tiên phong tăng 4–5 lần mỗi năm, từ 2010 đến tháng 5/2024.

Nói đơn giản, huấn luyện là lúc mô hình đọc dữ liệu rồi chỉnh các tham số, tức những con số bên trong quyết định cách nó trả lời. Việc này lặp đi lặp lại rất nhiều lần. Ba yếu tố đẩy quy mô lên là số tham số, lượng dữ liệu và số vòng tính. Khi một yếu tố tăng, lượng tính toán tăng theo. Vì vậy mỗi thế hệ mô hình mới thường cần cụm lớn hơn.

Cụm càng lớn càng ngốn điện. Theo báo cáo Energy and AI của IEA, một trung tâm dữ liệu tập trung vào AI điển hình dùng lượng điện bằng 100.000 hộ gia đình. Vì thế lượng điện mà các cụm GPU tiêu thụ đã thành bài toán lớn của ngành.

Huấn luyện một mô hình lớn cần bao nhiêu GPU chạy cùng lúc?

Các mô hình lớn hiện nay được huấn luyện trên hàng chục nghìn GPU chạy cùng lúc, và con số này tăng theo từng thế hệ. Số do chính các hãng công bố cho thấy rõ điều này:

  • Tháng 5/2020, Microsoft công bố siêu máy tính dành riêng cho OpenAI, với 10.000 GPU và hơn 285.000 lõi CPU.
  • Tháng 3/2024, Meta công bố hai cụm, mỗi cụm 24.576 GPU NVIDIA H100. Một cụm đang dùng để huấn luyện Llama 3.
  • Tháng 7/2024, Meta cho biết trong bài giới thiệu Llama 3.1 rằng mô hình 405B được huấn luyện trên hơn 16.000 GPU H100. Mô hình này học từ hơn 15 nghìn tỷ token, tức các mẩu chữ nhỏ mà mô hình đọc.

Meta gọi 405B là mô hình Llama đầu tiên được huấn luyện ở quy mô này. Hãng cũng đặt mục tiêu có khoảng 350.000 GPU H100 vào cuối năm 2024. Theo Anthropic, hãng cùng Amazon làm Project Rainier. Cụm tính toán này có hàng trăm nghìn chip AI, đặt ở nhiều trung tâm dữ liệu tại Mỹ.

Vì sao các GPU phải nối với nhau bằng mạng riêng tốc độ cao?

Các GPU phải nối bằng mạng riêng tốc độ cao vì khi huấn luyện, chúng liên tục trao đổi kết quả với nhau. Chỉ một đường nối chậm cũng khiến cả cụm phải chờ. Giống một dàn nhạc, mọi nhạc công phải theo cùng nhịp thì bản nhạc mới trôi.

Mạng này có hai tầng. Trong một máy chủ hay một tủ, NVIDIA dùng NVLink, đường nối thẳng từ GPU tới GPU. Theo công bố của hãng, NVLink thế hệ thứ năm truyền 1.800 gigabyte mỗi giây (GB/s) cho mỗi GPU. Giữa các máy chủ, các cụm dùng InfiniBand như NVIDIA Quantum-2, đạt 400 gigabit mỗi giây (Gb/s) mỗi cổng, hoặc Ethernet chỉnh riêng cho AI.

Meta dùng cả hai. Một cụm chạy RoCE, tức truy cập bộ nhớ trực tiếp qua Ethernet, cụm kia chạy InfiniBand. Cụm lớn ban đầu chạy kém, cho tới khi Meta đổi cách xếp lịch công việc theo cấu trúc mạng và chỉnh cách định tuyến. Tháng 6/2025, Ultra Ethernet Consortium thuộc Linux Foundation ra Đặc tả 1.0 cho Ethernet dùng trong AI.

Quy mô nối mạng vẫn đang tăng. Theo Alphabet ngày 22/07/2026, Google thiết kế mạng Virgo Network để nối một triệu bộ tăng tốc AI. Các chip này nằm ở nhiều khu trung tâm dữ liệu nhưng chạy như một siêu máy tính.

Huấn luyện và chạy mô hình hằng ngày, phần nào ngốn hạ tầng hơn?

Mỗi lần huấn luyện tốn nhiều hạ tầng nhất trong một thời gian ngắn. Chạy mô hình hằng ngày, tức suy luận, tốn ít cho mỗi lượt nhưng lặp lại liên tục với hàng trăm triệu người dùng. Ở Google, số liệu công bố năm 2022 cho thấy suy luận chiếm phần lớn hơn trong điện năng dành cho học máy, tức các mô hình AI học từ dữ liệu.

Huấn luyện là việc làm một lần, rất nặng, cần cụm lớn nối chặt. Suy luận thì nhẹ ở mỗi lượt. Theo bản Key Questions on Energy and AI của IEA, một câu hỏi văn bản AI đơn giản thường dùng ít điện hơn TV chạy trong cùng thời gian. Nhưng suy luận không bao giờ dừng. Cũng theo IEA, điện năng của các trung tâm dữ liệu tập trung vào AI tăng 50% trong năm 2025 và dự kiến tăng gấp ba đến 2030.

Google đã làm chip riêng cho việc này và gọi Ironwood là TPU đầu tiên cho thời đại suy luận.

Suy luận là gì và vì sao tổng lượng suy luận tăng nhanh hơn huấn luyện?

Suy luận là lúc mô hình đã huấn luyện xong dùng những gì đã học để trả lời một yêu cầu. Khi bạn hỏi Gemini một câu, mô hình không học thêm gì mà chỉ tính ra câu trả lời. Tổng lượng suy luận tăng nhanh vì người dùng, độ nặng mỗi lượt và số sản phẩm có AI đều tăng cùng lúc:

  1. Người dùng tăng: theo Alphabet tháng 7/2026, ứng dụng Gemini có 950 triệu người dùng hoạt động hằng tháng. Số người dùng hằng ngày tăng gấp ba trong một năm.
  2. Mỗi lượt nặng hơn: suy luận nhiều bước và tác tử AI (agent) tốn điện hơn hẳn. Theo IEA, chúng có thể dùng điện gấp hàng trăm đến hàng nghìn lần một lượt tạo văn bản đơn giản. Số người tạo video hằng ngày trên Gemini tăng 40% từ khi Omni ra mắt tháng 5/2026.
  3. AI vào nhiều sản phẩm hơn: API mô hình của Alphabet, tức cổng để ứng dụng khác gọi mô hình, xử lý khoảng 22 tỷ token mỗi phút. Quý trước, con số này là hơn 16 tỷ.

Vì sao tỷ lệ điện cho huấn luyện và suy luận chỉ là ước tính?

Tỷ lệ điện cho huấn luyện và suy luận chỉ là ước tính vì số liệu công khai rất ít. Cùng một cụm GPU lại có thể phục vụ cả hai việc.

Con số có tên nguồn rõ nhất đến từ Google Research. Tháng 2/2022, David Patterson cho biết học máy chỉ chiếm 10–15% tổng điện năng của Google mỗi năm, trong ba năm trước đó. Trong phần ấy, khoảng 3/5 dành cho suy luận và 2/5 cho huấn luyện.

Tỷ lệ này chỉ đúng cho Google và cho giai đoạn đó. IEA nêu cả hai việc diễn ra chủ yếu trong trung tâm dữ liệu nhưng không tách điện giữa chúng. Khi gặp một tỷ lệ đang lan truyền, bạn nên xem tên nguồn, năm số liệu và cách đo.

Điện năng tiêu thụ của trung tâm dữ liệu AI: những con số chính

Theo IEA, năm 2024 trung tâm dữ liệu dùng 415 TWh, tức 415 tỷ kWh, khoảng 1,5% điện năng toàn cầu. Bản cập nhật năm 2026 của IEA ghi 485 TWh cho năm 2025 và dự báo khoảng 950 TWh vào năm 2030. Số liệu theo khu vực nằm ở bài điện năng tiêu thụ của trung tâm dữ liệu AI.

Nước làm mát cho trung tâm dữ liệu

Gần như toàn bộ điện mà chip dùng đều biến thành nhiệt, và nước là một trong những cách chính để đưa nhiệt đó ra ngoài. Chip quá nóng không giữ được hiệu năng, nên làm mát quyết định chip AI có chạy hết sức hay không.

Nước tham gia theo hai kiểu. Kiểu thứ nhất là bay hơi để thải nhiệt. Kiểu thứ hai là chạy trong vòng kín, đưa nhiệt từ chip tới máy làm lạnh.

Hệ thống ống dẫn nước làm mát và máy làm lạnh của một trung tâm dữ liệu
Ảnh minh họa: SpaceX / Pexels

Làm mát trung tâm dữ liệu bằng cách nào?

Trung tâm dữ liệu được làm mát bằng ba cách chính: thổi khí lạnh, làm mát bằng bay hơi nước và đưa chất lỏng trực tiếp tới chip.

  1. Khí: quạt và điều hòa đưa khí lạnh qua máy chủ rồi đẩy khí nóng ra ngoài. Cách này hợp với tủ dùng ít điện.
  2. Bay hơi nước: nước bay hơi để hút nhiệt. Cách này tiết kiệm điện nhưng tốn nước.
  3. Chất lỏng trực tiếp tới chip: chất lỏng chạy sát chip để lấy nhiệt ngay tại nguồn. Theo Microsoft, từ tháng 8/2024 thiết kế mới của hãng làm mát ngay ở chip và không làm bay hơi nước.

Với tủ AI, chất lỏng đang là lựa chọn chính. Cụm (pod) Ironwood 9.216 chip của Google làm mát bằng chất lỏng. Cả cụm có quy mô gần 10 MW, tức khoảng 10.000 kW. Google cho biết cách này giữ hiệu năng gấp tới 2 lần làm mát khí tiêu chuẩn khi tải AI nặng và kéo dài.

Làm mát bằng chất lỏng khác làm mát bằng khí thế nào?

Chất lỏng mang nhiệt tốt hơn không khí, nên làm mát bằng chất lỏng gần như bắt buộc khi tủ rack AI vượt mức khí còn xử lý được.

Tiêu chíLàm mát bằng khíLàm mát bằng chất lỏng
Hiệu năng khi tải AI nặng kéo dàiMức tham chiếu tiêu chuẩnGiữ hiệu năng gấp tới 2 lần
Mật độ tủ rack phù hợpNăm 2020, phổ biến ở tủ dưới 10 kWLàm mát chất lỏng trực tiếp kinh tế hơn từ khoảng 20–25 kW mỗi tủ
Hiệu năng trên cùng mức điệnHạ tầng H100 làm mát bằng khí là mức so sánhGB200 NVL72 cho hiệu năng gấp 25 lần ở cùng mức điện, theo công bố của NVIDIA
Nước tiêu thụHệ hiện có của Microsoft kết hợp khí với làm mát bằng nướcVòng kín của Microsoft bơm nước một lần khi xây, không cần cấp nước ngọt mới

Nguồn: Google, Uptime Institute, NVIDIA, Microsoft.

Ở mức vài chục kW mỗi tủ, chất lỏng có lợi hơn rõ. Vòng kín ít tốn nước, nhưng nhiệt vẫn phải thải ra ở máy làm lạnh, nên có thể phải trả thêm bằng điện.

Trung tâm dữ liệu sử dụng bao nhiêu nước?

Lượng nước của trung tâm dữ liệu chênh nhau rất xa, tùy cách làm mát và nơi đặt. Có nơi gần như không dùng nước cho làm mát, có nơi dùng hơn 125 triệu lít mỗi năm.

Nước rút ra là lượng lấy từ nguồn, còn nước tiêu hao là phần bay hơi, không quay lại nguồn. Các hãng thường báo hiệu quả sử dụng nước (WUE, Water Usage Effectiveness), tức số lít nước dùng cho mỗi kWh điện. Số này càng nhỏ càng tiết kiệm. Ba con số do chính các hãng công bố:

  • Gemini: theo Google, một câu lệnh văn bản trung vị dùng 0,26 mL nước, đo tháng 5/2025. Google tính số này từ điện của câu lệnh nhân với WUE trung bình năm 2024.
  • Microsoft: theo hãng, WUE trung bình là 0,30 lít mỗi kWh trong năm tài chính 2024, so với 0,49 lít năm 2021.
  • Microsoft: thiết kế không dùng nước để làm mát giúp mỗi trung tâm tránh dùng hơn 125 triệu lít nước mỗi năm.

WUE của Microsoft đã tốt lên 39% trong ba năm.

Hiệu quả sử dụng nước (WUE) của trung tâm dữ liệu Microsoft

lít/kWh00,20,40,60,490,3Năm 2021Năm tài chính 2024Năm 2021 0,49 lít/kWhNăm tài chính 2024 0,3 lít/kWh
Xem số liệu
Đơn vị: lít/kWhGiá trị
Năm 20210,49
Năm tài chính 20240,3
Biểu đồ: Hỏa Tốc 24h – Nguồn: Microsoft, 09/12/2024

Tiết kiệm nước thường phải trả bằng điện. Microsoft cho biết bỏ làm mát bay hơi làm tăng PUE, tức chỉ số so tổng điện của cơ sở với điện mà thiết bị IT dùng. PUE càng gần 1 càng tốt. Hãng bù lại bằng cách chạy ở nhiệt độ cao hơn và dùng máy làm lạnh tiết kiệm, nên điện hằng năm chỉ tăng không đáng kể. Đây là ví dụ rõ về đánh đổi giữa tiết kiệm nước và tiết kiệm điện.

Nước làm mát lấy từ đâu và trả lại thế nào?

Trung tâm dữ liệu lấy nước từ nguồn nước ngọt, nước tái chế hoặc nước biển. Sau đó một phần bay hơi, phần khác chạy trong vòng kín hoặc mang nhiệt đi dùng tiếp.

Nguồn lấy nước:

  • Nước biển: trung tâm của Google ở Hamina, Phần Lan lấy nước biển từ vịnh Phần Lan để làm mát. Trung tâm mở năm 2011 trên nền nhà máy giấy Summa cũ.
  • Nước tái chế: tại hạt Douglas, bang Georgia (Mỹ), Google dùng nước công nghiệp tái chế để làm mát máy chủ từ năm 2012.
  • Nước ngọt nạp một lần: vòng kín của Microsoft được bơm đầy khi xây, rồi tuần hoàn giữa máy chủ và máy làm lạnh.

Đường đi ra:

  • Bay hơi: ở hệ làm mát bay hơi, phần nước hút nhiệt bay vào không khí và không quay lại nguồn.
  • Tuần hoàn: trong vòng kín, nước quay về máy làm lạnh để dùng tiếp, không cần cấp nước ngọt mới.
  • Thu hồi nhiệt: nhiệt thải có thể đưa ra ngoài khuôn viên để sưởi ấm. Ở Hamina, Google làm dự án này cùng công ty Haminan Energia, dự kiến cấp nhiệt sưởi cho địa phương.
Sơ đồ bốn bước vòng đi của nước làm mát trong trung tâm dữ liệu
Sơ đồ: Vòng đi của nước làm mát – Nguồn: Google Data Centers và Microsoft

Các hãng còn cam kết bù nước. Theo Báo cáo Môi trường 2026 của Google, năm 2025 các dự án bảo vệ nguồn nước của hãng bù lại khoảng 7,7 tỷ gallon, tức khoảng 29 tỷ lít. Lượng này bằng khoảng 78% nước ngọt Google tiêu thụ trong năm. Google cam kết bù 120% vào năm 2030.

Microsoft dự kiến thử thiết kế không bay hơi nước ở Phoenix, bang Arizona, và Mt. Pleasant, bang Wisconsin, từ năm 2026. Theo kế hoạch, các cơ sở này bắt đầu vận hành từ cuối năm 2027.

Trung tâm dữ liệu ở vùng khí hậu lạnh có lợi gì?

Đặt ở vùng lạnh giúp trung tâm dữ liệu dùng không khí hoặc nước tự nhiên để làm mát, nhờ đó bớt điện và nước cho máy làm lạnh. Cách này gọi là làm mát tự do (free cooling), tức tận dụng nhiệt độ thấp sẵn có thay vì làm lạnh bằng máy. Trung tâm Hamina của Google cho thấy ba lợi ích:

  • Nguồn làm mát sẵn có: nước biển từ vịnh Phần Lan đi thẳng vào hệ làm mát.
  • Gần điện sạch: năm 2023, Google đạt 98% điện không phát thải carbon ở Phần Lan.
  • Nhiệt thải có chỗ dùng: dự án thu hồi nhiệt dự kiến đáp ứng khoảng 80% nhu cầu sưởi của địa phương.

Giới hạn nằm ở khoảng cách. Nơi càng xa người dùng thì dữ liệu càng mất thêm thời gian đi lại. Vì vậy vùng lạnh xa đô thị hợp với việc như huấn luyện hơn là dịch vụ cần phản hồi tức thì.

Trung tâm dữ liệu nổi và đặt dưới biển đã được thử đến đâu?

Trung tâm dữ liệu dưới biển đã được thử thật, và thử nghiệm rõ nhất là dự án Natick của Microsoft. Theo Microsoft, mùa xuân 2018 hãng đặt dưới biển một khoang kín chứa 864 máy chủ. Khoang nằm ở độ sâu 117 feet, tức khoảng 36 mét. Địa điểm là Trung tâm Năng lượng Biển châu Âu (EMEC), ngoài khơi quần đảo Orkney ở Scotland.

Khoang được bơm đầy khí nitơ khô và lấy điện từ lưới Orkney, vốn hoàn toàn từ gió và mặt trời. Mùa hè 2020, Microsoft kéo khoang lên. Ben Cutler, trưởng dự án Natick của Microsoft, nói: "Our failure rate in the water is one-eighth of what we see on land". Tức là tỷ lệ hỏng dưới nước chỉ bằng một phần tám trên đất liền.

Máy chủ chạy bền trong môi trường kín. Nhưng bảo trì, sửa chữa một khoang dưới đáy biển phức tạp hơn nhiều so với một tòa nhà trên bờ.

Trung tâm dữ liệu thường được đặt ở đâu và vì sao?

Trung tâm dữ liệu thường đặt ở nơi có điện dồi dào, đất rộng, đường truyền tốt và quy định địa phương cho phép. Nguồn nước hoặc khí hậu mát cũng là điểm cộng, còn gần người dùng thì không bắt buộc. Với trung tâm dữ liệu AI, điện nặng ký nhất vì mỗi tủ kéo rất nhiều điện.

Nơi đặt quyết định chi phí chạy trong nhiều năm. Một khu có thể rất rộng. Theo cơ quan phát triển kinh tế bang Louisiana, khu dự án của Meta ở giáo xứ Richland rộng 2.250 mẫu Anh (acre).

5 yếu tố chọn vị trí: điện, nước, khí hậu, cáp quang và quy định địa phương

Điện là yếu tố quyết định nhất khi chọn vị trí trung tâm dữ liệu AI, sau đó đến nước, khí hậu, cáp quang và quy định địa phương.

  1. Điện: cần lưới đủ mạnh và thời gian chờ đấu nối ngắn. Theo IEA, phần lớn trung tâm dữ liệu vẫn ưu tiên lưới điện. Dù vậy, đến năm 2030, khoảng 15–27 GW, tức 15–27 triệu kW, điện khí đặt tại chỗ có thể cấp cho chúng, chủ yếu ở Mỹ.
  2. Nước: nguồn nước quyết định trung tâm có dùng được làm mát bay hơi hay phải chọn vòng kín ít nước.
  3. Khí hậu: vùng lạnh giúp làm mát rẻ hơn, như trung tâm của Google tại Hamina, Phần Lan.
  4. Cáp quang: đường truyền tốt giúp dữ liệu đi nhanh tới người dùng và giữa các trung tâm với nhau.
  5. Quy định địa phương: ngày 12/12/2025, CRU, cơ quan điều tiết điện Ireland, ra quyết định về cách đấu nối điện cho trung tâm dữ liệu. Cơ sở mới phải có nguồn phát hoặc lưu trữ tương ứng công suất xin đấu nối. Cơ sở mới cũng phải đáp ứng ít nhất 80% nhu cầu điện hằng năm bằng điện tái tạo sản xuất tại Ireland, với lộ trình 6 năm.

IEA khuyến nghị cải cách cách quản lý hàng chờ đấu nối lưới. Ở cấp EU, Điều 12 của Chỉ thị (EU) 2023/1791 về hiệu quả năng lượng áp cho trung tâm dữ liệu có công suất IT từ 500 kW. Các cơ sở này phải báo cáo điện năng, nước và nhiệt thải. Theo Cơ quan Năng lượng Thụy Điển, hạn báo cáo số liệu năm 2025 ở nước này là 15/05/2026.

Vì sao trung tâm dữ liệu hay tụ lại thành cụm?

Trung tâm dữ liệu tụ thành cụm vì nơi đã có sẵn đường điện lớn, cáp quang và đội kỹ thuật thì cơ sở đến sau xây nhanh, rẻ hơn. Hamina là một ví dụ. Google đã đầu tư 3,5 tỷ euro vào vùng này và năm 2024 công bố trung tâm dữ liệu thứ bảy tại đây. Ở quy mô quốc gia, theo IEA, năm 2024 Mỹ chiếm 45% điện năng trung tâm dữ liệu toàn cầu, còn châu Âu chiếm 15%.

Mặt trái là áp lực lên lưới điện. Theo Cục Thống kê Trung ương Ireland (CSO), trung tâm dữ liệu dùng 7.663 GWh năm 2025, tức khoảng 7,7 tỷ kWh. Lượng này bằng 23% điện năng đo đếm của nước này. Năm 2015, tỷ lệ này chỉ là 5%. Cùng năm 2025, điện của mọi đối tượng khác chỉ tăng 2%, còn hộ gia đình chiếm 28%. Điện của trung tâm dữ liệu ở Ireland tăng khoảng 10% mỗi năm trong 2024 và 2025.

Điện năng trung tâm dữ liệu dùng ở Ireland

GWh02.0004.0006.0008.0006.3356.9737.6632023202420252023 6.335 GWh2024 6.973 GWh2025 7.663 GWh
Xem số liệu
Đơn vị: GWhGiá trị
20236.335
20246.973
20257.663
Biểu đồ: Hỏa Tốc 24h – Nguồn: CSO Ireland, 10/06/2025 và 07/07/2026

Các cụm này vẫn đang lớn thêm cùng những dự án mới đang mọc lên ở Mỹ và châu Âu.

Nhân sự vận hành một trung tâm dữ liệu gồm những ai?

Năm nhóm người giữ cho một trung tâm dữ liệu chạy. Đó là kỹ sư điện, kỹ sư làm mát, kỹ thuật viên máy chủ, đội giám sát 24/7 và đội an ninh, quản lý cơ sở. Theo khảo sát toàn cầu 2025 của Uptime Institute, gần hai phần ba đơn vị vận hành gặp khó trong việc giữ người, tìm người, hoặc cả hai.

  1. Kỹ sư điện: giữ nguồn lưới, bộ lưu điện và máy phát luôn sẵn sàng.
  2. Kỹ sư cơ khí và làm mát: vận hành điều hòa, máy làm lạnh và vòng chất lỏng tới chip.
  3. Kỹ thuật viên tại chỗ: lắp, thay máy chủ, GPU, ổ đĩa và cáp. Ở Google, mỗi ổ cứng được theo dõi bằng mã vạch và thẻ tài sản từ khi mua tới khi tiêu hủy.
  4. Đội giám sát vận hành 24/7: theo dõi cảm biến và cảnh báo suốt ngày đêm.
  5. An ninh và quản lý cơ sở: kiểm soát ra vào. Google cấp quyền theo nguyên tắc tối thiểu, mỗi người chỉ vào được các lớp mà công việc cần.

Trung tâm AI đòi thêm kỹ năng làm mát chất lỏng và thay linh kiện GPU. Theo khảo sát của Uptime, phần lớn đơn vị vận hành chấp nhận dùng AI để phân tích dữ liệu cảm biến và bảo trì dự đoán. Họ không chấp nhận để AI thay đổi cấu hình, điều khiển thiết bị hay quản lý nhân viên.

Số việc làm lâu dài ít hơn nhiều so với lúc xây. Dự án của Meta ở Louisiana, công bố tháng 12/2024, dự kiến cần khoảng 5.000 công nhân xây dựng lúc cao điểm. Khi vận hành, dự án dự kiến tạo từ 500 việc làm trực tiếp trở lên, cùng hơn 1.000 việc làm gián tiếp.

Dự án trung tâm dữ liệu lớn tại Mỹ và châu Âu: bức tranh tóm tắt

Mỹ và châu Âu đang có nhiều dự án trung tâm dữ liệu AI rất lớn. Nhưng nhiều dự án lớn nhất mới là kế hoạch đã công bố, chưa phải cơ sở đang chạy. Danh sách và tình trạng từng dự án nằm ở bài các dự án trung tâm dữ liệu lớn tại Mỹ và châu Âu. Cổ phiếu ngành trung tâm dữ liệu là chuyện khác, có rủi ro đầu tư riêng.

Các công ty AI có đủ trung tâm dữ liệu bằng cách nào: tự xây hay thuê đám mây?

Các công ty AI có hạ tầng bằng ba cách: tự xây, thuê nhà cung cấp đám mây lớn, hoặc thuê nhà cung cấp mới chuyên hạ tầng AI. Nhiều hãng dùng cùng lúc nhiều cách. Anthropic chạy trên ba nền tảng chip: TPU của Google, Trainium của Amazon và GPU của NVIDIA.

  1. Tự xây: Meta xây cụm GPU trên phần cứng mở do hãng tự thiết kế, gồm Grand Teton và OpenRack. Google tự thiết kế trung tâm dữ liệu, phần lớn bo mạch máy chủ, thiết bị mạng và chip bảo mật Titan.
  2. Thuê đám mây lớn: OpenAI huấn luyện trên siêu máy tính Azure mà Microsoft xây riêng từ năm 2020. Ngày 28/10/2025, Microsoft cho biết OpenAI cam kết mua thêm 250 tỷ USD dịch vụ Azure. Microsoft cũng thôi quyền ưu tiên cung cấp năng lực tính toán cho OpenAI. Tháng 11/2024, Amazon đầu tư thêm 4 tỷ USD vào Anthropic, nâng tổng vốn lên 8 tỷ USD. AWS thành đối tác đám mây và huấn luyện chính của Anthropic. Tháng 10/2025, Anthropic mở rộng dùng tới một triệu TPU của Google Cloud.
  3. Nhà cung cấp mới và liên doanh: theo Synergy Research Group, nhóm nhà cung cấp hạng hai tăng nhanh nhất quý 2/2026 gồm CoreWeave, Oracle, Crusoe, Nebius, Nscale, cùng OpenAI và Anthropic. Ngày 21/01/2025, SoftBank, OpenAI, Oracle và MGX công bố Dự án Stargate. Đây là kế hoạch đầu tư 500 tỷ USD trong 4 năm cho hạ tầng AI tại Mỹ, theo mức vốn công bố. Theo kế hoạch, 100 tỷ USD được đưa vào ngay và công trình đầu tiên nằm ở Texas.

Thuê giúp hãng có hạ tầng nhanh mà không phải bỏ vốn xây trước. Xu hướng mới là các hãng AI tự đứng ra góp vốn và vận hành. Trong Stargate, SoftBank lo tài chính, còn OpenAI chịu trách nhiệm vận hành.

Điện toán đám mây là gì?

Điện toán đám mây là việc thuê sức tính toán, lưu trữ và phần mềm qua internet từ trung tâm dữ liệu của nhà cung cấp. Khách trả tiền theo mức dùng thay vì tự mua máy. Đám mây không lơ lửng ở đâu cả: nó chạy trên những trung tâm dữ liệu thật.

NIST, tức Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ, định nghĩa đám mây trong tài liệu SP 800-145 công bố tháng 9/2011. Theo đó, đám mây cho phép truy cập qua mạng, theo nhu cầu, tới một kho tài nguyên dùng chung như máy chủ, lưu trữ, ứng dụng. Tài nguyên được cấp và thu hồi nhanh, với rất ít công quản lý. Lưu ảnh trên dịch vụ trực tuyến hay đọc email trên web là những cách bạn đang dùng đám mây mỗi ngày.

Với hãng AI, đám mây cho phép thuê GPU theo nhu cầu và mở rộng nhanh khi người dùng tăng. Thị trường này nằm trong tay một số ít nhà cung cấp lớn.

Các nhà cung cấp đám mây lớn trên thế giới gồm những ai?

Ba nhà cung cấp lớn nhất là Amazon Web Services, Microsoft Azure và Google Cloud, cùng nắm phần lớn thị trường hạ tầng đám mây toàn cầu. Theo Synergy, quý 2/2026 Amazon dẫn đầu với 28% thị phần.

Nhà cung cấpCông ty mẹThị phần (Synergy Research Group, quý 2/2026)
Amazon Web ServicesAmazon28%
Microsoft AzureMicrosoft20%
Google CloudAlphabet15%

Quý 2/2026, chi tiêu của doanh nghiệp cho hạ tầng đám mây là 143,4 tỷ USD, tăng 43% so với cùng kỳ. Đây là mức tăng cao nhất trong 8 năm. Dịch vụ đám mây dành riêng cho AI tạo sinh tăng 165%. Theo Alphabet, doanh thu Google Cloud tăng 82%.

Các hãng đám mây vì thế dồn sức xây trung tâm dữ liệu AI. Alphabet cho biết hãng vẫn đang thiếu năng lực cung ứng.

Năm 2027 là thời điểm đáng theo dõi. Theo kế hoạch, NVIDIA bắt đầu đưa hạ tầng điện 800 V vào tủ IT từ 1 MW trở lên. Microsoft dự kiến vận hành các trung tâm làm mát không bay hơi nước từ cuối năm đó. Mức điện cả ngành tới năm 2030 nằm ở bài mức điện mà trung tâm dữ liệu AI tiêu thụ. Danh sách công trình mới nằm ở bài các dự án hạ tầng AI lớn ở Mỹ và châu Âu.

Cách đọc số liệu: Google đo Gemini theo câu lệnh trung vị, có tính cả phần làm mát. Sam Altman nêu mức trung bình của ChatGPT, nên hai số không so trực tiếp. Dự báo năm 2030 lấy theo bản cập nhật năm 2026 của IEA là 950 TWh, còn bản năm 2025 ghi 945 TWh. Thị phần đám mây của Synergy gộp thuê hạ tầng, thuê nền tảng và đám mây riêng do nhà cung cấp lưu trữ.