第4回 AIデータセンターの4類型 前編：学習用DCと推論用DCの違い

AIデータセンターは、ひとつの種類だけではありません。 第4回では、AIデータセンターを理解するうえで最初に押さえたい「学習用DC」と「推論用DC」の違いを解説します。学習用DCは、巨大なAIモデルを作るための場所です。 大量のGPU、高速ネットワーク、HBM、液冷、大電力を必要とし、ユーザーの近くよりも、電力・土地・冷却・送電網が重要になります。一方、推論用DCは、ChatGPT、Copilot、検索AI、画像生成AI、AIエージェントなどを日々動かす場所です。 AIが使われるたびに計算が発生するため、今後は「AIを作る計算」だけでなく、「AIを使い続ける計算」が大きなテーマになります。今回は、 ・学習と推論の違い ・AIファクトリーとは何か ・GPUを大量に並べるだけでは足りない理由 ・推論用DCで低遅延が重要になる理由 ・AIインフラの重心が、学習から推論へ広がっていく流れ を、ベテラン産業アナリストの神崎まことと、若手経済記者の佐伯あかりが、わかりやすく整理します。AIデータセンターを見るときは、まず「AIを作る場所なのか、AIを動かす場所なのか」を分けて考える。 この視点を持つと、AI、半導体、電力、データセンター投資のニュースがぐっと読みやすくなります。【公式noteで詳細レポート公開中！】https://note.com/ai_industry_map/n/n4a472f98bbc9?sub_rt=share_pw出典一覧International Energy Agency, “Energy and AI: Energy demand from AI”, 2025. https://www.iea.org/reports/energy-and-ai/energy-demand-from-aiMcKinsey & Company, “The future of AI workloads”, 2026. https://www.mckinsey.com/featured-insights/week-in-charts/the-future-of-ai-workloadsMcKinsey & Company, “The next big shifts in AI workloads and hyperscaler strategies”, 2025.https://www.mckinsey.com/industries/technology-media-and-telecommunications/our-insights/the-next-big-shifts-in-ai-workloads-and-hyperscaler-strategiesNVIDIA, “GB200 NVL72”. https://www.nvidia.com/en-us/data-center/gb200-nvl72/AWS, “Announcing AWS Wavelength for delivering ultra-low latency applications for 5G”, 2019.https://aws.amazon.com/about-aws/whats-new/2019/12/announcing-aws-wavelength-delivering-ultra-low-latency-applications-5g/