TPU推理外部化：成本低34%，谷歌怎样把自用芯片变成外部平台？

基于SemiAnalysis于2026年9月7日发布的《TPU Inference Externalization Full Steam Ahead - InferenceX》全文，以原创解释和重组方式制作的个人学习版，非全文朗读。 标题的34%指文中Qwen3.5-397B、FP8、聚合式服务、单用户100 token/s测试下，TPUv7相较B300的每百万总token模型成本差异，不是云服务报价，也不是所有任务的通用降幅。 主要内容：推理成本与延迟怎样一起比较；TorchTPU如何降低迁移成本；缓存、通信与填充浪费如何吃掉有效算力；谷歌软硬件协同设计与网络演进；英伟达在FP4和分离式服务的现实优势；智能体工作负载对缓存与软件提出的新要求。 原文：https://newsletter.semianalysis.com/p/tpu-inferencex-full-steam 来源文章日期：2026年9月7日。原文测试、成本模型和未来判断在节目中分别说明。 仅用于个人学习，仅上传Podcast，不上传小宇宙，无公开EP号、栏目片头片尾及音乐。不构成投资建议。