EPISODE · May 25, 2025 · 3 MIN
英伟达Blackwell架构再创AI推理速度新纪录
from 敢想科技说
大家好，我是敢想老田。今天咱们聊点硬核的英伟达又双叒叕破纪录了！这次可不是小打小闹，而是直接把AI推理速度推向了每秒1000个token的新高度。说实话，我刚看到这个消息的时候，手里的咖啡都差点洒了。这不，赶紧来给大家掰扯掰扯这个堪称AI界博尔特的Blackwell架构到底有多猛。先给不太了解的朋友们科普一下token是AI处理文本的基本单位，就像咱们说话的词语。每秒1000个token啥概念？相当于一眨眼的功夫，AI就能给你写出一段小作文。而且这次测试用的还是Meta家的Llama 4 Maverick模型，这可是目前最火的开源大模型之一。英伟达这次用的是一台配备8颗Blackwell GPU的DGX B200服务器，单用户就能跑到这个速度。更夸张的是，他们那个配备72颗GPU的GB200 NVL72液冷机架，整体吞吐量直接飙到了72000 TPS！这数字我看着都眼晕，简直就是给AI...去小宇宙查看完整单集简介前往小宇宙评论区与主播互动
NOW PLAYING
英伟达Blackwell架构再创AI推理速度新纪录
0:00
3:07
1×
No transcript for this episode yet
Similar Episodes
No similar episodes found.
Similar Podcasts
No similar podcasts found.
Frequently Asked Questions
How long is this episode of 敢想科技说?
This episode is 3 minutes long.
When was this 敢想科技说 episode published?
This episode was published on May 25, 2025.
What is this episode about?
大家好，我是敢想老田。今天咱们聊点硬核的英伟达又双叒叕破纪录了！这次可不是小打小闹，而是直接把AI推理速度推向了每秒1000个token的新高度。说实话，我刚看到这个消息的时候，手里的咖啡都差点洒了。这不，赶紧来给大家掰扯掰扯这个堪称AI界博尔特的Blackwell架构到底有多猛。先给不太了解的朋友们科普一下token是AI处理文本的基本单位，就像咱们说话的词语。每秒1000个token啥概念？相当于一眨眼的功夫，AI就能给你写出一段小作文。而且这次测试用的还是Meta家的Llama 4...
Can I download this 敢想科技说 episode?
Yes, you can download this episode by clicking the download button on the episode player, or subscribe to the podcast in your preferred podcast app for automatic downloads.
URL copied to clipboard!