X
Nana_taipei今日
访谈嘉宾：微软CEO Satya Nadella；播客主持人：Dwarkesh Patel；联合访谈人：SemiAnalysis创始人Dylan Patel；嘉宾：微软云与AI执行副总裁Scott GuthrieDwarkesh Patel：今天我们采访的是萨提亚·纳德拉。"我们"指的是我和迪伦·帕特尔（Dylan Patel），他是SemiAnalysis的创始人。萨提亚，欢迎。Satya Nadella：谢谢。很高兴。感谢你来亚特兰大。Dwarkesh Patel：感谢你带我们参观新设施。能看到这些真的太酷了。Satya Nadella：当然。Dwarkesh Patel：萨提亚和斯科特·格思里（Scott Guthrie）——微软云与AI执行副总裁——带我们参观了他们全新的Fairwater 2数据中心，这是目前世界上最强大的数据中心。Scott Guthrie：我们一直努力在每18到24个月将训练容量提升10倍。所以这实际上是相比GPT-5训练时提升了10倍。从光纤数量来看，这栋建筑里的网络光纤几乎相当于两年半前我们所有Azure数据中心的总和。Satya Nadella：这里有大约500万个网络连接。Dwarkesh Patel：你在一个区域内的不同站点之间，以及两个区域之间都有这么大的带宽。那么这是对未来扩展性的一次大赌注吗？你们预期未来会有某个巨大的模型需要两个完整的区域来训练？Satya Nadella：我们的目标是能够将这些算力聚合起来用于大型训练任务，然后将这些资源跨站点整合在一起。现实是你会用它来训练，然后用它来生成数据，用它来做各种推理。它不会永远只用于一种工作负载。Scott Guthrie：附近正在建设的Fairwater 4，你们会看到，也将接入那个1 Petabit（千万亿比特）级的网络，这样我们就能以非常高的速率将两者连接起来。然后我们还有AI广域网连接到密尔沃基，那里我们正在建设多个其他Fairwater数据中心。Satya Nadella：你可以真切地看到模型并行和数据并行。它本质上是为这个园区的训练任务、超级集群而建的。然后通过广域网，你可以连接到威斯康星州的数据中心。你真的可以运行一个训练任务，将所有这些资源聚合在一起。Scott Guthrie：我们现在看到的是一个单元，里面还没有服务器，没有机架。Dylan Patel：一个单元里有多少个机架？Scott Guthrie：我们不一定会透露这个，但是……Dylan Patel：这就是我问的原因。Scott Guthrie：你上楼就会看到。Dylan Patel：我要开始数了。Scott Guthrie：你可以开始数。我们让你开始数。Dylan Patel：这栋楼里有多少个单元？Scott Guthrie：这部分我也不能告诉你。Dwarkesh Patel：好吧，除法很简单，对吧？Satya Nadella：天哪，这里有点吵。Dwarkesh Patel：你看着这些是不是想："现在我知道我的钱花哪儿了。"Satya Nadella：就像，"我经营的是一家软件公司。欢迎来到软件公司。"Dwarkesh Patel：一旦你决定使用GB200和NVLink，设计空间有多大？还有多少其他决策需要做？Satya Nadella：从模型架构到优化的物理方案，两者之间是耦合的。从这个意义上说，这也很可怕，因为会有新芯片推出。比如Vera Rubin Ultra。它的功率密度会非常不同，冷却要求也会非常不同。所以你不想只按一个规格来建设所有东西。这又回到了我们稍后要讨论的话题，那就是你希望随时间扩展，而不是一次性扩展然后就被困住了。AGI的商业模式Dylan Patel：当你审视所有过去的技术转型——无论是铁路还是互联网，或是可替换零件、工业化、云计算，所有这些——每一次革命从技术被发现到在经济中普及和渗透所需的时间都变得更快了。许多在Dwarkesh播客上出现过的人相信这是最后一次技术革命或转型，而且这一次非常、非常不同。至少到目前为止在市场上，三年内我们已经飙升到超大规模企业明年将进行5000亿美元的资本支出，这种速度在以往的革命中是无与伦比的。最终状态似乎相当不同。你对此的理解框架似乎与我所说的那种"AI兄弟"很不同，他们说"AGI（通用人工智能）要来了"。我想更深入地理解这一点。Satya Nadella：我首先感到兴奋，我也觉得也许在工业革命之后这是最重大的事情。我从这个前提出发，但与此同时，我有点脚踏实地，认为这仍然是早期阶段。我们已经构建了一些非常有用的东西，我们看到了一些很好的特性，这些扩展定律似乎在起作用。我乐观地认为它们会继续起作用。其中一些确实需要真正的科学突破，但也有很多工程工作等等。话虽如此，我也有点持这样的观点：即使是过去70年计算机领域发生的事情也一直在推动我们前进。我喜欢Raj Reddy对AI的一个比喻。他是卡内基梅隆大学的图灵奖得主。即使在AGI之前，他就有这个关于AI的比喻。他说AI应该是守护天使或认知放大器。我喜欢这个比喻。这是思考这个问题的简单方式。最终，它的人类效用是什么？它将成为认知放大器和守护天使。如果我这样看待它，我就把它看作一个工具。但你也可以对此非常神秘地说，这不仅仅是一个工具。它做所有这些事情，到目前为止只有人类做过。但过去许多技术都是这样。只有人类做很多事情，然后我们有了能做这些事的工具。Dwarkesh Patel：我们不必纠结于定义，但一种思考方式是，也许需要五年、十年、二十年。在某个时刻，最终机器会生产“萨提亚token”，而微软董事会认为“萨提亚token”非常有价值。Dylan Patel:通过采访萨提亚，你浪费了多少经济价值？Dwarkesh Patel：我负担不起“萨提亚token”的API成本。无论你想怎么称呼它，“萨提亚token”是工具还是智能体（agent），随便什么。现在，如果你的模型每百万token成本在美元或美分的量级，那里就有巨大的利润扩张空间，因为一百万个“萨提亚token”价值很高。我的问题是，那些利润去哪里了，微软在其中能分到多大比例？Satya Nadella：从某种意义上说，这又回到了本质上经济增长图景到底会是什么样子？公司会是什么样子？生产力会是什么样子？对我来说，这就是问题所在，再说一遍，如果工业革命创造了……在70年的扩散之后你才开始看到经济增长。这是另一件要记