Spots

“我们俩就是莱特兄弟！”马斯克、黄仁勋最新同台谈超级智能

9月29日，特朗普在白宫召集了美国科技行业的一批核心人物。马斯克、黄仁勋，以及来自Google、Meta、OpenAI、Anthropic等公司的负责人都在其中。当天，多家公司签署了一份一页纸的“超级智能”安全协议，约定建立更严格的内部控制、独立外部审计和董事会监督。协议是自愿签署的，特朗普称其具有“道德约束力”。同一天，他还要求美国联邦机构在官方沟通中更多使用“Super Intelligence（超级智能）”，而不是“Artificial Intelligence”。除了马斯克和黄仁勋，Anthropic联合创始人汤姆·布朗也参与其中，主持人则是长期投资科技行业的Atreides Management管理合伙人兼首席投资官加文·贝克。能源、数据中心、美国再工业化、太空算力，大部分都是几位嘉宾过去已经反复谈过的话题。马斯克倒是现场认真算了一笔账，美国平均用电约500吉瓦，如果每瓦电力能够产生的“智能”持续提高，他愿意打赌，未来电力使用量每增加1%，大致会对应GDP增加1%。顺着这笔账，他们进一步算出，每新增1吉瓦算力基础设施，可能对应约600亿美元的年经济产出。当贝克问，怎样让超级智能拥有“正确的价值观”时，黄仁勋反问，我们究竟希望一个工具拥有多大的判断权？他说，你可以把超级智能想象成一把牛排刀，切七分熟牛排游刃有余，但如果它“不肯切一分熟牛排”呢？这倒不是一句玩笑。就在前一天，英伟达刚刚发布开放智能体安全平台Open Agent Safety Platform：OpenShell负责把智能体限制在明确的权限边界内，Sentry则通过BlueField-4在系统之外持续监控它的行为。英伟达的思路很明确，不能只指望模型自己遵守规则，还要在模型之外建立一道它无法轻易绕开的安全边界。当AI越来越有能力理解、甚至判断人的意图，究竟有多少判断应该交给机器，又有多少决定必须留在人手里？ IN咖（Insight_daka）第一时间整理分享给大家。贝克莱特兄弟、第一个登上月球的人、互联网……美国几乎引领了每一次重大的技术革命。贝克

而这些技术革命，最终都给美国和普通美国人带来了巨大的好处。现在，我们好像已经开始把AI叫作“超级智能（Super…

而这些技术革命，最终都给美国和普通美国人带来了巨大的好处。现在，我们好像已经开始把AI叫作“超级智能（Super Intelligence，SI）”了，这个名字其实挺不错的。所以我们就从这里开始吧：美国怎样赢下这一轮竞争？而且怎样让这种“赢”真正惠及普通美国人？黄仁勋人工超级智能或者说超级智能，本质上是在彻底重构整个计算技术栈。从处理器、芯片怎样设计和运行，到软件怎样训练、怎样开发，再到应用最终能做什么、怎样完成这些事情，整个计算技术栈的每一层，都被重新发明了一遍。而这种计算方式和过去检索信息的方式不同，它是一种生成式计算。所以，如果我们想成功，第一件需要的东西就是能源。我们需要能源来驱动算力，算力运行算法，算法再去驱动应用。有了能源之后，我们才能建设土地、电力、厂房这些基础设施，再把计算基础设施放进去，一层一层往上搭。所以美国要赢（当然我们已经拥有世界一流的芯片设计能力，也拥有世界一流的算法开发能力），现在我们尤其需要警惕的一件事，就是必须确保电力供应和发电能力能够真正建设起来。特朗普总统在支持能源发展这件事情上，是很有远见的。如果没有这种支持能源建设的方向，我们根本不可能在上面建设这些数据中心。它们正在进入越来越多的社区和城镇，所以我们还需要做得更好，要和当地社区建立合作，让当地居民真正参与进来，让他们成为这轮工业革命繁荣和成功的一部分。我们要造出世界上最好的芯片，要有大量、大量的能源，要创造出非常出色的算法。最后，还要确保美国整个社会愿意拥抱这项技术，让它真正扩散到制造业、医疗、太空探索等各行各业。 “电力使用量每增加1%，大致会对应GDP增加1%” 马斯克我们需要很多电力，需要大规模增加能源供应。在软件层面，以及任何属于智力和数字领域的东西上，美国现在都是领先的。但是从长期来看，我们必须有能力生产足够多的电力去竞争。最主要的竞争对手基本就是中国，中国目前的发电量大约是美国的3倍。

所以真正最核心、而且从长期看最重要的问题是：我们怎样生产足够多的电力？同时怎样保证美国本土，或者至少在一个安全地区，拥有足够的逻辑芯片和存储芯片制造能力？…

所以真正最核心、而且从长期看最重要的问题是：我们怎样生产足够多的电力？同时怎样保证美国本土，或者至少在一个安全地区，拥有足够的逻辑芯片和存储芯片制造能力？埃隆，SpaceX公开谈过10吉瓦的目标。如果你真的新增10吉瓦，大概相当于美国新增电力供应的25%左右。而且我知道，你甚至已经让真正的火箭工程师去解决发电问题了，包括帮忙造燃气轮机。你能谈谈这件事吗？美国平均的电力消耗大约是500吉瓦。所以每增加5吉瓦稳定持续的电力供应，就相当于美国电力使用量增加1%。而我认为，这最终很可能也会转化成大约1%的GDP增长，因为每瓦电力能够产生的“智能”还在不断提高。你可以画一条曲线来看看，每瓦电力能够产生的有效智能，到底是怎样增长的？硬件层面也是如此。比如黄仁勋的GPU，单位功耗能够提供的算力一直在提高。所以这可能是一个挺有意思的判断。我愿意打个赌，电力使用量每增加1%，大致会对应GDP增加1%。这样算下来，新增10吉瓦，大概就是GDP增加2%。尤其等Rubin这些系统上来以后，我觉得差不多就是这样。贝克那我们把这笔账简单算一下。每1吉瓦算力基础设施，每年大概能创造400亿到500亿美元的经济产出。差不多吗？美国GDP的1%大概是3000亿美元。马斯克这大概就是我们最擅长的东西了。别的很多事情我们可能不太行，但数学还行。而且这个数字以后每年都会非常大幅地增长。从SpaceX的角度看，我们长期还在考虑另一个问题，有没有办法获得远远超过地面所能提供的能源？事实上，谷歌也认同这一点。他们刚刚把TPU送上去（或者正准备送上去）。我记得去年好像已经有人把一块H100送进了轨道。 SpaceX和特斯拉现在的目标，是每年制造200吉瓦的太阳能发电能力。如果放到太空，它基本可以把设计发电能力充分发挥出来；但放在地面，实际平均发电量可能只有设计水平的1/5到1/8。因为这些计算系统目前能够产生的经济回报实在太高了。所以即使发射成本依然很高，把它放到整个经济价值里看，其实完全负担得起。黄仁勋把英伟达的计算系统送进太空，是实现这件事情最好的办法。贝克

黄仁勋讲了一点，我觉得特别重要。当这些能源项目进入美国的小城镇时，我们实际上是在重新工业化美国，在重新振兴小城镇，也是在现代化美国的电网。…

黄仁勋讲了一点，我觉得特别重要。当这些能源项目进入美国的小城镇时，我们实际上是在重新工业化美国，在重新振兴小城镇，也是在现代化美国的电网。能不能讲得更具体一点？数据中心到底怎样帮助普通美国人？怎样帮助所在的社区？而且你们现在又在怎样让这些项目对当地社区变得更好？黄仁勋过去我们把它叫“数据中心”，是因为那里是存放数据的地方。但是今天我们建设的这些东西，其实已经应该叫“SI工厂”，也就是超级智能工厂。因为它真的在生产具有经济价值的东西，而不只是把数据存在那里。这些SI工厂就是货真价实的工厂。你可以把它想象成一个巨型发电设施。里面有大量计算设备、网络设施、发电设施、冷却系统，非常复杂。互联网如今让你无论在哪里都可以找到任何东西，而未来，借助这些超级智能基础设施、这些SI工厂，你无论在哪里，都可以知道任何事情，也可以做任何事情。粗略估计，一年大概新增10到20吉瓦。光是建设这些数据中心，很可能就会创造大约100万个工作岗位。别忘了，你还得建设发电厂，要建设数据中心，要做建筑施工，要建设供电和冷却系统，还需要管道安装工等各种技术工种。所以这可能是过去50年来第一次——你刚才说35年，我本来想说50年，美国真正重新开始工业化，同时创造出大量蓝领工作岗位。我认为，一个健康的经济体应该既有白领工作，也有蓝领工作，而不是只有白领工作。所以这是一次非常难得的机会，可以让我们重新塑造美国经济，把这些建设者、技术工种和制造能力重新带回美国。贝克完全同意。而且像Colossus这样的超级计算集群，以及xAI围绕Macrohard等项目建设的基础设施……给我的感觉确实很惊人。它们给周围社区带来了很多工作。马斯克它们带来的经济影响，或者说正面的经济影响，确实非常大。我们所在的那个地区现在实际上已经出现了劳动力短缺。过去那里还有相当高的失业率，但现在反过来了，你甚至可以叫它“就业过剩”——工作岗位比人还多。给当地带来的税收收益也非常大。我觉得我们可能让当地政府的税收预算翻了一倍左右，反正规模非常可观。

另外我们也会做一些规模没那么大、但对当地人很实用的事情。比如给他们提供低价的Starlink服务，大概半价；我们还在建设一座2.5亿美元的水循环处理厂。…

另外我们也会做一些规模没那么大、但对当地人很实用的事情。比如给他们提供低价的Starlink服务，大概半价；我们还在建设一座2.5亿美元的水循环处理厂。我觉得，你确实需要真正为当地社区做一些事情，如果你这么做，他们也会以同样的方式回应你。可能有史以来第一次，我们现在真的拥有足够强的市场力量，去支持对可持续能源的投资。你随便给我举一个例子——核聚变、核裂变、小型核反应堆、大型核反应堆，今天几乎所有形式的可持续能源，都有人愿意出钱。所以我们第一次有机会，仅仅依靠市场力量去投资未来的能源，而不是一定要政府补贴。对吧？黄仁勋你今天只要给我一个很好的能源或者储能方案，它就能拿到资金。贝克顺便说一句，我想代表所有美国人谢谢你们两位。你们两家公司加在一起，可能已经给普通美国人的401(k)退休账户创造了超过5万亿美元的财富，直接创造了数以万计、甚至可能数十万个工作岗位，也支付了数百亿美元的工资。马斯克其实我觉得，黄仁勋一个人就已经创造5万亿美元了。黄仁勋我觉得……我这边大概是3.5万亿美元左右吧。贝克你们两个这个星期一都过得不错。我当时一边看星舰发射，第一次把星舰完整送入轨道，一边在读英伟达发布的开放智能体安全框架。那天早上还挺让人兴奋的。所以也许你们可以分别谈谈这两件事情。如果未来我们真的要把200吉瓦的美国太阳能、美国芯片和美国超级智能送进轨道，我们就需要星舰。黄仁勋开玩笑的。我们确实希望继续推进AI——不对，现在应该叫推进SI了。我得赶紧习惯这个词。我们希望以一种负责任、但又保持乐观的方式推进超级智能。我们非常坚定地相信，超级智能最终会带来的那个未来，是一个我们愿意生活其中的未来。但另一方面，我们必须确保这项技术是在安全、可靠的情况下开发出来的。但是当你开始评估模型、测试模型的时候，就必须确保这个智能体系统、这个模型本身，是被高度隔离起来的。第二，即使你已经把它隔离起来了，在测试过程中也绝对不能因为“它已经被关起来了”，就完全相信它真的不会出来。所以你还需要进行实时监控，而且理想情况下，负责监控的应该是另一颗独立的芯片。

也就是说，监控系统应该在智能体自身环境之外，处于一个带外的位置，不在它自己的沙箱里面。当评估完成以后，真正把智能体部署出去的时候，也应该使用一套非常类似的体系…

也就是说，监控系统应该在智能体自身环境之外，处于一个带外的位置，不在它自己的沙箱里面。当评估完成以后，真正把智能体部署出去的时候，也应该使用一套非常类似的体系。你招一个员工进来，会给他一定范围的权限、工具和访问权，同时也会持续监督他的行为。对于智能体也是一样。只不过我们必须确保，隔离和监控这两件事情，是以最高等级的安全方式去完成。一个叫OpenShell，它是一套智能体隔离系统。你可以把它想象成网站时代的浏览器，只不过现在，它变成了“智能体的浏览器”。它把智能体和电脑的其他部分隔离起来，你只给它完成工作所真正需要的那些权限。它运行在BlueField-4 DPU上，相当于一直站在系统外面盯着这个智能体，看它到底在做什么。如果它做了任何越界、违反既定策略的事情，系统就可以按照需要逐级处理，必要的时候直接把它停下来。互联网刚出现的时候，大家都担心信用卡会不会被偷。后来我们把互联网变得足够安全，所以才有了亚马逊、Netflix、谷歌、X，才有了今天这么多东西。黄仁勋对。安全和推动技术进步，本来就不是矛盾的事情。安全和技术进步其实是一回事，就像自动驾驶一样。它一方面是更先进的技术，同时也应该是更安全的技术。所谓“能力提高了，安全就一定会受损”，或者“如果你把精力放在安全上，就一定会在技术竞争里落后”，这些都是错误的二选一。贝克埃隆，如果未来200吉瓦的计划很大程度上要依赖星舰，那你能不能谈谈星期一那次飞行？你们学到了什么？你现在怎么看整个星舰项目？我们第一次把一艘星舰送进了轨道，而且部署了Starlink V3卫星。这些卫星非常巨大。它们展开之后，翼展差不多有一架波音737那么大，所以真的是非常、非常大的卫星。事实上，这是自天空实验室以来，送入轨道的最大规模载荷。我觉得到了明年，很可能可以做到每周一次，甚至每周两次。它设计的目标之一，是能够向月球和火星运送足够多的载荷，最终在那里建设一座能够自我扩张、自我生长的城市。如果只是非常粗略地估算，要在月球表面建设一座能够自行发展的城市，大概需要向那里运送100万吨物资。

除此之外，星舰未来每年至少还会向太空发射几百吉瓦的AI算力。如果一年是200吉瓦，那已经相当于美国目前总能源消耗的40%。…

除此之外，星舰未来每年至少还会向太空发射几百吉瓦的AI算力。如果一年是200吉瓦，那已经相当于美国目前总能源消耗的40%。这是一个非常大的数字。有一天，它甚至可能达到1太瓦。贝克还有一个非常重要的问题。这些超级智能不可避免会带有创造者赋予它们的价值观。而我们确实有一些共同的美国价值观，比如第一修正案、言论自由，以及对真相的追求。你们能不能谈谈，各自在做些什么，确保这些超级智能被赋予正确的价值观？黄仁勋好。我的看法是，超级智能首先是一种工具，而一旦你开始让一件工具拥有“价值观”，某种意义上，也就是开始让它拥有判断。问题在于，如果超级智能有了自己的判断，它就可能先去判断你为什么要这么做。可一旦它开始判断你的意图，它作为工具本身就可能没那么好用了。但如果端上来的是一块一分熟的牛排，看起来实在太像一块还活着的肉了，它突然决定自己不切了。所以我脑子里一直有这样一个问题：我们到底希望这些工具拥有多大的判断权？因为真正重要的，还有使用者的意图。我刚才拿刀只是举个例子，你当然还可以想到很多别的场景。但防守方为了保护系统采取的某些行为，看上去完全可能跟攻击者一样。而这个时候，即使它表面上看起来是一种攻击性行为，你仍然希望这个超级智能能够代表防守方采取行动。贝克最后，也许你们可以分享一点刚刚在白宫发生的事情。你们在那里待了很长时间，看上去也是一次非常有成果的午餐会。有什么是现在可以跟大家讲的吗？

News

“我们俩就是莱特兄弟！”马斯克、黄仁勋最新同台谈超级智能

@spots

Source: Gelonghui

See more like this