微软联合创始人比尔·盖茨在 NBC《与媒体见面》（Meet the Press）的一段采访节选中，对人工智能发出了他迄今为止最重的一次警告：这项技术已经强大到足以引发造成「十亿人死亡」的事件。这段采访定于 9 月 27 日正式播出，节选先行放出后迅速被各大媒体转载。盖茨的原话是：人工智能「当然已经强大到足以推动一些事件，造成比如说十亿人死亡」。他紧接着补了一句更狠的——「历史上从未有过任何一种武器，能像心怀恶意的人利用最新 AI 工具那样强大。」需要注意的是，盖茨说的不是「AI 会自己动手杀人」，而是怀有恶意的人，配上足够强的工具。AI 在这里的角色是能力放大器：网络攻击、欺诈、虚假信息，以及对医院、金融机构、电网和政府系统这类关键基础设施的规模化破坏。8 月他在个人网站上的文章里，讲的也是这一层。盖茨曾长期是人工智能最积极的鼓吹者之一，把 AI 看作医疗、教育和气候问题的解题工具。也正因此，他的口径转向才被格外关注——按媒体的梳理，他的忧虑是随着模型能力提升逐步累积的，而非一次表态。采访里最实际的一段，是他对落地路径的表述：「你需要执法部门和政界人士参与讨论，探讨保障措施和监督机制应该是什么样的。这必须成为一项强制性要求。」换句话说，他认为靠开发企业自我约束不够，安全机制得从企业自愿，上升到公共治理。盖茨这次发声，正赶上硅谷一轮密集的 AI 安全争论。9 月初，Anthropic 员工雅各布·考克森宣布辞职，公开指责其两家前雇主 Anthropic 和 OpenAI「竞相开发超级人工智能」，是在「拿我们的生命冒险」；另一名 Anthropic 员工则称，他认为未来十年内 AI 消灭全人类的概率超过 10%。随后，Anthropic 首席执行官达里奥·阿莫迪公开主张放缓前沿模型的研发速度，这一提议得到 OpenAI 首席执行官萨姆·奥特曼和埃隆·马斯克等人的支持。Anthropic 还提出了一套随风险升高而逐级加码的监管框架：第三方安全评估、事故报告，以及在极高风险情况下赋予政府阻止危险部署的权限。外部机构也在给同一方向添证据。英国艾伦·图灵研究所 9 月 23 日发布的一份报告认为，未来五年内可能出现在所有认知任务上都超过人类的 AI 系统，由此带来人类对系统失去实质控制的风险，报告同时点出网络安全、民主进程、化学与生物威胁等问题。三点不能省：第一，「十亿人死亡」是盖茨用来衡量风险量级的上限说法，不是对某次具体事件的预测，他本人也表示这种情形无法给出确定的概率；第二，他没有提出具体的政策方案或时间表，也没有点名批评任何企业或国家；第三，他自己也承认，这只是把 AI 安全从技术议题推成公共安全议题，真正落地还要处理可审计性、责任归属和跨国协作这些难题。一边是模型能力还在加速，一边是安全争论从实验室烧到国会和媒体。这场讨论真正的看点，或许不是那个吓人的数字，而是它出自一位曾经的坚定乐观派之口。
