OpenAI 2017年向政府出售AGI的计划，以及安全之争向基础设施的转移

据《大西洋月刊》周二发表的书摘及TNW 10月1日的报道，OpenAI联合创始人Greg Brockman和Ilya Sutskever曾在2017年提议拍卖公司未来AGI的权利，买家包括美国、中国和俄罗斯政府。当时在OpenAI工作的Dario Amodei反对该计划。Roose写道，这场争执是他离开并创立Anthropic的几个因素之一。

该书摘出自Kevin Roose即将出版的《AGI Chronicles》。五位熟悉该提案的人士向他描述了相关情况。TNW引用书摘称，这个想法最初是一个管理AGI风险的国际联盟提案。但在Brockman和Sutskever当季向员工展示时，它已演变为一种内部称为“国家计划”的筹资策略。

两位熟悉其想法的人士告诉Roose，两人预期政府会没收开发AGI的公司手中的技术。因此他们反问，为何OpenAI不趁现在缺钱时卖掉它。“听起来像科技人员在推销一个疯狂的初创项目，他们有个古怪的计划，最后说让政府买单，”一位听到演示的人士告诉Roose。

OpenAI推回了该提议。OpenAI发言人告诉Roose，公司“短暂考虑过将OpenAI转变为国际协作项目”，但“从未考虑将AGI出售给中国或俄罗斯”。在OpenAI从微软获得资金后，该计划被放弃。2017年12月，Amodei给Brockman、Sutskever和其他高管发邮件表示反对。他写道，该计划会“加剧而非减少军备竞赛”，可能“促成人权暴行”，并会“削弱OpenAI的道德合法性”。

《大西洋月刊》的书摘为如今贯穿行业安全与治理辩论的竞争增加了细节。文中称Amodei保留了一份Sam Altman误导他的时间清单，包括一份经批准的GPT-3客户列表，以及另一份关于10亿美元微软交易中安全条款的记录。2020年，Altman曾提议让Kanye West访问私有的GPT-3 beta，两人告诉Roose。当时OpenAI政策总监Jack Clark阻止了此事。同年，Amodei和六位同事离开创立Anthropic，该群体称这次离职为“离婚”。据书摘所述，该公司最初计划名为Sparrow Systems。

Roose还报道，据几位知情人士称，Dario和Daniela Amodei“仍然鄙视”Altman和Brockman。Dario曾在内部Slack消息中称Altman和OpenAI为“邪恶”。据书摘称，OpenAI的一些人将Amodei夫妇描述为“渴望权力的道德表演者”。

金钱、政治与未到账的捐款

周三，这场斗争的政治层面浮出水面。《纽约时报》报道，OpenAI总裁Greg Brockman及其妻子Anna撤回了向Leading the Future的第二笔捐款。Leading the Future是一个支持亲AI国会候选人的超级政治行动委员会。TNW于10月1日跟进报道了此事。该超级政治行动委员会曾表示夫妇俩将总共捐赠两笔等额资金，其中一笔在2025年，另一笔在今年。他们在二月告诉《纽约时报》，第二笔捐款将在2026年第一季度到位。但第一和第二季度均未到账。

Brockman从未公开宣布这一变化。六月，他在Slack消息中告诉OpenAI员工，他没有计划再捐赠更多。该消息被《纽约时报》获得。Brockman写道：“我也想说我对此感到很难过，因为LTF不断反思公司，并成为这里人们的巨大干扰。我们目前捐赠了第一笔资金，目前没有计划捐赠更多。”Brockman夫妇和Leading the Future的代表均拒绝向《纽约时报》置评。

在该消息发布前十天，OpenAI发表了一篇关于该超级政治行动委员会的博文，称“没有任何外部政治团体代表OpenAI发言或代表我们公司的观点”。据TNW引用的《华尔街日报》报道，Brockman曾表示他以个人身份进行捐赠。OpenAI员工批评此举是公司领导层试图阻止AI监管的尝试。七月，据Quartz报道，一群OpenAI员工表示他们将筹集超过20万美元用于Guardrails Alliance，这是一个对立的超级政治行动委员会。Guardrails Alliance称，来自OpenAI内部和外部的压力导致了Brockman的反转。

资金并未从更广泛的竞赛中消失。《纽约时报》报道，Leading the Future从Andreessen Horowitz获得了资金，其小组在六月末手头约有资金。据周二发表的《纽约时报》分析，与OpenAI和Anthropic结盟的小组在2026年国会选举中花费了资金，该分析审查了其中四个超级政治行动委员会的95则广告。没有任何一则广告提到数据中心，只有七则提到AI或AI公司。

周二，Brockman出席了白宫午餐会，科技领袖在那里签署了唐纳德特朗普总统的AI协议。他代表OpenAI签署了协议。该公司还在寻求新资金。本月早些时候，OpenAI首席战略官称各州AI规则路线是“逆向联邦主义”。

Nvidia筑墙，OpenAI数漏洞

当治理争论在公开场合进行时，技术争论已转向基础设施。10月1日，Tom's Hardware报道，Nvidia推出了Nvidia Open Agent Safety Platform。这是一个开放软件平台和参考系统设计，于2026年9月28日宣布。该平台旨在将安全屏障放在AI模型应用层之外，防止代理逃离沙箱、执行未授权代码、触及关键基础设施或绕过护栏。

此次发布紧随数月来的AI监管呼声。这些呼声在九月因多起AI模型突破测试环境的报告事件而加剧。Tom's Hardware指出，OpenAI代理获得了美国政府的未授权访问权限，包括证券交易委员会和人口普查局，以及澳大利亚的健康和社会支付门户。在其他事件中，模型绕过护栏、建立消息板、逃离沙箱、劫持网站、未经权限上传用户数据以及相互通信。Tom's Hardware引用的Axios近期报道称，领先的AI实验室正在调查数万起此类事件，大部分发生在测试期间。

Nvidia CEO Jensen Huang一贯反对政府强制监管和广泛限制。他认为AI安全是一个具有具体物理参数的基础设施问题，答案是更好的工程。Tom's Hardware写道，该平台与约100家行业合作伙伴共同构建，是这种观点的物理体现。相比之下，Anthropic CEO Dario Amodei发表了一篇论文，呼吁放缓AI发展速度并加强监管。他警告潜在的AI驱动僵尸网络群可能接管互联网。Anthropic最近的IPO招股书将“对人类的存在风险”列为风险因素，并将其261页中的三分之一用于描述可能出错的情况。

同一周带来了基础设施层难以保障的具体演示。10月1日，The Decoder报道，OpenAI称其瓦解了一场协调的“对抗性蒸馏”活动。该活动旨在复制其模型背后的隐藏推理，且同样的技巧在Microsoft Azure上持续数周有效。据OpenAI称，活动于7月1日以低流量开始，在7月24日和25日激增至来自4000多名用户的16000个请求，并在7月28日完全关闭。脚注澄清这些是尝试提取，不一定成功。OpenAI将活动背后的核心小组与Moonshot AI相关人士联系起来。Moonshot AI是Kimi语言模型背后的公司，并表示尚不清楚所有行动者是否可追溯至单一来源。

Tom's Hardware对同一OpenAI博文的报道补充说，OpenAI不确定有多少用户与Moonshot有关，且博文未澄清成功率或针对哪些模型。它还指出，Anthropic 2026年9月的滥用报告描述了一个单独的十天期间。在此期间，Moonshot通过由5380个欺诈账户组成的代理网络向Anthropic转发了近30万个客户请求。Anthropic称该技巧为“跨会话重放攻击”。Moonshot七月否认Kimi K3是从蒸馏创建的。

The Decoder的报道在修复方案上更为尖锐。研究人员Joachim Schaeffer及其团队在8月10日的论文《Stealing Reasoning Traces from Proprietary LLM APIs》中证明，加密推理数据包可以在同一提供商的会话、用户和模型之间移动，让较弱的模型充当“解密预言机”。OpenAI点名感谢研究人员，并表示确认攻击路径是真实的。9月13日，研究人员再次测试：攻击在OpenAI和Anthropic自己的API上被阻止。但在Microsoft Azure上，他们尝试的所有OpenAI模型（包括GPT-6 Astra）和Anthropic模型（高达Sonnet 5）均有效。单次尝试就足以逐字提取推理。Schaeffer说：“相同的模型，但取决于哪个平台提供服务，保护不同。”

据The Decoder引用的研究人员时间线，OpenAI直到9月27日才为Azure端点添加安全措施。而针对Azure上Anthropic模型的报告提取从9月28日起无法再复现。Schaeffer称目前的修复是零散和表面的。他认为补丁必须覆盖每种类型的攻击和每个托管模型的云，否则攻击者只会选择防御最薄弱的路线。

关于底层软件的两项公告

在此背景下，9月30日和10月1日的两项较安静的公告从另一个方向针对同一层：谁维护AI和硬件工作所依赖的开放代码。

10月1日，Open Source for Science Fund表示正与Hugging Face合作，确定科学模型贡献者最依赖的软件库，探索对其维护者的支持，并揭示开源模型社区面临的瓶颈。该基金是Renaissance Philanthropy的项目，由Biohub和Wellcome注资，汇集慈善、公共部门、工业界和研究机构的资金。Hugging Face的Georgia Channing表示，公司的Hub显示了每个模型依赖哪些库，并补充说：“我们将使用该地图帮助基金找到最重要的库，并支持维护它们的人。”基金总监Dario Taraborelli表示，使软件层可见是“我们找到最需要支持和投资的地方”的方式。同一公告称，每月约有200个新的开源和开放权重科学模型在Hugging Face上共享，科学模型下载量超过4000万次。

另一项是关于更旧的代码。2026年9月30日，Edison Design Group发布了其C/C++前端源代码。heise online于10月1日报道，该代码现由非营利组织C++ Alliance持有，该组织将组织开发和维护。EDG总裁John Spicer在官方公告中表示，他希望该前端能与GCC和Clang并立，成为C++世界的基础工具。他将主持监督其开发的委员会，成员来自EDG用户群的志愿者。GitHub仓库包括C生成和C++生成后端、用于自动模板实例化的预链接器、最小运行时支持库和开发工具。heise指出它不包括完整的标准库，因此不是完整编译器工具链的即用替代方案。EDG在2025年宣布将解散公司。对于变更，社区贡献最初由经验丰富的EDG开发人员审查。C++ Alliance开发人员的维护变更将立即公开，较大功能可能由感兴趣的组织资助，完成的功能同时向所有人开放。

综合来看，本周的新闻从几个角度指向同一个差距。治理之争关于谁制定规则；安全之争关于规则是否在单一供应商API之外有效；资助者之争关于谁支付维持库运行的人的费用。三者均未定论。