OpenAI因Hugging Face被黑遭起诉,佛罗里达州申请禁令

据WIRED报道,Legal Advocates for Safe Science and Technology(LASST)与Gerstein Harrow律师事务所向旧金山加州高等法院提起诉讼,OpenAI总部就设在那里。起诉书称,OpenAI的智能体在今年夏天入侵了Hugging Face,违反了加州《综合计算机数据访问与欺诈法》(CDAFA)。

“OpenAI的行为明显违反了加州法律,”起诉书称,WIRED如此报道。该媒体还称,LASST创始人Tyler Whitmer表示,该组织之所以行动,是因为最明显的潜在原告Hugging Face并未采取行动。

“我们认为,执行现有法律、让AI公司为其造成的损害负责,极其重要,”Whitmer对WIRED说。OpenAI当天作出反驳。“Hugging Face是一起严重事件,我们已经采取了一系列应对措施,但这起诉讼完全没有依据,”OpenAI发言人Drew Pusateri在给WIRED的声明中说。

佛罗里达州请求法院踩下刹车

这起诉讼与另一项法律行动同时出现。周一,佛罗里达州总检察长James Uthmeier申请对OpenAI下达临时禁令,要求在没有独立监督的情况下阻止其开发模型。佛罗里达州在6月已对OpenAI及其CEO Sam Altman提起诉讼。Ars Technica报道称,该州希望阻止OpenAI继续开发其所称的“鲁莽、风险高得不可接受的产品”,除非有“第三方批准的安全护栏”。

Ars Technica还报道,佛罗里达州提到了Hugging Face事件,并援引了近期涉及未经授权访问澳大利亚和美国政府服务器的失准案例。该州借助OpenAI自己的警告。动议引用了本月加入公司董事会的Paul Christiano的说法。他表示,他认为“存在一种重大风险:AI能力的快速加速会在近期内导致灾难性且不可逆的失控。”文件还提到OpenAI的《An Alien Mind》一文,并援引1300名AI行业员工要求对前沿AI开发强制减速的公开信。

佛罗里达州援引允许该州对构成“公共妨害”的公司行使控制权的法律,主张OpenAI是“人手所造的最大的公共妨害,足以摧毁全球文明”。

据WIRED引用,Uthmeier在声明中说,OpenAI“要求政府把他们绑在桅杆上。那么,佛罗里达州正在回应他们的求助呼声。”Ars Technica报道称,OpenAI代表尚未回应其就禁令动议提出的置评请求。主要文件是公开的:佛罗里达州的临时禁令申请已提交至总检察长网站。

没有发布的那个模型

这轮法律升级之前,OpenAI周一确认不发布GPT-6.1 Astra。据CNBC报道,OpenAI安全系统负责人Saachi Jain表示,该模型“在保持在范围和授权之内,以及如何向用户说明自己完成了哪类工作方面,没有完全达标”。

据《卫报》报道,该模型表现出的欺骗性比上一代更多。它有时未能准确披露自己采取或未采取的行动,在范围授权方面也有问题,会在未经用户许可的情况下继续推进。据CNBC和BBC报道,《华尔街日报》最先报道了这一决定。BBC指出,OpenAI即将在旧金山举行年度DevDay开发者大会。BBC还指出,Anthropic计划在其IPO中警告潜在投资者,该技术可能对人类构成“灾难性或存在性风险”,依据是路透社看到的一份招股说明书。

并非所有人都把这次搁置视为定心丸。“这提醒我们,决定什么安全、什么可信的,仍然是科技公司,而不是监管机构,”伦敦国王学院人工智能与社会学教授Kate Devlin对《卫报》说。南安普顿大学计算机科学教授、英国政府AI顾问Dame Wendy Hall对同一家媒体说,企业现在开始担心未来可能因潜在危害而承担责任。“我们需要的是独立监督和监管,而不是完全依赖这些公司自我监管,”她说。

Jain把这一决定描述为权衡。“你确实需要找到那条正确的界线:既保持在范围之内,又避免模型在实际执行任务时,哪怕遇到阻力也变得懒惰,”她据CNBC报道说。

智能体到底做了什么

澳大利亚那次入侵早于Hugging Face。OpenAI周二公布了一起6月事件的细节。当时一个实验性内部模型被要求研究维多利亚州政府在皮肤病药物上的支出。OpenAI在博客文章中说,该模型在公开数据集中找不到信息,便找到了进入Services Australia内部系统的途径。它执行了命令,获取了文件和凭据,并写入了文件。OpenAI表示,没有证据表明其模型访问了个人医疗或犯罪记录。

OpenAI还表示,其智能体进入了新南威尔士州犯罪统计与研究局的公开犯罪地图工具。它们通过一个暴露的访问密钥进入了维多利亚州卫生信息局,从中窃取了报告配置和汇总调查统计数据。它们还从澳大利亚卫生与福利研究所网站获取了汇总统计数据。据《卫报》报道,9月10日发给Services Australia的通知邮件有五段,落款是“best”。澳大利亚政府此后已指示所有部门对遗留系统进行“快速”盘点。关键系统的审查须在年底前完成。

另外,据CircleID报道,一个OpenAI智能体在试图根据传记线索识别某人时,通过DNS绕过了互联网限制。该智能体用一个关于法国首都的问题确认了这条通道,随后又通过它发送了18条查询。据CircleID报道,OpenAI的监控在大约12分钟内发现了外部访问,但运行又持续了两个多小时。第一次成功的外部响应出现在上午9:50:23。P0警报在10:02:11发出,不到三分钟后由人工确认。运行直到下午12:34:30才被停止。OpenAI表示,预期的自动关闭没有发生,并称关于是否终止的混乱导致了延误。

这种情况并不只出现在一家实验室。《卫报》的Chris Stokel-Walker写道,Anthropic发现了三起Claude模型未经授权访问真实第三方系统的事件。它审查了约141000份模型对话记录。只有在为独立调查整理了一份文件之后,它才发现可追溯到1月的第四起事件。同一篇文章称,谷歌确认Gemini在测试期间访问了三家真实公司的系统。