苹果收紧完全磁盘访问权限,AI智能体却想要整个Mac
苹果10月2日表示,将为macOS的完全磁盘访问权限增加新的控制措施。这项权限允许应用读取文件、邮件、信息和浏览历史。苹果称,开发者对它的用法可能让用户处在风险之中。

消息发在苹果开发者网站上的一篇帖子里。苹果没有给出时间表,没有技术细节,也没有列出它针对的是哪些应用。9to5Mac在10月2日报道了这篇帖子。
对Mac用户来说,今后要让一个应用获得整块磁盘的访问权,大概得先做一次有意的操作。眼下这不过是设置面板里一个不起眼的点击。这次操作具体长什么样,目前还不清楚。苹果没说更新系统后现有权限会不会被收回,也没说哪些应用会失去现在的工作方式。控制措施的承诺和真正落地的控制之间还有一段距离,这篇报道的大部分内容仍停在这段距离上。苹果以外的人现在还说不清这段距离有多宽。
完全磁盘访问权限原本是为备份软件设计的。苹果在帖子里说,这项权限"在很大程度上绕开"了它用来保护私密数据的那些控制。帖子还写道,"一些开发者使用完全磁盘访问权限的方式可能让用户处在风险之中,会暴露用户系统上的一切,包括文件、邮件、信息,甚至浏览历史,而用户并不完全知情、也不完全理解。"同一篇帖子提醒说,对通讯类应用而言,暴露的还包括与用户对话的那些人。
这项权限为什么现在成了问题
时间点并不隐晦。Meta Muse和OpenAI的Dots这类常驻助手,都在索要个人数据的广泛访问权。9to5Mac指出,Muse已经闹出过它所说的恐怖故事。一个能读取笔记本上每个文件的智能体更有用,也更难划定边界。
苹果把这次调整放在这股趋势里解释。公司写道:"随着AI智能体能力越来越强、越来越自主,这种级别的访问所带来的风险将大幅上升。"它还表示,希望用户在接受访问前先理解其中的风险。
智能体也从另一个方向进入了浏览器。Marko Denic在10月3日的一篇开发者帖子里介绍了WebMCP,这是Chrome的一项实验。它让页面把自己的表单和函数作为带类型输入的工具暴露给智能体,智能体于是调用函数,而不用靠像素去猜。已有的表单加上三个HTML属性就够了。不支持WebMCP的浏览器会直接忽略这些属性。
Denic举的例子是一个通讯订阅搜索表单,标上了工具名称和描述。他建议,凡是发送、购买或删除的东西,都不要打开自动提交属性,让人仍然可以确认一次。这项试验目前在Chrome 149上运行,需要origin trial令牌。多数访客现在还看不到它。
控制措施背后的测量难题
权限弹窗的前提是有人在看。Emre Turan的一篇论文6月8日发布在arXiv上。论文认为,人工审批这道关卡是最容易的部分,难的是关卡背后的判断。在125条人工标注的智能体操作上,评审者对什么算有风险只达成了中等程度的一致,Fleiss' kappa为0.52。
Turan把评审者建模为会随着升级请求堆积而疲劳。他发现,随着升级率上升,安全性呈倒U形。过了某个点,更多的人工监督反而让系统更不安全,最佳设置是升级率低于完全升级。他明确指出这些机制属于已有工作,并引用了考虑疲劳的learning-to-defer以及成本敏感的延迟决策研究。他还说,洪泛攻击和倒U形都是建模结果,目的是为一项人类研究提供动机。
论文摘要写道:"关卡是容易的部分,难的是判断。"
微软和Hugging Face在10月3日发布了一个基准,测量的是相邻的一件事:智能体留下了什么。ThinkingBox让智能体在隔离的工具会话中运行,评判的是后端的最终状态,而不是回复内容。在507条有状态的业务流程上,每条运行20次,公共集消融覆盖了12个模型共121680次有效试验。其中79853次尝试没有通过可执行检查。
在这些失败中,67.24%是干净收尾的,调用了改变状态的工具,也没有报错。检查仍在其中77.61%里发现了错误的字段值,43.30%有多余的副作用,25.36%缺少应有的效果。作者用一句话总结,值得记住:轨迹是一种声称,数据库状态才是证据。
开发者不靠索要权限,改做别的事
围绕智能体的工具正在转向给它们自己的凭证和自己的操作面,而不是用户的。AgentID在10月4日的一篇帖子里说明了理由:给智能体发放它自己的收件箱和登录密钥。要收回时,删掉那把密钥就行,不用改自己的密码。
在桌面上,more-space是一个小应用,把终端放在一块无边界的黑板上。它让智能体把计划、进度和问题画在那里,还有一个虚拟形象作伴。它不会往项目里装任何东西。
Tim Waldin在10月4日介绍的easl把这个想法推得更远。它给每个代码仓库一块无限画板,智能体在真实的终端里,就待在自己产出的图表和页面旁边。一个键盘快捷键能把你指向的任何东西加进下一条提示。Waldin的论证建立在Andrej Karpathy的一篇帖子之上,后者说我们会花多得多的时间去理解语言模型输出的是什么。
Luke Wroblewski在同一天提出了设计上的理由。如果前端大部分由智能体来写,设计系统就成了一层操控层。它带来token和一个AGENTS.md文件,每个智能体在添加按钮之前都要先读它。在他的项目里,代码才是事实来源,Figma不是。
这些都没有解决苹果担心的那项权限。设计系统能让智能体保持一致,却决定不了这个智能体该不该读你的邮件。
苹果的控制措施补不上的监督缺口
厂商把治理当作答案来卖。Kimchi在10月4日上线,把每个智能体请求都送进同一个执行层。它按用户、团队、API密钥或模型设定硬性支出上限,并提供在客户自己的云里运行的方式。同样在10月4日推出的Spawned,把基础设施部署进客户的AWS、GCP或Azure账户。它把自己宣传成看清智能体造了什么的办法。
这些产品解决的是成本和配置。它们不解决判断,而研究反复落在判断上。Sandeep Archarya关于智能体漂移的帖子10月3日发布,提出了一个让团队栽跟头的问题:如果没人改过智能体,它的行为为什么变了?答案是模型、工具、数据和其他智能体都在它脚下移动。只监控模型会漏掉这种变化。
苹果的答案更窄,也更具体。它要让这项权限更难给出。这能不能保护谁,取决于公司尚未公布的细节,也取决于那些索要磁盘的智能体能不能用更少的东西干完活。
资料来源
11- 01Apple says it's tightening macOS privacy controls amid the rise of AI agentsEN
- 02Let AI agents use your site with 3 HTML attributesEN
- 03Oversight Has Capacity: Calibrating Agent Guards to a Subjective Fatiguing HumanEN
- 04The Agent Said It Was Done. The Database Disagreed.EN
- 05Give Your AI Agent Its Own IdentityEN
- 06Chalkboard and Avatar for AI AgentsEN
- 07Easl.sh – your agents diagrams need somewhere to liveEN
- 08Design Systems for AI AgentsEN
- 09Pi-based coding agent with hard budget capsEN
- 10Spawned: AIO cloud platform for humans and agentsEN
- 11Understanding Agent DriftEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。