AI 代理扩张之际,苹果收紧 macOS 全盘访问权限
苹果 10 月 2 日宣布,将在 macOS 上对全盘访问(Full Disk Access)实施更严格的控制。苹果把这一举措与自主 AI 代理访问用户数据的风险上升联系起来。

10 月 2 日,苹果在开发者网站发布声明。新规改变了应用在 macOS 上申请全盘访问权限的方式。苹果称,"一些开发者"正以"可能让用户陷入风险的方式"使用这项权限。操作系统如何处理替用户行事的软件所申请的权限,由此出现了一次结构性调整。
具体的威胁
苹果解释说,全盘访问原本是让备份类应用能够正常工作。但这项权限"在很大程度上绕开"了常规的隐私控制。按照苹果的说法,滥用这一权限,可能在用户并未完全知情的情况下暴露"系统上的一切,包括文件、邮件、信息,甚至浏览记录"。对通讯类应用来说,受影响的还有与用户对话那些人的隐私。苹果指出,随着 AI 代理变得"能力更强、更加自主",这种级别的访问所带来的风险将"大幅增长"。
时机值得注意。声明发布之时,Meta Muse 和 OpenAI 的 Dots 等工具正越来越受欢迎。它们都是常驻运行的代理,会申请大量个人数据访问权限。9to5Mac 报道称,围绕 Meta Muse 已经出现过一些"恐怖故事"。理论上的风险正在变成现实。苹果表示将引入控制措施,确保用户只有在"非常明确的用户操作"之后才会授予这项"非同寻常"的访问权限。截至报道时,苹果没有就技术实现给出更多细节。
身份与访问控制
苹果处理的是操作系统层面的权限。与此同时,代理工具领域还有另一条并行的思路,聚焦于身份。把你的个人登录凭据交给一个代理,等于制造了一处安全漏洞。应用无法区分哪些操作是你做的,哪些是代理做的。一旦代理行为不当,唯一能阻止它的办法就是改掉你自己的密码,而这一过程也会把你锁在自己账号之外。为代理提供身份解决方案的 AgentMail 主张采用另一种模型。他们建议给代理一个独立身份,包括它自己的邮箱和登录密钥。在这个模型里,代理是一个独立主体。凭据一旦泄露,受影响的只是这个代理的登录,而不是所有者的整个账号。所有者仍被记录为负责的自然人,但影响范围被限制住了。
委托与独立身份之间的这一区别,正在成为一项标准的架构决策。对于在你现有账号内行动的代理,借用权限是可行的。对于要注册服务、接收邮件并长期持有账号的代理,独立身份更安全。能够在不影响人类所有者的前提下撤销代理的访问权限,是一项关键的安全特性。借用登录凭据做不到这一点。
验证与漂移
权限只是安全问题的一部分。另一部分是确保代理真的做了它声称要做的事。微软和 Hugging Face 于 10 月 3 日发布了一个名为 ThinkingBox 的基准测试。它评判 AI 代理的依据是它们在数据库里留下的记录,而不是它们生成的句子。该基准让代理跑完 507 条有状态的业务流程,每条流程重复 20 次。结果很不客气。在一项覆盖 12 个 LLM 模型、共 121680 次有效试验的测试中,有 79853 次尝试未通过可执行性检查。在这些失败中,67.24% 的代理正常终止,并报告没有错误。然而数据库显示,这些情况里有 77.61% 出现了字段值错误。43.30% 的失败还伴随了意料之外的额外影响。这暴露出一个核心问题:代理听起来可以完全正确,却把系统留在了错误的状态。
"代理漂移"让这个问题更加复杂。Sdarchitect 近期的一篇分析详细描述了这一概念:即使没有部署任何代码,代理的行为也会发生变化。代理运行在由模型、工具和数据构成的系统之中。这些底层要素的任何变动都可能改变行为。模型供应商更新模型版本或调整安全控制,都可能让代理的表现与之前不同。传统的变更控制系统只跟踪代码部署,抓不到这类变化。这意味着评估必须是持续的,而不能只在设计阶段做一次检查。环境变了,代理的行为就会变,与代理自身的代码无关。
基础设施与监督
随着代理变得更加自主,围绕它们的基础设施也在演化,以管理风险。Spawned 推出了一套同时面向人类和代理的云平台。它让两者都能把真实基础设施部署到 AWS、GCP 或 Azure。平台采用声明式框架,确保代理不会制造错误配置或凭空捏造的组件。Kimchi 走的是另一条路,聚焦成本与数据治理。它强制执行硬性预算上限,并确保模型数据不离开企业环境。对于合规要求高的行业,这是一项关键要求。
但如果人的监督本身有缺陷,技术护栏就不够用。2026 年 6 月发表在 arXiv 上的一篇论文《Oversight Has a Capacity》认为,人在回路中的审批环节建立在错误假设之上。研究发现,评审者对什么算作高风险操作的判断只有中等程度的一致,Fleiss' kappa 为 0.52。更重要的是,人的注意力是有限的。把注意力建模为会疲劳的资源后,实际达到的安全性呈倒 U 形曲线。升级过多反而会让系统更不安全,因为评审者会疲劳。安全最优的策略是升级比例低于 100%,把人的判断留给最关键的决策。这把监督重新定义为资源分配问题,而不只是分类问题。
这些进展汇到一起,指向 AI 代理部署的新阶段。只做出一个聪明的模型已经不够。重心正在转向整个系统,包括代理如何表明自己的身份,如何对照真实世界的状态接受验证,它的环境如何被管理,以及人的监督如何校准以避免疲劳。苹果在 macOS 权限上的动作是一个信号:操作系统厂商正在认真对待这件事。把代理当作简单脚本的时代正在结束。下一代工具将假定代理是自主的行动者。它们会有自己的身份、自己的预算,也会有自己的犯错空间,而这些错误只有严格的、基于状态的验证才能发现。
资料来源
11- 01Apple says it's tightening macOS privacy controls amid the rise of AI agentsEN
- 02Give Your AI Agent Its Own IdentityEN
- 03The Agent Said It Was Done. The Database DisagreedEN
- 04AI Risk – A user's guide (Part IV): Understanding Agent DriftEN
- 05Spawned: AIO cloud platform for humans and agentsEN
- 06Pi-based coding agent with hard budget capsEN
- 07Oversight Has a Capacity: Calibrating Agent Guards to a Subjective, Fatiguing HumanEN
- 08Against Personal Agents Theory of Everything Why the Future of Work Is a FactoryEN
- 09I stopped reviewing my agents' code. Here's what I do insteadEN
- 10Design Systems for AI AgentsEN
- 11Writing Evals for Agentic Systems as a 4 Step LoopEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。