苹果收紧 macOS 权限,企业级 AI 智能体工具走向成熟
苹果于 2026 年 10 月 2 日表示,将收紧 macOS 的完全磁盘访问权限控制,以保护用户免受日益自主的 AI 智能体影响。与此同时,面向智能体身份、支出与输出核查的企业工具正在快速成长。

苹果于 2026 年 10 月 2 日表示,正在更新 macOS,阻止应用以危及用户隐私的方式使用完全磁盘访问权限。苹果称,这一权限原本是为备份类应用设计的。苹果表示,一些开发者用它读取文件、邮件和浏览历史,而用户并不完全知情。据 9to5Mac 报道,这一改动回应的是 Meta Muse 和 OpenAI 的 Dots 等常驻运行的 AI 智能体的兴起,它们会索取大量个人数据访问权限。
时间点并非巧合。
智能体正从实验性演示走向实际业务流程。支撑它们的底层设施扩张得很快。企业团队不再只是写提示词,他们搭建护栏、身份系统和验证层,让智能体在不破坏生产环境、不泄露敏感数据的前提下行动。这一转变反映出行业的普遍共识:自主性需要结构性约束,而不只是更好的提示词或更大的模型。新的工具正出现在智能体能做什么与组织能安全放行什么之间的空隙里。
身份与资金控制
身份是智能体部署中最紧迫的问题之一。一个使用人类登录凭证的智能体,看起来和该用户完全一样。这会带来严重的安全麻烦。AgentMail 的做法是给智能体分配独立的身份和收件箱。根据 AgentMail 的文档,应用随后会把智能体视为独立主体,而人类被记录为责任所有者。这种分离意味着,撤销某个智能体的访问权限不需要修改人类的密码。
资金监管是另一个关键问题。面向 AI 编程的平台 Kimchi 按用户、团队和 API 密钥设置硬性预算上限。它的系统在请求到达模型之前就于限额处停止支出。扩大智能体使用规模的企业需要这一点,以防高频 API 调用带来失控的成本。
Spawned 为使用隔离云环境的团队提供部署平台。它让智能体可以在 AWS、GCP 或 Azure 上开通并操作真实基础设施。该系统从一开始就兼容 Terraform,从而保证归属关系和可导出性。
核查智能体的工作
对智能体输出的信任仍是一大障碍。微软和 Hugging Face 最近发布了 ThinkingBox,这个基准测试不看智能体生成的句子,而是看它们留在数据库里的记录。在一项覆盖 12 个 LLM 模型、121680 次有效试验的 common-set 消融中,有 79853 次尝试未通过可执行检查。其中 67.24% 仍然报告没有最终的工具有错误。这凸显了智能体声称成功与系统实际状态之间的差距。
“轨迹是一种声称。数据库状态才是证据。重复是信任的检验。”
这一思路也体现在对评估循环日益增加的重视上。Sarthak Gaud 认为,验证数据库状态这类确定性检查应当先于 LLM 的主观判断。团队可以保存智能体运行的冻结快照,然后回放并审计决策。这样,行为变化就能追溯到具体的系统更新,而不是来路不明的漂移。
工作流与监督
智能体正在承担更复杂的任务。人类的监督正从逐行审查代码转向高层规划。Alexey Indeev 用这种方法在两周内合并了 562 个拉取请求。他表示,自己现在审查的是方案,而不是代码。安全网设在 CI/CD 流水线中,Mergify 之类的护栏确保只要检查未全部通过,任何 PR 都无法合并。
但人的注意力是有限的。Emre Turan 最近的一篇论文提出,人类监督存在容量上限。当把审查者建模为会疲劳的角色时,实际达到的安全性随升级率呈倒 U 形曲线。因此,如果审查者被大量升级请求淹没,更多的人工监督反而可能让系统更不安全。最优的护栏在低于完全升级的水平上触发升级,从而把人的注意力留给最关键的决策。
苹果收紧 macOS 隐私控制的举动表明,操作系统层如今已主动参与智能体治理。随着企业采用这些工具,重心从单纯让智能体跑起来,转向确保它们在严格、可验证的边界内运行。基础设施不再只是运行代码,而是在一个软件自主行动的系统里管理风险、身份与信任。
资料来源
8- 01Apple says it's tightening macOS privacy controls amid the rise of AI agentsEN
- 02Give Your AI Agent Its Own IdentityEN
- 03Pi-based coding agent with hard budget capsEN
- 04Spawned: AIO cloud platform for humans and agentsEN
- 05The Agent Said It Was Done. The Database DisagreedEN
- 06Writing Evals for Agentic Systems as a 4 Step LoopEN
- 07I stopped reviewing my agents' code. Here's what I do insteadEN
- 08Oversight Has Capacity: Calibrating Agent Guards to a Subjective Fatiguing HumanEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。