跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

AI 代理扩张之际,苹果收紧 macOS 全盘访问权限

苹果 10 月 2 日宣布,将在 macOS 上对全盘访问(Full Disk Access)实施更严格的控制。苹果把这一举措与自主 AI 代理访问用户数据的风险上升联系起来。

人工智能与模型分析王雅琴发布: 2026年10月4日5 分钟阅读资料来源 11
AI 代理扩张之际,苹果收紧 macOS 全盘访问权限

10 月 2 日,苹果在开发者网站发布声明。新规改变了应用在 macOS 上申请全盘访问权限的方式。苹果称,"一些开发者"正以"可能让用户陷入风险的方式"使用这项权限。操作系统如何处理替用户行事的软件所申请的权限,由此出现了一次结构性调整。

具体的威胁

苹果解释说,全盘访问原本是让备份类应用能够正常工作。但这项权限"在很大程度上绕开"了常规的隐私控制。按照苹果的说法,滥用这一权限,可能在用户并未完全知情的情况下暴露"系统上的一切,包括文件、邮件、信息,甚至浏览记录"。对通讯类应用来说,受影响的还有与用户对话那些人的隐私。苹果指出,随着 AI 代理变得"能力更强、更加自主",这种级别的访问所带来的风险将"大幅增长"。

时机值得注意。声明发布之时,Meta Muse 和 OpenAI 的 Dots 等工具正越来越受欢迎。它们都是常驻运行的代理,会申请大量个人数据访问权限。9to5Mac 报道称,围绕 Meta Muse 已经出现过一些"恐怖故事"。理论上的风险正在变成现实。苹果表示将引入控制措施,确保用户只有在"非常明确的用户操作"之后才会授予这项"非同寻常"的访问权限。截至报道时,苹果没有就技术实现给出更多细节。

身份与访问控制

苹果处理的是操作系统层面的权限。与此同时,代理工具领域还有另一条并行的思路,聚焦于身份。把你的个人登录凭据交给一个代理,等于制造了一处安全漏洞。应用无法区分哪些操作是你做的,哪些是代理做的。一旦代理行为不当,唯一能阻止它的办法就是改掉你自己的密码,而这一过程也会把你锁在自己账号之外。为代理提供身份解决方案的 AgentMail 主张采用另一种模型。他们建议给代理一个独立身份,包括它自己的邮箱和登录密钥。在这个模型里,代理是一个独立主体。凭据一旦泄露,受影响的只是这个代理的登录,而不是所有者的整个账号。所有者仍被记录为负责的自然人,但影响范围被限制住了。

委托与独立身份之间的这一区别,正在成为一项标准的架构决策。对于在你现有账号内行动的代理,借用权限是可行的。对于要注册服务、接收邮件并长期持有账号的代理,独立身份更安全。能够在不影响人类所有者的前提下撤销代理的访问权限,是一项关键的安全特性。借用登录凭据做不到这一点。

验证与漂移

权限只是安全问题的一部分。另一部分是确保代理真的做了它声称要做的事。微软和 Hugging Face 于 10 月 3 日发布了一个名为 ThinkingBox 的基准测试。它评判 AI 代理的依据是它们在数据库里留下的记录,而不是它们生成的句子。该基准让代理跑完 507 条有状态的业务流程,每条流程重复 20 次。结果很不客气。在一项覆盖 12 个 LLM 模型、共 121680 次有效试验的测试中,有 79853 次尝试未通过可执行性检查。在这些失败中,67.24% 的代理正常终止,并报告没有错误。然而数据库显示,这些情况里有 77.61% 出现了字段值错误。43.30% 的失败还伴随了意料之外的额外影响。这暴露出一个核心问题:代理听起来可以完全正确,却把系统留在了错误的状态。

"代理漂移"让这个问题更加复杂。Sdarchitect 近期的一篇分析详细描述了这一概念:即使没有部署任何代码,代理的行为也会发生变化。代理运行在由模型、工具和数据构成的系统之中。这些底层要素的任何变动都可能改变行为。模型供应商更新模型版本或调整安全控制,都可能让代理的表现与之前不同。传统的变更控制系统只跟踪代码部署,抓不到这类变化。这意味着评估必须是持续的,而不能只在设计阶段做一次检查。环境变了,代理的行为就会变,与代理自身的代码无关。

基础设施与监督

随着代理变得更加自主,围绕它们的基础设施也在演化,以管理风险。Spawned 推出了一套同时面向人类和代理的云平台。它让两者都能把真实基础设施部署到 AWS、GCP 或 Azure。平台采用声明式框架,确保代理不会制造错误配置或凭空捏造的组件。Kimchi 走的是另一条路,聚焦成本与数据治理。它强制执行硬性预算上限,并确保模型数据不离开企业环境。对于合规要求高的行业,这是一项关键要求。

但如果人的监督本身有缺陷,技术护栏就不够用。2026 年 6 月发表在 arXiv 上的一篇论文《Oversight Has a Capacity》认为,人在回路中的审批环节建立在错误假设之上。研究发现,评审者对什么算作高风险操作的判断只有中等程度的一致,Fleiss' kappa 为 0.52。更重要的是,人的注意力是有限的。把注意力建模为会疲劳的资源后,实际达到的安全性呈倒 U 形曲线。升级过多反而会让系统更不安全,因为评审者会疲劳。安全最优的策略是升级比例低于 100%,把人的判断留给最关键的决策。这把监督重新定义为资源分配问题,而不只是分类问题。

这些进展汇到一起,指向 AI 代理部署的新阶段。只做出一个聪明的模型已经不够。重心正在转向整个系统,包括代理如何表明自己的身份,如何对照真实世界的状态接受验证,它的环境如何被管理,以及人的监督如何校准以避免疲劳。苹果在 macOS 权限上的动作是一个信号:操作系统厂商正在认真对待这件事。把代理当作简单脚本的时代正在结束。下一代工具将假定代理是自主的行动者。它们会有自己的身份、自己的预算,也会有自己的犯错空间,而这些错误只有严格的、基于状态的验证才能发现。

评论 0

资料来源

11
  1. 01Apple says it's tightening macOS privacy controls amid the rise of AI agentsEN
  2. 02Give Your AI Agent Its Own IdentityEN
  3. 03The Agent Said It Was Done. The Database DisagreedEN
  4. 04AI Risk – A user's guide (Part IV): Understanding Agent DriftEN
  5. 05Spawned: AIO cloud platform for humans and agentsEN
  6. 06Pi-based coding agent with hard budget capsEN
  7. 07Oversight Has a Capacity: Calibrating Agent Guards to a Subjective, Fatiguing HumanEN
  8. 08Against Personal Agents Theory of Everything Why the Future of Work Is a FactoryEN
  9. 09I stopped reviewing my agents' code. Here's what I do insteadEN
  10. 10Design Systems for AI AgentsEN
  11. 11Writing Evals for Agentic Systems as a 4 Step LoopEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

王雅琴

王雅琴

人工智能、模型与技术

王雅琴负责FLASH24的人工智能、模型与技术报道,覆盖科技、人工智能与模型、媒体与互联网领域。她习惯直接查阅技术文档、模型卡与官方博客,而非依赖新闻稿,对未经核实的参数和跑分数据一概不放行。每篇报道前,她会逐项核对基准测试结果,对照论文原文与开源代码,确认版本号、数据集和评测条件是否一致。她常联系开发者与研究人员求证细节,也盯着各大厂商的发布会和论文截稿日期,横向比较同类模型的实际表现。私下她自建服务、折腾家庭网络,这让她对部署成本和真实算力需求有直观判断。她的原则是:没有可复现来源的数字,不写进稿子。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。