跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

苹果收紧完全磁盘访问权限,AI智能体却想要整个Mac

苹果10月2日表示,将为macOS的完全磁盘访问权限增加新的控制措施。这项权限允许应用读取文件、邮件、信息和浏览历史。苹果称,开发者对它的用法可能让用户处在风险之中。

人工智能与模型新闻王雅琴发布: 2026年10月4日6 分钟阅读资料来源 11
苹果收紧完全磁盘访问权限,AI智能体却想要整个Mac

消息发在苹果开发者网站上的一篇帖子里。苹果没有给出时间表,没有技术细节,也没有列出它针对的是哪些应用。9to5Mac在10月2日报道了这篇帖子。

对Mac用户来说,今后要让一个应用获得整块磁盘的访问权,大概得先做一次有意的操作。眼下这不过是设置面板里一个不起眼的点击。这次操作具体长什么样,目前还不清楚。苹果没说更新系统后现有权限会不会被收回,也没说哪些应用会失去现在的工作方式。控制措施的承诺和真正落地的控制之间还有一段距离,这篇报道的大部分内容仍停在这段距离上。苹果以外的人现在还说不清这段距离有多宽。

完全磁盘访问权限原本是为备份软件设计的。苹果在帖子里说,这项权限"在很大程度上绕开"了它用来保护私密数据的那些控制。帖子还写道,"一些开发者使用完全磁盘访问权限的方式可能让用户处在风险之中,会暴露用户系统上的一切,包括文件、邮件、信息,甚至浏览历史,而用户并不完全知情、也不完全理解。"同一篇帖子提醒说,对通讯类应用而言,暴露的还包括与用户对话的那些人。

这项权限为什么现在成了问题

时间点并不隐晦。Meta Muse和OpenAI的Dots这类常驻助手,都在索要个人数据的广泛访问权。9to5Mac指出,Muse已经闹出过它所说的恐怖故事。一个能读取笔记本上每个文件的智能体更有用,也更难划定边界。

苹果把这次调整放在这股趋势里解释。公司写道:"随着AI智能体能力越来越强、越来越自主,这种级别的访问所带来的风险将大幅上升。"它还表示,希望用户在接受访问前先理解其中的风险。

智能体也从另一个方向进入了浏览器。Marko Denic在10月3日的一篇开发者帖子里介绍了WebMCP,这是Chrome的一项实验。它让页面把自己的表单和函数作为带类型输入的工具暴露给智能体,智能体于是调用函数,而不用靠像素去猜。已有的表单加上三个HTML属性就够了。不支持WebMCP的浏览器会直接忽略这些属性。

Denic举的例子是一个通讯订阅搜索表单,标上了工具名称和描述。他建议,凡是发送、购买或删除的东西,都不要打开自动提交属性,让人仍然可以确认一次。这项试验目前在Chrome 149上运行,需要origin trial令牌。多数访客现在还看不到它。

控制措施背后的测量难题

权限弹窗的前提是有人在看。Emre Turan的一篇论文6月8日发布在arXiv上。论文认为,人工审批这道关卡是最容易的部分,难的是关卡背后的判断。在125条人工标注的智能体操作上,评审者对什么算有风险只达成了中等程度的一致,Fleiss' kappa为0.52。

Turan把评审者建模为会随着升级请求堆积而疲劳。他发现,随着升级率上升,安全性呈倒U形。过了某个点,更多的人工监督反而让系统更不安全,最佳设置是升级率低于完全升级。他明确指出这些机制属于已有工作,并引用了考虑疲劳的learning-to-defer以及成本敏感的延迟决策研究。他还说,洪泛攻击和倒U形都是建模结果,目的是为一项人类研究提供动机。

论文摘要写道:"关卡是容易的部分,难的是判断。"

微软和Hugging Face在10月3日发布了一个基准,测量的是相邻的一件事:智能体留下了什么。ThinkingBox让智能体在隔离的工具会话中运行,评判的是后端的最终状态,而不是回复内容。在507条有状态的业务流程上,每条运行20次,公共集消融覆盖了12个模型共121680次有效试验。其中79853次尝试没有通过可执行检查。

在这些失败中,67.24%是干净收尾的,调用了改变状态的工具,也没有报错。检查仍在其中77.61%里发现了错误的字段值,43.30%有多余的副作用,25.36%缺少应有的效果。作者用一句话总结,值得记住:轨迹是一种声称,数据库状态才是证据。

开发者不靠索要权限,改做别的事

围绕智能体的工具正在转向给它们自己的凭证和自己的操作面,而不是用户的。AgentID在10月4日的一篇帖子里说明了理由:给智能体发放它自己的收件箱和登录密钥。要收回时,删掉那把密钥就行,不用改自己的密码。

在桌面上,more-space是一个小应用,把终端放在一块无边界的黑板上。它让智能体把计划、进度和问题画在那里,还有一个虚拟形象作伴。它不会往项目里装任何东西。

Tim Waldin在10月4日介绍的easl把这个想法推得更远。它给每个代码仓库一块无限画板,智能体在真实的终端里,就待在自己产出的图表和页面旁边。一个键盘快捷键能把你指向的任何东西加进下一条提示。Waldin的论证建立在Andrej Karpathy的一篇帖子之上,后者说我们会花多得多的时间去理解语言模型输出的是什么。

Luke Wroblewski在同一天提出了设计上的理由。如果前端大部分由智能体来写,设计系统就成了一层操控层。它带来token和一个AGENTS.md文件,每个智能体在添加按钮之前都要先读它。在他的项目里,代码才是事实来源,Figma不是。

这些都没有解决苹果担心的那项权限。设计系统能让智能体保持一致,却决定不了这个智能体该不该读你的邮件。

苹果的控制措施补不上的监督缺口

厂商把治理当作答案来卖。Kimchi在10月4日上线,把每个智能体请求都送进同一个执行层。它按用户、团队、API密钥或模型设定硬性支出上限,并提供在客户自己的云里运行的方式。同样在10月4日推出的Spawned,把基础设施部署进客户的AWS、GCP或Azure账户。它把自己宣传成看清智能体造了什么的办法。

这些产品解决的是成本和配置。它们不解决判断,而研究反复落在判断上。Sandeep Archarya关于智能体漂移的帖子10月3日发布,提出了一个让团队栽跟头的问题:如果没人改过智能体,它的行为为什么变了?答案是模型、工具、数据和其他智能体都在它脚下移动。只监控模型会漏掉这种变化。

苹果的答案更窄,也更具体。它要让这项权限更难给出。这能不能保护谁,取决于公司尚未公布的细节,也取决于那些索要磁盘的智能体能不能用更少的东西干完活。

评论 0

资料来源

11
  1. 01Apple says it's tightening macOS privacy controls amid the rise of AI agentsEN
  2. 02Let AI agents use your site with 3 HTML attributesEN
  3. 03Oversight Has Capacity: Calibrating Agent Guards to a Subjective Fatiguing HumanEN
  4. 04The Agent Said It Was Done. The Database Disagreed.EN
  5. 05Give Your AI Agent Its Own IdentityEN
  6. 06Chalkboard and Avatar for AI AgentsEN
  7. 07Easl.sh – your agents diagrams need somewhere to liveEN
  8. 08Design Systems for AI AgentsEN
  9. 09Pi-based coding agent with hard budget capsEN
  10. 10Spawned: AIO cloud platform for humans and agentsEN
  11. 11Understanding Agent DriftEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

王雅琴

王雅琴

人工智能、模型与技术

王雅琴负责FLASH24的人工智能、模型与技术报道,覆盖科技、人工智能与模型、媒体与互联网领域。她习惯直接查阅技术文档、模型卡与官方博客,而非依赖新闻稿,对未经核实的参数和跑分数据一概不放行。每篇报道前,她会逐项核对基准测试结果,对照论文原文与开源代码,确认版本号、数据集和评测条件是否一致。她常联系开发者与研究人员求证细节,也盯着各大厂商的发布会和论文截稿日期,横向比较同类模型的实际表现。私下她自建服务、折腾家庭网络,这让她对部署成本和真实算力需求有直观判断。她的原则是:没有可复现来源的数字,不写进稿子。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。