开放权重模型首次主导AI token处理,谷歌收紧免费访问
行业数据显示,9月28日开放权重模型首次处理了大部分AI token。与此同时,谷歌将从10月9日起限制Gemini模型的免费访问。

大语言模型的力量格局正在向开放架构倾斜。
9月28日,开放权重模型首次处理了大部分AI token。这是行业摆脱封闭专有系统的一个节点。变化发生之际,主要厂商一边发布新模型,一边或拥抱开放标准,或收紧付费服务的限制。
谷歌在限制免费访问上走在前头。
从10月9日起,谷歌将限制免费用户和AI Plus订阅者可以访问的Gemini模型。公司更新了一份支持文档,9to5Google在10月3日引用了这份文档。没有订阅的用户只能使用(3.5) Flash-Lite模型,失去更强大的(3.6) Flash和(3.1) Pro模型。AI Plus订阅者每月支付4.99美元,他们也将失去Pro层级,只保留Flash-Lite和Flash。公司以5月推出的按算力计的使用限制来解释这些调整。这一做法与OpenAI的免费增值模式相似,更高层级的模型留给付费客户。The Decoder在10月4日报道称,这种安排把预算有限的用户挡在最强模型之外,把他们推向每月19.99美元的AI Pro层级或99.99美元的AI Ultra方案。
对专有模型的这种限制加快了对开放权重替代方案的使用。
德国AI公司Aleph Alpha以Apache 2.0许可证发布了78-billion参数的模型Kolibri。Dealroom在10月3日报道称,完整权重已上传到Hugging Face。研究人员和开发者可以下载、微调并在本地部署该模型。这符合一个更大的趋势:公司把最强的模型以开放权重发布,以此建立信任,并围绕自己的技术培育生态。初创媒体Fortune在同一天确认了这次发布,并指出Apache 2.0许可证允许不受限制的商业使用。
谷歌也加入了开放权重阵营,只是模型规模较小。10月6日,公司以Apache 2.0许可证发布了EmbeddingGemma 2。
这个模型处理的是嵌入任务,而不是通用对话。即便如此,它的发布仍显示出对开源生态的战略投入。这种做法让谷歌在开放权重领域保留立足点,同时不必在要求最高的通用任务上与自己专有的Gemini模型直接竞争。
与此同时,法国AI公司Mistral在10月5日公开预览了其1.05-trillion参数的“Le Chonk”混合专家(MoE)模型。该模型是开放权重的。庞大的参数规模加上MoE架构,目标是在控制推理成本的同时提供高性能。这次发布之所以重要,是因为它表明开放权重模型可以扩展到与专有系统相同的复杂度。公开预览让开发者在正式发布前测试其能力并给出反馈。
这些进展不只是模型发布,还涉及支撑它们的设施和工具。
10月4日,Jerry Gamblin发表了一份关于用本地模型执行安全任务的详细分析。他在一台MacBook上测试了Cloudflare的Clef和Clef Flash模型。两者都是开放权重的,基于Qwen微调而来。Gamblin用这些模型分析了最近60天内公布的27489个CVE(通用漏洞与暴露)。实验表明,开放权重模型可以在本地完成复杂的分类任务,而不必把数据发往云端。对于数据隐私至关重要的安全敏感行业,这是一个关键用例。这些模型在消费级硬件上本地运行,显示出当代模型架构在效率上的提升。
开放权重的兴起也在推动工具与基础设施的创新。
Spinifex是Mulga构建的开源项目,目标是在裸机和边缘设备上重建AWS的服务面。根据其GitHub仓库,Spinifex让用户在自己的服务器上,对EC2、EBS、S3、VPC、IAM、EKS和RDS运行现有的AWS CLI、SDK和Terraform工作流。这个项目对开放权重生态很重要。它提供了一条在气隙环境中部署AI模型的途径,比如政府设施或工业现场,这些地方的云访问受限。Spinifex让运行云原生软件不必依赖大型云厂商,从而降低了那些想要开放权重模型却不能依赖公有云服务的机构的门槛。
另一个支撑开放权重生态的工具是Docent,一个在终端里运行的开源私有AI助手。根据其GitHub仓库,Docent让用户与自己的PDF和Office文件对话、搜索网页、连接MCP服务器,全部在自己的机器上完成。项目用Rust编写,使用本地代理进行GPU推理。这类工具对想把开放权重模型用于个人或专业任务的开发者必不可少,它让数据不落到第三方服务器上。一个功能完整、以隐私为核心特性的本地AI助手,是开放权重模型的有力卖点。
开放权重的趋势也在影响模型的评估与比较方式。
10月4日,一篇题为“No Model Required: Text Entropy Rate Filtering Mitigates Iterative Fine-Tuning Collapse”的论文发表在arXiv上。论文提出了一种缓解模型崩溃的新方法。模型崩溃指迭代微调过程中输出多样性收窄的现象。该方法使用完全由原始文本计算的非参数熵率估计器,不需要访问模型的log概率。这一点很重要,因为它提供了一种在不接触模型内部参数的情况下评估和改进开放权重模型的办法。论文的结论表明,用信息论方法缓解崩溃是有效的,也能帮助多智能体系统保持多样性。
不过,转向开放权重并非没有难题。
10月3日,谷歌暂停了其开源软件漏洞奖励计划(OSS VRP)的产品漏洞提交。此前大量无效的AI生成报告涌入,公司因此采取行动。据Tom's Hardware报道,暂停从10月1日起生效,预计持续到2027年第一季度。公司提到大量“AI垃圾”提交,这些报告由AI模型生成,往往不准确或毫无意义。这一事件暴露了AI工具广泛使用的一个潜在弊端:低质量数据和报告的数量增加。它也说明,依赖社区贡献的开源项目需要强力的过滤与核验。
尽管有这些难题,开放权重模型的势头依然强劲。
9月28日,开放权重模型首次处理了大部分AI token,这表明市场份额出现了显著变化。随着更多公司以宽松许可证发布模型,这一趋势很可能延续。本地部署的基础设施不断改善,也会推动它延续。在本地运行强大的模型,兼顾隐私与控制,对许多用户和机构都很有吸引力。未来几个月至关重要,它们将显示开放权重能否保持势头,还是专有模型会重新确立主导。
大语言模型所处的环境正在快速变化。对专有模型免费访问的限制,加上强大开放权重模型的发布,正在AI行业形成新的格局。机构和个人的越来越多地转向开放权重,是为了隐私、控制和成本效益。支撑这一转变的工具与基础设施正在成熟,这让部署和使用开放权重模型比以往更容易。AI的方向很可能就是开放的。过去一周的进展表明,这个方向比我们以为的更近。
资料来源
7- 01Gemini app limiting what models free and AI Plus users can accessEN
- 02Google's new Gemini tiers cut free users to its weakest modelEN
- 03Local models on 27,489 CVEs: 4.2% omit security impactEN
- 04Spinifex: The open, AWS-compatible cloud you run yourselfEN
- 05Docent: An Open Source Private AI assistant in your terminalEN
- 06No Model Required: Text Entropy Rate Filtering Mitigates Iterative Fine-TuningEN
- 07Google freezes open-source bug bounty program amid flood of invalid AI slopEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。