Claude Haiku 5.5 把 API 价格砍掉 90%，推理成本格局生变

Anthropic 10 月 8 日发布 Claude Haiku 5.5，这是该公司速度最快、价格最低的小模型，瞄准数据查询、客户支持这类高并发任务。

据 The Decoder 报道，新模型比上一代 Haiku 4.5 便宜约 75%。Anthropic 称，此前 Haiku 收到的请求里约 90% 的提示词不超过 10万 token，这部分请求价格最高降 90%。输入 token 从每百万 $1.00 降到 $0.10，输出 token 从每百万 $5.00 降到 $0.50。

降价的同时，整条技术栈的其他环节却在涨价。微软 Windows 负责人 Pavan Davuluri 在 Inside Windows 播客上承认，内存成本上涨正逼着公司让 Windows 11 少占内存。他说内存是业界“最挂心的事”，还提到 OEM 厂商正把 8GB 笔记本重新推回市场。据 Windows Latest 报道，微软已把“针对 8GB 及以上设备的内存优化”列为 2026 年余下时间的正式优先事项。

单 token 便宜，不等于总账单便宜。Artificial Analysis 在 Intelligence Index 上给 Haiku 5.5 打 43 分，列为小模型类第一。但该平台同时指出，它的 token 消耗明显更高。在最高努力档位下，Haiku 5.5 每项任务约消耗 162000 个输出 token，大约是 OpenAI GPT-6 Luna 所需 5万 token 的三倍。

效率上的取舍

性能拉平了，差距还在。在“high”档位下，Haiku 5.5 得 38 分，每项任务约消耗 55000 个 token；GPT-6 Luna 用约 5万 token 拿到同样分数。按帕累托效率算，也就是性能与资源消耗之比，OpenAI 的模型更占优。GPT-6 Luna 从“xhigh”升到“max”，只多两分，token 消耗却涨了 1.8 倍。

Anthropic 指出，Haiku 5.5 换了新的分词器，每项任务消耗的 token 比上一代略多。Opus 4.x 系列也遇到过同样情况，光分词器变化就让 token 用量涨了约 30%。实际省下的钱很可能低于单 token 价格显示的幅度。这个细节让“纯粹价格战”的说法站不住脚。

硬件与基础设施的压力

API 厂商在价格上厮杀，支撑模型运行的物理设施却仍是瓶颈。HPCwire 指出，AI 推理系统出故障的方式和传统 Web 服务不一样。平均延迟看着正常，用户却已经不满，因为请求正排在队列里等凑批。冷启动是另一个问题：启动一个推理工作进程，要下载模型、把权重载入内存、初始化加速器状态。Kubernetes 可能显示某个 pod 正在运行，但这不代表系统已经能真正提供服务。

这种复杂性推高了对专用硬件和软件优化的需求。9 月上线的开源推理引擎 Magnitude 声称，针对特定硬件优化内核后，跑开源模型可比 llama.cpp 快 2 倍。该工具在用户设备上编译并调优内核，覆盖 Apple Silicon、NVIDIA、AMD 和纯 CPU 环境。它的目标是把每个智能体的内存占用降低 27%，在内存价格往上走的当下，这一点很关键。

地理位置同样重要。Data Center Knowledge 报道了堪萨斯城市中心一个拟建的 20 层数据中心，设计上要利用密集的运营商连接来支撑低延迟推理。Revitalization Unlimited 创始人 Steve Austin 认为，推理必须靠近用户，因为延迟很要紧。这个项目的建设成本更高，估计 18300万 美元，约合每平方英尺 1300 美元，高于郊区设施。只有金融交易、实时 AI 交互这类特定工作负载，才值得付这笔溢价。

监管也在盯紧定价行为。美国联邦贸易委员会 10 月 5 日向 24 家大型医疗服务公司发函，警告它们不得搞欺骗性定价。这事与 AI 没有直接关系，但说明政府对价格透明度的关注在扩大。麦当劳 10 月 2 日也被起诉，被指用 AI 工具在各加盟店之间定价。原告称这种做法助长了算法合谋定价，违反反垄断法。

更大的市场背景

压低推理成本的不止 Anthropic。arXiv 上的研究者正在发表论文，讨论如何缓解推理阶段的过度依赖，以及高效评估策略。10 月 7 日提交的一篇论文提出一个只用样本的框架，用来评估 Best-of-N 策略，不需要完整似然就能选出最有效的采样预算。这些学术工作支撑着让推理更便宜、更可靠的工程实践。

云厂商也在调整策略。据报道，AWS 在 9 月下旬把 GPU 容量价格上调 15%，与 Anthropic 的 API 降价形成反差。这种分化说明，原始算力成本在涨，应用层的竞争却逼着厂商到别处找效率。结果是一个智能成本与芯片成本正在脱钩的市场。

对开发者来说，结论很清楚：最便宜的 token 未必最划算。总拥有成本现在取决于 token 效率、硬件利用率，以及工作负载对延迟的具体要求。推理成了 AI 的主战场，关注点正从模型本身的原始能力转向交付的经济账。