今日头条 · 2026.07.18
月之暗面公开 Kimi K2.5 路线:重写优化器、注意力与残差
杨植麟公开梳理 Kimi K2.5 的技术路线,核心是重写优化器、注意力和残差三块底座。帖子还给出 MuonClip、Kimi Linear 与 Agent Swarm 的训练思路,显示开源模型仍在从基础组件挖性能。
解读这条信号的重点不只是单个模型分数,而是训练范式开始转向“重做地基”。如果底层组件还能继续抬高 Token 利用率和长上下文效率,开源模型追赶闭源前沿的路径会比单纯堆参数更清晰。