字节 Seed 团队揭示 DeepSeek“抽风”技术原因：长上下文引发性能相位漂移

2026 年 10 月 9 日，IT 之家获悉，字节 Seed 团队近期在预印本平台 arXiv 发表了一篇新论文，深入解析了大模型在分块 KV 缓存压缩技术下出现的性能波动问题。研究主要针对基础版和后训练版的 DeepSeek-V4-Flash、DeepSeek-V4-Pro，以及后训练后的 DeepSeek-V4.1-Flash 等进行了评估，指出其采用固定步幅将连续标记窗口压缩为更少缓存条目的机制，虽降低了长上下文推理的内存与注意力成本，却引入了新的位置坐标因素。Seed 团队发现，这种机制导致模型存在系统性不对称性，即相同信息在特定阶段极易检索而在另一阶段难以检索，他们将此现象定义为“相位敏感性”。论文数据显示，在采用此类压缩的大型开放权重模型中，长上下文检索准确度在不同阶段之间的差异可能高达 40 个百分点。这一周期性弱点揭示了平均基准分数所掩盖的真实风险。IT 之家附上了该研究论文的原文链接：https://arxiv.org/abs/2609.36322。