让长推理不再绕圈:Strata 上推理循环防护的完整落地
一次 Strata 推理循环防护的完整落地:四层防护、两条克制原则、一个必须守住的接线口。
问题:模型在“思考”里绕圈
长任务(尤其是长上下文)下,模型会在 <think> 里陷入重复:同一批校验段落反复重写,或者更隐蔽地
写成一个超长“单词”——一段两万多位的数字串,在循环同一个 11 位模式。外部看到的症状是:
- 一直思考、迟迟不给答案;
- 思考到
max_tokens被硬截断,客户端收到空回答
(日志:the reply reached max tokens while still thinking, so it has no answer); - 重复得越久,越难自己跳出来。
Strata 对这个问题的处理是四层:从“检测”到“换挡续写”再到“兜底收尾”,每一层都可以单独开关。
近期评论