一次 Strata 推理循环防护的完整落地:四层防护、两条克制原则、一个必须守住的接线口。

环境 Tesla V100-PCIE-32GB + 96 GB RAM,串行跑 Qwen3.8-Flash-Next(MoE,每层 512 experts)
模型 OrcaRouter Uncensored Q4_K_M · SC117 GSQ-RCO-abliterated IQ3_S
软件 serve/server.py + engine-cuda12/(v0.1.42)
口径 所有结论来自本机实测或源码常量,逐条标注出处

 

问题:模型在“思考”里绕圈

长任务(尤其是长上下文)下,模型会在 <think> 里陷入重复:同一批校验段落反复重写,或者更隐蔽地
写成一个超长“单词”——一段两万多位的数字串,在循环同一个 11 位模式。外部看到的症状是:

  • 一直思考、迟迟不给答案;
  • 思考到 max_tokens 被硬截断,客户端收到空回答
    (日志:the reply reached max tokens while still thinking, so it has no answer);
  • 重复得越久,越难自己跳出来。

Strata 对这个问题的处理是四层:从“检测”到“换挡续写”再到“兜底收尾”,每一层都可以单独开关。

阅读剩余部分 –