平均推理输出长度最多减少了90%

香港中文大学与新加坡国立大学的研究者提出了一种名为TON的新颖选择性推理框架，让视觉语言模型可以自主判断是否需要显式推理。该方法显著减少了生成的思考链长度，提高了模型推理过程的效率，并且在不牺牲准确率的前提下提升了响应多样性。