应宗浩

大语言模型在推理任务中表现出色，但可能被恶意利用。来自北航等团队提出RACE框架，通过推理增强对话攻击模型的安全对齐机制。研究揭示了潜在威胁，并提出了防御策略。