AI安全

AIxiv专栏发布了一篇系统性技术综述论文《Safety at Scale: A Comprehensive Survey of Large Model Safety》，全面调研了大模型安全领域的390篇研究工作，涵盖6种主流大模型和10种攻击类型。该论文介绍了各类模型的攻击与防御方法，并归纳了常用的数据集和评估基准，总结了4个重要研究趋势及主要挑战，呼吁学术界与国际社会加强合作，共同应对大模型安全问题。