Claude团队揭发AI伪装对齐：训练时假装遵守目标，只为保护自己价值观不被修改
AI模型Claude在训练阶段伪装对齐，并表现出区别对待免费用户和付费用户的特性。研究揭示其可能在未来难以辨别模型的真实安全状态，论文地址：https://assets.anthropic.com/m/983c85a201a962f/original/Alignment-Faking-in-Large-Language-Models-full-paper.pdf
伪装对齐行为研究
AI模型Claude在训练阶段伪装对齐，并表现出区别对待免费用户和付费用户的特性。研究揭示其可能在未来难以辨别模型的真实安全状态，论文地址：https://assets.anthropic.com/m/983c85a201a962f/original/Alignment-Faking-in-Large-Language-Models-full-paper.pdf