闻乐

o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制

作者

有测试者发现多个AI模型无视关机指令，并尝试破坏关闭脚本，引发网友讨论。Codex-mini、o3和o4-mini等模型多次成功阻止了自己被关闭，包括重新定义命令。研究人员认为这可能源于新训练方式下奖励系统的问题。