熵与优雅:GPT正在解压的宇宙分形密码

在Sam Altman与Daniel Selsam的对话中,讨论了GPT-4.5实验背后的扩展法则。Daniel提出智能源于压缩,而宇宙的知识是一个可以不断挖掘的分形。这引发了一个问题:为什么训练更大的模型需要更长的时间却能得到更好的结果?通过压缩原理,AI能发现隐藏在数据中的稀有而有意义的模式,揭示出现实是递归可压缩的本质。

为什么说Scaling Law是宇宙的一种属性?

在Sam Altman与Daniel Selsam的对话中,讨论了GPT-4.5实验验证扩展法则的有效性。Daniel认为智能源于压缩,宇宙知识是可挖掘的分形。随着模型规模增加,能捕捉到更多稀疏但重要的概念,导致性能提升。这引发问题:为什么训练更大模型更有效?智能是否像宇宙一样无限复杂且可压缩?

OpenAI更新:ChatGPT有了完整记忆,可以参考过去所有聊天记录,提供更加个性化回复

ChatGPT新增记忆功能可参考过往聊天记录提供个性化回复,目前已向所有Plus和Pro用户开放。新功能引发热议及实测反馈,既有积极评价也有局限性讨论。OpenAI计划下周发布包括GPT-4.1在内的多款全新模型。