Z Highlight
-
我们在九年前创立了 OpenAI，因为我们相信 AGI 是可能的，并且它可能是人类历史上最具影响力的技术。 -
当时，很少有人关心，如果有人关心，那主要是因为他们认为我们没有成功的机会。 -
在我看来，整个事件是善意的人，包括我自己，在治理上的一次重大失败。 -
我还了解到拥有多元观点和广泛经验的董事会在管理复杂挑战中的重要性。良好的治理需要大量的信任和信誉。 -
九年前，我们真的不知道最终会成为什么；即使现在，我们也只是有点了解。人工智能的发展经历了许多曲折，我们预计未来还会有更多变化。 -
我们始终相信，使人工智能系统安全的最佳方法是逐步将其释放到世界中，让社会有时间适应并与技术共同进化，从经验中学习，并不断使技术更安全。 -
我们相信，在 2025 年，我们可能会看到第一个 AI Agent“加入劳动力”，并实质性地改变公司的产出。我们继续相信，逐步将优秀工具放在人类手中会带来伟大的、广泛分布的成果。
Sam Altman Reflections
ChatGPT 的第二个生日仅仅是在一个多月前，现在我们已经过渡到可以进行复杂推理的下一个模型范式。新年让人们容易进入反思的情绪，我想分享一些个人的想法，关于到目前为止的经历，以及我在这个过程中学到的一些东西。
随着我们越来越接近 AGI，回顾我们公司的进展似乎是一个重要的时刻。还有很多需要理解的东西，还有很多我们不知道的事情，而且现在仍然很早。但我们知道的比我们开始时多得多。
我们在九年前创立了 OpenAI，因为我们相信 AGI 是可能的，并且它可能是人类历史上最具影响力的技术。我们想弄清楚如何构建它并使其广泛受益；我们很兴奋能在历史上留下我们的印记。我们的雄心壮志非常高，同时我们也相信这项工作可能以同样非凡的方式惠及社会。
当时，很少有人关心，如果有人关心，那主要是因为他们认为我们没有成功的机会。
在 2022 年，OpenAI 是一个安静的研究实验室，正在研究一个暂时称为“Chat With GPT-3.5”的项目。（我们在研究方面比在命名方面更擅长。）我们一直在观察人们使用我们 API Playground，并知道开发者们真的很喜欢与模型对话。我们认为围绕这种体验构建一个产品向人们展示未来的重要内容，并帮助我们使我们的模型更好、更安全。
幸运的是，我们最终将其称为 ChatGPT，并于 2022 年 11 月 30 日推出。
我们一直隐约地知道，在某个时刻我们会达到一个临界点，人工智能革命将会启动。但我们不知道那个时刻会是什么。令我们惊讶的是，结果就是这个。
ChatGPT 的推出开启了一条前所未有的增长曲线——在我们的公司、我们的行业以及整个世界。我们终于看到了我们一直以来对人工智能的巨大期望所带来的部分收益，并且我们可以看到未来还会有更多的收益。
这并不容易。道路并不平坦，正确的选择也并不明显。
在过去两年里，我们几乎从零开始围绕这项新技术建立了一整家公司。除了通过实践，没有其他方法可以培训人们，而当技术类别完全新颖时，没有人能够确切告诉你应该如何做。
以如此高的速度建立一家公司，而培训又如此有限，这是一个混乱的过程。往往是前进两步，后退一步（有时是前进一步，后退两步）。在这个过程中，错误会被纠正，但在进行原创工作时，实际上并没有任何手册或指引。在未知的领域快速前进是一种令人难以置信的体验，但对所有参与者来说，这也是极其有压力的。冲突和误解层出不穷。
这些年是我迄今为止最有收获、最有趣、最好的、最令人疲惫、最有压力的，尤其是过去两年，最不愉快的几年。压倒性的感觉是感激；我知道有一天我会在我们的牧场退休，看着植物生长，有点无聊，回想起我从小就梦想做的工作是多么酷。当到下午一点时七件事情都出错的时候，我试着在任何一个星期五记住这一点。
一年多前的一个星期五，那天发生的主要问题是我在视频通话中被突然解雇，然后我们挂断电话后，董事会发布了一篇关于此事的博客文章。我当时在拉斯维加斯的一间酒店房间里。这种感觉，几乎无法用语言来解释，就像一个梦变得不对劲。
在没有任何警告的情况下被公开解雇引发了一段非常疯狂的几个小时，以及接下来几天的疯狂。“战争迷雾”是最奇怪的部分。我们都无法得到关于发生了什么或为什么的令人满意的答案。
在我看来，整个事件是善意的人，包括我自己，在治理上的一次重大失败。回想起来，我确实希望自己能做得不同一些，我想相信今天的我比一年前更好、更有思考的领导者。
我还了解到拥有多元观点和广泛经验的董事会在管理复杂挑战中的重要性。良好的治理需要大量的信任和信誉。我很感激许多人共同努力，为 OpenAI 建立了一个更强大的治理体系，使我们能够追求确保 AGI 惠及全人类的使命。
我最大的收获是我有多少值得感恩的事情，以及我有多少人需要感激：感谢所有在 OpenAI 工作并选择花时间和精力追求这个梦想的人，感谢帮助我们度过危机时刻的朋友，感谢支持我们并信任我们以实现他们成功的合作伙伴和客户，以及感谢我生活中那些向我展示他们关心我的人。[1]
我们都以更团结和积极的方式回到了工作中，我为我们自那时以来的专注感到非常自豪。我们所做的研究无疑是我们有史以来最好的研究之一。我们的每周活跃用户从大约 1 亿增长到超过 3 亿。最重要的是，我们继续将人们真正喜欢并能解决实际问题的技术推向世界。
九年前，我们真的不知道最终会成为什么；即使现在，我们也只是有点了解。人工智能的发展经历了许多曲折，我们预计未来还会有更多变化。
一些转折是快乐的；一些则是艰难的。看到一系列研究奇迹不断发生真是有趣，许多怀疑者也变成了真正的信徒。我们还看到一些同事分开并成为竞争对手。随着规模的扩大，团队往往会发生变动，而 OpenAI 的扩展速度非常快。我认为这其中有些是不可避免的——初创公司在每个新的主要规模水平上通常会看到大量的人员流动，而在 OpenAI，数字每几个月就会增加几个数量级。过去两年就像是普通公司十年的发展。当任何公司如此快速地增长和演变时，利益自然会出现分歧。而当任何一家在重要行业中处于领先地位的公司时，很多人会出于各种原因攻击它，尤其是当他们试图与之竞争时。
我们的愿景不会改变；我们的策略将继续演变。例如，当我们开始时，我们完全没有想到我们需要建立一家产品公司；我们以为我们只是要做出伟大的研究。我们也没有想到我们需要如此庞大的资本。现在有一些我们必须去构建的新事物，而几年前我们并不理解，未来还会有一些我们现在几乎无法想象的新事物。
我们为迄今为止在研究和部署方面的成绩感到自豪，并致力于继续推进我们在安全性和利益共享方面的思考。我们始终相信，使人工智能系统安全的最佳方法是逐步将其释放到世界中，让社会有时间适应并与技术共同进化，从经验中学习，并不断使技术更安全。我们相信在安全性和对齐研究方面成为世界领导者的重要性，并通过来自现实世界应用的反馈来指导该研究。
我们现在有信心知道如何构建我们传统上理解的 AGI。我们相信，在 2025 年，我们可能会看到第一个 AI Agent“加入劳动力”，并实质性地改变公司的产出。我们继续相信，逐步将优秀工具放在人类手中会带来伟大的、广泛分布的成果。
我们开始将目标转向更远的地方，真正意义上的超级智能。我们热爱我们当前的产品，但我们在这里是为了辉煌的未来。凭借超级智能，我们可以做任何事情。超级智能工具可以大幅加速科学发现和创新，远远超出我们自己所能做到的，从而大幅增加富足和繁荣。
这听起来像是科幻小说，现在谈论它有点疯狂。没关系——我们以前也经历过这种情况，我们对此再次经历感到没问题。我们相当有信心，在接下来的几年里，每个人都会看到我们所看到的，并且以极大的谨慎采取行动，同时仍然最大化广泛的利益和赋权是非常重要的。考虑到我们工作的可能性，OpenAI 不能是一家普通公司。
能够在这项工作中扮演一个角色是多么幸运和谦卑。
（感谢 Josh Tyrangiel 的某种启发。我希望我们有更多的时间。）
本文翻译自：https://blog.samaltman.com/reflections
编译：ChatGPT
（文：Z Potentials）