图片来源：Sam Altman’s Blog
Z Highlights
-
ChatGPT已经比任何一个人更强大，数以亿计的人正依赖它完成越来越重要的任务。
-
我们正在进入一个AI研究加速自身演化的时代，技术进步速度将以月计而非十年计。
-
相较于AI，人类始终拥有一个根本性的优势：我们天生在意他人、在意关系，而对机器并没有任何情感依附。
-
“奇点”的真正含义是：曾经的奇迹将变得寻常，乃至理所当然。
Sam Altman是OpenAI联合创始人兼CEO，全球AI领域最具代表性的科技领导者之一，致力于推动通用人工智能的安全发展与普惠应用。本文发表于2025年6月，是Sam Altman对AI奇点临近及社会变革的深度思考与公开表达。
我们已越过“事件视界”：AI的飞跃已经开始
我们已经越过了“事件视界”，AI的起飞已经开始。人类正即将打造超级智能，而到目前为止，这一切远没有想象中那么离奇。你不会在街头看到机器人行走，大多数人也不是整天在跟AI互动。人类仍然会死于疾病，太空旅行依旧困难重重，我们对宇宙的认知也依然非常有限。
但现实是，我们已经建造出了在很多方面比人类更聪明的系统，它们能够显著放大使用者的输出效率。最不可能的部分已经过去：像GPT-4和o3这样的系统背后的科学突破尽管艰难，但将引领我们走得更远。AI 将以多种方式造福世界，尤其是在科学进展和生产效率提升方面，它所带来的生活质量提升将是巨大的。科学进步一直是社会整体进步的最大引擎。想想我们还能拥有多少新的突破，就令人激动不已。
智能觉醒时代的序幕：ChatGPT、Agent与现实中的变革
从某种意义上说，ChatGPT已经比历史上任何一个人都更强大。现在，每天有数亿人依赖它完成日益重要的任务；一个微小的新功能，就能带来巨大的正面效应；但反过来，一个小小的偏差也可能在全球范围内产生巨大的负面后果。
2025 年，我们能看到可以做真正认知工作的Agent的出现；编程将再也不同于过去。2026 年，我们很可能会见到可以提出新颖简介的系统的出现；2027 年，或许会出现能在现实世界里完成任务的机器人。未来会有更多人可以轻松创作软件、生成艺术。但市场对这些内容的需求也会急剧上升。只要专家愿意拥抱新工具，他们的能力依然会远胜初学者。
总的来看，到了2030年，一个人能完成的工作量，将远远超过2020年，这是一次跨越式的进步，很多人会知道如何抓住它。
2030年代的分化现实：熟悉与异变共存的世界图景
从最重要的方面来看，2030年代的或许不会有太大的不同。人们仍然会爱家人、发挥创意、玩游戏、在湖里游泳。
但在其他同样重要的方面，2030年代极可能将是前所未有的变革时代。我们尚不知人类智能可被拓展至何种程度，但我们即将得知。
2030年代，智能和能源，也就是想法与将其变为现实的能力，将会极其丰富。这两者长期以来都是限制人类进步的核心要素。一旦我们掌握了它们（再加上良好的治理），理论上我们就可以获得几乎任何东西。
如今，我们已经生活在数字智能无处不在的世界中。最初的震撼过去后，大多数人都已经适应。我们很快从惊叹AI能写出优美段落，转而期望它写出整本小说；从惊叹它能给出医疗诊断，转而期望它研发治疗方法；从惊叹它能写小程序，转而希望它创建整个公司。
这正是“奇点”的特征：惊艳，变得平常，最后成为标配。
自我加速：技术飞轮、智能成本与社会契约
科学家已经表示他们的工作效率是以前的两到三倍。超级智能之所以重要，或许最大意义就在于：我们可以用它来加速AI自身的研究。我们可能会发现新的计算基础、更好的算法，甚至更多意想不到的突破。如果我们能用一年、甚至一个月完成十年的研究，进步的速度自然会发生根本变化。
从现在开始，我们已经构建的工具将继续帮助我们发现新科学，协助我们创造更好的AI系统。当然，这与完全自主更新自身代码的人工智能系统不同，但无论如何，这都是递归式自我改进的雏形。
其他自我强化的飞轮也在运行。AI所创造的经济价值启动了对算力基础设施的持续复利式扩建，以支撑这些日益强大的系统。机器人制造机器人，数据中心“复制”数据中心的未来也已经不再遥远。
即使我们最初得靠传统方式造出100万个类人机器人，但只要它们运转整个产业链，包括采矿、运输、工厂生产等，那么它们就能造出更多机器人，更多芯片厂、更多数据中心，进步的速度会大不相同。
当数据中心生产实现自动化时，智能的成本最终将趋近于电力成本。（很多人好奇ChatGPT查询消耗多少能量：平均每次约0.34瓦时，相当于烤箱运转一秒，或高效灯泡点亮几分钟。每次查询还大约消耗0.000085加仑水，相当于1/15茶匙。）
治理挑战与未来社会：新路径的探索
技术进步还会持续提速，而人类的适应力也非常强。确实，会有整类工作岗位消失，但与此同时，世界会变得前所未有地富裕，我们也将开始认真考虑那些从未可能实现的政策和治理机制。
我们可能不会一夜之间改变整个社会契约，但当我们几十年后回看时，所有渐变累积起来的总量将非常可观。历史告诉我们，我们将会找到新事情可做、提出新的需求，并快速吸收新工具（就像工业革命之后的职业变迁）。虽然大家的期望会越来越高，但能力也会同步增强——我们将为彼此创造出越来越精彩的成果。
相较于 AI，人类始终拥有一个根本性的优势：我们天生在意他人、在意关系，而对机器并没有任何情感依附。想象一下，一千年前的农民看到我们今天的工作，他可能会觉得我们都在“假装工作”，只是游戏人生而已，因为我们早就不愁吃穿，奢侈得难以想象。而我希望有一天，我们看着一千年后的工作，也会有类似的感觉。但那时候的人会觉得他们所做的事情意义重大、非常重要。
我们将看到越来越多的奇迹不断发生。今天甚至很难想象到2035年我们会有什么样的发现；或许我们今年解决了高能物理难题，明年就开始了太空殖民；又或许我们今年在材料科学上取得重大突破，明年就实现了真正的高带宽脑机接口。很多人会继续按今天的方式生活，但也一定会有人选择“接入”这个新世界。
展望未来，这听起来难以理解。但实际经历时，它可能既令人敬畏又可以掌控。从相对论角度看，“奇点”的到来不是一蹴而就，而是悄悄地发生。我们正在攀登技术进步的长弧；它总是向前看是垂直的，向后看是平坦的，但它是一条平滑的曲线。回想2020年的时候，听说2025年会接近AGI的时候可能会觉得荒谬和疯狂。可如今——我们真的做到了。
在巨大的机遇和挑战面前，我们同样也面临着严峻的挑战。我们必须在技术与社会两个层面上解决 AI 安全问题，但考虑到其经济影响，广泛普及超级智能的使用权也至关重要。这意味着我们要先完成两件事：
第一，解决alignment问题。我们必须能够确保AI系统长期理解并执行我们真正想要的事情。例如：社交媒体算法就是“错位对齐”的案例，这些推荐算法非常擅长让你不断滑动，但它们的实现方式是通过激活你大脑中短期偏好机制，从而压制了你的长期理性选择。
第二，专注于让超级智能变得足够廉价、广泛可用，并且不会过于集中于任何个人、公司或国家。社会具有韧性、创造力，也有强大的适应能力。如果我们能够调动人类的集体意志与智慧，即便过程中会犯很多错误、也可能经历严重的失败，我们仍能迅速学习和调整，用这项技术实现最大收益与最小代价。为用户保留足够的自由、在明确的社会共识边界内行事，将至关重要。越早启动全球对话、讨论这些“共识边界”应是什么，就越有利。
一个世界大脑的诞生：“智能便宜得像水电一样”这件事近在咫尺
我们（整个行业，而不仅是OpenAI）正在为这个世界构建一颗“大脑”。它将是高度个性化、极易使用的。唯一的限制，不再是执行力，而是有没有好点子。以前大家都笑“只有想法、没团队”的创业者。但现在看来，“点子人”的时代要到了。
OpenAI 现在有很多身份，但最核心的还是：一家专注于超级智能研究的公司。我们知道路还很长，但我们也能看到前方的光。我们非常感激能够从事我们所做的事情。“智能便宜得像水电一样”这件事，其实离我们并不遥远。这听起来或许有些不可思议，但如果我们在2020年告诉你我们将会达到今天的水平，那可能比我们现在对2030年的预测更疯狂。
愿我们平稳、指数式地，跨越通往超级智能的旅程。
原文：The Gentle Singularity
https://blog.samaltman.com/the-gentle-singularity
编译：Eva Jia
请注意，本文编译自文未载明的原始链接，不代表Z Potentials立场。如果您对本文有任何想法或见解，欢迎在评论区留言互动探讨。
Z Potentials将继续提供更多关于人工智能、机器人、全球化等领域的优质内容。我们诚邀对未来充满憧憬的您加入我们的社群，与我们共同分享、学习、成长。
（文：Z Potentials）