我们的使命是确保 AGI 惠及全人类。
开始指向 AGI*的系统逐渐显现，因此我们认为理解我们所处的时刻是重要的。AGI 是一个定义模糊的术语，但一般来说，我们指的是一个能够在人类水平上，在多个领域解决日益复杂问题的系统。
人类是工具制造者，天生有理解和创造的驱动力，这使得我们的世界变得更好。每一代人都在前几代的发现基础上构建，创造出更强大的工具——电力、晶体管、计算机、互联网，以及即将到来的 AGI。
随着时间的推移，经过反复波动，人类创新的稳步推进带来了以前无法想象的繁荣水平和对人们生活几乎每个方面的改善。
在某种意义上，AGI 只是我们共同构建的人类进步的这座不断高耸的脚手架中的另一个工具。在另一个意义上，它是某种东西的开始，难以不说“这次不同了”；我们面前的经济增长看起来令人惊叹，我们现在可以想象一个我们治愈所有疾病、拥有更多时间与家人享受、并能够充分实现我们创造潜力的世界。
在十年内，也许地球上的每个人都能做到比今天最有影响力的人更多。
我们继续看到人工智能发展的快速进展。以下是关于人工智能经济的三个观察：
1. 一个 AI 模型的智能大致等于用于训练和运行它的资源的对数。这些资源主要是训练计算、数据和推理计算。看起来你可以花费任意数量的钱，并获得持续和可预测的收益；预测这一点的规模法则在多个数量级上都是准确的。
2. 使用特定水平的人工智能的成本每 12 个月下降约 10 倍，价格降低导致使用量大幅增加。你可以看到，从 2023 年初的 GPT-4 到 2024 年中期的 GPT-4o，Token 成本在这段时间内下降了约 150 倍。摩尔定律每 18 个月变化 2 倍；这无疑更强大。
3. 线性增长的智力的社会经济价值本质上是超指数级的。这导致我们认为在不久的将来，指数级增长的投资没有停止的理由。
如果这三项观察继续成立，对社会的影响将是显著的。
我们现在开始推出 AI Agent，最终会感觉像虚拟同事。
让我们想象一个软件工程 Agent 的情况，这是我们期望特别重要的 Agent。想象一下，这个 Agent 最终将能够完成大多数顶级公司拥有几年经验的软件工程师可以做的事情，任务持续时间最长可达几天。它不会有最大的创新想法，需要大量的人类监督和指导，在某些方面表现出色，但在其他方面却令人惊讶地糟糕。
不过，想象一下它作为一个真实但相对初级的虚拟同事。现在想象有 1000 个这样的同事。或者 100 万个。现在想象在每个知识工作领域都有这样的 Agent 。
在某些方面，人工智能可能会像晶体管一样在经济上发挥作用——一个重大的科学发现，具有良好的扩展性，并渗透到经济的几乎每个角落。我们并不太关注晶体管或晶体管公司，而收益则非常广泛地分布。但我们确实期望我们的计算机、电视、汽车、玩具等能够表现出奇迹。
世界不会一下子改变；它从来没有。生活在短期内大致会保持不变，2025 年的人们大多数时间会以 2024 年相同的方式度过。我们仍然会相爱，组建家庭，在网上争吵，徒步旅行等。
但未来将以一种无法忽视的方式向我们袭来，对我们的社会和经济的长期变化将是巨大的。我们将找到新的事情可做，新的互相帮助的方式，以及新的竞争方式，但它们可能与今天的工作看起来大相径庭。
代理、意志和决心可能会极其重要。正确决定该做什么并弄清楚如何在不断变化的世界中导航将具有巨大的价值；韧性和适应能力将是值得培养的有用技能。AGI 将是人类意志上最大的杠杆，使个人能够比以往任何时候都更具影响力，而不是更少。
我们预计 AGI 的影响将是不均匀的。尽管某些行业变化不大，但科学进步可能会比今天快得多；AGI 的影响可能会超越其他一切。
许多商品的价格最终会大幅下降（现在，智能成本和能源成本限制了很多东西），而奢侈品的价格以及一些本质上有限的资源如土地的价格可能会更加剧烈地上涨。
从技术上讲，我们面前的道路看起来相当清晰。但公共政策和公众对我们如何将 AGI 融入社会的看法非常重要；我们早期和频繁推出产品的原因之一是为了让社会和技术有时间共同发展。
人工智能将渗透到经济和社会的各个领域；我们将期待一切都变得智能化。我们中的许多人预计需要给予人们比历史上更多的技术控制，包括更多的开源，并接受安全与个人赋权之间存在一种需要权衡的平衡。
虽然我们绝不想鲁莽行事，并且与 AGI 安全相关的一些重大决策和限制可能会不受欢迎，但总体而言，随着我们越来越接近实现 AGI，我们认为更倾向于个人赋权是重要的；我们可以看到的另一个可能的路径是，人工智能被专制政府用来通过大规模监控和失去自主权来控制其人口。
确保 AGI 的好处得到广泛分配是至关重要的。技术进步的历史影响表明，我们关心的大多数指标（健康结果、经济繁荣等）在平均水平和长期内都会改善，但增加平等似乎并不是技术决定的，做到这一点可能需要新的想法。
特别是，资本和劳动之间的权力平衡似乎很容易被打乱，这可能需要提前干预。我们对一些听起来奇怪的想法持开放态度，比如给予一些“计算预算”，以使地球上的每个人都能使用大量的人工智能，但我们也看到许多方法，通过不断降低智能的成本可以达到预期效果。
到 2035 年，任何人都应该能够调动相当于 2025 年每个人的智力能力；每个人都应该能够获得无限的天才，以便按照他们的想象进行引导。现在有很多人才没有资源来充分表达自己，如果我们改变这一点，世界上产生的创意成果将为我们所有人带来巨大的好处。
特别感谢 Josh Achiam、Boaz Barak 和 Aleksander Madry 审阅此文的草稿。
编译：ChatGPT
请注意，本文编译自文末载明的原始链接，不代表Z Potentials立场。如果您对本文有任何想法或见解，欢迎在评论区留言互动探讨。
Z Potentials将继续提供更多关于人工智能、机器人、全球化等领域的优质内容。我们诚邀对未来充满憧憬的您加入我们的社群，与我们共同分享、学习、成长。
（文：Z Potentials）