图片来源：Harvard Business School 官网
Z Highlights
-
大幅提升科学发现的速度是我最兴奋的部分。如果从宏观角度看，这是让世界可持续变得更好的方式。
-
过多的监管显然会减缓创新，而监管不足又显然会导致一系列其他问题。
-
我猜测未来的娱乐会看起来非常不同。也许像现在我们花很多时间看电视或玩视频游戏，未来会被与人工智能互动的体验所取代，而我们可能会从中获得某种形式的陪伴感。
论AI转型：资本、监管与社会角色的多维视角
主持人：你为什么觉得OpenAI必须从非营利结构转变为营利性结构的？这个过程是灵光一现的顿悟，还是一个简单明确的决定？
Sam：最简单的原因是我们需要的资本远远超过了作为非营利组织能够吸引到的资本——不是说我们吸引不到，而是确实尝试过了，但仍然无法吸引到足够的资金。扩大计算机的规模非常重要，但我们还是大大低估了需要扩展的规模。
主持人：这是否意味着任何形式的非营利组织都无法在人工智能领域做出任何有意义的贡献？
Sam：不。肯定还有其他事情可以以非营利形式完成，但如果要站在扩展研究的最前沿，非营利组织可能无法做到这一点。
主持人：我们探讨的是，在某些方面，企业比政府更擅长。你认为能源部或国防部能够像你们一样做好OpenAI的工作吗？
Sam：从某种意义上说，在一个运转良好的社会里，这本该是一个政府主导的项目。
Sam：所以，以现在这种方式推进会更好，而且让它作为一个美国项目来进行也是更合适的。
主持人：你还提到过几次，社会可以在设定一些“监管”或“指导方向”上发挥作用，以便在过程中更好地融入公平的元素。
主持人：但这要怎么实现呢？社会并不是一个具体的实体。
Sam：不，它是许多不同利益相关者之间的复杂博弈。但我们可以做到，随着时间的推移，我们会做到这一点。比如飞机真的很安全。撇开波音的问题不谈，总的来说，飞机是相当安全的。
主持人：这种情况在很大程度上是由于传统的监管制度所致。
Sam：这件事发生是因为人们想要搭乘飞机，他们知道自己不会死。所以社会对此做出了回应。
Sam：飞机制造商也知道，如果他们想继续销售人们愿意搭乘的飞机，政府肯定会参与其中（监管），同时，参与其中的科学家和工程师也有一种责任感。这是一个多方参与的过程，但监管确实扮演着巨大的角色。
主持人：你显然会成为这个领域中的重要参与者，那么你是怎么考虑的呢？我有点把它和我在哈佛商学院时互联网兴起的情形做比较，那时候正是在互联网和社交媒体崛起的过程中，很多人也在说“不要政府干预”。他们说，网络空间应该是自由的，要把“黑色直升机”赶出我们的事务，你是怎么考虑自己在政府面前的位置的？
Sam：我希望这能成为一种真正的伙伴关系。到目前为止，这种关系还是相当建设性的。过多的监管显然会减缓创新，而监管不足又显然会导致一系列其他问题。我想每个人都同意这两点。接下来就只剩下一个问题，那就是你应该处于这个监管谱系的哪个位置。
主持人：你认为政府中有特别的部门需要合作吗？我知道你在与国土安全部合作，但能源部、国防部呢？你最希望在哪些方面建立桥梁？
Sam：确实，保持乐观并全身心投入是人之常情，但我们必须认识到，这将触及社会的每一个角落，并影响到政府的各个层面。
Sam：确实是，不过互联网几乎触及了社会的各个方面。
Sam：我本来想说我们错了很多部分，但我们也确实做对了一些，我想大多数人不会说要推翻互联网，即使面对着这么多问题。
主持人：这挺有意思的。我观察到我的学生们，他们很多人并没有在社交媒体上成长，他们希望互联网的这一部分能消失。
Sam：当然，人工智能也会有一些部分你可能希望它消失，但有多少学生会按下一个按钮来摧毁整个互联网和所有的计算机呢？
Sam：所以会有一些你不喜欢的部分，也会有你学生们在十年后不喜欢的部分。但总体而言，这将是一个巨大的净收益。
主持人：如果从社会或商业的角度来看，你最兴奋的人工智能部分是什么？
Sam：大幅提升科学发现的速度是我最兴奋的部分。如果从宏观角度看，这是让世界可持续变得更好的方式。我觉得做更多这样的事情非常棒。还有许多其他领域，会有令人难以置信的人工智能导师、令人惊叹的人工智能医疗顾问。但就个人而言，我对人工智能在科学领域的发展感到非常兴奋。
Sam：如果要我选一个个人的领域，我会选择去解决所有的物理学问题。但其实，我对各个领域的发展都很兴奋。
Sam：因为我个人有极大的好奇心。我也相信，越是理解物理学，我们就能越多地操控宇宙。我不知道这会带来什么，但似乎找到答案很重要。
Sam：如果物理学中真的没有问题可解了，那我也不知道该怎么办。我的猜测是，解决了当前的问题后，会发现更多、更难、更有趣的问题。
主持人：你读过John Maynard Keynes在1930年写的《Economic Prospects for our Grandchildren》吗? Keynes讨论了100年后的世界会是什么样子。他提出了一个类似的问题，就是一旦解决了所有的问题会怎么样。他给出了一个有些奇怪的答案，那就是我们将只做艺术，不再关心金钱。你有考虑过这些存在性的问题吗？物理学家会怎样？会发生什么呢？
Sam：这个问题已经经过了长时间的讨论。在某些方面，Keynes的观点是正确的，而在另一些方面则存在偏差。从某种角度来看，如果你能够穿越回20世纪30年代，观察今天的人们，你可能会认为他们只是在从事艺术创作，对金钱并不感兴趣，而他们的生活似乎也过得不错，但这并非他们内心的真实感受。如果你将目光投向今天的人们，再往前追溯一百年，询问他们如何看待未来这些人的工作，你可能会认为他们在从事一种以奇特方式定义的艺术，而且对金钱漠不关心，却享受着令人难以置信的物质财富。
但当你深入思考时，你会发现他们其实非常忙碌，承受着巨大的压力，并且从工作中获得了极大的满足感。然而，他们并不完全将这种工作视为艺术。他们仍然觉得自己做得不够好，因此仍在寻找新的方法来相互攀比。或许他们不再像过去那样比较谁的房子更大或更小，而是比较谁拥有更壮观的星系，或者谁的星系虽然不那么出色。但无论如何，人类的内在驱动力始终存在。
人工智能与人类情感的未来：机器伴侣的兴起与人性的深层需求
主持人：所以在我写的那些书中写到一个预测，那就是我们会爱上机器人，这其实是的真实情况的夸张版本——我们会把人工智能实体当作情感伴侣来接受。你怎么看？你是否支持那种奇点类型的愿景，即人类与人工智能合并，开始与由创造而非诞生的事物建立情感联系？
Sam：是的，未来的娱乐会看起来非常不同。也许像现在我们花很多时间看电视或玩视频游戏，未来会被与人工智能互动的体验所取代，而我们可能会从中获得某种形式的陪伴感。但是对于大多数人来说，在那样的世界里对真实人类、真诚版本的需求会增加，而不是减少。我们会与人工智能互动很多，我也相信那将是一个极其娱乐化的世界。但我敢打赌，人性中有某种深刻的东西，知道对方是另一个真实的人与否，真的很重要，尽管有时并非如此。
主持人：我和我最在乎的人大多数都是通过短信交流的，因为我们并不在同一个城市，所以我可能不确定他们在哪里。所以如果他们已经不在了，我可能也会接受这个事实。
Sam：这就是问题所在，如果你知道短信交流的背后没有一个真正的人，你会感觉不一样吗？我会认为你会。所以，我们会发现答案的。
主持人：我想回到你在之前的演讲中提到的另一个话题。你提到有一个孩子问了关于公平的问题，你给出了一个很好的回答，我同意你的看法，认为这项技术可能会推动公平，但需要一些引导。你心里想的是什么样的引导呢？
Sam：首先，它可能根本不需要任何引导，有时技术本身就不需要引导。而且知道正确的引导方式在学术上是很难做到的，你必须通过实践来验证。所以，建立一个紧密的反馈循环，观察问题在哪里产生，解决那些问题，找到新的问题，这就是我们必须进行引导的方式。
主持人：我刚从丹麦回来，感觉在类似于丹麦这样的国家做这些事情很有可能，它国土面积较小，可以获得非常好的数据。而在美国通过任何形式的法规通常需要30年的时间。那么你是怎么思考这个引导的呢？
Sam：我只能说希望一些公司可以做这些事情，如果是依赖美国的法规，那也没问题。
主持人：我两天前教了我的学生有关你的那篇《The Moore’s Law for everything》。
主持人：我觉得它相当不错，文章很有趣，因为你谈到了税收制度的变化，但你并没有特别牵强。你体现了这些都是可行的，无论在当前的政治形势下是否可行是另一个问题。你基本上提到的是，像土地税这种东西。
Sam：我依然认为这是对的，在一个有人工智能的世界里，主要通过对收入和企业利润征税并不完全正确。我们似乎确实需要转向某种形式的资本税。
主持人：我觉得这个想法非常有趣，虽然它和普遍基本收入（UBI）有些联系，但还是不同的。你如果对人工智能有一个愿望，那会是什么呢？
Sam：其中一个出乎意料地有效的方法是让人工智能系统表现出特定的行为。所以如果我们能够在不同的案例中阐明这意味着什么，我们可以通过这种方式让系统恢复过来。
主持人：你认为OpenAI能否并且应该拥有制定自己规则的权力？以及我们为什么应该信任你？
Sam：不应该相信我们，我不认为我们会有这个权力，更不认为我们应该有。顺便说一下，这并不意味着将这个权力交给政府官僚是正确的选择。另一方面，有一种有趣的方向是，想象其中一个系统与所有用户进行对话，问他们：请解释一下你的价值观，然后我将基于这些价值观进行集体对齐。
有技术的用户尤其是那些受到影响最多的人，应该在治理中有更多的话语权。这样做才是对的。
主持人：这是否可行？尤其是考虑到这涉及巨大的资金的时候。
Sam：完全可行，就像我之前说的，这是这项技术所带来的全新可能性，是以前无法实现的。
主持人：那是不是类似于Anthropic正在推动的方向？因为他们的做法似乎有些天真，那个想法就是，我们要将我们的设计原则公开出来，进行某种众包的操作。
Sam：把如何在系统的行为中做出权衡公开出来是非常好的做法，但我更感兴趣的是这样一个思维实验：一个AI和你聊几个小时，了解你的价值体系，然后再和我、和每个人都聊一遍，然后它会说，好吧，我无法让每个人一直都满意。
Sam：对，使用AI与每个人对话，深入了解数十亿人的共识，这是我们没有AI就可能无法做到的。
主持人：但将类似的事情与这个国家的创国文件进行对比会很有趣，这些文件明确地都反对多数规则。而你现在描述的有些不同，但我猜这很快就会变得具有普适性。
Sam：但从根本上来说，这还是更多地关于民主性，只不过是加上一些权力制衡。
主持人：你得考虑这些检查机制是什么样的。如果人们的共识是AI是邪恶的，坏的，那么如何制定检查机制呢？
原视频：Harvard Business School | OpenAI CEO Sam Altman on AI governance, ethics, and innovation | A conversation with BiGS
https://www.youtube.com/watch?v=BZbjqiRvJPA
（文：Z Potentials）
