图片来源：The Washington Post LIVE
Z Highlights
-
我们希望最大化人工智能技术的优势，它与电力、供暖、空调等东西一样重要，甚至可能更为重要，因为它是人类可以利用、甚至滥用的智能，而且它是每个人都可以获得的智能，所以它极其强大。
-
政府可以想象一个协议，大家共同专注于通用人工智能（AGI），包括大学、风险投资机构、企业和政府，而政府则通过更快地获取能源来换取安全保障、访问内部模型、提升国家安全等，这些是政府在其他情况下无法获得的。
-
因此，出于国家安全的考虑，我们中有许多人非常希望“芯片法案”能提前考虑到这一点。如今，供应链完全是彼此依存的，中国非常依赖我们，我们也非常依赖中国，这必须以某种方式解决。
Bina Venkatraman：我是Bina Venkatraman。我是《华盛顿邮报》的专栏作家，同时也是高级编辑。今天我很高兴欢迎谷歌前CEO、董事会主席Eric Schmidt，以及新书《Genesis：人工智能、希望与人类精神》的作者。很高兴见到你，Eric。
Eric Schmidt：谢谢，Bina，很高兴再次见到你。
Bina Venkatraman：今天我想和你谈一谈人工智能的前景与风险，了解你对这些的看法，以及你对中国的看法，正如你在与Fareed对话中提到的那样。但在开始之前，我想先聊聊你作为一名科学家。因为我认为很多人知道Eric Schmidt你在谷歌爆炸式增长时期的领导作用，但并不是很多人像我一样，把你首先看作是一位计算机科学家和工程师。而在这本书里，你提到了人工智能，以及我们正在进入的这个时代，并称之为“超能力的多才多艺者（polymaths）”。所以，人工智能将使我们能够在科学领域做以前从未做过的事情。你能谈谈这个观点，以及人工智能将给人们带来哪些积极影响吗？
Eric Schmidt：目前，科学领域的进展非常巨大，我认为很多人还没有意识到这一点。我当然是受过训练的计算机科学家，但现在不算特别出色，不过我确实对科学有一定的理解。举个例子，在材料科学领域，开发新材料用于能源存储、气候变化等，这对于一切都至关重要。在药物和药物研发方面，AlphaFold基本上发现了所有有趣的蛋白质，向我们展示了我们能够预测药物的序列以及它们如何与其他技术相互作用，这些技术都非常卓越。计算机基本上从人类那里获取创意，然后同时处理所有情境，速度远远超过人类。关于人工智能与科学的结合，我喜欢的地方在于这是人工智能发展的第一阶段的一个非常好的例子，即人类与人工智能合作解决真正重要的问题，而这仅仅是爆炸性进展的开端，气候、疾病、物理、化学、数学，诸如此类的领域。
Bina Venkatraman：当你想到人工智能在健康和气候方面的应用时，你会想到什么？正如你所描述的，人工智能让我们在科学层面解决问题的能力有了潜在的爆炸式增长，因为人工智能可以利用更多的数据，能整合来自不同领域和不同来源的数据，并发现人类可能目前无法找到的，或者至少是非常缓慢才能发掘出的联系。但如果人工智能发展到超越人类智慧，我们面临的风险是什么？你在书中提到了一些相关问题，我想了解你认为这些潜在的负面影响可能会是什么。
Eric Schmidt：首先，人工智能在科学中的应用将是这样的：数据已经存在或验证非常容易的问题将首先被解决。有两个问题是相当明显的，一个是计算问题，即编程，另一个是数学问题。因为在计算机程序中，你可以不断生成程序，直到找到真正有效的一个，我们也知道成功的程序是什么样的。而在数学中，你可以不断生成证明，直到找到被证明过的证明（proofs），因为我们知道如何去进行证明。
这两门学科的语言也相对简单。它们不需要阅读世界上所有的小说，而人类语言则要复杂得多。我们计划在接下来的一到两年内，将会出现超级数学家、超级程序员，至少在某些领域是这样的。因此，人工智能首先解决的是最容易解决的问题，数据丰富的问题，然后它们开始发挥作用。当你看待这个问题时，你会发现它具有二重性，例如，你在生物学方面越是变得精通，就越能够构建极致复杂的生物遗传体，越能够生成人类没有解药的病毒等等。
过去一两年，人工智能带来的最大两个危险是在生物学领域和网络攻击。在病毒学方面，根据这一领域的相关研究，病毒是非常简单的，制造危险、简单病毒的能力已经变得前所未有地强大。现在要制造这种病毒，必须有一台机器。因此，很多人正在研究的是如何确保这些机器不会落入坏人手中。
Bina Venkatraman：至于人工智能在科学之外的应用，我们听到很多关于潜在的负面影响的讨论，无论是人工智能对能源需求的增加，将如何影响气候；还是人工智能如何使信息失真变得更加容易，并且可以在全球范围内加速传播和分发。你曾经说过，我们既没有为进入这个人工智能时代做好准备，可能已经进入这个时代但也没有走得够快。能帮我们解释这两个看似矛盾的说法吗。
Eric Schmidt：这也是我在书中所表达的。我们希望最大化这个我们一生中发明的最强大技术的优势，它与电力、供暖、空调等东西一样重要，甚至可能更为重要，因为它是人类可以利用、甚至滥用的智能，而且它是每个人都可以获得的智能，所以它极其强大。正如我们一再强调的那样，我们必须在尊重人类价值观和人类尊严的基础上推进研究，因为这些系统是非人的，它们不一定具备我们的道德、约束、宗教等，除非被迫这样做。这本书很多内容都是在讨论这个问题。从讨论“多才多艺者（polymaths）”开始，事实证明，如果回顾人类历史，我们会发现少数几个人，比如爱因斯坦、达芬奇，这些人真正开创了全新的发明和思潮，现在我们面临的情形是，在未来几年里，地球上的每一个人都将能够接触到一个“多才多艺者（polymaths）”。这意味着，当你去博物馆时，你将有机会听到列奥纳多·达芬奇说：“嗯，你的笔触其实没那么好，我做得更好”之类的评论，这既幽默又有趣。
你必须担心这一点，直白来讲，就是美国和中国之间的竞赛。这两个国家都有意愿、目标、国家政策，它们有资本、能源和其他国家几乎没有的人力规模，这场竞争是史诗般的。如你所知，美国一直在试图稍微减缓中国的步伐，在某种程度上取得了一些成功，但并不是非常成功。而中国则加大了投入，他们最近推出的模型与美国最先进的模型相似或类似，这让我感到非常震惊。这场竞争很重要，因为随着越来越接近通用智能，就可以构建自己的AI科学家，如果再投入更多，你就有了人类科学家和AI科学家，可以加速发展迅速到达目标。
Bina Venkatraman：我想谈谈许多人认为的“与中国的AI竞赛”，并在这里分辨一些炒作与现实，你能帮助我们理解吗？因为我认为曾经有一段时间，大家认为我们需要加速，因为中国在加速。然后我们看到了来自美国公司的一些初步的生成式AI模型。正如你所提到的，最近至少有三家中国公司推出了类似于GPT-4第二代的模型。我们为什么应该担心这个问题？我的意思是，回顾冷战时期，两个大国竞相开发技术，例如太空技术，帮助我们发射了人造卫星并最终将人类送上月球，这实际上促进了技术进步。那现在，为什么我们应该担心这个问题呢？
Eric Schmidt：有一点不同的是，因为这涉及的是智能，而且发展得很快，可能会在一段时间内形成垄断。举个例子，美国实际上发明了这项技术，我们有所有这些AI科学家，这些科学家只是计算机程序，我们把它们释放出来，起初我们做得相当好，一直在前进，但突然之间，我们开始掉队。这时中国意识到自己需要加速，抓住时机追赶，但他们目前仍然落后。在这场竞赛中，有一段时间，两个主要竞争者之一实际上对比人类更强大的智能拥有垄断控制权。在这个周期中，当领先的一方能够发现对其对手的攻击方式，同时也能发现对自己有利的情况时，这些利益可能是非常深远的，而且很难描述。想象一下这样的情景——有一些我们并不完全了解的假设性实验，但你有一个系统能利用物理、化学、材料科学和数学来发现一个全新的世界，一整个全新的事实世界，一个全新的武器世界，一个全新的科学世界，一个全新的生物学世界，我们现在还无法完全知道，这只是猜测。但在我的行业中，普遍的共识是这是一场我们必须赢的竞赛。为了获胜，美国需要继续做正在做的所有积极的事情。我们面临能源短缺，正如你已经提到的，我们需要更多的外国工人签证，诸如此类的事情。
Bina Venkatraman：中国相对于美国的优势是什么？你提到了一些美国可能需要的东西。你认为中国公司在这场竞赛中可能有哪些优势呢？
Eric Schmidt：中国更专注于获胜，他们愿意投入大量资金但不一定有明确的目标，他们有着非常快速的消费性企业采纳传统，基本上就是企业内迅速采用新技术。我认为，即使我们赢得了比赛的第一阶段，也有充分理由相信中国最终会赢得这场竞赛，因为他们能够更快地在大规模产品中采纳这种技术。一个很好的例子是，我花了20年时间在各种机器人解决方案上，现在有一些非常有意思的公司，它们将建立AI机器人“大脑”，它们都使用来自中国的廉价机器人，这些机器人和美国的机器人一样强大，但价格便宜得多，灵活性也更高。中国的制造业具有强大实力，看看中国在电池、太阳能以及现在的汽车行业中的主导地位，这使得它们能够在现实世界中用AI做我们只能梦想的事情。中国拥有大量的能源，并且目前似乎没有太多关于数据、个人数据、医疗数据等的特别规则。它们面临的问题是缺乏硬件。美国已经限制了中国对所谓的A100级芯片的获取权限，这是NVIDIA前一代或前两代的芯片，但看起来中国已经找到了一些绕过这些制裁的方法，这并不令人惊讶。中国也学会了如何用更少的芯片做事情，这值得称赞，这显示了他们工程师的实力。
Bina Venkatraman：我认为你所描述的和《芯片与科学法案》有关，该法案是由美国前国会和拜登政府通过的，旨在与台湾及其他国家或地区合作，加强我们自身的芯片生产。但你曾指出，中国围绕芯片生产的产业政策远超我们。那么问题的解决方案的一方面是不是美国需要更积极的芯片产业政策？还是这与贸易有关？解决方案是什么？
Eric Schmidt：我们现在面临的情况是这些我们关心的芯片主要是由台湾的一家公司——台积电（TSMC）生产，使用的是由欧洲公司ASML拥有专利且垄断的技术。美国政府已经让这些技术很难进入中国，这个决策是正确的。中国在这个领域也有自己的龙头，其中一个叫做中芯国际（SMIC）。他们目前的技术水平大致停留在所谓的7nm工艺，更低的数字意味着更好的技术，而我们使用的是3nm技术。所以一个可能的情景是我们的硬件会不断进步，最终我们可能会依靠这一点而得以拯救。但即便这种情况能够发生，我对此也表示怀疑，中国几乎生产了制造半导体所需的所有部件。我说的不是芯片，而是胶水、载体等。因此，出于国家安全的考虑，我们中有许多人非常希望“芯片法案”能提前考虑到这一点。如今，供应链完全是彼此依存的，中国非常依赖我们，我们也非常依赖中国，这必须以某种方式解决。
Bina Venkatraman：我想谈谈人工智能的民主治理，并稍微回到国内的议题。你不是埃隆·马斯克，当你和我15年前见面时，你在担任奥巴马总统科学与技术顾问委员会（PCAST）成员，真正致力于思考政策，政府在创新中的角色是什么，以及在存在技术危害的情况下政府在保护我们免受其危害方面的作用。你是否有信心，政府政策可以帮助实现我们所谈论的人工智能的积极面，同时也能为网络攻击、超级病毒、潜在的能源需求及其影响提供防范措施？
Eric Schmidt：思考美国创新体系的一种方式是，它由三个部分组成。它包括政府，提供高风险资本或高风险资金、法律基础、出口援助等；大学，作为创新的主要来源，因为年轻人非常有才华，美国的大学在全球范围内都无与伦比，甚至超过中国；还有企业，通过巨大的风险投资等资助其他公司。这种循环几乎创造了美国的所有财富，无论是以何种形式。财富并不是单纯来自政府、大学或其他某一方。美国最强大的时候，是这三者共同协作的时候。如果看看特朗普政府的第一个任期，‘星际加速行动‘（Operation Warp Speed）就是一个很好的例子。大学里诞生的发明可能让部分人亏损，但政府因为它具备的优先级保证了某些事项。感谢上帝，我们目前并不处于‘星际加速行动‘的状态，但这些角色依然可以被扮演。
大学正在培养大量的人员，他们将把人工智能应用到自己的科学工作、艺术创作、写作等领域。这的确具有变革性。企业方面，过去几年市场上创造的大部分财富来自所谓的“七大巨头”，其中至少六家是人工智能公司。所以，即使你只是一个投资者，也非常重要。当然，政府也有重要的作用，如果你知道这些公司在能源方面已经快要耗尽，别人告诉我他们的计算是到2028年美国将完全耗尽能源，因为这些数据中心消耗巨大。所以政府可以想象一个协议，大家共同专注于通用人工智能（AGI），包括大学、风险投资机构、企业和政府，而政府则通过更快地获取能源来换取安全保障、访问内部模型、提升国家安全等，这些是政府在其他情况下无法获得的。而这样的协议可能会在新一届政府中达成，我们拭目以待。
Bina Venkatraman：你认为特朗普挑选的负责加密和人工智能的David Sachs是否理解你所主张的观点？
Eric Schmidt：我个人不知道他现在对此的看法，所以不应该对他做过多猜测。我确实知道，既然你提到过Elon（埃隆·马斯克），Elon的每一家公司都依赖于高技能移民，依赖于政府资助，依赖于电力供应。这就是一个典型的美国创始人和一系列具有相同思维的机构的例子。事实上，所有这些科技公司都通过我所描述的方式来组织和赢得竞争，在很多行业这些问题并不重要，相对来说不具有战略意义，它们重要但也不至于影响整个局势。但是，人工智能的开发，无论是为了什么，尤其是国家安全，应该是一个非常高优先级的事项。
Bina Venkatraman：Eric，我想最后问你一个问题。我们一直在讨论美国政府在能源政策方面发挥作用支持人工智能的讨论，我们也谈到了美国政府在产业政策方面的作用，尤其是在芯片领域，继续支持硬件生产，这些硬件支撑着这项技术。但我们还没有讨论政府作为创新的支持者。让我印象深刻的是之前的数字革命时代，你也参与其中，依赖并且得到了政府推动，在美国国防高级研究计划局（DARPA）进行的基础性研究，最终导致了互联网的诞生，谢尔盖和拉里（Google的创始人）通过NSF的资助，这最终也为Google的建立以及成功奠定了基础。显然，政府在AI模型的研发中没有过多参与，是美国政府已经放弃了创新政策吗？政府是否还有机会在这方面发挥作用？
Eric Schmidt：国家科学基金会（NSF）是大学研究的主要资助方，军方的DARPA也是这种研究的主要资助方。我个人曾在年轻资金匮乏时，获得了大量资助。所以我对这些项目非常感激，否则，我现在可能就不会在这里和你交谈了。好的方面是这一模式比以往任何时候都更强大，只要没有人做愚蠢的事情，我们将继续拥有如此惊人的创新成果。人工智能是实现目标的基础性工具，它使你能够构建融合，模拟聚变，使你能够做量子计算，模拟量子效应。有很多理由可以认为，人工智能这一工具对创新至关重要。你之前也提到过政府资助的是高风险的基础性研究，企业则将这些想法转化为高风险的公司，最终，它们会扩展到正常的公司，这个循环通常需要20到30年。例如自动驾驶汽车，现在你可以在许多城市实现自动驾驶，这是在第一次自动驾驶资金投入后30年才实现的。这只是需要一些时间，但这就是美国的未来，我们应该为此感到无比兴奋，没有其他国家拥有这种模式。
Bina Venkatraman：非常感谢你，Eric。这是一次非常有趣的对话，谢谢你加入我们。
原文：Former Google CEO Eric Schmidt on AI, China and the future
https://www.youtube.com/watch?v=iH60yTGtGaA
编译：Elaine Wang
（文：Z Potentials）