“从现在开始，每位管理者都将同时管理人类员工和数字员工。”
整理丨Eric Harrington
出品丨AI 科技大本营（ID：rgznai100）
一场关于 AI 未来的重磅对话刚刚在达沃斯论坛上演。
当 Anthropic 年轻的 CEO 达里奥·阿莫代（Dario Amodei）说出“2-3 年内，AI 将在几乎所有领域超越人类”时，在座的科技巨头们竟然出奇一致地点头赞同。
不过最让人意外的不是这个惊人预测，而是大佬们的态度：
Salesforce CEO 直接宣称“我们将是最后一代只管理人类的 CEO”；
辉瑞 CEO 透露 AI 正把 10 年的药物研发缩短到 18 个月；
几个让人深思的重磅观点：
-
“数据中心里的天才之国”：未来 2 年内，我们将拥有数百万个比诺奖得主更聪明的数字大脑；
-
6 个月完成 20 年的工作：AI 帮助 Google 翻译在半年内新增 110 种语言；
-
人类比想象中更不理性：自动驾驶比人类更安全，但我们却更难接受机器的失误；
-
出人意料的担忧：最担心 AI 发展的，恰恰是走在 AI 最前沿的人；
这场跨越医疗、交通、工作、环境等多个领域的对话，不仅展现了一个正在加速到来的未来图景，更首次曝光了顶级科技公司在 AI 发展上的真实态度和深层忧虑。当技术进步开始颠覆人类社会的基础时，这些走在最前沿的大脑们提出了一个关键问题：技术究竟会让世界更平等，还是加剧不平等？
最后一批仅管理人类员工的 CEO
主持人（The Atlantic 主编）：今天我们迎来了达沃斯最瞩目的专题讨论。在座的嘉宾对全球事务有着重大影响力，我们将讨论民主、收入不平等、气候变化以及企业转型等议题。
让我先介绍嘉宾：辉瑞 CEO 艾伯特·布尔拉、优步 CEO 达拉·科斯罗萨西、Anthropic CEO 达里奥·阿莫代、Alphabet 和 Google 副总裁露丝·波拉特、Salesforce CEO 马克·贝尼奥夫，以及 NATO 秘书长延斯·斯托尔滕贝格。
首先，在座的各位都在管理着即将被技术彻底改变的企业。马克，人们常说“创造性破坏”，作为 Salesforce 的掌舵人，您能谈谈如何带领一个已经非常成功的企业实现彻底转型吗？在目前的转型过程中，您遇到的最大挑战是什么？
马克·贝尼奥夫（Salesforce CEO）：这是一个令人振奋的时代，我从未像现在这样对自己的工作和行业充满热情。在世界经济论坛的国际商业委员会会议上，我对 250 位 CEO 说：我们将是最后一批仅管理人类员工的 CEO。从现在开始，我们将同时管理人类员工和数字员工，这是一个历史性的转折点。
就拿达沃斯会议来说，Salesforce 十多年来一直负责管理这里的信息系统。今年的达沃斯应用程序首次配备了 AI 助手，它能够分析与会者过往参会记录、当前可参加的会议以及所有与会者信息，为每位参会者提供个性化建议。这个 AI 助手借助最先进的大语言模型和机器学习技术，准确率达到 95%，这得益于多年来积累的海量数据。这是 AI 实际应用的一个很好例子。
加拿大皇家银行的 CEO 戴夫·麦凯也在同一个会议上分享了他们的经验。他们在财富管理业务中构建了一个“Agent 层”，即在销售、服务和支持团队之外，建立了一支 AI 助手队伍。这让我感到震撼，我们正在见证人类与 AI 协同工作、创造更高成就的时代。
主持人：说起 AI 助手，它确实很有用。前几天凌晨两点的时候，我在大街上已经喝了七杯酒，AI 助手根据我往年的参会数据建议我回房休息，这帮了大忙。
露丝，让我问您一个问题：Google 建立了人类历史上最成功的产品之一——搜索引擎，现在它需要转型成为一个“答案引擎”。这种转型会改变你们的商业模式，也会影响依赖搜索引擎的其他公司。您如何看待这个转型过程中的权衡取舍？
露丝·波拉特（Google 副总裁）：从创立之初，Google 就致力于长期投资，因为我们知道技术在不断演变，我们必须与时俱进。Google 最初只提供十个蓝色链接，然后发展到文本搜索、语音搜索，现在我们进入了多模态搜索时代。实际上，我们多年来一直在搜索中融入 AI 技术，数十亿用户从中受益，比如自动补全功能或照片搜索，这些已经成为理所当然的功能。
以 Google Lens 为例，用户每月通过这项服务进行 200 亿次搜索。用户只需用手机拍照，就能搜索到任何信息，包括产品详情、价格，或者自然界的任何事物。现在，我们正在利用 Gemini 开发 AI 概览功能，它就像一个控制台，可以引导用户获取各种信息。我们发现用户开始提出更复杂、更长的查询，尤其是年轻一代更倾向于提出多部分查询。
这种演变并非始于今日。我们很早就成立了 Google Brain，2014 年收购 DeepMind 时就预见到了今天的景象。对任何企业或国家的领导者来说，如果不为长期增长做规划和投资，就等于在为自己的衰落埋下隐患。我们在科学创新领域处于领先地位，比如我们的研究人员德米斯·哈萨比斯于 2024 年获得了诺贝尔奖。AlphaFold 项目为药物研发做出了重大贡献，我们在量子计算领域也取得了突破性进展——现在能在 5 分钟内完成最强大的超级计算机需要 10 亿亿亿小时才能完成的计算。
主持人：艾伯特，谈谈您的看法。您必须改变药物研发的方式，重塑公司的运作模式，同时还要面对那些完全基于AI技术、正在使用露丝刚才提到的技术的新兴制药公司的竞争。您是如何看待这种转型的？
艾伯特·布尔拉（辉瑞 CEO）：生命科学领域的前景令人振奋，不仅因为生物技术的进步，更因为数字技术的发展。这两者的结合将产生巨大的协同效应。让我用一个例子来说明——癌症，这个被称为“百病之王”的疾病。
我们正在使用一项名为 ADC（抗体药物偶联物）的新技术。用军事术语来形容这场对抗癌症的战争：传统化疗的问题在于它不仅会杀死癌细胞，也会伤害健康细胞。我们需要更精确的方法，所以开发出了类似 GPS 制导导弹的药物。首先要确定目标——比如一种在癌细胞中比健康细胞更常见的蛋白质。例如 IB4 蛋白质，它在 90% 的肺癌细胞中都有表达。有了目标后，我们的“导弹”就知道该攻击什么了。而 AI 可以将这个原本需要数年的靶点识别过程缩短到数月。
“数据中心里的天才之国”
主持人：达拉，您的公司创造了大量灵活的工作岗位，为需要兼职工作的人提供了机会。但优即将进入一个新时代，相当一部分优步出租车将变成自动驾驶出租车。这是一个重大转变。在这次企业 AI 化转型中，最难处理的是什么？
达拉·科斯罗萨西（优步 CEO）：我认为，大多数人对 AI 的体验都集中在数字世界，比如搜索等。而我们工作在物理世界中，我们相信 AI 能够对物理世界产生巨大影响。我们认为交通的未来将是自动驾驶、电动化，最终还将是共享的，这样就能控制街道拥堵。
对我们来说，AI 的应用主要体现在两个方面：一是客运，用机器人司机替代人类司机。我们正在与 Google 和 Waymo 等多家公司合作开发这项技术；二是包裹配送，比如你可能看到的 Serve sidewalk 送餐机器人。在货运方面，我们的 Uber Freight 业务将货主与卡车司机连接起来，这些卡车最终也将实现自动驾驶。
AI 的终极承诺是拯救生命。今年，全球有 100 万人因为人为错误死于道路交通事故。而数字驾驶员有数千个生命周期的驾驶训练，不会因发短信或看抖音而分心，始终专注于道路。它不是两只眼睛，而是十只眼睛和多种传感器。随着时间推移，这种驾驶员会变得越来越好。
我们正在与 NVIDIA、Alphabet、Waymo 等合作伙伴一起，以安全负责的方式将这项技术推向市场。这不会在明天实现，我们将经历一个很长的混合阶段，有时是人类驾驶，有时是 AI 驾驶。但 15-20 年后，AI 在物理世界的影响，尤其是在避免交通事故死亡方面的影响将是巨大的。我们希望在这个转型中发挥重要作用。
主持人：达里奥，达拉刚才说“15-20 年”。但作为 AI 模型开发商，你似乎认为变革来得更快。大家都同意 AI 正在到来，事物将发生改变，但当其他人谈论年计的变化时，你说的是月计；当他们谈论几十年的变化时，你说的是几年。世界将在多快的时间内发生翻天覆地的变化？
达里奥·阿莫代（Anthropic CEO）：AI 与之前的技术革命最大的区别就在于它的发展速度。我在这个领域工作了 10 年，一直在观察这条发展曲线。我和 Anthropic 的联合创始人是最早记录 Scaling Law 的人之一（Anthropic 的创始人是从 OpenAI 出走的），我们发现：当你在算法稍作调整的情况下向这些模型投入更多算力时，它们在认知能力方面会快速提升。
指数增长开始时很慢，但很快就会加速。在过去 3-6 个月，我更加确信我们正在朝着这个方向前进：AI 系统在几乎所有任务上都将超越几乎所有人类。根据我们观察到的一些现象，比如模型在数学、编程和生物学等领域已经达到博士生水平，我估计到 2026 年或 2027 年，我们将拥有在几乎所有领域都普遍优于人类的 AI 系统。
这种 AI 的应用潜力是巨大的，从军事应用到工作场所，从自动驾驶汽车到生物学和健康领域——这是与我特别相关的领域，因为我曾是一名生物学家。我认为这可能是能为人类福祉带来最大改善的领域之一。关于自动驾驶汽车的较长时间线，我认为在积极应用方面最大的制约因素是物理世界和人类制度的限制。
我写过一篇关于这个转变的文章。如果这真的发生了，我们会受到什么限制？我在文章中使用了“智能的边际收益”这个术语。经济学家谈论资本、劳动力、土地的边际收益，但我们还不习惯思考这样一个问题：如果我们在数据中心拥有数百万个比人类更聪明的智能体，会怎样？我称之为“数据中心里的天才之国”。
这些智能体能立即解决世界上所有的问题吗？我认为不会。比如，自动驾驶汽车仍然面临困难。我们将受到物理世界、部署周期，通常还有法律的限制。
以制药为例，我们仍然需要进行临床试验，仍然要遵循物理学和生物学规律，但 AI 系统会带来改变：原本需要后期临床试验的可能变成早期临床试验，原本需要早期临床试验的可能变成体外试验，越来越多的内容可以通过模拟完成。如果要我猜测——这并不是一个精确的科学——我认为我们可能在 5-10 年内在生物学等领域取得相当于100年的进展。如果你考虑人类在生物学领域 100 年能实现什么，人类寿命翻倍并非天方夜谭。如果 AI 能加速这个过程，我们可能在 5-10 年内就能实现这一目标。
在 Anthropic，我们正在思考实现这一愿景的第一步。如果说我们距离这些能够改变世界的技术还有 2-3 年，那么我们现在的思路是：所有这些都描述了工作场所的生产力，即使是在疾病治愈等高端领域。
因此，我们正在开发一种称为“虚拟协作者”的系统。这是这种技术的早期版本，也许还不如诺贝尔奖得主聪明，但能够在工作场所完成相对高端的任务，能够打开 Google Docs，使用 Slack，与同事互动完成持续数小时到数天的任务。就像经理偶尔检查员工工作一样，你只需要时不时查看它。正如马克所说：“这将是最后一代只管理人类的 CEO。”我们正在努力让这成为现实。
达拉·科斯罗萨西（优步 CEO）：我想补充一点关于 AI 应用的问题，那就是错误的代价。人性本身就包含缺陷，我们接受人类会犯错。就拿道路事故来说，对于某些 AI 应用，尤其是国防领域或涉及物理世界的应用，一个关键问题是：“AI 需要比人类好多少才够？是比人类好 10 倍就够了吗？还是要好 20 倍？”比如 Waymo 的安全统计数据，露丝，我想请问目前 Waymo 比人类驾驶员安全多少倍？
露丝·波拉特（Google 副总裁）：显著更安全，但你说得对，这确实是个问题。
AI 是所有想法的加速器
主持人：确实，社会反应非常强烈。我们已经看到，尽管自动驾驶汽车明显更安全，但仍然面临巨大争议。问题是，随着更多技术的出现，社会会改变吗？会有反弹吗？艾伯特，让我问您这个问题：达拉说的是打造更安全的技术却面临反弹。您开发了可能是世界上最好的产品，可能救了在座很多人的命，却遭遇了大规模反弹。从这个经历中，您学到了什么经验可以帮助那些在未来几年推出新技术的人？
艾伯特·布尔拉（辉瑞 CEO）：我想您说的是疫苗。但那不是大规模反弹，而是约 10-20% 的人的反对。同时，我们也收到了 80% 的人的感激，因为他们觉得正是因为我们，他们的父母才得以存活。所以让我们实事求是地看待这个问题：某些声音在社交媒体上被放大，并不意味着这就是主流声音。
但您举的例子很好，因为 AI 也将面临同样的问题，而且可能是 AI 机器本身会给 AI 制造麻烦。它们会传播关于 AI 的错误信息。为什么？因为这是一个非常强大的工具。任何强大的工具在好人手中都能成就伟大的事，在坏人手中却可能作恶。正如你提到的，AI 犯的每一个错误都会被无限放大，而人们却忽视了人类犯的错误更多，也忽视了我们已经获得的巨大收益。
主持人：露丝，让我问您一个与此相关的重大问题。在 AI 领域，我一直在记录一些人们意见不一的未解问题，其中最让我感兴趣的是：AI 是会让世界更平等还是更不平等？我的观点是，技术确实让世界变得不平等——虽然提升了所有人的生活水平，但顶端的人获益更多。您认为 AI 会如何影响这个问题？它会如一些研究显示的那样缩小收入差距，还是会像其他研究预测的那样加剧不平等？
露丝·波拉特（Google 副总裁）：这是一个极其关键的问题，也是我们非常关注的焦点。我认为有巨大的上升空间可以积极应对这个问题，但我们也需要关注执行过程中的风险。
让我们为什么感到兴奋？因为 AI 在医疗、教育和经济方面都有巨大潜力。我们已经谈到了医疗，让我再详细说明一下。通过 AlphaFold，德米斯和他的团队预测出了地球上全部 2 亿种蛋白质的结构，这些是生命的基本构建块。这就是为什么它能加速药物研发。他们后来开源了这项技术，现在全球 190 个国家的 250 万科学家都可以利用这一突破性成果进行药物研发。
更直接回答您的问题：疾病的早期诊断。这对生存至关重要。对我来说这很私人化，因为我自己经历过两次癌症，我很幸运能在世界最好的医院之一——纪念斯隆凯特林癌症中心得到早期诊断。不是每个人都有这样的机会。在美国，40% 的人一生中会被诊断出癌症。在全球范围内，还有其他疾病在癌症之前就夺走人们的生命。
多年前，Google 就开发出了利用 AI 进行转移性癌症早期诊断的技术，从乳腺癌开始，后来扩展到肺癌。我的肿瘤医生说，AI 是实现医疗民主化的唯一途径，因为这意味着任何地方的任何人都能获得与我一样的高质量早期诊断。我们现在已经在使用 Google AI 进行结核病的早期诊断。由于发生在全球南方或美国贫困社区，30-40% 的结核病病例未被诊断。这不是未来的机会，而是现在就在发生的事情。还有糖尿病性视网膜病变，这是由糖尿病导致的失明。
从这个角度看，AI 确实有机会解决不平等问题。教育领域也很令人兴奋。在非洲，平均年龄是 19 岁，一位部长告诉我：“我们人口的一半都在 19 岁以下，我们没有足够的老师。如果你无法教育好孩子，就无法解决机会差距。”我从小就被父母教导：“教育是通向自由的护照。”我们坚信这一点。通过 AI，我们可以为教师提供支持，也让学生能够通过 AI 学习，这是非常了不起的。
但执行过程中也存在挑战。我谈到了癌症早期诊断，但这只是更广泛生态系统的一部分。在某些地方，这可能是一个均衡器。在美国，如果你有一位医生，那么通过 AI 辅助诊断，你就能去其他地方接受化疗和放疗。但这在世界上很多地方并非如此，我们需要发展完整的生态系统。另一个更关键的问题是，地球上三分之一的人口仍然没有联网，无法接触到我们今天谈论的这些神奇技术。
再谈经济影响。经济效益是巨大的，估计在数万亿美元级别。但研究执行细节才是我们真正关注的。MIT 和斯坦福的经济学家的数据显示，劳动力市场的新进入者和低技能工作者可能会获益最多，因为他们身边会有一个导师。这是积极的一面。历史表明，技术转型创造的工作岗位比消除的更多，这是好消息。但当你的工作是被消除的那一个时，情况就会很快变得非常极端。因此我们和许多其他机构一样，在做大量工作培训劳动力，帮助人们为新的工作做好准备。确实有许多非凡的工作岗位正在产生，但我们不能认为这是理所当然的。
最后一点，我在全球各地旅行时，听到的全球领导人的声音是：他们希望自己的国家能够参与数字化转型，因为他们看到了这些上升空间——经济潜力、医疗、教育、农业等方面的潜力。这就是我们试图做的：确保以正确的方式在全球范围内建立伙伴关系。但执行确实是关键。正如今天的一些评论所说，机遇是如此深远，我们需要共同确保降低负面影响。我们不能错过这个机会。
主持人：这是一个非常乐观的讨论。让我试着转换一下氛围。马克，让我问问您所关注的一个可能进展不太顺利的领域：气候变化。最近一段时间，美国退出了巴黎协定，冻结了一些气候投资支出。事实上，我们似乎正在把资金从气候领域转向加密货币，这可能不是能源资源的最佳用途。所有这些 AI 热潮都非常耗能。在这个我们已经面临诸多困难的重要问题上，我们是不是走错了方向？
马克·贝尼奥夫（Salesforce CEO）：这确实是讨论的一个重大转向。我们刚才听到了关于无限劳动力的巨大好处，讨论了 AI 如何成为我们的伙伴来帮助我们运营生活和企业，如何帮助我们在减少人力的同时实现新的生产力水平。但你说得对，我们必须记住，我们的世界正在变暖。造成变暖的原因是大气中的碳含量增加。
第一次工业革命通过各种人类活动向环境释放了约 200 亿吨碳。但这不是我们最大的担忧。我们最大的担忧是森林砍伐。地球曾经有 6 万亿棵树，现在超过一半已经消失。每损失 1 万亿棵树，就意味着释放 200 亿吨碳储量。想象一下，通过森林砍伐，我们释放的碳相当于三次工业革命的总量。
5 年前，也就是 2020 年，特朗普总统在世界经济论坛上宣布了“万亿树木计划”。我们的愿景是在地球上重新种植 1 万亿棵树，以封存 200 亿吨碳。在这 1 万亿棵树中，我们现在已经获得了 2000 亿棵的承诺，此外还有中国承诺的种植 700 亿棵树。就在前段时间，刚果总统宣布将建立世界上最大的森林保护区，作为“万亿树木计划”的一部分。
如果我们想让地球变得凉爽一些，抵消工业化带来的影响，没有什么比重新造林更重要。其次，我们也看到海洋正在变暖。我们刚经历了连续两年的厄尔尼诺现象。我在这里听到一些来自世界各地的报告，在过去 6 个月里，我们看到珊瑚白化现象出现在以前从未出现过的区域。
无论是珊瑚白化、过度捕捞，还是创建更多的海洋保护区，实现到 2030 年保护 30% 海洋的愿景，以及清除海洋中的塑料，我们都面临挑战。我们正在迎来联合国公海条约，这可能是联合国今年能做的最重要的事情之一。第二个是联合国塑料条约。我们必须清除海洋中的塑料。这些都可以成为环境领域乐观的理由，而 AI 是所有这些想法的加速器。
主持人：所以总的来说，您认为 AI 的积极作用，比如帮助我们模拟海洋中的塑料流动并找出更有效的清除方法，可能建造碳捕捉系统，是否会大于它巨大的能源消耗成本？
马克·贝尼奥夫（Salesforce CEO）：总的来说，我认为在清除海洋塑料方面，最乐观的是确保塑料不进入海洋。随着 AI 的发展，机器人技术也有了进步。比如马克的荷兰同事博扬·斯拉特开发的机器人，可以在亚洲或南美洲的关键河流地区阻止塑料进入海洋。这在 10 年前是不可能的。
现在我们看到可以从海洋中清除数百万、数亿、数十亿吨的塑料，但我们也必须阻止更多塑料进入海洋。我们在世界经济论坛上还宣布了一项塑料计划：如何发展生物塑料？海洋中的塑料就像我们这个时代的核废料，它会存在很长时间。我们已经看到塑料进入浮游生物，我们知道鱼类会吃这些浮游生物，摄入塑料，然后通过食物链最终进入我们的身体。我不认为任何人都希望这种情况发生。我不想详细说明，因为这会打消我们对人类健康的乐观态度。但我们希望有一个更健康的食物链，让塑料远离我们的食物链是非常重要的。
杨立昆：统治欲望源于生存需求，AI 不会有这种想法
库兹韦尔：科技每年为人类加一岁寿命，2032 实现倒流
施密特：AI 今年会获得永久记忆，2028 美国耗尽能源储备
IBM：现代语言是为人类设计的，AI 需要汇编这种原生语言
年度盘点：99% 不懂 AI 的人和剩下 1 % 产生了鸿沟
奥特曼：很快搞定核聚变，第一批智能体在今年开始劳动
黄仁勋：英伟达引领机器人行业革命，未来人人都能有超算
罗素：AGI 让地球上所有人达到西方中产阶级的生活水平
马斯克：三年造 50 万机器人，让金钱彻底失去意义
扎克伯格：今年 AI 将能替代中级工程师
（文：AI科技大本营）