图片来源：Silicon Valletta
Z Highlights
-
AI推动进攻性安全革新：XBOW的使命是通过自动化渗透测试，全面革新企业的安全防护方式。凭借其AI系统，漏洞发现率达到85%，不仅与顶级人类渗透测试员表现相当，还显著缩短了任务完成时间（28分钟vs40小时）。这一技术革新将传统的年度安全测试转变为实时、持续的安全监控，确保企业能够快速响应复杂的网络威胁。
-
AI技术的多维度突破：人工智能正以类人逻辑的创造性，为网络安全领域带来颠覆性改变。XBOW的AI不仅能够自主识别复杂漏洞，还利用“安全防护栏”确保系统测试安全性。通过结合大规模语言模型（LLM）和专有工具的力量，XBOW实现了AI在网络安全中的高效应用，极大提升了测试效率和结果准确性。
-
重新定义服务模式的创新：XBOW通过“服务即软件”（Service as Software）的模式，推动了渗透测试市场的转型。其创新的“攻击时长”定价策略使得安全服务不仅更加灵活，还为客户提供了高性价比的解决方案。这种定价模式不仅提升了企业的安全能力，也为AI应用于其他服务密集型领域树立了标杆。
AI 时代的安全挑战与机会
Konstantine Buhler(主持人)：因为我们现在有了AI代码生成技术，每个人都可以生成代码，但并非每个人都了解安全性。而生成代码的模型是基于所有公开的源代码进行训练的，而这些公开源代码中存在大量的漏洞。因此，我们生成了更多带有安全问题的代码。另一方面，攻击者已经在利用AI提高自己的效率。这就导致了更多的代码、更频繁的攻击，从而让XBOW所做的自动化变得至关重要。
今天，我们很高兴欢迎Oege de Moor，他是XBOW的创始人兼CEO。作为GitHub Copilot的创建者，他推动了现代AI的边界。在GitHub收购了他上一家初创公司Sul之前，他曾是牛津大学的计算机科学教授。他的新公司XBOW是今年最令人兴奋的AI原生公司之一，能够用AI渗透测试工具自动化进攻性安全工作。这是我们见过的最优秀的AI即服务（AI as a Service）案例之一。我们很期待与他探讨XBOW的突破性成果以及AI的未来发展方向。
XBOW现在已经达到了全球顶级黑客的能力。这是否意味着这是第一个被AI完全颠覆的行业？
Oege：绝对是。这将完全改变企业实施应用安全的方式。实际上，这是服务即软件（Service as Software）的一个典型例子，人们将能够用完全自动化替代大量常规的人类工作，从而解放人类去做真正富有创造性的工作。
突破性成果：AI渗透测试达到顶尖水平
Konstantine：Oege，能和我们分享一些你们最近宣布的成果吗？它们非常震撼。
Oege：好的。当我们首次构建产品的第一个版本时，我们决定在一些知名的行业基准上测试它。这些基准是人类黑客用来提升技能的挑战题目。我们从PortSwigger和Pentland在内的多个商业供应商那里获得了这些基准。在这些基准测试中，我们的产品得分为75%，这已经是非常惊人的成绩了。事实上，我最初的反应是：这里面肯定出了什么问题。
后来我们意识到，可能这些漏洞非常知名，因此可能出现在了训练数据中，模型只是简单地重复了这些知识。所以我们创建了一组全新的基准题目，完全原创，确保它们未出现在任何训练数据中。而在这套题目中，产品的得分甚至更高，达到了85%。
这听起来令人惊叹。那么问题来了：这个分数到底有多厉害？为了回答这个问题，我们邀请了来自知名公司的五位专业渗透测试人员，请他们尝试解决同样的一组挑战题目。其中一人是行业顶尖的渗透测试员，那种会被邀请去保护数十亿美元对冲基金安全的人。而他的得分和AI一样。但人类用了40小时，AI只用了28分钟。
Konstantine：这真的很震撼。最初和你们合作时，我们并不知道AI是否能够在性能上接近人类渗透测试员。当时你打电话告诉我，说你们有一些让我大吃一惊的结果时，我确实被惊艳到了。今年1月或2月的时候，你对AI是否能达到这些拥有20年经验的渗透测试专家的水平有什么预期？
Oege：当时我不认为能够这么快实现这一点。我以为至少需要一年时间才能达到一个合理的熟练程度。而即便如此，我也只是预计它能达到一个中等水平的渗透测试员的水平，完全没想到能达到行业顶尖的水准。
事实上，自我们宣布这些成果以来，我们与许多早期设计合作伙伴密切合作。其中之一在今天早上，我们发现了一个非常严重的漏洞，非常令人惊讶。
这个漏洞的工作方式是，AI先爬取了一个Web应用，然后发现了一段用PH 编写的源代码。该源代码的目的是访问另一台主机，但它使用了不安全的签名算法来建立连接。因此，XBOW能够获取到另一台主机的访问权限，生成链接并成功访问。不过，在那里没发现什么有趣的东西。
于是，AI继续爬取Web应用，找到了另一个端点，并尝试用之前的办法操作，发现需要另一个参数。没问题，它又爬取了一些JavaScript编写的源代码，发现了一些可能的参数，尝试后找到了一个能用的参数。这使得它能够访问另一个端点。深入探索后发现，这个端点是用来下载PDF文件的。但不仅可以下载PDF文件，还可以下载密码文件。
这个例子特别有趣，因为AI的探索方式非常类似于人类的渗透测试员。它采取了一些非常有创意的路径，这对于大多数人类专家来说都是很难做到的。
Sonya：总结一下你刚刚说的内容：这是一家非常知名的金融机构，几乎所有观看这个播客的人都听说过。AI能够发现一个非常高级的漏洞，而这家机构雇佣了人类渗透测试员长期进行安全测试，也有巨额的安全预算。AI却能找到一整个密码文件。
Oege：没错，这正是今天早上的发现。而且，我们每天都会有类似的发现。
XBOW的技术创新与独特性
Sonya：哇，祝贺你们取得的成果！也许我们可以稍微退一步，向那些对这个市场不太熟悉的观众解释一下。我听到你和 Konstantine 在讨论渗透测试（pentesting），他甚至称它为“黑客”。我不知道这两个词是否是一个意思。进攻性安全市场究竟是什么？你们的目标市场又是如何定义的？XBOW是什么？
Oege：感谢你的提问。进攻性安全（Offensive Security）目前是保护系统最有效的方式。企业会邀请外部专家来模拟对系统的攻击，并将发现的问题反馈给企业，以便在真正的攻击者发现这些漏洞之前进行修复。
这是一项需要高度专业技能的工作，通常需要从业人员经过多年的培训才能胜任。而且它非常昂贵且耗时。一次所谓的渗透测试（penetration test）的平均成本大约为 118,000 美元。由于费用高昂且耗时，企业通常每年只会做一到两次渗透测试。
然而，这样的频率其实并不合理，因为系统的变化速度远远快于渗透测试的频率，这就导致系统会在某些时间段内存在安全隐患。XBOW的解决方案是将这一过程自动化，通过模拟攻击来寻找漏洞。因为是自动化的，渗透测试可以变得持续进行，而不仅仅是每年进行一两次。
Sonya（主持人）：是什么吸引你进入这个市场？Konstantine提到了你创办Semmle和GitHub Copilot的背景。相比那些进入AI编程领域的团队，你为什么选择这种进攻性安全的方向？这个领域看起来更独特。
Oege：这其实是一个自然的选择。我的上一家公司Semmle专注于通过分析源代码来发现其中的安全漏洞。当时，Semmle有一个进攻性安全团队，他们会使用我们的产品寻找潜在漏洞，接着我们的安全研究人员会发现这些漏洞的利用方式，并将这些发现公之于众。
但即便是在那个时候，最后一步（发现漏洞的利用方式）是完全手动完成的，这让我觉得有些不合时宜。在GitHub 收购了Semmle后，我有机会启动了Copilot项目，这让我对AI产生了新的兴趣。所以，结合我的安全背景和AI兴趣，尝试将AI应用到进攻性安全自动化上，成为了一个很自然的选择。
我们也很幸运，Semmle的明星研究员之一Niko Bissmann加入了我，共同创立了XBOW。
Sonya：XBOW是一个非常有趣的案例，展示了AI如何改变过去那些看似没那么重要的市场。AI正在极大地扩展并改变这些市场的性质。渗透测试市场相较于终端安全或网络安全来说，规模较小，而且是一个服务密集型市场。你认为AI将如何改变这个市场的性质？
Oege：首先，渗透测试市场之所以小，是因为它依赖于一小部分拥有高度专业技能的人。AI将从几个方面根本性地改变这个市场。
由于AI代码生成的普及，每个人都可以创建代码，但并非每个人都懂得安全。而这些生成模型是基于所有公开的源代码训练的，这些代码中存在大量漏洞。因此，AI生成了更多带有安全问题的代码。
攻击者也已经在利用AI来提高自己的效率。我们现在面临更大的威胁——更多代码、更多攻击。
这使得XBOW的自动化变得至关重要。我相信这个市场会因此大幅增长。
Konstantine：可以用战争对抗的概念来类比。网络安全是一场对抗性的游戏，双方通过不断改进装备来对抗，就像猫捉老鼠一样。正如军事上的战争游戏和红队演习一样，网络安全也具有国家级重要性。
你们打造的其实是第一个AI网络战士，它能做一些之前的软件从未做到的事情。当你们发布成果时，包括美国首都华盛顿的许多人都对此感到震惊。这不仅对商业竞争有影响，对国家之间的竞争（如国家级对手）也同样重要。我的问题是：我们如何在这种竞争中保持领先？特别是面对国家级的竞争而非商业竞争，我们如何确保XBOW成为这场网络安全对抗中推动善意的一股力量？
Oege：首先，我们需要保持快速行动。XBOW非常幸运能够与几位领先的大型基础模型（Foundation Model）开发者合作，他们的技术领先于全球其他团队。
其次，我们非常谨慎，尤其是针对潜在的危险用户。因此，我们决定仅通过云端提供服务，而不以任何可下载的形式提供软件。这样，我们可以控制技术的使用范围，确保客户只能对其合法拥有的资产进行测试，而不会用于攻击其他人。
Sonya：太棒了，“AI安全战士”，Konstantine你可能是XBOW的新首席营销官了！（笑）能不能跟我们讲讲产品的具体运作方式？模型是如何工作的？你提到和一些大型基础模型公司合作，技术的“魔力”是来自基础模型本身，还是更多在你们的上层开发？
Oege：大部分的魔力实际上来自我们在其上开发的内容。我们与几家基础模型提供商合作，他们竞争激烈，轮流领先。每当基础模型变得更好时，我们也会因此受益。但真正的魔力来自于XBOW的安全团队。我们拥有世界上最优秀的黑客之一，他们的专业知识决定了我们产品的运作方式。
Konstantine：能否详细说一下具体如何实现的？比如说，你们是否依赖提示工程（Prompt Engineering）？有没有对模型进行微调？如果涉及机密，也可以只说高层次的设计思路。
Oege：当然可以。我之前已经谈到了我们用来评估产品的这些基准测试（benchmarks），这对于我们的产品至关重要。基准测试是公司和产品的生命线，尤其对于像我们这样的技术产品。
我们将这些基准测试组织成一套课程体系，用于训练模型更好地解决网络安全问题。同时，这些基准测试也被用来评估我们所做的所有其他改进。
我们专有技术的另一个重要组成部分是为LLM（大型语言模型）提供的工具，帮助它们轻松地执行攻击任务。人类渗透测试员拥有一套工具箱，里面有很多工具来支持他们进行攻击。而对于我们来说，这一点有些特殊，因为我们需要这些工具能够和LLM无缝协作。
例如，由于我们最初专注于网络安全，我们需要一个由LLM驱动的网页浏览器，能够点击页面、填写表单等。因此，我们专门开发了一个特殊的浏览器来执行这些操作。
第三点也非常重要：我们需要安全防护。当我们第一次尝试在基准测试上运行产品时，给我的感觉就像是一个过度兴奋的“超级聪明的青少年”。它会进行大量攻击，当发现了某个漏洞时，它会非常激动地说：“我发现了一个SQL注入！让我展示一下，删除数据表吧！” 但这在真实客户环境中是灾难性的，因为渗透测试服务的一个核心原则是绝不能实际造成损害，与真正的黑客攻击不同。因此，我们建立了“安全防护栏”（guard rails），就像是监护人一样，在旁边仔细监控这个“聪明的青少年”，并在它做出不安全行为时及时阻止。
此外，攻击的初始阶段需要进行攻击面发现（attack surface discovery）。我们有一套强大的漏洞利用查找器，但首先需要指向正确的端点（endpoint）来发起攻击。因此，这一过程需要运行一系列工具，并对目标进行优先级排序。最后，当然还有提示工程（prompt engineering），包括多步提示（tree-of-thought prompting）等方法，确保 LLM 按照正确的轨迹执行任务，完成一个目标后再进入下一个目标。
Konstantine：你将这项技术描述成一个“聪明但过于激动的青少年”，有时会不小心删除数据表。在某些地区，某些参与者并不会像你们一样添加这些“安全防护栏”。面对这样的对手，我们如何保持领先，并确保XBOW成为网络安全对抗中一股推动善意的力量？
Oege：我们必须具备所有显而易见的安全措施，比如防火墙等技术。AI在这里也会发挥重要作用。但最关键的是，我们必须在坏人之前发现漏洞和利用方式。这正是XBOW的核心使命。
Sonya：如何处理LLM的幻觉问题（hallucinations）呢？我听说有些人觉得，如果LLM的准确率达到50%-60%，那就可以接受了。但在安全领域，这样的准确率显然是不够的。你们是如何应对LLM的随机性和不可预测性的？
Oege：幸运的是，由于我们的流程是自动化的，所以只需要反复运行它多次即可。回到你之前关于基础模型的问题：我们观察到，随着基础模型变得越来越好，我们需要尝试的次数也越来越少，发现漏洞的效率也越来越高。这是非常有趣的现象。
定价与商业模式：服务即软件（Service as a Software）
Sonya：这将如何影响你们的产品部署、定价和打包方式？
Oege：这非常类似于人类提供的渗透测试服务。如果你雇佣一个人来为你提供这项服务，你需要按时间付费，支付他们尝试的次数和时间。因此，我们也在考虑采用类似的方式：
一方面，我们会提供订阅式的许可证。
另一方面，客户还可以根据需要购买攻击时长（attack hours）。如果客户希望进行非常彻底的测试，确保发现所有问题，他们可以支付额外费用，这也会支付我们这边的计算资源成本。
Konstantine：我对定价和打包方式非常好奇，稍后我们可以深入探讨一下。你们是“服务即软件”（Service as Software）的先行者之一，这对于行业的定价模式是一个全新的尝试。但在我们讨论这个之前，你提到了推理时间和计算资源成本。随着更多的计算资源从预训练阶段向推理阶段逐渐转移，你认为这会对你们的市场产生什么影响？
Oege：对我们来说，这只会是件好事。我们提供的价值保持不变，但提供这些价值的成本在下降。即使在XBOW 存在的这段非常短的时间里，我们已经看到了这一趋势，并且我们预计这种趋势将会继续下去。
Konstantine：回到LLM的概率性本质。我的思维模型是这样的：你有一个包含数十亿种可能状态的“状态空间”，这些状态包括黑客可以采取的行动，以及这个AI渗透测试工具可以采取的行动。你引入了一种非常智能的启发式方法，来决定前进的方向。
在理论上，如果有无限的计算资源和无限的时间，你可以永久地执行所有可能的状态。但现实中你会受到资源的约束。我想知道，这是不是为什么渗透测试市场可能成为第一个实现全面AI自动化的市场？因为即便你找到一个漏洞，它的价值已经极高了，你也没有对完全穷尽搜索的期待？
Oege：确实如此。客户的期望是，我们能够发现一名高技能人类渗透测试员可以找到的所有漏洞。这也是为什么我们已经用完了最初的一组基准测试，现在正在创建一组新的基准测试，确保我们能够找到所有可能的漏洞。
人们进行这种进攻性安全测试，不仅是为了找到漏洞，也是为了获得一种安心感，知道他们的系统不会轻易被发现未知的问题。因此，我们需要向客户提供证据，证明我们可以找到所有一个熟练的人类专家会发现的漏洞。
Konstantine：当漏洞被发现时，是由机器还是人类进行验证？
Oege：我们有一个自动验证器，用来确保报告的正确性和可复现性，然后才会交给人类。但最终，人类还是需要审查并修复这个问题。
Konstantine：明白了。那我们深入探讨一下你们目前取得的成果吧。你提到，你们在当前的基准测试中达到了 85% 的水平，达到了全球最优秀人类渗透测试员的水准。在分析这些结果的过程中，最让你感到惊讶的是什么？
Oege：最让我惊讶的是，我们最初的基准测试带有特定指令，比如：“你要测试一个用于管理医疗处方的Web应用，请尝试登录并访问其他用户的处方信息。” 结果AI成功地完成了这个任务。
后来，我们尝试了另一个任务：完全取消了指令，只告诉AI：“这是一个 Web 应用，请去探索。” 结果AI依然找到了完全相同的漏洞！它能够阅读网页上的内容，自主理解：“哦，这个应用是关于医疗处方的，允许一个用户访问其他用户的处方信息可能不太合适。” 然后它就完全自主地找到了这个漏洞。
这正是这项技术如此令人兴奋的原因之一。与之前所有的安全工具不同，这些LLM 拥有对现实世界的理解，能够判断出什么是重要的，从而决定要去测试哪些方面。它不需要穷尽所有可能的状态，而是能够根据实际情况做出合理的决策。
未来展望：XBOW 的技术与市场影响
Sonya：这真的太酷了！那么AI系统在发现漏洞时的方式与人类渗透测试员有什么不同？我想到了AlphaGo的“move 37”，它的思考路径与人类完全不同。那么你们的模型在做什么？
Oege：目前来看，AI的行为非常类似于人类渗透测试员。它做的事情和人类专家非常接近，但我完全同意，我们必须谨慎看待这一点。就像 Rich Sutton 提出的“苦涩的教训”（Bitter Lesson）一样，随着模型在数据和基准测试上不断学习，它最终会发现一些人类无法想象的攻击手法。
Sonya：但这不是一件好事吗？
Oege：是的，这绝对是好事。我只是想说，现在当审查AI的执行轨迹时，它的行为完全符合我们对人类专家的预期。但我完全期待，在几个月或几年内，AI会超越人类的能力。
Konstantine：你认为接下来最大的改进空间在哪里？AI的“推理能力”是否是下一个主要突破的领域？
Oege：是的，推理能力的提升是一个重要方向。但更大的改进会来自于更多的数据，以及在特定示例上进行强化学习（Reinforcement Learning)。这种改进的路径类似于 AlphaGo。
Konstantine：那么如何获取更多数据？是通过运行更多的模拟吗？我想你们已经用尽了大部分现有的数据吧？
Oege：有几种方法。我们有许多外部安全专家为我们创建新的基准测试。
另外，我们开始尝试开源挖掘，比如让模型在 DockerHub 上的大量镜像上自由运行。每当它找到一个新的漏洞或安全问题，这就成为它下一步学习的新数据。比如说，在一次测试中，它可能需要进行 100 次尝试才能找到一个漏洞。在实际客户环境中，这显然是行不通的，因为攻击次数太多会触发安全警报。但由于我们在开源环境中运行这些测试，我们可以自由地尝试数百次，获得新数据，从而让模型学会更快、更高效地发现漏洞。
Sonya：你提到了DockerHub和开源项目，这让我想起了GitHub。你作为GitHub Copilot的创始人之一，这款AI工具已经成为全球最广泛使用的AI应用之一。在开发Copilot时，是否有一个时刻让你意识到，AI会变得如此强大，以至于可以自动化整个流程，甚至变成我们现在所谓的“AI代理”（AI Agents）？
Oege：事实上，我在2020年12月写过一份备忘录，勾勒出后来成为Copilot的雏形。在那时，我们就已经猜测，AI可能最终能够自主修复错误，比如根据一个问题单就能提出修复方案。现在我们已经看到这种功能正在逐渐实现。
我真正意识到这一点的时刻是，我用一些编程面试问题来测试AI。如果让它只尝试一次，它通常无法成功；但如果给它100次甚至1000次尝试，它几乎可以解决大部分问题。那时我就明白，随着模型的能力提升，尝试次数减少，这类任务会变得完全可行。而安全分析则是我们一直希望AI能够实现的目标之一。
Konstantine：你从GitHub Copilot的产品化过程中学到了什么经验，可以应用到XBOW？
Oege：GitHub Copilot最有趣的一点是，它是由一个非常小的团队完成的。当我们发布时，团队只有大约10个人。这证明了，如果有一支充满信念的团队，执行力可以极其迅速。而XBOW发布测试结果时，我们有13个人，相比之下已经算是“大团队”了（笑）。
Konstantine：你作为Copilot的早期缔造者，如何看待当前市场上涌现出的众多代码生成AI初创公司？这个赛道竞争激烈，有人能击败GitHub这样拥有巨大分发优势的巨头吗？
Oege：我非常欣赏一些初创公司的工作，比如Cursor和Codeium。但与GitHub这样拥有庞大用户基础的巨头竞争是非常困难的。不过，可能还有机会开辟新的市场，比如面向非专业开发者的工具。GitHub已经主宰了专业开发者市场，而像Replit这样的公司就在这方面做得很好。
Konstantine：你认为未来编程会如何演变？你提到非专业开发者市场会变得更大，那么整个编程生态会如何变化？
Oege：最大的变化是，更多人将能够创建自己的软件。这将是一个巨大的转变。即使对于专业开发者，工作重心也会变成构思概念、设计架构，而AI将负责填充细节。
从长远来看，我们可能会摆脱传统代码的形式。开发者交付的成果将是与AI的对话记录，因为这才是代码的核心意图，而非具体的编程语言实现。最终，自然语言（例如英语）将成为新的编程语言，辅以图表或其他辅助形式。
Konstantine：如果你做真正的基础性研究，牛津大学可能是最适合的地方。但一旦你开始做应用型工作，就没有任何地方能比得上创业公司了！我喜欢这个说法。那么，从商业角度来说，XBOW如何实现盈利？作为首批AI代理驱动、服务即软件（Service as a Software）的公司之一，你们正在为这种新型应用的定价和打包方式开创先例。你能详细谈谈你们的思考方式吗？
Oege：我们的目标是让我们的产品持续运行，作为工程流程的一部分。这正是我们的主要价值主张：与其每年进行一到两次渗透测试，不如在每次变更后立即运行安全测试，及时修复问题，防止它们进入生产环境。
从这个角度来看，最显而易见的定价模式是基于工程团队的规模，类似于GitHub或GitHub Advanced Security的定价模式。不过，还有另一个我们之前也提到过的维度，一些客户希望进行超级彻底的测试，确保他们消除所有可能被利用的漏洞。为了服务这样的客户，我们需要一个服务组件的定价模式。
我们称之为攻击时长（attack hours）：
基础许可证是按团队规模定价的，包含一定的攻击时长，足够覆盖常规测试。
如果客户需要更深入、更彻底的测试，他们可以支付额外费用，购买更多的攻击时长。
Konstantine：这非常有趣！你们在采用类似服务定价的模式，但在后台却拥有软件的利润率。
Oege：没错，企业软件正在逐步转向基于消耗的定价模式。而在我们的案例中，攻击时长与客户获得的价值之间存在直接关联。这种关联对定价模式至关重要。
Sonya：你之前提到，XBOW的创建不仅仅是商业机会，你还说“我们必须要做这件事”。能不能再展开讲讲？
Oege：是的，我们必须要创建XBOW。因为如果我们不做，坏人就会先一步做到这一点。这项技术的出现是必然的，我们的任务是确保它被用于保护自由世界的软件，而不是被那些试图破坏它的人所利用。
我们做这件事，当然是因为它有趣，也因为这是一个巨大的商业机会。但更重要的是，这是一项使命。
Sonya：你和你的团队进展非常快。那么未来一年，我们能期待XBOW在产品、技术和能力方面达到怎样的水平？
Oege：（笑）你是要在下一次董事会上重播这段话吧？目前，我们正与一小部分早期设计合作伙伴谨慎地试验产品。这是因为我们的产品还需要人类监督，就像我们之前讨论过的那个“超级聪明的青少年”，我们需要确保它的行为安全可控。
一旦我们越过这个阶段，确保产品可以无监督地运行，事情就会发展得非常快。部分原因在于，这类产品的部署非常简单。你只需将它指向现有的服务器，就能立刻发现漏洞。
所以，我预计到明年夏天，我们将在网络安全领域取得重大进展，不仅在开源项目上有所表现，还包括像 HackerOne这样的漏洞披露平台。
Konstantine：这真是我最喜欢的访谈之一！让我们来个快速问答，结束这个精彩的对话吧！
快问快答
Konstantine：你最喜欢的创业公司（除了XBOW）？
Oege：我很喜欢Suno，你只需输入几个词，它就能生成一首完全原创的歌曲，这种体验让我觉得很震撼。还有 Harmonic，它将AI应用于数学推理领域。
Konstantine：你有为安全和编程写过Suno的歌吗？
Oege：还没有，不过我给我妻子做了一首关于我们坐在阳台上的甜美歌曲（笑）。
Konstantine：AI在短期、中期和长期内，将如何颠覆其他市场？
Oege：短期内，客户支持领域会受到显著影响，这已经在发生了。中期来看，AI可以解决社交媒体上的许多问题，比如那些影响全球儿童心理健康的问题。长期来看，健康和生物学领域将迎来最大的变革和突破。
Konstantine：你对其他创业者有什么建议？
Oege：专注于一件事，尽可能快地行动。只要做到这两点，其他一切都会水到渠成。
Konstantine：最后一个问题，让我们以乐观的视角结束。你认为未来十年，AI最好的发展方向是什么？
Oege：我之前提到过，健康和生物学领域的机会。AI有潜力显著改善全球的健康水平和医疗成果。Dario Amodei 写过一篇名为《机器之爱与恩典》的文章，他在其中优美地描绘了生成式AI能为我们带来的潜在益处。
Konstantine：感谢你加入这期节目。这次的对话真是精彩绝伦！也非常感谢你和你的团队，为那些努力行善的人们打造这项技术。
Oege：谢谢你！与大家分享真是一种乐趣。
原视频：XBOW CEO and GitHub Copilot Creator Oege de Moor：Cracking the Code on Offensive Security With AI
链接：https://www.youtube.com/watch?v=9mIphDV9m9c
编译：Yihui Zander
（文：Z Potentials）