2025 年数据预测：AI 驱动的未来已至，拥抱 AI 运维、重塑领导力、驾驭下一代杀手级应用

AI 发展趋势：从实验到落地，价值与挑战并存

2025 年，企业技术领域最重要的事件仍将是自 2022 年底以来最重要的趋势：以大语言模型和生成式 AI 为代表的先进人工智能技术。2023 年，人们对 AI 充满恐慌和好奇，2024 年业界积极探索 AI 的各种可能性，而 2025 年，企业将开始认真思考 AI 如何为其组织创造具体价值。

随着 AI 的一些主要支持者态度转为谨慎，企业已开始将其 AI 概念验证项目从沙盒阶段推进到生产环境。“投资回报率在哪里？”华尔街巨头们发出疑问，硅谷巨头们感叹。我们看到，一些关注 CIO 的新闻网站预测 2025 年 AI 预算将增加，而一些关注 CFO 的网站则表示 CFO 们将对 AI 支出采取更保守的态度。这种矛盾的信号反映了权威人士、顾问和行业专家们在面对不断变化的 AI 炒作时的莫衷一是。

“炒作周期仍将继续，但对我来说，这是‘双城记’——一座是‘炒作之城’，另一座是‘实干之城’，而我们坚定地站在‘实干之城’。”

因此，尽管投资者可能认为，一部分人推动了牛市，而另一部分人则像闯入瓷器店的公牛一样鲁莽，但企业面临的挑战是如何区分障碍和机遇。让我们来试着理清思路。试图描述 AI 的变革性承诺将在未来一年如何实现，以及实现的程度。

AI 运维化成为新的重大挑战

在 2023 年和 2024 年，董事会成员们似乎做着一个相同的噩梦：他们匆忙跑向码头，却发现一艘名为“AI”的大型轮船正缓缓驶离港口。由于担心错过这艘通往未来的船，他们在梦中惊醒，并要求他们的高管团队立即制定围绕生成式 AI 和大语言模型的战略，并尽快开始行动，无论具体项目是什么。“企业实际上处于‘夹心饼干’的状态，一方面，他们面临着来自上层‘搞清楚 AI’的压力，另一方面，基层员工又存在违规使用 ChatGPT 等开放 AI 工具的情况。”

“企业巩固了他们的数据战略，并在追求 AI 价值方面变得更加系统化。”因为 2025 年将是 CFO 们开始关注投资回报率的一年。“企业将重点关注哪些 AI 项目可以在成本、治理和实际结果方面带来收益，驱动生产环境部署的因素始终是企业所追求的：高质量、低成本、安全可靠。”

AI 战略的下一个重点将是 AI 运维，这将需要改进的可解释性、治理和安全方法。

将 AI 从沙盒环境引入生产环境会引发新的问题，或者更确切地说，会引发围绕安全性、治理和可解释性等方面的常见担忧。“你需要构建新的安全和治理支持层，还需要构建新的可解释性顶层，这在使用静态数据集的试点阶段并不是必需的。但随着时间的推移，可解释性对于保障 AI 系统的可靠性、透明度至关重要。”

可解释性将在生产环境中至关重要

在一般的企业系统中，可观测性是指查看和理解系统状态的能力，这是一门性能管理的学科。而新兴的 AI 可解释性领域 不仅要考察系统性能，还要考察大模型输出结果的质量，包括准确性、道德/偏见问题，以及数据泄露等安全问题。它有助于确保围绕模型设置的安全护栏持续有效。“一旦你的应用进入生产环境，服务于真实业务场景并开始接收新数据，你就需要能够评估其性能，并检测、诊断和解决任何问题，缺乏可解释性，就像在‘盲飞’。”

尽管有许多专注于 AI 可解释性的初创公司和开源项目正在兴起，但 AI 可解释性最终将由数据平台和大型云服务提供商来解决。“对于一家独立的初创公司来说，很难提供完善的可解释性解决方案，而且采用大模型的企业需要 AI 可解释性解决方案，因此大型云服务提供商将不断增强这方面的能力。”虽然大模型和生成式 AI 工具是新技术，会引发新的担忧，但我们相信 CIO 们有能力管理好这些技术的部署和应用。

“IT 部门知道如何部署应用，AI 的发展是一个循序渐进的过程，而不是一夜之间发生的。几年前，我们还在学习如何利用机器学习 (ML) 来驱动自动化并解决业务挑战。而在过去一年左右的时间里，我们已经开始引入 AI 驱动的应用。”围绕治理、安全性和合规性的总体挑战是可控的，尽管 AI 带来了新的技术和监管挑战。AI 项目的复杂程度与企业的数据质量和 AI 战略直接相关。

AI 运维初期可能充满挑战，但未来会逐渐变得容易。

“实现 AI 运维确实需要一个数据平台和专门的 AI 工具，如果你制定了一个统一的数据战略，通过汇集所有数据，你就已经解决了一半的问题。然后，借助 AI 工具，你可以解决另一半问题：应对安全性、合规性和治理方面的挑战。你需要双管齐下，才能保护和支持你的 AI 应用部署，并减轻以临时方式将所有内容拼凑在一起的负担。”除了为 IT 团队配备合适的平台和工具外，积极拥抱 AI 的企业还必须具备包容性。导致 AI 运维化和集成失败的一个主要原因是未能充分纳入所有相关的利益相关者。

“采用新平台和新技术既是技术问题，也是社会问题，如果企业没有充分考虑所有应拥有发言权的利益相关者的意见，特别是在治理、安全和道德方面，就可能会失败。”如果现在将 AI 投入生产环境看起来很困难，对未来持乐观态度：“从长远来看，成功的 AI 供应商将使 AI 变得强大、简单、安全和可靠。许多企业今天可能面临的挑战将逐渐消失，成为后台具体实现层面的细节。”

数据平台的下一次演进将不仅仅关注数据的格式化、存储和访问，还将关注数据的语境化。

要实现这一目标，不仅需要 AI 供应商取得突破性进展，还需要企业持续提升其数据质量，为这些先进系统做好准备。“在不久的将来，数据将更加‘AI 就绪’，AI 可以轻松且安全地将其集成到现有的智能体和应用中。”数据平台的演进对于 AI 的演进至关重要。在使大模型更好地理解其所处理的数据方面将取得突破。“今天的数据平台所缺少的是‘语义层’，即对数据含义的理解，当你在一个表中存储财务数据时，是开发人员或分析师理解数据的来源、计算方式和具体含义。”将这种理解构建到基于这些数据开发的每个应用程序中，将是一项极其繁重的工作。“我们需要将‘语义层’这一关键部分下沉到数据层附近，以便 AI 能够理解数据的性质并更好地执行任务，你肯定不希望为每个应用都重新定义一套语义概念，而是希望将其下沉到数据层——这就是数据平台的下一次演进。”

智能体 (Agents)：引领 AI 变革的杀手级应用

AI 的最佳用途是什么？当生成式 AI 和大语言模型展现出如此多颠覆性的可能性时，我们很难在其中找到一个单一的“杀手级应用”。“我们鼓励我们的客户关注那些能够创造价值的应用，例如，你的客户是否能够更快地获取所需信息？你的决策速度是否更快？你是否能够完成更多的工作？你是否能够在无需大量中间环节和时间浪费的情况下高效地获取信息？”