Langchain创始人最新分享:如何跨越“原型惊艳”到“生产可靠”的鸿沟

近日,在LangChain的Interrupt大会上,创始人Harrison Chase发表了纲领性主题演讲,直击AI行业核心痛点:如何跨越“原型惊艳”到“生产可靠”的鸿沟。

Chase坦言,AI行业普遍面临的痛点在于“原型易,生产难”。尽管大模型的出现极大地降低了构建炫酷原型的门槛,但将其转化为能够在真实商业环境中稳定运行、持续创造价值的可靠应用,则是一项艰巨的挑战。这正是驱动LangChain从开源社区发展为一家公司的根本原因。

优秀Agent工程师必须的四大素质

LangChain认为,成功的智能体构建,呼唤具备综合能力的“智能体工程师”,他们需要掌握:

  1. 精湛的提示工程 (Prompting):与LLM进行高效、精确沟通的基础。

  2. 坚实的工程能力 (Engineering):涵盖工具集成、复杂数据流构建(为LLM提供关键上下文)、以及稳健的部署策略。

  3. 敏锐的产品思维 (Product Sense):深刻理解业务流程,并能通过智能体进行有效的复制和优化。

  4. 核心的机器学习知识 (Machine Learning):特别是在智能体评估(Evals)以量化性能、捕捉非确定性,以及模型微调等方面。

智能体开发三大关键

基于丰富的实践经验,Chase分享了LangChain对当前智能体发展的三大核心洞察:

  1. 模型可选性至关重要:智能体并非单一模型的产物。面对功能、成本、速度各异的众多模型,开发者亟需灵活选择。LangChain已成为模型集成的枢纽,为开发者提供了这种关键的“模型可选性”。

  2. 上下文工程决定可靠性:传递给LLM的提示(上下文)的质量和结构,直接决定了智能体的行为和输出的可靠性。为此,LangChain推出LangGraph(已发布一年多),一个低级别、无预设(no hidden prompts/cognitive architectures)的编排框架,赋予开发者对智能体认知架构和上下文构建流程的极致控制力。

  3. 智能体构建是多学科团队协作:鉴于技能需求的广泛性,智能体开发已演变为一项团队运动。LangSmith应运而生,它不仅仅是一个可观测性平台,更是集成了强大的评估 (Eval) 功能提示中心 (Prompt Hub) 的协作中枢,为工程师、产品经理、机器学习专家等不同角色提供共享的洞察与协作环境。

LangChain的战略预判与产品布局

Chase强调,智能体不仅已经到来,并且在2024年开始显现出强劲的增长势头和商业价值,LangSmith追踪到的Trace数量激增便是明证。展望未来,LangChain基于以下三大预判,推出了一系列革新产品:

  1. AI可观测性:超越传统,专为智能体而生

    • 挑战:智能体交互涉及大规模、非结构化、甚至多模态的数据,其可观测性需求远超传统应用,且服务于具备ML、产品和提示工程背景的“智能体工程师”这一新用户画像。

    • LangSmith新动向:发布针对智能体的全新可观测性指标,包括对智能体所用工具的运行计数、延迟、错误分析,以及对智能体行为轨迹(paths)的可观测性,深入洞察智能体决策路径。

  2. 赋能全民:让人人都能成为智能体构建者

    • 目标:降低智能体开发门槛,使不同背景的人都能参与构建。

    • LangGraph Prebuilt:为不熟悉AI的开发者提供常见的、经过验证的智能体架构预设(如单一智能体、智能体群、监督型智能体),加速上手。

    • LangGraph Studio V2:重大升级,告别桌面应用(非Mac用户福音)转为Web应用,提供更强大的调试能力。用户可直接在Studio中查看LLM调用、构建评估数据集、修改提示,最激动人心的是能够从LangSmith拉取生产环境的Trace到本地进行调试和热重载,高效解决线上问题。

    • Open Agent Platform (开源):发布无代码/低代码智能体构建平台,基于LangGraph Platform。它内置智能体模板、使用MCP的工具服务、开箱即用的RAG即服务以及智能体注册中心,旨在让更广泛的非开发者用户也能轻松创建和管理智能体。

  3. 攻克部署新高地:智能体上线的“最后一公里”

    • 挑战:智能体应用往往具有长时运行(数分钟甚至数小时)、高并发突发性(如批量后台任务)以及状态化(支持人机协作与复杂错误处理)的特性,传统部署方式难以应对。

    • LangGraph Platform 正式版 (GA):经过约一年的Beta测试后正式发布。提供超过30种API端点(全面支持流式处理、人机协作、记忆管理等),具备水平扩展能力以应对突发流量,专为长时运行工作负载设计,并能将部署的智能体作为MCP服务暴露。平台还包含一个控制平面,用于组织内智能体的发现、共享与模板化复用,并提供云SaaS、混合云及完全自托管等多种灵活的部署选项。

小结

虽然,很多人吐槽langchain的设计及实现,但不可否认langchain走在大模型应用开发的最前沿,很多工具及最佳实践都是在学习和研究它进而发展的。作为最初的业余项目,走到现在已经是非常令人倾佩的成就。Harrison Chase指出LangChain的使命是致力于为全球的“智能体工程师”提供从构思、开发、协作、评估到部署的全生命周期支持。通过工具赋能,让智能体无处不在。

学习langchain的设计思想和脉络原理,推荐笔者出版的书籍:

公众号回复“进群”入群讨论

(文:AI工程化)

发表评论

×

下载每时AI手机APP

 

和大家一起交流AI最新资讯!

立即前往