欢迎在本篇评论区分享你应用大模型的场景案例 —— 点赞数前三的优质分享，将获赠精选书籍！
还记得第一次和ChatGPT聊天时的诧异吗？它像个无所不知的“百事通”，不仅能陪你谈天说地、写诗作文，还能帮你查资料、写代码……流畅的对话、精准的回答，常常让我们忍不住感叹：“ChatGPT为什么这么聪明？”
人工智能领域专家、《大话大语言模型》作者王符伟对此进行了一番专业、有趣的拆解——用趣味漫画的形式，解读LLM的学习数据从何而来，又是怎样实现精准沟通的？
在LLM领域，ChatGPT作为AI领域的杰出代表，它们通过深度学习和强化学习等先进技术，从互联网这片浩瀚的信息海洋中汲取知识。这些模型的学习过程，本质上是对网络上海量数据的深度挖掘与理解。以ChatGPT为例，它不仅展现了惊人的文本生成能力，还能够根据上下文进行智能对话，这背后离不开其庞大的数据基础。
那么，ChatGPT究竟学习了哪些数据呢？根据相关学术研究，这类模型主要依赖于被称为“公共爬取”的数据集。这一数据集是通过特定的技术手段，如网络爬虫，从互联网上广泛收集并整理得到的。这些爬虫程序会遍历网页，提取文本信息，并将其汇总成庞大的数据库。此外，像维基百科这样的知名在线百科全书，以及部分经过精心挑选的离线数据，也是LLM学习的重要资源（见图1）。
图1 ChatGPT的出色表现离不开其庞大的数据基础。
在数据规模上，这些模型处理的数据量堪称惊人。在过滤之前，原始数据的容量高达45TB，这相当于数千万本普通书籍的信息量。然而，为了确保模型的准确性和可靠性，研究人员会对这些数据进行严格的筛选和清洗，去除不相关、低质量或不适宜的内容。经过这一系列的预处理后，最终用于模型训练的数据量约为570GB，尽管有所缩减，但仍然是一个极为庞大的数字。
如果将整个网络空间比作一个无垠的图书馆，那么ChatGPT就像是位不知疲倦的读者，他浏览过图书馆中的绝大多数书籍，对网络上公开的教材、资料了如指掌。正是这种对海量数据的深度学习和理解，使得ChatGPT能够在瞬间生成高质量、富有洞察力的文章，为人类的知识获取和交流提供了全新的可能。
国内的LLM，如文心一言（文小言）等，学习数据的来源主要依托于百度多年的搜索引擎积累，学习的数据包括大规模的自然语言文本语料库、多样化的数据集等。这些数据源包括公开的文本数据集、专业的数据集、用户生成的数据以及通过特定技术手段收集的数据等。这些数据为模型提供了丰富多样的训练素材，有助于提升模型的性能和泛化能力。
在探索LLM精确度提升的道路上，机器学习与强化学习已经展现出了令人瞩目的成效。这些显著进步的背后，与深度学习领域的蓬勃发展紧密相连。深度学习，这一受到人脑工作机制启发而诞生的技术，成为我们理解LLM性能飞跃不可或缺的背景知识。简而言之，正是深度学习的不断演进，为机器学习与强化学习在提升LLM精确度上提供了强大的支撑与无限可能。
在机器学习的广阔天地里，有一个专业术语叫作“特征量”，它就像是给数据打上的标签，帮助机器理解和判断。而深度学习，作为机器学习家族中的一位明星成员，有着独特的魅力：它不需要人类事先设计好特征量，而是能够自己学习并掌握这些关键信息，就像是一个聪明的学生，不需要预先培训，就能在实践中逐渐摸索出学习的门道。
说到深度学习的应用，垃圾邮件检测就是一个生动的例子（见图2）。随着电子邮件在日常生活中的普及，垃圾邮件也如影随形，数量庞大，让人头疼。传统的识别方法渐渐显得力不从心，难以准确区分哪些是有用的信息，哪些是烦人的垃圾。这时候，深度学习就发挥了它的强项—强大的模式识别能力和自动特征提取能力，就像是一双火眼金睛，能迅速准确地识别出垃圾邮件，让我们的邮箱更加清爽整洁。深度学习不仅让机器变得更加智能，也在我们的日常生活中发挥着越来越重要的作用，帮助我们更好地应对各种挑战。
图2 垃圾邮件检测是深度学习的一个重要应用领域，但并非其唯一应用。在实际应用中，还需要结合其他技术和策略来提高检测的准确性和效率
确实，深度学习的能力听起来相当神奇，它确实能够自动完成“贴标签”这样的任务。这背后的奥秘，在于深度学习借鉴了人脑的工作原理。我们的大脑里有着数不尽的神经细胞，它们之间通过神经突触相互连接，传递信息，让我们能够思考、感知世界。
深度学习正是受到这种结构的启发，创造出了“神经网络”这一模型。这个模型就像是一个微型的电子大脑，它有着层层叠叠的结构，每一层都能捕捉到数据中的不同特征。当数据输入到这个神经网络中时，它就像大脑一样开始工作，自动地分析、学习，并给数据贴上正确的标签。
正因为模仿了人脑的结构，所以才能像人类一样独立进行判断。图3是神经网络的结构，一个一个的圆圈相当于人脑中的细胞，连接细胞的线相当于神经突触。
图3 神经网络模仿了人脑的构造，在被称为“中间层”的地方进行各种判断。因其内部工作无法展现，也被称为“隐藏层”，是一种所谓的“黑匣子”操作
深度学习，这一术语直观地揭示了其核心理念—“深度”，意味着学习过程深入到了数据的多个层次。在这一框架下，自然语言等输入信息首先被机器所理解并接纳，随后这些信息会穿越一系列中间处理层，也就是我们通常所说的隐藏层。以垃圾邮件识别为例，这些隐藏层负责分析输入数据，识别出是否蕴含垃圾邮件的特征，并将这一判断结果传递到最终的输出层。
观察图示，不难发现，众多类似人类脑细胞的节点构成了这些中间层，它们紧密相连，协同工作，使得计算机能够模拟出类似人类的思考与判断过程。正是由于这种从输入到输出的多层次结构，深度学习才得名如此。
深度学习具备强大的综合分析能力，能够考虑多种因素，做出接近人类判断的结论。然而，这并不意味着深度学习在所有情况下都是最优选择。实际应用中，根据具体需求和场景，其他方法有时可能达到更高的精确度。因此，在选择是否采用深度学习方法时，必须充分考虑实际目标和条件。
深度学习的中间层工作方式对于外界而言往往如同一个神秘的“黑匣子”（见图4）。这些层级通过复杂的计算和数据处理，对输入信息进行逐层分析和转换，但具体是如何做出判断并导出最终输出的，这一过程并不直观，也难以用简单的语言完全解释清楚。这确实成为将AI技术应用于商业领域时的一个重要课题。
图4 黑匣子特性使得深度学习的决策过程难以直观理解和解释。需要不断探索和开发新的方法和技术，以提高深度学习模型的解释性和透明度
换句话说，深度学习在做出判断时所依据的维度和逻辑，往往隐藏在大量的参数和算法之中，难以直接观察和解释。这种“黑匣子”特性，虽然赋予了深度学习强大的数据处理和模式识别能力，但同时也带来了透明度和可解释性方面的挑战。因此，如何更好地理解和解释深度学习的决策过程，是当前AI研究中的一个重要方向。
换句话说，深度学习在做出判断时所依据的维度和逻辑，往往隐藏在大量的参数和算法之中，难以直接观察和解释。这种“黑匣子”特性，虽然赋予了深度学习强大的数据处理和模式识别能力，但同时也带来了透明度和可解释性方面的挑战。因此，如何更好地理解和解释深度学习的决策过程，是当前AI研究中的一个重要方向。
导入那些无法揭示其内在逻辑与结构的数据处理机制，确实伴随着一定的风险，这一点构成了众多观察者对“黑匣子”式AI系统普遍持有的疑虑核心。因此，近年来，一个新兴领域—可解释的人工智能（XAI）逐渐成为科研与应用领域的焦点。XAI致力于使AI系统的决策过程变得透明且可理解，从而增强人类对AI决策的信任与接纳（见图）。
图5 XAI的崛起推动技术范式从工具论转向责任论，要求开发者通过可解释逻辑主动担责，打破算法黑箱的正确默认。这一转型催生了“AI伦理师”新角色，专职开展算法合规性审查与公平性评估，体现技术治理向过程透明和价值对齐的深化
以电子邮件过滤为例，传统的AI系统可能会自动将某些邮件标记为垃圾邮件，而用户却无从知晓这一判断的依据。而在XAI的框架下，系统能够具体展示那些导致邮件被判定为垃圾的关键词汇或特征，使得决策过程一目了然。这种透明度的提升，对于消除“因为是AI的决定，所以就盲目接受”的心态至关重要，尤其在商业环境中，这种心态往往是不切实际的。
当人类能够理解和认同AI的决策逻辑时，不仅增强了AI技术的可信度，也极大地拓宽了其应用范围。更进一步，如果AI系统能够提供详尽的解释，那么这些系统被创造性地应用于更多场景的可能性便显著增加，从而促进技术与社会经济的深度融合。
然而，值得注意的是，追求可解释性并非毫无代价。在实际应用中，准确性与可解释性之间往往存在微妙的平衡关系。商业决策者在部署AI系统时，必须根据具体目标和情境，审慎地权衡这两者的重要性。在某些情况下，可能需要牺牲一定的可解释性以换取更高的准确性；而在其他场景下，增强可解释性则可能成为优先考虑的因素，以确保决策过程的公正性、合规性及用户的接受度。因此，如何在准确性与可解释性之间找到最佳平衡点，是推动XAI发展、实现AI技术广泛且负责任应用的关键所在。
用趣味漫画解析ChatGPT、DeepSeek等主流大模型的核心机制！
▊《大话大语言模型》
本书全面介绍大语言模型（Large Language Model，LLM）的前世今生、工作原理、应用实践及未来趋势。
全书共4篇：基础篇追溯了大语言模型的起源与兴起，深度揭秘了其工作原理，并对当前现状与研发竞赛进行深入分析，同时展望了其未来发展前景。进阶篇聚焦于模型规模化、提示工程、思维链推理等关键技术，详细介绍了以ChatGPT为代表的大语言模型背后的技术原理，并探讨问答系统在实际应用中的落地实践。高阶篇深入剖析了Transformer架构与预训练模型的核心机制，探讨微调技巧在提升模型性能中的作用，以及大语言模型在多领域的应用实践，同时构建和完善了大语言模型的API生态体系。展望篇探讨了大语言模型如何重塑互联网格局，驱动各行业创新升级及其面临的社会挑战与应对策略，展望了以DeepSeek为代表的大语言模型对未来技术发展与人们生活方式可能带来的深远变革。
欢迎在本篇评论区分享你应用大模型的场景案例 —— 点赞数前三的优质分享，将获赠精选书籍！
（文：AIGC开放社区）
