这是一个全新的AI模型,它能像人类一样不断学习和思考!
Topology推出了全新的持续学习模型(CLM),这个模型不仅能记住对话内容,还会在「空闲时间」自主学习和思考。
听起来是不是很像人类的大脑?
让我们来看看这个「超级大脑」到底有多厉害。
传统大语言模型的三大痛点被CLM一招破解:
-
传统LLM每次对话都是「失忆」状态,而CLM能记住所有聊天内容
-
普通模型没有「内心世界」,CLM却会在空闲时思考和消化记忆
-
一般AI缺乏「灵魂」,CLM通过主动组织记忆和想法,形成了独特的个性
令人振奋的是,CLM可以完美替代现有的LLM系统。
只需更改一行代码,就能获得持续学习能力。
定价也相当亲民:输入每百万token仅需2美元,输出每百万token仅需10美元。
而在记忆方面,CLM更是展现出惊人实力。
不同于ChatGPT只能存储少量片段记忆,CLM支持数十亿条记忆!它采用了一种全新算法,巧妙地连接了预训练和上下文学习。
更令人惊喜的是,CLM会优先保留最新颖、最核心、最有用的想法。
技术细节也是干货满满:
-
CLM为transformer模型构建了「海马体」,就像人类大脑一样
-
它包含两个创新组件:记忆模块和内省模块
-
记忆模块负责编码、组织、遗忘和权衡数据
-
内省模块让模型能从记忆中学习经验并形成想法
CLM的技术基础建立在开源和专有LLM之上,包括来自OpenAI、Anthropic、Google和Mistral的模型。特别值得一提的是,没有Meta的Llama 3,CLM就不可能存在。
CLM 在隐私保护方面也做得很到位。
它采用了分区机制来分离知识,用户可以通过partition_id参数来控制模型使用哪些记忆。你可以为不同场景(如企业、家庭、个人等)创建无限量的记忆分区,完全免费。
Topology目前提供三种型号的CLM:
-
Topology Tiny:适合推理、数学和编程任务
-
Topology Small:在通用性能和记忆推理方面表现出色
-
Topology Medium:提供最顶尖的性能水平
有了CLM,也许我们终于看到了一个真正能像人类一样学习和思考的AI系统!
相关链接
[1] https://yellow-apartment-148.notion.site/CLM-Docs-507d762ad7b14d828fac9a3f91871e3f
[2] https://topologychat.com/
(文:AGI Hunt)