开源文本大模型

小红书开源首个自研文本大模型Dots.llm1，拥有1420亿参数，包含多个阶段训练信息和数据。该模型在多任务表现中表现出色，并计划探索高效架构设计以提升计算效率。