Meta探索大模型记忆层，扩展至1280亿个参数，优于MoE
MLNLP 社区致力于促进 NLP 学术界、产业界及爱好者间的交流合作，Meta 新研究展示了记忆层在预训练语言模型扩展中的实用性和性能提升。
提升性能
9大基准全面领先，性能暴涨10.8%！视觉价值模型VisVM成「图像描述」新宠
Visual Value Model (VisVM)通过推理时搜索显著提升了多模态视觉语言模型的图像描述质量，减少了幻觉现象。其研究结果表明，扩大推理时间计算量能够显著增强VLM的视觉理解能力，并能以较低成本实现提升。