Transformer架构

什么是序列到序列(Seq2Seq)模型？以及为什么图像理解领域主要使用的是CNN网络而不是Transformer网络？

作者

大模型的核心在于特征提取和重建。Transformer架构在NLP领域表现突出，而CNN则适用于图像处理。序列到序列(Seq2Seq)用于具有连续性内容的生成，如机器翻译、语音识别及视频处理等领域。CNN擅长处理不连续且独立的图像数据。

极限压缩380倍！比OpenAI的Whisper更高效，开源模型超2000颗星

作者

开源语音模型Moonshine在推理效率和性能上进行大幅度优化，输入音频信号压缩高达384倍。它使用RoPE位置编码方式处理可变长度序列，并采用了字节级BPE分词器来提高文本处理灵活性和效率。

图结构转文本序列，大模型直接读懂！图推理性能大涨

作者

大语言模型通过将图转换为适合Transformer架构的线性token序列，实现对复杂图结构的理解。该方法保留了局部依赖性和全局对齐性的关键属性，并展示了其在节点计数、最大度计算和图案形状分类等任务中的优势。