AI产品榜·应用榜 2024年11月 & 2024 中国 AI 年度产品

AI产品榜(2024年11月)发布,涵盖全球、国内和出海三大榜单。亮点包括国产应用如豆包和Talkie保持高增长,ChatGPT MAU超过X(原Twitter),以及各类教育工具的波动表现等。

英伟达提出全新Star Attention,10倍加速LLM推理!登顶Hugging Face论文榜

英伟达提出的新技术Star Attention能显著减少Transformer模型长序列推理时的计算量,从而提高效率和准确性。它通过将上下文分成较小块并在每个主机上独立处理这些块来实现,这有助于在不牺牲精度的情况下加速推理过程。