Next Token Prediction

本文介绍了多模态领域基于Next Token Prediction的最新进展，包括Tokenization技术、模型架构设计、训练方法与推理策略等，并提出了四个亟待解决的挑战。