混合专家（MoE）架构

Meta发布Llama 4系列AI模型，性能超越自家Llama 3，推出Scout、Maverick和Behemoth三款新模型。其中，Scout主打多模态，能塞进单个NVIDIA H100 GPU；Maverick性价比高，上传一张图片就能秒懂；Behemoth拥有2880亿激活参数，碾压GPT-4.5和Claude 3.7 Sonnet。Llama 4首次使用混合专家架构（MoE），提升效率和质量。