SMTurbo

华为团队发布了三项重要的昇腾推理技术，包括AMLA、融合算子技术和SMTurbo。这些技术通过优化关键算子提升了大模型的推理速度和能效，如AMLA实现了高达71%的算力利用率；融合算子技术让计算与通信无缝协奏；SMTurbo显著降低了跨卡访问延迟至亚微秒级。