AI Agent真的安全吗?南洋理工最新综述揭秘LLM Agent安全风险与防御策略

A Survey on Trustworthy LLM Agents: Threats and Countermeasures, a study by researchers from Nanyang Technological University and Squirrel AI, categorizes Agent safety issues into internal (Brain, Memory, Tool) and external (User, Agent, Environment) modules. It provides insights for future research directions such as collaborative security mechanisms and adversarial robustness training methods.

征稿倒计时!CVPR 2025 Workshop共话“基础模型+X”的鲁棒性挑战

第五届对抗机器学习Workshop将在2025年6月的CVPR会议上举行,主题为’基础模型+X’。研讨会旨在探讨基础模型及其特定领域应用中的鲁棒性挑战,并设立最佳论文奖等奖项吸引投稿。

CVPR 2025|北大开源多模态驱动的定制化漫画生成框架DiffSensei,还有4.3万页漫画数据集

DiffSensei 是首个结合多模态大语言模型(MLLM)与扩散模型的定制化漫画生成框架,通过创新机制实现角色控制、布局精准及动态叙事。该框架支持从文本到漫画的高效转换,并发布首个专为漫画生成设计的数据集MangaZero,提升角色一致性、文本跟随能力和图像质量。

风格迁移重大突破!西湖大学等提出StyleStudio攻克「过拟合」难题 CVPR 2025

西湖大学等团队提出StyleStudio,通过跨模态AdaIN技术、教师模型稳定布局及基于风格的无分类器引导,有效解决文本驱动风格迁移中的对齐问题、布局不稳定和模糊性等问题,提升生成图像质量和稳定性。

Nature子刊发表 南洋理工大学开发全新TGI控制算法 实现半机械昆虫的群体控制

近年来,群体机器人系统通过多个简单个体协同工作,在物流、医疗等领域应用广泛。南洋理工大学教授提出的新控制算法TGI显著提高了昆虫的安全性、续航能力和适应性,减少了纠缠现象的发生,并能帮助翻倒的昆虫重新站起来,增强了群体整体韧性。

谷歌Gemini再添猛将!GPA 5.0毕业即DeepMind高级科学家,开挂博士给科研新人7点建议

薛复昭博士分享了他在学术生涯中的七点心得,包括工程能力的重要性、与优秀人才合作、专注于重要论文、研究趋势的演变、换位思考以及博士学位的价值。他指出,虽然攻读博士学位有助于科研技能的学习,但不是从事大语言模型研究的必要条件。

首个VR端3D角色扮演AI发布!南洋理工公开SOLAMI技术报告,端到端VLA模型驱动,唱跳都能陪你玩

新智元报道
编辑:LRST
SOLAMI是南洋理工大学研发的首个VR端3D角色扮演AI系统,支持用户通过语音和肢体语言与虚拟角色互动。它利用先进的社交视觉-语言-行为模型,提供自然交流体验,超越传统交互方式。

MMRel:多模态大模型时代的评测物体间关系理解新基准

MMRel是首个大规模、高质量的物体间关系理解数据集,用于评估和提升多模态大模型能力。包含超过22K问答对,覆盖三个领域与三种关系类型,通过半自动流程生成并提供高难度子集测试极限性能。