提示工程

大模型混入0.001%假数据就「中毒」，成本仅5美元！NYU新研究登Nature子刊

作者

纽约大学研究人员通过模拟攻击发现，仅少量虚假数据就能显著提高大型语言模型生成错误医疗信息的概率。该研究呼吁关注大模型在医疗领域的潜在风险及其应对策略。