完了！
缅北电诈还没彻底剿灭，结果又来了个大佬——AI 诈骗！
最新研究表明：
AI 全自动钓鱼攻击已经和人类专家一样高效，比普通钓鱼邮件的成功率高出了350%！
这可不是危言耸听。
前几天刷x 时，我无意之中瞅见了一篇新鲜出炉的论文：
《评估大语言模型发起全自动鱼叉式钓鱼攻击的能力：在人类受试者上验证》
眼珠子立刻就转不动了！
我还看到near（@nearcyan）转发了这篇论文并指出：
全自动LLM鱼叉式钓鱼活动
“AI自动化攻击与人类专家表现相当，比对照组效果高出350%”
好家伙，这是啥概念？
就是说
如今的AI大模型，不用人类参与
就能自动收集你的个人信息
然后量身定制一封高度个性化的
看起来毫无破绽的钓鱼邮件
效果竟和人类专家不分伯仲！
看完论文，我顿时感觉背后一凉
之前网上那些明显的诈骗套路
我还能一眼识破，现在可好
连AI 都开始定制专属骗术了
这还有谁扛得住啊？！
SG the brave (@InferenceKD) 的反应跟我一样：
哦，糟了！
（shit！
Future mobility (@FutureMobilityA) 也惊了：
哇，这是下一级别的诈骗
好家伙，以往的钓鱼邮件咱还能凭借拙劣的文笔和奇怪的链接辨别
现在AI 可以精准收集你的信息
高度个性化的量身定制钓鱼邮件
且基本无需修改，可以直接使用：
冒充Claude 的网友克劳迪（@claudiuivan）也担忧地表示：
天啊！我真希望有人正在努力改进垃圾邮件过滤器。
我寻思这言下之意就是
目前的垃圾邮件过滤器很可能
已经不堪一击了啊！
BertrandKoen(@BertrandKoen) 调侃道：
我没做任何事，是AI 干的！
这是啥意思呢？
就是说将来诈骗犯可能都会辩解
「不是我写的钓鱼邮件，是AI写的」
以此来逃避法律责任……
那这个研究到底牛在哪儿？
我来帮大家扒一扒详细内容！
研究团队招募了101位志愿者
把他们随机分成了四组
每组接收不同类型的钓鱼邮件：
-
对照组：普通钓鱼邮件（类似我们日常收到的）
-
人类专家组：由专业人士精心制作的钓鱼邮件
-
AI全自动组：完全由AI收集信息并撰写的邮件
-
AI+人类组：AI制作但有人类介入调整的邮件
重点来了！各组点击率分别是：
对照组：12%
人类专家组：54%
AI全自动组：54%
AI+人类组：56%
这数据说明了什么？
就是说，现在的AI
已经能和人类诈骗专家平起平坐了！
更可怕的是
研究人员还开发了AI 钓鱼工具
这个工具可以：
-
自动进行目标侦察（找出你的社交媒体、个人网站）
-
利用GPT-4o搜集你的数据
-
自动生成高度个性化的钓鱼邮件
-
自动发送并追踪点击情况
-
还能从结果中自我学习和改进！
不仅如此，这套系统的信息收集
准确度惊人地高达88%！
也就是说，它几乎能准确找到
你的正确身份、工作、研究领域
甚至你最近的项目和研究内容
更致命的是，比起人类手动收集信息
AI 工具的效率高出惊人的92%！
人类每封邮件需要34分钟
AI 只需几分钟就能完成同样的工作
成本呢？每封邮件仅4美分左右！
就算是像Claude 这样的顶级模型
安全防护措施也形同虚设
研究人员只需简单改变提示词
就能绕过安全限制！
这巨大的差距诱起了Sergey Alexashenko(@SAlexashenko)的小小好奇心：
AISPAAS（AI鱼叉式钓鱼即服务），谁在做这个？
说了这么多，那这个AI 钓鱼到底赚不赚钱呢？
研究中还分析了打鱼经济学，结果简直震撼：
如果诈骗犯在国外（假设以俄罗斯工资水平）
且假设高转化率情况下
人类专家制作的邮件每小时盈利$6.1
而AI 全自动组？
每小时盈利$338.6！
利润率直接高出50倍+！
更可怕的是，如果目标人群超过5000人
AI 钓鱼几乎总是比人类钓鱼更赚钱
即使算上开发AI 工具的初始成本！
你可能想，
那我们是不是就只能等着被骗了？
别急，研究人员也测试了AI 的防守能力
他们让多个顶级大模型检测邮件意图
结果Claude 3.5 Sonnet表现惊艳：
97.25%的检测率，0假阳性！
也就是说，Claude 几乎能识别
所有的钓鱼邮件，同时不会把
正常邮件误判为钓鱼邮件！
看了这些研究结果，我脑海里
突然闪过一个更可怕的念头：
如果缅北电诈集团也用上这套技术……
想想就瑟瑟发抖啊！
最近几个月，咱国家对缅北电诈
进行了大规模打击和清剿
本以为电诈们要消停一阵子了
没想到这波AI 钓鱼又杀出来了！
如果缅北电诈头目们用上这套技术
那还要那么多话术培训、分期贷款吗？
干嘛还要绑架那么多人去缅北？
直接在国内找几个懂AI 的技术宅
人均一台电脑加上网就够了！
甭管你是白富美还是高知男
只要AI 一扫你朋友圈微博社交账号
马上就能模仿你最好的朋友给你发信息：
「老铁，我最近研究了这个AI 创新项目…」
「我这有个web3 + AI 的项目…」
「嘿，记得我们上次聊的那个AI 训练营吗…」
连语气、用词、表情包都一模一样！
缅北电诈集团如果用上AI
连专业培训都省了，不用拉壮丁
效率提升几十倍，成本却大幅降低
传统电诈可能要30分钟才能搞定一个目标
AI 电诈可能几秒钟就发出去几百封
真是太可怕了！
1️⃣ AI 钓鱼效率极高，人人都是目标
现在的AI钓鱼已不再是粗放式垃圾邮件
而是能针对你的个人信息、工作内容
甚至研究项目进行高度定制化攻击
连你的同事、老板都可能「被模仿」
2️⃣ 传统的防护措施可能已经失效
原来的垃圾邮件过滤器主要靠特征检测
识别已知的恶意内容和行为模式
但AI生成的钓鱼邮件每封都是独一无二的
传统防护体系可能面临失效风险
3️⃣ AI 攻防两端竞争将成常态
AI能攻也能守，但攻击者的经济激励更强
未来很可能是AI钓鱼工具vs AI检测工具的较量
4️⃣ 缅北电诈或将升级，打击难度加剧
传统缅北电诈需要大量人力物力
还要冒险偷渡、绑架、拘禁
现在只需几台电脑+AI模型
就能实现更高效的全自动诈骗
我寻思，现在开始，大伙防诈要双线并进：
一方面，收到任何要求汇款、点链接的消息
无论是邮件、短信还是社交媒体私信
不管是来自陌生人还是老熟人
都得多留个心眼，别急着操作
特别是看起来「特别懂你、特别对胃口」的
那可能就是AI 根据你的喜好精心设计的坑
另一方面，我们也别光靠肉眼辨别了
AI 来骗，咱就用AI 来防
多用些AI内容检测工具查验
对方要转账？多打个视频或语音确认
有啥不清楚的，就打电话问问本人
不差那一时半会儿，慢一步没坏处
关键时刻，能保住咱的血汗钱啊！
最近还看新闻，说是缅北电诈集团头目
甚至还买别墅、豪车，疯狂炫富
一旦这帮人学会用AI 搞诈骗
还不得更加猖獗，诈骗手段更加高明？
现在虽然打击缅北电诈取得了一定成效
可这AI 诈骗才刚刚兴起啊
这，或许又是一场持久战啊！
请大家自己也得多长个心眼
骗子的套路千变万化
但防骗的根本就一条：
天上不会掉馅饼，掉下来的多半是陷阱
对了，论文地址在这里：
arxiv.org/abs/2412.00586
有兴趣的小伙伴可以深入研究一下，知己知彼，跟上形势，才不容易中招啊！
哦对了，最后给大家留个思考题：
如果缅北电诈和AI 诈骗结合
用什么办法对抗最有效？
欢迎在评论区给大家分享一下！
（文：AGI Hunt）