深夜，我坐在桌前用 Cursor 写着代码，而隔壁的邻居，正在抖音里看着嫂子们揉面。
01
如果你曾经看过我不少先前的文章，就会知道我关注的技术以智能为主，娱乐为辅——因为在我看来，也许 LLM 等技术未必能通往真正的人工智能，但以娱乐为主要应用场景的图片或视频生成，大概会与智能相距更远。
所以《AGI Hunt》一向对智能相关性弱的内容，关注不多。
而我第一次接触到 AGI 的概念，是在《超验骇客》里。
强尼·德普把自己的意识上传到量子计算机，成为了能预测未来的数字神明。
当时我以为，这就是人工智能的终极浪漫——带领人类突破生物极限，抵达智慧和认知的奥林匹斯山巅。
直到昨天，我刷到一条 AI 嫂子揉面的视频，而下面有人评论：“面粉真白。”
我才明白，浪漫只存在于科幻电影，现实是我们用最强算力研究着最弱的人性。
科技以光速在奔跑，而伦理却连鞋带都没系好。
02
还记得 OpenAI 发布 GPT-4 的那天，我像个科技朝圣者挤在直播间。
马库斯·杜萨托普说：“这是人类智慧的新纪元。”
当我读完一百多页的《AGI 火花》论文时，我激动得差点把手机扔出窗外。
我幻想着 AI 帮我们解决气候变化、治愈癌症、解密生命的本质，并最终带领我们探索宇宙的奥秘。
可事实却是，更强大的 AI 却被人们用来生成换脸视频，编造无中生有的新闻，设计逻辑严谨的智能杀猪盘，还有最近泛滥的“嫂子激情揉面”视频。
看来，讽刺的是，我们造出了能通过图灵测试的 AI，却没通过我们自己的人性测试。
托马斯曾说：“AI 是放大镜，它放大了人类的才华，也放大了人类的弱点。”
只是没想到，被放大得最明显的，竟是伦理的溃败。
03
春节回老家过年，初中同学向我炫耀他新订阅的 AI 视频生成软件：
“看，可以一键生成任何人的任意视频，只要你敢想。”
他眼里闪烁着我久违却又陌生的光芒——那是十五年前他炫耀起神秘光碟时眼里的光芒。
科技在进步，人性在倒退。
当我们能用 AI 一键虚构出任何场景和画面，现实和虚构的界限，就像面团一样被人们肆意揉捏。
那个曾因 AI 换脸视频被网暴的高中女生，至今没走出阴影，而制作者只用了一张照片和十分钟的时间。
我突然理解了为什么霍金如此恐惧 AI——不是因为 AI 会变成天网，而是它会放大人类最黑暗的冲动。
AI 并不可怕，可怕的是我们都不曾真正了解的自己。
04
上周参加一个线上 AI 沙龙交流会，有人提到了 AI 的两面性：
一边是 AI 医疗诊断系统，准确率达到98%，拯救了无数偏远地区的患者。
另一边是自动生成的伦理擦边内容，用来投喂给最容易上瘾的用户群体。
这让我想起了核能——既能发电照亮城市，也能制造原子弹。
区别，在于使用者的选择。
问题是，当选择权掌握在那些连简单家庭伦理都把握不住的人手中，我们还能期待什么？
05
尽管如此，我依然相信技术本身是中立的。
有人用 AI 来解决教育资源的公平问题，有人用 AI 来筛查癌症，还有人用 AI 为残疾人设计无障碍的智能出行方案。
他们像乱世洪流中的萤火虫，用最朴素的方式守护着科技的温度。
也许明天会有更多 AI 突破伦理边界，但总会有人记得——
技术的意义不是揉面，而是让更多人吃上面包。
当屏幕暗下去的瞬间，我听见阿西莫夫穿越时空的叹息：
“问题从来不在于机器是否能思考，而在于人类会做出怎样的选择。”
而我们应该做的，或许是在这个 AI 被滥用的世界里，坚持思考最根本的问题：
我们想要用最强大的技术，创造怎样的未来？
（文：AGI Hunt）