当机器人被AI 控制，会有什么后果？
先来看一段流出的监控画面：
——一个机器人在实验室里突然像发了疯一样狂甩机械臂，抡圆的双臂恨不能把旁边的工程师砸成肉饼！
这到底是怎么回事？
这个视频在网上迅速走红，引发了一连串关于机器人安全的热议。
这场灾难的罪魁祸首，据说正是所谓的「Vibe Coding」！
什么是Vibe Coding？
简单来说，就是基于感觉或直觉的编程方式，工程师不按标准流程走，而是凭感觉调整代码。
这种方法听起来就像是在说「我觉得代码应该这样写」，然后就直接上机测试了——而不是遵循严格的开发规范和必要的安全测试流程。
EngiXer(@engitweeter)嘲讽称：
「等等，让我在这个离我只有一英尺远的原型机器人上试试这段未经调试的代码」🤦
看图你就知道这种做法有多危险了！
机器人暴走有多可怕？
视频中的机器人突然失控，双臂疯狂挥舞，场面极其凶险。
网友们看完后纷纷表示：「太吓人了」！
有人说这看起来就像「有人在C++代码里忘了加分号」，还有人形容为「try catch语句失控了」。
更有甚者说这就像「愤怒的父亲因为孩子没有全A而痛打孩子」，形容得真是生动形象啊！
JP Silvashy(@jpsilvashy)看完视频后居然兴奋地表示：
「我想造一个这样的！」
兄弟，你确定吗？
这可不是什么小玩具啊！
机器人干掉人类时代要来了？
CIX(@cixliv) 提出了一个令人不寒而栗的问题：「还要多久，才会有人因Vibe Coding机器人而意外身亡？」
Paul(@pypolk)认为：
「哦，这种事迟早会发生。我愿意赌上任何东西。」
NFTMentis 认为：最长两年！
而StandingOnTheMoon(@entangledQbit)则给出了更具体的时间预测：
「不到5年。」
VG(@vhp_24)相对乐观一些：
「10年？🤔」
而Jesus(@jesussard)则表示：
「可能已经发生了。」
看来共识已经达成——
不是会不会发生，而是何时发生。
早晚的事！
这可真是让人毛骨悚然啊！
如何避免机器人暴走？
也有人提出了一些防范措施：
artem(@artemsya)提出了实用的技术解决方案：
「即使是基本的扭矩限制也能解决这个问题。然后只需站得足够远，这样机器人就不会倒在你身上。」
🎙• Leo •(@LiONMIGHT)则幽默地提问：
「你试过『vibe关机』吗？」
engineeredAF(@engineeredAF)则指出了最基本的设计缺陷：
「他们忘了添加那个小红按钮。」
但问题是——
当机器人已经失控时，你还来得及按下那个按钮吗？
Andrea Causio(@causius0)提出：
「我在想，如果一个机器人失控了，我们该如何杀死它？」
背后的思考是：
当机器人真的「叛变」时，我们是否有足够的应对措施？
而现状则是，从不同公司，到以中美为代表的不同国家，都在担心对方造出更强的AI 而自己出局，因此都将安全风险搁置，埋头向前。
而这样的行为，又何尝不是另一种Vibe Coding——枉顾安全，盲目追求表面上的进步。
我们正在全球范围内进行一场没有终点线的竞赛，每个参与者都不敢慢下来思考可能的风险。这种态度，从视频中那位站得过近的工程师，到那些推动AI无限制发展的科技巨头，本质上都是一样的。
当我们把安全责任推给他人，自己却急于求成时，我们每个人都在成为视频中那个「Vibe Coder」。
或许，是该敲响警钟了！
机器人VS人类：未来谁主宰？
随着AI技术的发展，这个问题变得越来越紧迫。
Juan Carbonell(@acd_juan)说：
「等他们把AI装进机器人吧。」
而Negative Social Credit Score(@MathewwithnoT)则描绘了一个更可怕的未来：
「有人会编程一个AI来优先考虑环境，而AI最终会发现人类对环境产生负面影响。」
这不就是《终结者》的剧情吗？
想想都可怕！
Veiled_Vision_Acquisiton(@dontreadthis333)则更加悲观：
「玩弄上帝的书呆子们会杀死我们所有人。当然，这是『上帝』的设计。」
显然，大家对AI+机器人的组合都持谨慎态度。
或者造个迷你版？
在这么多悲观的声音中，Rakshak Talwar(@RakshakTalwar)提出了一个有趣的想法：
「我们应该造更小的！」
或许这是个折中的方案？
毕竟，一个巴掌大的机器人就算失控了，最多也就像被猫挠了一样，不至于要人命吧？
不过，Manu Otel(@manuotel)表示自己有信心应对任何挑战：
「兄弟，我可能会用Vibe代码编程一个试图杀死我的机器人，但我的自尊心告诉我，在那场战斗中我会赢。」
这自信满满的发言，不知是勇气可嘉还是过于乐观呢？
未来的机器人格斗？
尽管这段视频展示了机器人的危险性，但仍然有不少人对机器人格斗充满热情。
CIX 提到：「没准以后我们可以看到机器人打架。」
Luna0wl(@Luna0wl)对此表示：
「好主意，这太棒了！」
或许在不久的将来，机器人格斗将成为一种新型娱乐方式？
或是某种Benchmark？
想想就刺激啊！
机器人技术正以惊人的速度发展，但安全问题也变得越来越突出。
即使只是一个看似简单的编程错误，也可能导致灾难性的后果。
所以，Vibe coder 们：
除了低头vibe，还请多抬头、当心！
（文：AGI Hunt）