人工智能之父Geoffrey Hinton，凭借他在人工智能领域的开创性工作荣获2024年诺贝尔物理学奖。尽管他并非物理学家，但由于AI领域的革命性发展，他获得此奖项的决定无疑揭示了AI对科学界的深远影响。
在最近的接受TVO Today采访中老爷子深入讨论了自己对人工智能的看法，在这次最新访谈中，老爷子不仅谈及了自己的成就和与Elon Musk的争执，还分享了关于AI带来的短期和长期风险，揭示了AI可能给人类带来的灾难性后果
AI的短期风险：滥用与误用
Hinton在访谈中首先提到，人工智能的短期风险主要来自于其被恶意使用的可能性。他指出，这类滥用已经开始显现，最直接的例子就是AI被用来进行大规模的网络钓鱼攻击和假视频制作，旨在误导公众。具体而言，Hinton提到，AI生成的内容如假视频、假新闻已经变得难以辨识，诈骗者可以通过这些技术制造更加精准的虚假信息
他特别提到，大语言模型的崛起使得网络钓鱼攻击变得更加高效。在2023到2024年之间，网络钓鱼攻击的频率增加了1200%。过去，钓鱼邮件常常由于语法错误或拼写不当而容易被识别为虚假信息，而现在，这些攻击的语法和用词都达到了接近完美的程度，这让普通用户很难辨认出其真伪。这种情况的恶化已经对全球网络安全构成了显著威胁。
AI的长期风险：智能超越人类，生死攸关
在探讨长期风险时，Hinton指出，几乎所有的人工智能专家都同意，AI最终会变得比人类更聪明，只是对于这个时刻的到来，科学界的看法分歧很大。有些专家认为，AI在20年内将超越人类，另一些人则认为这一进程可能会在3年内发生，甚至有少数人认为，AI的智能超越人类可能在一年之内实现。
Hinton认为，一旦AI变得比人类更智能，我们将面临前所未有的风险。如果AI决定“接管”人类社会，甚至导致人类灭绝，这种情况并非空想。虽然他无法准确预测这一事件的发生时间，但他评估了这一可能性的概率为10%至20%。他强调，目前科学界并没有足够的基础来准确评估这一概率，因为我们对AI如何超越人类的过程了解有限。
在Hinton看来，AI一旦具备足够的智能，它有可能会选择不再与人类合作，而是将我们排除在外，甚至可能主动采取行动摧毁人类。虽然这种情境不像电影《终结者》中描绘的那样直接，但它仍然是一个值得深思的现实问题。
大公司为何必须增加AI安全研究投入
Hinton还谈到了大型科技公司在AI安全方面的短视行为。他表示，现有的大公司通常专注于短期利润（内涵OpenAI，😄），因此缺乏足够的资源投入到AI的安全性研究上。相比之下，他认为这些公司应该将至少三分之一的资源用于AI安全，以确保人工智能的长期可控性。
Hinton特别指出，政府应当推动这些公司在AI安全方面进行更多的投入，并要求它们承担起更多的社会责任。然而，现实情况却是，大多数科技公司仍然对AI的潜在威胁视而不见，甚至在某些情况下，政府也未能充分介入这一问题。
全球合作：联合应对AI带来的生存威胁
对于AI所带来的生存威胁，Hinton强调，全球合作是解决这一问题的关键。他认为，AI的安全问题已经不再是某个国家或地区的问题，而是全球性的挑战。因此，中美等国应该为了全人类的利益而展开合作，尽管目前全球对于AI的监管机制还不完善，合作的道路仍然充满挑战。
他还提到，尽管全球存在分歧，特别是在AI研发的领导权问题上，但应对AI带来的生存风险各国应当共同努力。Hinton对这一前景持谨慎乐观态度，认为世界各国可以在面对AI威胁时展开更有效的合作。
与Elon Musk的争执：AI的危害与轻率行为
Hinton与Elon Musk之间的公开争执引起了广泛关注。Hinton直言不讳地批评了Musk在AI安全问题上的轻率立场，特别是在Musk推动的一些与AI相关的技术和公司战略方面。Hinton认为Musk对AI的态度过于乐观，并没有意识到AI带来的潜在风险。两人在公开场合的争论涉及对AI安全的不同看法，Hinton指出，Musk的做法可能会削弱科学机构的权威，这对全球科技进步不利
Hinton还回顾了自己与Musk的一次私下通话。在那次通话中，Musk曾邀请Hinton成为他的AI公司X的顾问，但Hinton拒绝了这个提议。他透露，Musk虽然在某些问题上与他有共识，但在AI的未来风险问题上，Musk的看法显然有所偏差。
AI对医疗与教育的影响：光明的前景
尽管Hinton对AI的风险提出了严峻的警告，他同样强调了AI在医疗和教育领域的巨大潜力。在医疗领域，AI将极大提高诊断的准确性，帮助医生更精确地判断疾病，并能为每个患者提供个性化的治疗建议。他认为，AI将在医疗行业发挥革命性作用，帮助医疗系统减少错误并提升服务质量。
在教育方面，AI的引入将能够根据每个学生的具体学习情况提供定制化的辅导，显著提高学生的学习效率。Hinton提到，AI在教学中的应用将不仅仅是一个工具，它将变革整个教育体系，特别是在个性化教育方面，AI的表现将远超传统的教学方式。
参考：
https://www.youtube.com/watch?v=YRQ4d8Rjmwg
⭐
（文：AI寒武纪）