新智元报道
新智元报道
【新智元导读】AI大佬Hinton怒批英美置AI安全不顾，认为万斯在巴黎峰会上完全是一派胡言，根本不了解AI的危险性。他认为AI可以造福人类，但必须保证AI安全，否则人类或面临灭顶之灾！
会后，美国和英国拒绝签署关于确保AI「安全、可靠、可信」的峰会声明，拒绝相关国际承诺。
la Repubblica独家报道了诺奖得主、AI「教父」Hinton，对这种行为的猛烈抨击。
Hinton:「没有约束，AI将是一种可怕的武器。华盛顿与科技巨头结成了危险的联盟」
Hinton: 万斯一派胡言
对美国副总统万斯在峰会上发言， 他认为是一派胡言：
我听了万斯的发言。我认为那是一派荒谬的胡言，完全显示出他对AI的危险性一无所知。
万斯犯了一个错误，认为如果有监管，就会扼杀AI。不，监管不会扼杀AI。许多有益的AI应用继续得到发展。我们需要开发AI，但必须确保安全。
现任美国政府对安全问题漠不关心，而且与大科技公司结成了联盟。
在声明中，万斯基本上是在威胁其他国家：如果他们试图对美国科技进行监管和干预，将会付出代价。
而英国此后，再也不能假装在关心如何确保AI安全，虽然Hinton没有推测背后的政治原因。
而在一年半前，正是英国在布莱切利公园举办了首个关于AI的峰会，目的也是为了进行监管。
布莱切利宣言｜为了全人类的利益，AI应该确保安全、以人为本、值得信赖且负责任
并且英国还通过了一项法律，要求对科技巨头进行严格的内容监管。这一转变，的确十分突兀和怪异。
英国甚至将国家科研机构AI Safety Institute更名，删除了AI产生「不平等结果」相关内容。欧洲媒体称之为英国跟随着万斯的曲调在跳舞。
AI安全不容忽视
在他看来，将潜在的破坏性工具交给全球无序使用，意味着将人类置于危险之中，可能导致人类走向灭绝。
事实上，Hinton从未排除过类似电影《终结者》中的情景，在电影中，不可阻挡的AI掌握了权力，开始攻击人类。
尽管有一些保留意见，但这一次Hinton承认AI应该以安全的方式发展：
AI在很多领域是非常有用的，比如医学和环境领域。
当然，它应该得到发展。但必须以对人类安全的方式进行开发。
而这正是美国副总统万斯似乎完全不必担心的。
而美国政府和硅谷的联盟，让Hinton非常不满意，非常令他不安。他表示这种无视AI安全的态度，无论是的短期还是长期，都将带来极其严重的后果：
在短期内，越来越多的罪犯将利用AI发起对我们基础设施的网络攻击。网上操控的新闻将会泛滥。人们的观点也将被操控。
长期内，AI有可能在某个时刻控制一切，而人类将深受其害。
当被问及怎么看待马斯克和奥特曼在OpenAI问题上的争斗，Hinton表示他虽然几乎不同意马斯克说的其他所有事情，但在这件事上同意马斯克的观点：
OpenAI应该保持非盈利性质，而不是变成一家赚钱的公司。
（文：新智元）