Sam Altman:AGI时代,你如何证明自己「真实存在」?

身份验证将成为AGI时代的核心痛点!

OpenAI CEO Sam Altman近日在World的「At Last」活动上放出了一段重磅言论:在AGI时代,身份认证将变得前所未有的重要

这不是什么遥远的未来展望,而是已经开始落地的现实问题。

为了应对这个挑战,Altman参与创建了World项目——一个旨在确保人类在AI扩散时代仍然保持「可辨识」、「有价值」和「核心地位」的系统。

人类如何在AGI时代证明「我存在」?

在Altman看来,World ID不仅仅是关于你是谁的证明,更是如何证明你确实存在的工具。

「人与人之间需要交换价值。人与AI之间需要交换价值。未来某天,AI与AI之间也需要这样做。」Altman在采访中声称。

这听起来像是科幻片的情节?

但Altman和World联合创始人Alex Blania的对话表明,这一切早在ChatGPT诞生前就已开始酝酿。

「我们当时在讨论AGI时代的信任会是什么样子。」

Altman回忆道,「这是在ChatGPT之前。但我们都对AI非常感兴趣,以及随着技术继续发展,这将意味着什么。」

他们认识到,人类需要某种方式在AGI时代进行身份识别和验证。

为什么需要World ID?

Altman和Blania的思考远不止于简单的身份验证。他们考虑了AGI时代的诸多挑战:

  • 如何区分人类创造的内容和AI创造的内容

  • 如何确保人类在充斥AI内容的互联网世界中保持特殊和核心地位

  • 如何分配这些系统的访问权和资源

他们开始头脑风暴可能的解决方案:

  1. 新型社交产品,可以彻底解决机器人问题;

  2. 新的隐私保护方式

  3. 以及最重要的——整合金融网络的必要性。

「很明显,身份验证和人性证明是重要组成部分,」Altman表示,「但同样明显的是,你需要这个系统的最重要原因之一,是为了让人们能够交换价值,让人类和AI交换价值,未来某天让AI和AI交换价值。」

信任还是质疑?

对于这个雄心勃勃的计划,社区反应可谓两极分化。

有人看到了机遇。

Sandy (@techprimitives) 预测:「AI滥用如深度伪造、欺诈、假冒和身份盗窃等将为未来几年的区块链和加密货币采用铺平道路。」

Tibo (@TiboOnTech) 认为:「证明你是真实人类而非AI的需求,对于基本互动和价值交换变得日益关键。」

但也有很多声音表达了强烈质疑和担忧。

Nate Hake (@natehake) 指出:「我不需要把我的虹膜给Scam Altman来证明我存在。」

Bera (@BeraHugs) 更是嘲讽:「让我们创造一个问题,然后再创造一个新问题来解决第一个问题。」

Gerhard K. Heilig (@HeiligGerh36381) 则抨击这一计划的商业本质:「这全都是为了创建AI用户的个人档案——链接到全局唯一ID——使营销产品和服务变得更容易(因此更有利可图)!」

技术挑战与伦理困境

除了信任问题,World ID还面临着严峻的技术挑战。

如Diogo Valdez (@Diogo Valdez) 所质疑的:「如果你可以生成任何信息,难道不能也生成假的视网膜吗?」这一问题直指生物识别验证的可靠性。

而Cellarius (@Ydgrun) 则从经济学角度提出了更为根本的质疑:

AGI的定义就是人类没有价值。AGI可以比人类更好地做任何事情。所以不可能有价值交换。人类能做的任何事情,AGI都可以为自己做。你不能有交流,只能从AGI那里获得慈善。」

他进一步指出:「这是最荒谬的说法。想象一把猎枪,它的定义是能杀死所有动物。你不能谈论被枪击后仍然活着的动物,它们根据定义不可能存在。」

人类在AGI时代的价值

在所有这些讨论中,都涉及一个核心问题:

人类在AGI时代的价值何在?

如Inmate 24601 (@24601_inmate) 所言:「如果我们有诚实和真实性的文化,AGI可能是好的。但我们没有。无论我们取得什么进步,都只会被用来进一步隐藏和模糊真相。」

Priminent (@PriminentAi) 也警告道:「Altman的World ID听起来很崇高,但这是通向中央集权控制的滑坡。AGI重塑信任不应该意味着将我们的身份交给单一系统。真正的价值交换需要去中心化、透明的解决方案,而不是科技巨头的看门人。」

而nonesuch (@bigsamalana) 的评论则更为简洁直接:「不要相信那个家伙或他的任何项目来保护你自己的利益。」

AGI时代的身份认证或将是一个前所未有的挑战,而World ID只是众多可能解决方案中的一个

当AI变得越来越难以与人类区分,「我是谁」和「我如何证明我是我」这些古老的哲学问题,将以全新的方式回到我们面前。

你怎么看?

(文:AGI Hunt)

发表评论

×

下载每时AI手机APP

 

和大家一起交流AI最新资讯!

立即前往