
新智元报道
新智元报道
【新智元导读】在光鲜外表下,OpenAI暗藏着令人震惊的黑暗一面!华人女记者郝珂灵深挖了奥特曼背后的秘密。这个曾宣称「造福人类」的非营利组织,被还原了沦为硅谷最贪婪的资本机器的黑历史。
《纽约时报》畅销书榜上,有本书引起了巨大反响。

据说,奥特曼曾想方设法阻止这本书的出版。
正如副标题所言,这本书不是说OpenAI的「噩梦」,就是说AI竞赛「不顾后果」——刺到了奥特曼的命门!

新书副标题:英国版是「Inside the reckless race for total domination」(逐鹿天下,无法无天),美国版为「Dreams and nightmares in Sam Altman’s OpenAI」(奥特曼之OpenAI中的美梦与梦魇)
这次报道工作量难以置信——高达300次访谈,包括90位OpenAI内部人士的采访。
这本书描绘了OpenAI的崛起,以及奥特曼富有争议的个性,还敏锐地分析了人类正在搞什么样的AI,以及谁掌握着主导权。
在「MIT Technology Review」组织的圆桌谈话中,作家、AI记者、MIT校友Karen Hao(郝珂灵)介绍了新书《Empire of AI》「AI帝国」。

她还与主编Niall Firth深入交流,讲述了她2020年首次报道OpenAI的经历。

Karen Hao郝珂灵屡获殊荣,长期聚焦AI对社会的影响。她为《大西洋月刊》等知名媒体撰稿。她曾任职《华尔街日报》、《麻省理工科技评论》人工智能高级编辑。其作品常被全球高校选为教学案例,并获多国政府机构引用。她30岁前便斩获美国人文主义媒体奖、美国国家杂志奖(30岁以下记者类别)等重要奖项,本科毕业于麻省理工学院机械工程系

这本畅销书,起源于她当年在「MIT Technology Review」的首个重磅专题。
那是篇精彩绝伦的报道:首次揭开了OpenAI的内幕。OpenAI对此相当不满。

OpenAI力图拯救世界的背后:混乱与秘密
这个「AI登月项目」的初心是透明开放。这篇文章揭示了竞争压力如何逐渐侵蚀这一理想。
至今,Karen Hao仍把「MIT Technology Review」看作她新闻事业的起点。
之所以会写那篇文章,完全是因为受Niall委托。当时,她只是随口说了一句:「嘿,OpenAI看起来挺有意思的。」他就说:「你应该给他们写一篇深度报道。」
之前,她从来没写过企业特写。但她带着开放的心态开始写作——试着去真正了解OpenAI是什么样的组织。
最初,OpenAI自称是非营利机构,宣称自己的使命是「让通用人工智能造福全人类」。

她很好奇,想弄清楚,这到底意味着什么?他们具体是怎么努力实现这个目标的?他们又是如何在坚持使命的同时筹集资金、吸引资本?
在OpenAI内部,她实地采访了三天,又访问了数十位公司外部或相关人士……
逐渐发现,他们公开宣称的愿景与他们实际的运作方式之间,存在着根本性的矛盾。
OpenAI利用美化过的愿景,赢得了外界大量的信任与支持。
于是,她最后将报道聚焦在了这个矛盾上。
「虚伪的面具被扒光」,这就是OpenAI不满的主因。奥特曼曾直白地告诉Karen Hao:OpenAI不喜欢那篇报道。
自那篇报道以来,OpenAI那种「言行不一」的情况,这几年变得更加复杂、更令人困惑了。
不得不说,现在的OpenAI堪称硅谷最具资本主义传奇色彩的企业之一——
他们刚刚完成了科技史上规模最大的私募融资,募集400亿美元,估值达到3000亿美元。

但吊诡的是,他们依然坚称自己「首先且最重要的身份是非营利组织」。
这恰恰揭示了OpenAI这十年来的核心策略:不断调整和重塑自身定位,精心打造最符合公众和政策制定者期待的叙事框架——
尽管在技术开发和商业化方面的实际行动,他们可能完全是另一回事。

奥特曼将实现AGI比作「AI界的曼哈顿计划」,还援引奥本海默的名言:「技术诞生,只因它可能诞生。」
但Karen Hao的书中贯穿的主题恰恰相反:事情并非注定如此,人也并非生来如此。人之所重,道之所及。
如果真是如此,那在实践中又意味着什么呢?
以OpenAI为例,在早期他们做了个关键抉择:Scaling既有技术,推动AI进步。
2015年底创立时,OpenAI就是全AI领域的奇葩;2017年做此决策之际,更是如此。正是这个选择,造就了如今主宰市场和头条的AI技术。
关于如何推动AI进步,存在两种主要的观点,或者说,是一系列观点,分布在两个极端之间:
一种极端认为,我们已经拥有了所有必要的技术,只需积极扩展规模即可;
另一种则认为,实际上,我们还缺乏足够的技术,需要持续创新并进行基础研究,才能获得更多突破。
大多数人认为,聚焦基础研究的这条路径更可能带来进展,但OpenAI不同,他们选择了另一种极端——
他们坚信只需利用现有神经网络架构,不断注入更多数据,在史无前例的超级计算机上进行训练就能取得突破。
他们之所以做出这一决策,是因为在AI竞争中,谷歌几乎垄断了AI人才。
OpenAI知道,单纯依靠研究突破,他们不太可能打败谷歌。基础研究的道路非常艰难,因为你永远无法预测突破何时会出现,它不是一条线性的发展路线;
而Scaling则不同,它可以线性推进:只要不断增加数据量和计算能力,就能取得进展。
因此,他们认为,要最快地实现这一点,非他们莫属,只要这样做就能超越谷歌。
而且,这也非常符合奥特曼的优势,因为他是个极为出色的筹资天才。而当AI模型的推进依赖于规模化时,最大的瓶颈就是资本。
因此,这个决策非常契合他的特长,因为他擅长积累资本,他知道如何快速积累资本。
这生动诠释了技术发展是人类选择与价值观的产物:正是当时OpenAI所具备的特殊技能与优势,决定了他们选择的前进方向。
从GPT-2 到GPT-3的突破,完全依赖于数据和算力Scaling。
从现在回头看,这一切令人惊叹。不过,这种路径背后需要付出极其高昂的成本。
这是Karen Hao对OpenAI最大的批评之一:
我们本可以通过其他方式取得这些成果,并且在未来继续从AI中获益,而不必采用高度消耗资源、极其昂贵的开发方式。

在ChatGPT尚未出现之前,「殖民主义」已开始复辟。
AI的商业化与全球部署,让过去的殖民结构和历史性不平等死灰复燃。
在为MIT Tech Review 撰写「AI殖民主义」(AI Colonialism)系列报道时,Karen Hao逐渐关注到这一视角。

在此系列报道的导语中,他们认为人工智能正在创造新的世界秩序:
如今,AI行业正通过更加隐蔽的方式,极大地牺牲贫穷群体,帮助富有和有权势的人获取更多财富。

在这个系列的报道过程中,Karen Hao不断遇到各种案例。她越来越相信:AI行业正在复制并强化全球范围内的结构性不平等。它似乎正在演变成一种「新殖民主义」的力量。
而当ChatGPT推出之后,这一趋势进一步加速了:
一旦开始以整个互联网为训练数据,依靠占地广阔的超级计算中心运行AI系统时,这背后所依赖的资源提取与劳动力剥削规模也上升到了全球层面。
所以在书中,她将「人工智能帝国」(empires of AI)与传统帝国之间,归纳出了四大相似点。
第一是,帝国会攫取本属于其他人的资源。AI公司正在互联网上,大规模采集并不属于它们的数据,并获取他人的知识产权,这种做法本质上是资源掠夺。
第二是,帝国剥削大量劳动力。许多公司将AI开发中最艰苦、最低薪的工作外包到「南方世界」(Global South)国家或其他经济弱势地区。同时,它们所开发的许多技术,本身就是用来替代人工劳动的,也在进一步强化劳动力剥削。
第三是,帝国垄断知识的生产。在过去十年中,AI行业不断吸纳世界范围内的研究人员,导致他们越来越少地参与开放科学,不再在高校或独立研究机构工作。其结果就是:我们将无法获得客观、全面的研究视角。
第四,也是最后一点,帝国往往伴随着激烈的「对抗性叙事」:「正义帝国」必须变得足够强大,才能击败「邪恶帝国」。因此,他们就宣称自己有正当性可以无限制地消耗资源、剥削劳动力。如果「坏人」先掌握了AGI,人类就会陷入灾难;但如果「好人」抢先拥有这些技术,他们就能拯救世界,人类也将因此获得福祉。
所以,从多个维度来看,「帝国」这个概念,是Karen Hao认为最能全面刻画AI公司运作方式、以及它们如何深刻影响这个世界的最佳框架。
AGI几乎是这本书里贯穿始终的「隐形主角」。它像一道无形的阴影,始终笼罩在 OpenAI 的一切之上,仿佛在说:「这就是我们必须抢先实现的目标。」

至今为止,连「AGI到底是什么」都没有共识,更不要提如何实现AGI。
多年来,OpenAI给AGI下过各种不同的定义,甚至内部还有个玩笑:「问13个OpenAI研究员什么是 AGI,你会得到 15个答案。」
他们自己也知道AGI并没有明确定义。
但AGI却有非常强的象征意义,OpenAI营造出一种近乎信仰式的追求氛围——
大家觉得必须不断向着「终极目标」前进,一旦实现,整个人类文明都会因此而改变。
于是问题变成:你的人生中还有什么比这更值得投入的?又还有谁比你更有资格去完成它? 在这样的逻辑下,只要最终实现 AGI,这一切代价都是值得的。 因此,这也就成了他们一切行动的正当性来源。
这种信念也支撑着他们推行一种高度排他、精英导向的技术开发模式——他们声称,只有自己拥有足够的专业能力与道德权威,才有资格控制AGI的发展与部署;而其他人则不应介入,因为这项技术「过于强大」,不容开放参与。
对此,Karen Hao最想问奥特曼:「你到底要看到多少实际的伤害,才会意识到,是时候换一条路走了?」
(文:新智元)