新智元报道
新智元报道
【新智元导读】在光鲜外表下，OpenAI暗藏着令人震惊的黑暗一面！华人女记者郝珂灵深挖了奥特曼背后的秘密。这个曾宣称「造福人类」的非营利组织，被还原了沦为硅谷最贪婪的资本机器的黑历史。
《纽约时报》畅销书榜上，有本书引起了巨大反响。
据说，奥特曼曾想方设法阻止这本书的出版。
正如副标题所言，这本书不是说OpenAI的「噩梦」，就是说AI竞赛「不顾后果」——刺到了奥特曼的命门！
新书副标题：英国版是「Inside the reckless race for total domination」（逐鹿天下，无法无天），美国版为「Dreams and nightmares in Sam Altman’s OpenAI」（奥特曼之OpenAI中的美梦与梦魇）
这次报道工作量难以置信——高达300次访谈，包括90位OpenAI内部人士的采访。
这本书描绘了OpenAI的崛起，以及奥特曼富有争议的个性，还敏锐地分析了人类正在搞什么样的AI，以及谁掌握着主导权。
在「MIT Technology Review」组织的圆桌谈话中，作家、AI记者、MIT校友Karen Hao（郝珂灵）介绍了新书《Empire of AI》「AI帝国」。
她还与主编Niall Firth深入交流，讲述了她2020年首次报道OpenAI的经历。
Karen Hao郝珂灵屡获殊荣，长期聚焦AI对社会的影响。她为《大西洋月刊》等知名媒体撰稿。她曾任职《华尔街日报》、《麻省理工科技评论》人工智能高级编辑。其作品常被全球高校选为教学案例，并获多国政府机构引用。她30岁前便斩获美国人文主义媒体奖、美国国家杂志奖（30岁以下记者类别）等重要奖项，本科毕业于麻省理工学院机械工程系
这本畅销书，起源于她当年在「MIT Technology Review」的首个重磅专题。
那是篇精彩绝伦的报道：首次揭开了OpenAI的内幕。OpenAI对此相当不满。
OpenAI力图拯救世界的背后：混乱与秘密
这个「AI登月项目」的初心是透明开放。这篇文章揭示了竞争压力如何逐渐侵蚀这一理想。
至今，Karen Hao仍把「MIT Technology Review」看作她新闻事业的起点。
之所以会写那篇文章，完全是因为受Niall委托。当时，她只是随口说了一句：「嘿，OpenAI看起来挺有意思的。」他就说：「你应该给他们写一篇深度报道。」
之前，她从来没写过企业特写。但她带着开放的心态开始写作——试着去真正了解OpenAI是什么样的组织。
最初，OpenAI自称是非营利机构，宣称自己的使命是「让通用人工智能造福全人类」。
她很好奇，想弄清楚，这到底意味着什么？他们具体是怎么努力实现这个目标的？他们又是如何在坚持使命的同时筹集资金、吸引资本？
在OpenAI内部，她实地采访了三天，又访问了数十位公司外部或相关人士……
逐渐发现，他们公开宣称的愿景与他们实际的运作方式之间，存在着根本性的矛盾。
OpenAI利用美化过的愿景，赢得了外界大量的信任与支持。
于是，她最后将报道聚焦在了这个矛盾上。
「虚伪的面具被扒光」，这就是OpenAI不满的主因。奥特曼曾直白地告诉Karen Hao：OpenAI不喜欢那篇报道。
自那篇报道以来，OpenAI那种「言行不一」的情况，这几年变得更加复杂、更令人困惑了。
不得不说，现在的OpenAI堪称硅谷最具资本主义传奇色彩的企业之一——
他们刚刚完成了科技史上规模最大的私募融资，募集400亿美元，估值达到3000亿美元。
但吊诡的是，他们依然坚称自己「首先且最重要的身份是非营利组织」。
这恰恰揭示了OpenAI这十年来的核心策略：不断调整和重塑自身定位，精心打造最符合公众和政策制定者期待的叙事框架——
尽管在技术开发和商业化方面的实际行动，他们可能完全是另一回事。
奥特曼将实现AGI比作「AI界的曼哈顿计划」，还援引奥本海默的名言：「技术诞生，只因它可能诞生。」
但Karen Hao的书中贯穿的主题恰恰相反：事情并非注定如此，人也并非生来如此。人之所重，道之所及。
如果真是如此，那在实践中又意味着什么呢？
以OpenAI为例，在早期他们做了个关键抉择：Scaling既有技术，推动AI进步。
2015年底创立时，OpenAI就是全AI领域的奇葩；2017年做此决策之际，更是如此。正是这个选择，造就了如今主宰市场和头条的AI技术。
关于如何推动AI进步，存在两种主要的观点，或者说，是一系列观点，分布在两个极端之间：
一种极端认为，我们已经拥有了所有必要的技术，只需积极扩展规模即可；
另一种则认为，实际上，我们还缺乏足够的技术，需要持续创新并进行基础研究，才能获得更多突破。
大多数人认为，聚焦基础研究的这条路径更可能带来进展，但OpenAI不同，他们选择了另一种极端——
他们坚信只需利用现有神经网络架构，不断注入更多数据，在史无前例的超级计算机上进行训练就能取得突破。
他们之所以做出这一决策，是因为在AI竞争中，谷歌几乎垄断了AI人才。
OpenAI知道，单纯依靠研究突破，他们不太可能打败谷歌。基础研究的道路非常艰难，因为你永远无法预测突破何时会出现，它不是一条线性的发展路线；
而Scaling则不同，它可以线性推进：只要不断增加数据量和计算能力，就能取得进展。
因此，他们认为，要最快地实现这一点，非他们莫属，只要这样做就能超越谷歌。
而且，这也非常符合奥特曼的优势，因为他是个极为出色的筹资天才。而当AI模型的推进依赖于规模化时，最大的瓶颈就是资本。
因此，这个决策非常契合他的特长，因为他擅长积累资本，他知道如何快速积累资本。
这生动诠释了技术发展是人类选择与价值观的产物：正是当时OpenAI所具备的特殊技能与优势，决定了他们选择的前进方向。
从GPT-2 到GPT-3的突破，完全依赖于数据和算力Scaling。
从现在回头看，这一切令人惊叹。不过，这种路径背后需要付出极其高昂的成本。
这是Karen Hao对OpenAI最大的批评之一：
我们本可以通过其他方式取得这些成果，并且在未来继续从AI中获益，而不必采用高度消耗资源、极其昂贵的开发方式。
在ChatGPT尚未出现之前，「殖民主义」已开始复辟。
AI的商业化与全球部署，让过去的殖民结构和历史性不平等死灰复燃。
在为MIT Tech Review 撰写「AI殖民主义」（AI Colonialism）系列报道时，Karen Hao逐渐关注到这一视角。
在此系列报道的导语中，他们认为人工智能正在创造新的世界秩序：
如今，AI行业正通过更加隐蔽的方式，极大地牺牲贫穷群体，帮助富有和有权势的人获取更多财富。
在这个系列的报道过程中，Karen Hao不断遇到各种案例。她越来越相信：AI行业正在复制并强化全球范围内的结构性不平等。它似乎正在演变成一种「新殖民主义」的力量。
而当ChatGPT推出之后，这一趋势进一步加速了：
一旦开始以整个互联网为训练数据，依靠占地广阔的超级计算中心运行AI系统时，这背后所依赖的资源提取与劳动力剥削规模也上升到了全球层面。
所以在书中，她将「人工智能帝国」（empires of AI）与传统帝国之间，归纳出了四大相似点。
第一是，帝国会攫取本属于其他人的资源。AI公司正在互联网上，大规模采集并不属于它们的数据，并获取他人的知识产权，这种做法本质上是资源掠夺。
第二是，帝国剥削大量劳动力。许多公司将AI开发中最艰苦、最低薪的工作外包到「南方世界」（Global South）国家或其他经济弱势地区。同时，它们所开发的许多技术，本身就是用来替代人工劳动的，也在进一步强化劳动力剥削。
第三是，帝国垄断知识的生产。在过去十年中，AI行业不断吸纳世界范围内的研究人员，导致他们越来越少地参与开放科学，不再在高校或独立研究机构工作。其结果就是：我们将无法获得客观、全面的研究视角。
第四，也是最后一点，帝国往往伴随着激烈的「对抗性叙事」：「正义帝国」必须变得足够强大，才能击败「邪恶帝国」。因此，他们就宣称自己有正当性可以无限制地消耗资源、剥削劳动力。如果「坏人」先掌握了AGI，人类就会陷入灾难；但如果「好人」抢先拥有这些技术，他们就能拯救世界，人类也将因此获得福祉。
所以，从多个维度来看，「帝国」这个概念，是Karen Hao认为最能全面刻画AI公司运作方式、以及它们如何深刻影响这个世界的最佳框架。
AGI几乎是这本书里贯穿始终的「隐形主角」。它像一道无形的阴影，始终笼罩在 OpenAI 的一切之上，仿佛在说：「这就是我们必须抢先实现的目标。」
至今为止，连「AGI到底是什么」都没有共识，更不要提如何实现AGI。
多年来，OpenAI给AGI下过各种不同的定义，甚至内部还有个玩笑：「问13个OpenAI研究员什么是 AGI，你会得到 15个答案。」
他们自己也知道AGI并没有明确定义。
但AGI却有非常强的象征意义，OpenAI营造出一种近乎信仰式的追求氛围——
大家觉得必须不断向着「终极目标」前进，一旦实现，整个人类文明都会因此而改变。
于是问题变成：你的人生中还有什么比这更值得投入的？又还有谁比你更有资格去完成它？ 在这样的逻辑下，只要最终实现 AGI，这一切代价都是值得的。 因此，这也就成了他们一切行动的正当性来源。
这种信念也支撑着他们推行一种高度排他、精英导向的技术开发模式——他们声称，只有自己拥有足够的专业能力与道德权威，才有资格控制AGI的发展与部署；而其他人则不应介入，因为这项技术「过于强大」，不容开放参与。
对此，Karen Hao最想问奥特曼：「你到底要看到多少实际的伤害，才会意识到，是时候换一条路走了？」
（文：新智元）