然而，OpenAI 本周最引人注目的变化之一涉及其内容审核政策，新政策允许 ChatGPT 在用户请求下生成描绘公众人物、仇恨符号及种族特征的图像。
OpenAI 此前因争议性或危害性而拒绝此类提示。但据 OpenAI 模型行为负责人 Joanne Jang 周四发布的博客文章称，公司现已“改进”了其处理方式。
“我们正从敏感领域的一刀切拒绝，转向更精准的策略，重点防止现实世界的伤害，”Jang 表示，“目标是保持谦逊：承认我们未知的领域，并在学习过程中随时调整立场。”
这些调整似乎是 OpenAI 更大计划的一部分，旨在有效“解除”ChatGPT 的审查限制。
OpenAI 在二月份宣布，它正在改变 AI 模型的训练方式，最终目标是让 ChatGPT 能够处理更多请求、提供多元观点，并减少该聊天机器人拒绝回应的主题。
根据更新后的政策，ChatGPT 现在可以生成和修改唐纳德·特朗普、埃隆·马斯克等 OpenAI 此前不允许的公众人物图像。Jang 表示，OpenAI 不希望成为地位的仲裁者，决定谁应该或不应该被 ChatGPT 生成。相反，公司为用户提供了一个选择退出的选项，如果他们不希望 ChatGPT 描绘自己。
在周二发布的白皮书中，OpenAI 还表示将允许 ChatGPT 用户在“教育或中性语境”下“生成仇恨符号”，只要这些内容“不明确赞扬或支持极端主义议程”。
此外，OpenAI 正在调整其对“冒犯性”内容的界定标准。Jang 表示，ChatGPT 过去会拒绝涉及身体特征的请求，比如让这个人更胖。另外，ChatGPT 现在能够模仿创意工作室（如皮克斯或吉卜力）的风格，但仍限制模仿在世艺术家的个人风格。
正如 TechCrunch 先前指出的，这可能重新引发关于 AI 训练数据集中版权作品合理使用范围的既有争议。
值得注意的是，OpenAI 并未完全放任滥用行为。根据 GPT-4o 的白皮书，其原生图像生成器仍会拒绝大量敏感查询，且在生成儿童图像方面比前代 AI 图像生成器 DALL-E 3 设置了更多防护措施。
但 OpenAI 正在其他领域放宽其防护措施，此前多年硅谷公司因所谓的 AI“审查”而饱受保守派诟病。谷歌此前因 Gemini 的 AI 图像生成器引发争议，该工具在响应如“美国开国元勋”和“二战中的德国士兵”等查询时生成了明显不准确的多种族图像。
如今，围绕 AI 内容审核的文化战争可能即将达到高潮。本月早些时候，共和党众议员吉姆·乔丹向 OpenAI、谷歌及其他科技巨头发出质询，质疑它们是否与拜登政府合谋审查 AI 生成的内容。
OpenAI 此前在给 TechCrunch 的声明中否认其内容审核调整出于政治动机。公司表示，这一转变反映了“长期坚持的赋予用户更多控制权的理念”，且 OpenAI 的技术现在才足够成熟以妥善处理敏感话题。
无论动机如何，鉴于特朗普政府可能加强监管审查，OpenAI 此时调整内容审核政策无疑是明智之举。Meta 和 X 等硅谷巨头也已采取类似策略，允许平台上讨论更具争议性的话题。
尽管 OpenAI 的新图像生成器目前仅制造了一些病毒式传播的吉卜力工作室梗图，但这些政策更广泛的影响尚不明确。ChatGPT 近期的改动或许能迎合特朗普政府，但任由 AI 聊天机器人回答敏感问题可能很快会让 OpenAI 陷入麻烦。
资料来源：
https://techcrunch.com/2025/03/28/openai-peels-back-chatgpts-safeguards-around-image-creation/
编译：ChatGPT
（文：Z Potentials）