Ilya 最新演讲:AI 将递归构建更强大的自己
AI研究者Ilya Sutskever在演讲中提出,未来AI可能会自我进化并构建更强大的AI系统,带来不可预测且难以控制的风险。他强调了AI发展的极端不确定性及对人类控制能力的超越性威胁。
AI研究者Ilya Sutskever在演讲中提出,未来AI可能会自我进化并构建更强大的AI系统,带来不可预测且难以控制的风险。他强调了AI发展的极端不确定性及对人类控制能力的超越性威胁。
OpenAI和Anthropic秘密开启了递归自我改进行动。OpenAI可能开发了GPT-5但选择内部保留;Anthropic的Claude Opus 3.5未发布或用于生成训练数据。专家认为未来O4/O5将能自动化研发。
OpenAI的研究人员暗示已达到递归自我改进的临界点,可能在不久后发布O4或O5模型接管AI研发。目前发布的O3模型表现出色,并且已经开始自举训练。专家认为这标志着AGI(通用人工智能)已经无悬念地接近实现。