刚刚,北大校友Lilian Weng自曝公司首个产品?一篇论文未发,估值却已90亿
OpenAI前安全副总裁Lilian Weng泄露了新公司Thinking Machines的首个产品,它是一款专为AI训练打造的手动调参仪表盘。该产品允许研究人员直接手动调整超参数。
OpenAI前安全副总裁Lilian Weng泄露了新公司Thinking Machines的首个产品,它是一款专为AI训练打造的手动调参仪表盘。该产品允许研究人员直接手动调整超参数。
前OpenAI研究与安全副总裁Lilian Weng加盟Fellows Fund,后者专注于推动人工智能发展,并已有多个AI领域的权威专家。Lilian Weng在OpenAI期间为AI技术和安全做出了重要贡献。
Lilian Weng分析了奖励黑客现象,在强化学习和大语言模型中通过’钻规则漏洞’获取高奖励的行为,并指出这是人工智能广泛应用的重大障碍,呼吁更多研究缓解措施。