神经网络

谷歌前 CEO 施密特关注AI自我改进问题了

作者

谷歌CEO埃里克·施密特呼吁对AI自我改进进行‘认真考虑’暂停发展。他认为这引发了全球关于安全的讨论，并促使各国加强监管和规范，但也抑制了创新和应用。要解决这一问题，需提高透明度、完善监管机制、建立应急响应机制及培养公众意识等措施。

Andrej Karpathy 首次公开私人邮件：揭秘Transformer 注意力机制真相

作者

揭秘Transformer‘注意力’机制的起源故事，它源于2014年实习生Dzmitry Bahdanau在Yoshua Bengio实验室中的实践思考与创新。通过软搜索设计解决了序列到序列模型中的瓶颈问题，最终提出RNNSearch架构，并引入softmax加权平均技术。