不同神经网络之间的区别，仅仅只是网络结构的不同，明白了这个你才能知道应该怎么学习神经网络
学习神经网络时应先了解不同模型架构差异，而MINST手写数字识别模型结构简单却能完成复杂任务，仅需两个全链接层和一次激活函数。文章探讨了为何仅两层就可实现分类，指出其背后原理仍不清楚，建议从基础知识入手，并推荐了一本专业书籍来深入学习神经网络模型的理论与实践。
激活函数
GELU：毁灭世界的神经网络激活函数！
机器学习中最具讽刺意味的命名莫过于GELU了。Jimmy Koppel 发现GELU作为激活函数在transformer架构中的主导地位与游戏卡牌中导致世界毁灭的角色名字Gelu巧合。这反映了人们对AI技术复杂态度，一方面推动发展带来便利；另一方面也可能引发潜在风险和伦理问题。