大约两年前,Andrej Karpathy发布了一部关于从零开始复现 GPT2的最具影响力的视频。


参考文献:
[1] https://anindya.bearblog.dev/blogs/
[2] https://anindyas.notion.site/annotatedpart0
[3] https://anindyas.notion.site/annotatedpart1
[4] https://jalammar.github.io/illustrated-gpt2/
(文:NLP工程化)