regrad是一个不同于 micrograd 的小巧反向自动微分实现

regrad是一个不同于 micrograd 的小巧反向自动微分实现,可以让人深入了解自动微分的运行机制。regrad的tools可以非常方便地画出计算图,并用不同的颜色标记不同类型的节点。深蓝色代表可以计算梯度的变量节点,浅蓝色代表不可计算梯度的变量和常量节点,灰色代表算子节点。作图工具不依赖Python的外部库。

参考文献:
[1] https://github.com/neluca/regrad/blob/main/README_zh.md



(文:NLP工程化)

欢迎分享

发表评论