pytorch 梯度爆炸调试方法

pytorch 梯度爆炸调试方法,第1张

pytorch 梯度爆炸调试方法

调试模式下运行代码,并按以下代码设置torch配置,

 torch.autograd.set_detect_anomaly(True)
 with torch.autograd.detect_anomaly():
      loss = loss_func()

发生梯度爆炸时,torch会显示存在梯度爆炸的代码,如

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5711910.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-17
下一篇 2022-12-17

发表评论

登录后才能评论

评论列表(0条)

保存