Flask 推理模型,显存一直增长。

Flask 推理模型,显存一直增长。,第1张

问题
使用Flask调用DNN模型推理API时,每调用一次API,显存持续增长,直至最终显存爆炸强制退出程序。
解决方法

flask2.0的app.run()中默认打开了threaded=True来支持多线程并发请求,从而导致显存泄漏。每次调用,显存就持续增长。
解决方法为:把多线程改为单线程,设置app.run()中threaded和debug为False。示例如下:


然后,就可以正常推理了。

下面的没有用啊!

下面的没有用啊!

下面的没有用啊!

下面的没有用啊!
写够500字,否则
文章质量提示
文章质量提示
此文章质量较低,不会获得较多流量扶持! 可能的原因为:篇幅太短,广告涉嫌违规,外链过多,缺少代码,图片涉嫌违规
文章质量提示
此文章质量较低,不会获得较多流量扶持! 可能的原因为:篇幅太短,广告涉嫌违规,外链过多,缺少代码,图片涉嫌违规
此文章质量较低,不会获得较多流量扶持! 可能的原因为:篇幅太短,广告涉嫌违规,外链过多,缺少代码,图片涉嫌违规

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/langs/904433.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-05-15
下一篇 2022-05-15

发表评论

登录后才能评论

评论列表(0条)

保存