如何在Pytorch中使用CUDA流?

如何在Pytorch中使用CUDA流?,第1张

如何在Pytorch中使用CUDA流?
s1 = torch.cuda.Stream()s2 = torch.cuda.Stream()# Initialise cuda tensors here. E.g.:A = torch.rand(1000, 1000, device = ‘cuda’)B = torch.rand(1000, 1000, device = ‘cuda’)# Wait for the above tensors to initialise.torch.cuda.synchronize()with torch.cuda.stream(s1):    C = torch.mm(A, A)with torch.cuda.stream(s2):    D = torch.mm(B, B)# Wait for C and D to be computed.torch.cuda.synchronize()# Do stuff with C and D.


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5617565.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-15
下一篇 2022-12-15

发表评论

登录后才能评论

评论列表(0条)

保存