cuda程序常见异常汇总

1. CUDA out of memory

跑cuda 程序遇到下面错误：

RuntimeError: CUDA out of memory. Tried to allocate 588.00 MiB (GPU 011.00 GiB total capacity8.97 GiB already allocated190.44 MiB free9.00 GiB reserved in total by PyTorch)

运行程序之前，使用nvidia-smi 查看显存有没有被占用，如果有被占用5M以上，可能是显存没有被释放。通过如下命令来释放显存。

linux上使用命令行，云主机可以重启电脑

fuser -k /dev/nvidia* 或者 kill $(lsof -t /dev/nvidia*)

2. 减小batch size。

3. 更换更大显存的云主机。

UE5是一款游戏引擎，可以通过编写C++代码来与CUDA程序进行交互。下面是一些基本步骤：

1. 构建一个C++插件来实现与CUDA的交互；

2. 将CUDA程序编译为动态链接库（DLL）文件；

3. 在UE5项目中添加动态链接库；

4. 在C++插件中使用动态链接库调用CUDA程序。

具体来说，您可以按照以下步骤 *** 作：

1. 在UE5中创建一个新的插件项目。

2. 在插件项目中添加包含CUDA代码的源文件，并将其编译为动态链接库。

3. 在插件项目中添加包含CUDA头文件以及相关库文件的路径。

4. 在插件代码中使用动态链接库调用CUDA程序。

需要注意的是，在开发过程中还需要注意以下几点：

1. 编译CUDA程序时需要使用正确的编译器和CUDA工具包版本；

2. 需要确保CUDA代码能够在动态链接库中正常运行；

3. 如果需要在多个平台上使用该插件，则需要对不同平台进行编译并添加平台特定的代码。

总的来说，与CUDA的交互需要比较深入的技术知识，我们建议您在开始之前做好充分的准备和了解相关知识。

CUDA是一种编程工具，用于利用GPU进行高性能计算。显卡占用率是指显卡在特定时间内的使用率，一般用百分比表示。这两个概念有一定关联，主要体现在CUDA程序中对显卡的占用率。

在CUDA程序中，GPU被用来执行计算任务，因此CUDA程序的执行过程中会占用GPU的资源。这种占用方式与普通的图形处理任务不同，CUDA程序使用GPU的算力进行计算，而不是渲染图形。这意味着当计算任务运行时，显卡的占用率会不断变化，取决于CUDA程序的计算强度和持续时间。

通常情况下，当执行CUDA程序时，显卡的占用率会很高，因为CUDA程序使用GPU的资源进行高强度的计算。在计算结束后，显卡的占用率通常会降低，因为GPU的资源已被释放。如果您想在执行CUDA程序时监测显卡占用率，可以使用一些第三方软件，如GPU-Z或MSI Afterburner等，这些软件可以帮助您实时监控显卡的占用率和温度。

---