torch.cuda.set_per_process_memory_fraction

torch.cuda.set_per_process_memory_fraction(fraction, device=None)[源代码]

为一个进程设定内存分数。

这个分数用来限制缓存分配器在CUDA设备上的内存分配量。允许的最大值是总可见内存与该分数的乘积。如果某个进程试图分配超出此最大值的内存，分配器将会抛出一个内存不足的错误。

参数

• fraction (float) – 范围：0到1。允许使用的内存等于 total_memory 乘以 fraction。

• device (torch.device 或 int, 可选) – 选择的设备。如果为 None，则使用默认的 CUDA 设备。

注意

一般来说，总的可用空闲内存小于总容量。