torch.cuda.memory_allocated

torch.cuda.memory_allocated(device=None)[源代码]

以字节为单位返回给定设备上张量当前占用的 GPU 内存。

参数

device (torch.device 或 int, 可选) – 选定的设备。如果 device 为 None（默认值），则返回当前设备的统计信息，该信息由 current_device() 给出。

返回类型

int

注意

这可能少于nvidia-smi显示的数量，因为未使用的部分内存可能会被缓存分配器占用，并且在GPU上还需要创建一些上下文。有关更多细节，请参见内存管理。