torch.mps

此包提供了一个接口,用于在 Python 中访问 Apple 的 Metal Performance Shaders (MPS) 后端。Metal 是 Apple 提供的一种编程金属 GPU(图形处理器单元)的 API。使用 MPS 可以通过在金属 GPU 上运行任务来提高性能。更多详情请参阅 https://developer.apple.com/documentation/metalperformanceshaders

device_count

返回可用的MPS设备的数量。

synchronize

等待MPS设备上所有流中的所有内核完成执行。

get_rng_state

返回随机数生成器的状态,形式为ByteTensor。

set_rng_state

设定随机数生成器的状态。

manual_seed

设置生成随机数的种子值。

seed

将生成随机数的种子设为一个随机值。

empty_cache

释放缓存分配器中所有未使用的缓存内存,使这些内存可供其他 GPU 应用程序使用。

set_per_process_memory_fraction

设置内存分数来限制进程在MPS设备上的内存分配。

current_allocated_memory

返回当前GPU上张量占用的内存大小(以字节为单位)。

driver_allocated_memory

返回Metal驱动程序为此进程分配的总GPU内存(以字节为单位)。

recommended_max_memory

返回以字节为单位的推荐最大工作集大小,用于GPU内存。

MPS 分析器

profiler.start

从MPS后端开始OS踪迹追踪。

profiler.stop

停止从MPS后端生成OS Signpost追踪。

profiler.profile

一个上下文管理器,用于从MPS后端启用操作系统的Signpost追踪生成。

MPS事件

event.Event

MPS事件的封装类。

本页目录