torch.mtia

MTIA后端在外独立实现,此处仅定义接口。

此包提供了在Python中访问MTIA后端的接口。

StreamContext

用于选择指定流的上下文管理器。

current_device

返回当前选定设备的索引。

current_stream

返回给定设备当前选择的 Stream

default_stream

返回指定设备的默认 Stream

device_count

返回可用的MTIA设备的数量。

init

is_available

若MTIA设备可用,返回true

is_initialized

返回 PyTorch 的 MTIA 状态是否已经初始化。

memory_stats

为指定设备返回MTIA内存分配器统计信息的字典。

set_device

设置当前设备。

set_stream

设置当前流。这是一个用于设置流的包装 API。

stream

使用上下文管理器 StreamContext 来选择指定的流。

synchronize

等待MTIA设备上所有流中所有作业的完成。

device

用于更改选定设备的上下文管理器。

set_rng_state

设定随机数生成器的状态。

get_rng_state

返回随机数生成器的状态,形式为ByteTensor。

DeferredMtiaCallError

流与事件

Event

查询并记录 Stream 状态,以识别和控制跨 Stream 的依赖关系,并测量时间。

Stream

按先进先出(FIFO)顺序异步执行相应任务的有序队列。

本页目录