torch.mps¶
此软件包支持在 Python 中访问 MPS (Metal Performance Shaders) 后端的接口。 Metal 是 Apple 的 API,用于对金属 GPU(图形处理器单元)进行编程。使用 MPS 意味着 可以通过在金属 GPU 上运行工作来实现性能。 有关更多详细信息,请参阅 https://developer.apple.com/documentation/metalperformanceshaders。
返回可用 MPS 设备的数量。 |
|
等待 MPS 设备上所有流中的所有内核完成。 |
|
将随机数生成器状态作为 ByteTensor 返回。 |
|
设置随机数生成器状态。 |
|
设置用于生成随机数的种子。 |
|
将用于生成随机数的种子设置为随机数。 |
|
释放缓存分配器当前持有的所有未占用的缓存内存,以便这些内存可以在其他 GPU 应用程序中使用。 |
|
设置内存分数以限制进程在 MPS 设备上的内存分配。 |
|
返回张量占用的当前 GPU 内存(以字节为单位)。 |
|
返回 Metal 驱动程序为进程分配的总 GPU 内存(以字节为单位)。 |
|
返回 GPU 内存的建议最大工作集大小(以字节为单位)。 |
MPS 分析器¶
从 MPS 后端启动 OS Signpost 跟踪。 |
|
停止从 MPS 后端生成 OS Signpost 跟踪。 |
|
Context Manager 启用从 MPS 后端生成 OS Signpost 跟踪。 |