torch.mps¶
此软件包提供了一个接口,用于在Python中访问MPS(Metal Performance Shaders)后端。 Metal是苹果公司用于编程金属GPU(图形处理器单元)的API。使用MPS意味着可以通过在金属GPU上运行工作来提高性能。 有关更多详细信息,请参阅https://developer.apple.com/documentation/metalperformanceshaders。
返回可用的 MPS 设备数量。 |
|
等待 MPS 设备上所有流中的所有内核完成。 |
|
返回随机数生成器的状态作为字节张量。 |
|
设置随机数生成器的状态。 |
|
设置生成随机数的种子。 |
|
将生成随机数的种子设置为一个随机数。 |
|
释放所有当前由缓存分配器占用的未使用的缓存内存,以便这些内存可以在其他 GPU 应用程序中使用。 |
|
设置内存比例以限制进程在MPS设备上的内存分配。 |
|
返回当前由张量占用的 GPU 内存字节数。 |
|
返回Metal驱动为进程分配的总GPU内存字节数。 |
|
返回推荐的最大工作集大小,以字节为单位的 GPU 内存。 |
MPS 分析器¶
从 MPS 后端开始 OS 路标跟踪。 |
|
停止从 MPS 后端生成操作系统踪迹记录。 |
|
上下文管理器,用于从MPS后端启用生成操作系统踪迹标志跟踪。 |
MPS 事件¶
围绕 MPS 事件的包装器。 |