PyTorch 原型功能示例

创建时间： Mar 03， 2021 |上次更新时间：2024 年 10 月 10 日 |上次验证： Nov 05， 2024

原型功能不作为 PyPI 或 Conda 等二进制发行版的一部分提供（运行时标志后面可能除外）。要测试这些功能，我们建议从 master 构建或使用 pytorch.org 上提供的 nightly wheel。

承诺级别：我们承诺仅收集有关这些功能的高带宽反馈。根据这些反馈和社区成员之间可能的进一步参与，我们作为一个社区将决定我们是要提高承诺水平还是快速失败。

---

FX Graph 模式量化用户指南

了解 FX Graph Mode Quantization。

FX，量化

FX Graph Mode 训练后动态量化

了解如何基于 torch.fx 在图形模式下进行训练后动态量化。

FX，量化

FX Graph Mode 训练后静态量化

了解如何在基于 torch.fx 的图形模式下进行训练后静态量化。

FX，量化

BERT 上的图形模式动态量化

了解如何在 BERT 模型上使用图形模式量化进行训练后动态量化。

文本，量化

PyTorch 数值套件教程

了解如何使用 PyTorch Numeric Suite 来支持量化调试工作。

调试，量化

如何为 PyTorch 2 导出量化编写量化器

了解如何实现 Quantizer for PT2 Export Quantization

量化

PyTorch 2 导出训练后量化

了解如何在 PyTorch 2 Export 中使用训练后量化。

量化

PyTorch 2 导出量化感知训练

了解如何在 PyTorch 2 Export 中使用 Quantization-Aware-Training。

量化

PyTorch 2 通过 Inductor 使用 x86 后端进行导出量化

了解如何通过 Inductor 将 PT2 Export Quantization 与 X86 Backend 结合使用。

量化

（原型）通过半结构化 （2：4） 稀疏性加速 BERT

将 BERT 修剪为 2：4 稀疏并加速以进行推理。

模型优化

在 PyTorch 中使用 iOS GPU

了解如何在 iOS GPU 上运行模型。

移动

将 MobileNetV2 转换为 NNAPI

了解如何准备计算机视觉模型以使用 Android 的神经网络 API （NNAPI）。

移动

PyTorch Vulkan 后端用户工作流

了解如何在移动 GPU 上使用 Vulkan 后端。

移动

Android 和 iOS 中基于跟踪的选择性构建移动解释器

了解如何使用基于跟踪的选择性构建来优化移动解释器的大小。

移动

将 Mobilenetv2 转换为 Core ML

了解如何准备计算机视觉模型以使用 PyTorch Core ML 移动后端。

移动

在 PyTorch 1.10 中跳过模块参数初始化

介绍 PyTorch 1.10 在构建模块时跳过参数初始化，避免浪费计算。

模块

TorchScript 中的模型冻结

冻结是将 Pytorch 模块参数和属性值内联到 TorchScript 内部表示中的过程。

TorchScript 脚本

使用 torch.vmap

了解 torch.vmap，一个用于 PyTorch 操作的自动矢量化器。

VMAP

嵌套张量

了解嵌套张量，一种批处理异构长度数据的新方法

嵌套张量

MaskedTensor 概述

了解掩码张量，即指定值和未指定值的真实来源

MaskedTensor 的

掩码张量稀疏性

了解如何在 MaskedTensor 中利用稀疏布局（例如 COO 和 CSR）

MaskedTensor 的

掩码张量高级语义

详细了解 Masked Tensor 的高级语义（缩减和与 NumPy 的 MaskedArray 的比较）

MaskedTensor 的

MaskedTensor：简化 Adagrad 稀疏语义

观看展示，了解掩码张量如何启用稀疏语义并提供更清晰的开发体验

MaskedTensor 的

电感 CPP 包装器教程

使用 Inductor Cpp Wrapper 加速您的模型

模型优化

电感器 Windows CPU 教程

使用 Windows CPU 上的 Inductor 加速您的模型

模型优化

在 CPU 上使用 max-autotune 编译以获得额外的性能提升

CPU 上的最大自动调谐模式教程，以获得额外的性能提升

模型优化

Flight Recorder 教程

使用 Flight Recorder 轻松调试卡住的作业

分布式， 调试， FlightRecorder

Python 中的树外扩展自动加载

了解如何基于自动加载机制改进 Out-of-tree 扩展与 PyTorch 的无缝集成。

扩展 PyTorch、前端 API