欢迎使用 ExecuTorch 文档

重要

v0.4.0 是 ExecuTorch 的 beta 版本。自此版本起，API 将 遵循 API 生命周期和弃用策略， 并且二进制格式将符合 Runtime 兼容性 策略。 这有助于确保应用程序开发人员可以更新到最新版本 版本，而不破坏现有集成代码，在 根据这些政策。如果出现任何问题或兼容性中断 发生，请在 GitHub 上报告它们。.pte

我们欢迎来自社区的任何反馈、建议和错误报告 帮助我们改进技术。请使用 PyTorch 论坛进行讨论和反馈 使用 ExecuTorch 类别和我们的 GitHub bug 存储库 报告。

ExecuTorch 是一个 PyTorch 平台，它提供基础设施，可在从 AR/VR 可穿戴设备到标准设备上的 iOS 和 Android 移动部署等任何地方运行 PyTorch 程序。ExecuTorch 的主要目标之一是实现更广泛的 PyTorch 程序定制和部署功能。

ExecuTorch 严重依赖 torch.compile 和 torch.export 等 PyTorch 技术。如果您不熟悉这些 API，则可能需要在深入研究 ExecuTorch 文档之前阅读 PyTorch 文档中的内容。

ExecuTorch 源托管在 GitHub 上，网址为 https://github.com/pytorch/executorch。

开始

本节中的主题将帮助您开始使用 ExecuTorch。

什么是 ExecuTorch？

ExecuTorch 的简要介绍。在本节中， 您将了解 ExecuTorch 的主要功能 以及如何在项目中使用它们。

ExecuTorch 入门

有关如何开始使用的分步教程 ExecuTorch 的 ExecuTorch 中。

ExecuTorch 骆驼

了解如何通过 ExecuTorch 运行 Llama 模型

教程和示例

准备好尝试了吗？查看一些 ExecuTorch 教程。

---

导出到 ExecuTorch 教程

主题：导出、委托、量化

导出模型并将其降低以使其可在 ExecuTorch 运行时上运行的教程。

运行 ExecuTorch 模型 C++ 教程

主题：

有关在设备上设置内存池、加载模型、设置输入、执行模型和检索输出的教程。

简化的运行时 API 教程

主题：

在设备上执行模型的简化教程。

在 C++ 中管理张量内存教程

主题：

有关在处理张量时管理动态内存的教程。

使用 ExecuTorch 开发人员工具对模型进行性能分析

主题： devtools

使用 ExecuTorch 开发人员工具对模型进行分析和分析的教程，并链接回源代码。

在 Apple 平台上集成和运行 ExecuTorch

主题： iOS， macOS

有关在 iOS 上集成、使用 ExecuTorch 运行时并对其进行故障排除的教程。

构建 ExecuTorch iOS 演示应用程序

主题：委派，iOS

一个演示教程，介绍如何将 ExecuTorch 构建到 iOS 框架中并运行 iOS 应用程序。

构建 ExecuTorch Android 演示应用程序

主题：委派，Android

一个演示教程，介绍如何将 ExecuTorch 构建到 JNI 库中并构建 Android 应用程序。

将 Model 作为 Delegate 降低

主题：导出，委派

一个端到端示例，演示如何将模型降低为委托人

使用 XNNPACK 后端构建和运行 ExecuTorch

主题：导出，后端，委托，量化，XNNPACK

使用 XNNPACK 后端降低和导出模型的演示教程

使用 Vulkan 后端构建和运行 ExecuTorch

主题： 导出，后端，委托，Vulkan

本教程，引导您完成使用 Vulkan 后端构建 ExecuTorch 的过程

使用 ARM Ethos-U 后端构建和运行 ExecuTorch

主题：导出，后端，委托，ARM，Ethos-U

本教程将引导您完成使用 ARM Ethos-U 后端构建 ExecuTorch 的过程

使用 CoreML 后端构建和运行 ExecuTorch

主题：导出、后端、委派、CoreML

本教程将引导您完成使用 CoreML 后端构建 ExecuTorch 的过程

使用 MPS 后端构建和运行 ExecuTorch

主题：导出，后端，委托，MPS，MPSGraph

本教程将引导您完成使用 MPSGraph 后端构建 ExecuTorch 的过程

使用 Qualcomm AI Engine Direct 后端构建和运行 ExecuTorch

主题：导出，后端，委托，QNN

本教程将引导您完成使用 Qualcomm AI Engine Direct Backend 构建 ExecuTorch 的过程

在 Xtensa HiFi4 DSP 上构建和运行 ExecuTorch

主题： 导出，自定义操作符，DSP，Xtensa

本教程将引导您完成使用自定义运算符为 Xtensa Hifi4 DSP 构建 ExecuTorch 的过程