ExecuTorch 运行时 Python API 参考

Python 模块包装 C++ ExecuTorch 运行时。它可以加载和执行序列化的程序文件：有关如何将 PyTorch 转换为 ExecuTorch 程序文件的信息，请参阅导出到 ExecuTorch 教程。执行接受并返回值，使其成为验证程序正确性的快速方法。executorch.runtime.ptenn.Module.ptetorch.Tensor

有关 API 如何发展和弃用过程的详细信息，请参阅 ExecuTorch API 生命周期和弃用策略。

用法示例：

from pathlib import Path

import torch
from executorch.runtime import Verification, Runtime, Program, Method

et_runtime: Runtime = Runtime.get()
program: Program = et_runtime.load_program(
    Path("/tmp/program.pte"),
    verification=Verification.Minimal,
)
print("Program methods:", program.method_names)
forward: Method = program.load_method("forward")

inputs = (torch.ones(2, 2), torch.ones(2, 2))
outputs = forward.execute(inputs)
print(f"Ran forward({inputs})")
print(f"  outputs: {outputs}")

输出示例：

Program methods: ('forward', 'forward2')
Ran forward((tensor([[1., 1.],
        [1., 1.]]), tensor([[1., 1.],
        [1., 1.]])))
  outputs: [tensor([[1., 1.],
        [1., 1.]])]

类 executorch.runtime 中。runtime（*， legacy_module）

ExecuTorch 运行时环境的实例。

这可用于并发加载和执行任意数量的 ExecuTorch 程序和方法。

static get（

获取 Runtime 单一实例。

load_program（data， *， verification=<Verification.InternalConsistency： 1>）

从 PTE 二进制文件加载 ExecuTorch 程序。

参数

• data – 要加载的二进制程序数据;通常是 PTE 数据。

• VERIFICATION – 要执行的程序验证级别。

返回

加载的程序。

类 executorch.runtime 中。OperatorRegistry（legacy_module）

运行时可用的 Operator 注册表。

属性 operator_names

以一组字符串的形式返回所有已注册运算符的名称。

类 executorch.runtime 中。程序（模块，数据）

一个 ExecuTorch 程序，从二进制 PTE 数据加载。

这可用于加载程序定义的方法/模型。

load_method（name）

从程序加载方法。

参数

name – 要加载的方法的名称。

返回

加载的方法。

属性 method_names

以一组字符串的形式返回 Program 的方法名称。

类 executorch.runtime 中。方法（method_name，模块）

一个 ExecuTorch 方法，从 Program 加载。 这可用于执行带有 inputs 的方法。

execute（inputs）

使用给定的输入执行方法。

参数

inputs （输入） – 方法的输入。

返回

方法的输出。

属性元数据

获取方法的元数据。

返回

方法的元数据。