提供服务

这些组件旨在使与推理和部署工具（如torchserve）的交互更加简便。

torchx.components.serve.torchserve(model_path: str, management_api: str, image: str = 'ghcr.io/pytorch/torchx:0.8.0dev0', params: Optional[Dict[str, object]] = None, dryrun: bool = False) → AppDef

将提供的模型部署到指定的 TorchServe 管理 API 端点。

>>> from torchx.components.serve import torchserve
>>> torchserve(
...     model_path="s3://your-bucket/your-model.pt",
...     management_api="http://torchserve:8081",
... )
AppDef(name='torchx-torchserve', ...)

Parameters:

• model_path – 模型存档文件的 fsspec 路径。

• 管理API – 管理API根目录的URL。

• 图像 – 使用的容器。

• params – TorchServe 参数。 参见 https://pytorch.org/serve/management_api.html#register-a-model

• 试运行 – 启动应用，但不执行实际工作

Returns:

TorchX 应用程序定义

Return type:

specs.AppDef