TorchServe 默认推理处理程序¶
TorchServe 提供以下开箱即用的推理处理程序。预计每个使用的模型都支持批量推理。
image_classifier¶
描述 ：处理在 ImageNet 数据集上训练的图像分类模型。
输入 ： RGB 图像
输出 ：前 5 个预测的批次及其各自的图像概率
有关更多详细信息，请参阅示例
image_segmenter¶
描述 ：处理在 ImageNet 数据集上训练的图像分割模型。
输入 ： RGB 图像
输出 ： 输出形状为 [N， CL H W]，N - 批量大小，CL - 类数，H - 高度和 W - 宽度。
有关更多详细信息，请参阅示例
object_detector¶
描述 ：处理对象检测模型。
输入 ： RGB 图像
输出 ： 分别批量检测到的类和边界框列表
注意 ： 我们建议运行，否则 object_detector 默认处理程序将仅在默认 GPU 设备上运行torchvision>0.6
有关更多详细信息，请参阅示例
text_classifier¶
描述 ：处理在 AG_NEWS 数据集上训练的模型。
输入 ： 文本文件
输出 ：输入文本的类。（不支持批处理）
有关更多详细信息，请参阅示例
有关可用处理程序的更完整列表，请务必查看示例页面
常见功能¶
index_to_name.json¶
image_classifier，并且都可以自动从数字类 （0,1,2...） 映射到友好字符串。为此，只需在模型存档中包含一个文件 ，该文件包含类编号 （作为字符串） 到友好名称 （也作为字符串） 的映射。您可以在此处查看一些示例：text_classifierobject_detectorindex_to_name.json
贡献¶
我们欢迎新的贡献处理程序，如果您的用例未被现有的默认处理程序之一覆盖，请按照以下步骤贡献它
编写一个从 BaseHandler 派生的新类。将其作为单独的文件添加到
ts/torch_handler/更新以添加您的类名称
model-archiver/model_packaging.py在 unit_tests 中运行和更新单元测试。与往常一样，请确保在提交之前运行 torchserve_sanity.py。