TorchRec 概述

TorchRec 是 PyTorch 推荐系统库，旨在提供常见的原语 用于创建最先进的个性化模型和生产路径。TorchRec 是 在许多 Meta 生产推荐系统模型中广泛采用，用于训练和推理工作流程。

为什么选择 TorchRec？

TorchRec 旨在解决构建、扩展和部署大规模、 大规模推荐系统模型，这不是常规 PyTorch 的重点。更具体地说， TorchRec 为通用推荐系统提供了以下原语：

• 专用组件：TorchRec 提供了在编写推荐系统中常见的简单、专用的模块，重点是嵌入表

• 高级分片技术：TorchRec 为海量嵌入表的分片提供了灵活且可定制的方法：Row-Wise、Column-Wise、Table-Wise 等。TorchRec 可以自动确定设备拓扑的最佳计划，以实现高效的训练和内存平衡

• 分布式训练：虽然 PyTorch 支持基本的分布式训练，但 TorchRec 通过专为大规模推荐系统设计的更复杂的模型并行技术扩展了这些功能

• 难以置信的优化： TorchRec 训练和推理组件在 FBGEMM 之上进行了令人难以置信的优化。毕竟，TorchRec 为 Meta 的一些最大的推荐系统模型提供支持

• 顺畅的部署路径：TorchRec 提供了简单的 API，用于转换经过训练的模型以进行推理，并将其加载到 C++ 环境中以获得最佳推理模型

• 与 PyTorch 生态系统集成：TorchRec 建立在 PyTorch 之上，这意味着它与现有的 PyTorch 代码、工具和工作流无缝集成。这使开发人员能够利用其现有的知识和代码库，同时将高级功能用于推荐系统。作为 PyTorch 生态系统的一部分，TorchRec 受益于 PyTorch 附带的强大社区支持、持续更新和改进。