Merlin HugeCTR第三代 Embedding 功能优化
merlin hugectr（以下简称 hugectr）是 gpu 加速的推荐框架，旨在在多个 gpu 和节点之间分配训练并估计点击率（click-through rate）。
版本新增内容
hugectr 第三代 embedding 更新：
第三代 embedding 功能优化：自从在 v3.7 中引入新一代 hugectr embedding 以来，进行了一些更新和优化，包括代码重构以提高可用性。此版本的增强功能如下：
优化了稀疏查找在 warp 间负载不平衡方面的性能。稀疏操作工具包 （sok） 利用了此优化来提高性能。
修复了用于确定 globalembeddingdata 和 localembeddingdata 类中的最大 embedding 向量大小的问题。
sparse operation kit 1.1.4 版可以使用 pip 安装，并包括前面提到的优化。
embedding 表放置策略的 interface 简化：第三代 embedding 现在为您提供了一种更简单的方法来配置 embedding 表的放置策略。您可以使用函数参数配置嵌入表放置策略，而不是使用 json。您只需提供 shard_matrix、
table_group_strategy和 table_placement_strategy 参数。使用这些参数，第三代 embedding 可以将不同的表组合在一起，并根据 shard_matrix 参数放置它们。请参阅示例：https://github.com/nvidia-merlin/hugectr/blob/master/test/embedding_collection_test/dlrm_train.py
hugectr 分层参数服务器（hps）更新：
用于 hps 查找的 on-device 输入键：hps 查找支持在推理期间位于 gpu 内存上的输入 embedding 键。此功能移除了主机到设备的副本，并使用 dlpack lookup_fromdlpack（） 接口，使得 embedding key 的 dlpack 包装可以是一个 gpu tensor。
使用可配置的比例来初始化 embedding cache：在以前的版本中，cache_refresh_percentage_per_iteration 参数的默认值为 0.1。在此版本中，默认值更改为 0.0，并且该参数提供了额外的用途。如果您将参数设置为大于 0.0 的值并且还将模型的 use_gpu_embedding_cache 设置为 true，则当分层参数服务器 （hps） 启动时，hps 通过从模型的稀疏文件对 embedding cache 进行初始化时，hps 在会创建日志记录，日志记录类似于模型的 ec 初始化：“《model-name》”、num_tables：《int》 和设备上的 ec 初始化：《int》。这样将会减少预热阶段的持续时间。
hps 插件的隐式初始化：在此版本中，当您使用 triton 推理服务器部署 tensorflow 的 savedmodel 时，首次执行加载的模型时会隐式初始化 hps。在以前的版本中，您需要显式运行 hps.init（ps_config_file， global_batch_size）。
hugectr 分层参数服务器（hps）架构
hugectr i/o 模块更新：
支持了 aws s3 文件系统：parquet datareader 现在可以从 amazon web services s3 文件系统读取数据集。您还可以在训练期间从 s3 加载和存储模型。
文件系统使用的简化：您不再需要传递 datasourceparams 来使用远端文件系统进行模型的加载和存储。 filesystem 类会根据您在构建模型时指定的路径 uri 自动推断正确的文件系统类型：本地、hdfs 或 s3。例如，路径 hdfs://localhost:9000/ 将被推断为 hdfs 文件系统，路径
https://mybucket.s3.myregion.amazonaws.com/ 将被推断为 s3 文件系统。
支持将模型从远程文件系统加载到 hps：此版本使您能够在推理期间将模型从 hdfs 和 s3 远程文件系统加载到 hps。要使用这个新功能，请在 inferenceparams 中为模型文件路径提供准确的 hdfs 或者 s3 url。
hugectr i/o 框架
文档和示例更新：
新的 mmoe 模型示例：
https://github.com/nvidia-merlin/hugectr/tree/master/samples/mmoe
新的 hps 示例笔记本：
https://github.com/nvidia-merlin/hugectr/tree/master/hierarchical_parameter_server/notebooks
hps 文档样式更新：https://nvidia-
merlin.github.io/hugectr/master/hierarchical_parameter_server/index.html
删除了两个已弃用的教程 triton_tf_deploy 和 dump_to_tf。
增加了 performance 相关页面：https://nvidia-merlin.github.io/hugectr/master/performance.html
其他更新：
对重叠 pipeline 进行了更精细的粒度控制：我们弃用了旧的重叠 pipeline knob，并引入了四个新的 knob：
train_intra_iteration_overlap
train_inter_iteration_overlap
eval_intra_iteration_overlap
eval_inter_iteration_overlap
以帮助用户更好地控制重叠行为。有关详细信息，请参阅 api 文档
https://nvidia-merlin.github.io/hugectr/master/api/python_interface.html#createsolver-method
支持在训练过程中将 tensor 的值导出到 numpy array： 为 model 和 inferencemodel 类新增了 check_out_tensor（） 方法。现在用户可以使用这个 pyhon 方法将 tensor 的值导出，方便 debug。
修复的问题
interactionlayer 类已修复，它可以在 num_feas 》 30 时正常工作了。
通过增加工作空间大小和添加结尾掩码来更正 cublaslt 配置。
用于演示特征交叉的示例的预处理脚本已修复。
异步数据读取器是固定的。以前，由于不正确的 i/o 块大小和 i/o 对齐问题，它会挂起并报错。asyncparam 类已更改以实现修复。io_block_size 参数被 max_nr_request 参数替换，并且异步读取器使用的实际 i/o 块大小会相应计算
修复了在调试模式下触发的构建错误。
使用 parquet datareader 时，如果 metadata.json 中指定的 parquet 数据集文件不存在，hugectr 不再崩溃，而是跳过丢失的文件并显示警告消息。
已知问题
以下是目前 hugectr 存在的已知问题，我们将在之后的版本中尽快修复：
hugectr 使用 nccl 在队列之间共享数据，并且 nccl 可能需要共享系统内存用于 ipc 和固定（页面锁定）系统内存资源。如果您在容器内使用 nccl，请在启动容器时通过指定参数 -shm-size=1g -ulimit memlock=-1 来增加这些资源。
即使目标 kafka 代理没有响应，kafkaproducers 启动也会成功。为避免与来自 kafka 的流模型更新相关的数据丢失，您必须确保足够数量的 kafka 代理正在运行、正常运行，并且可以从运行 hugectr 的节点访问。
文件列表中的数据文件数量应大于或等于数据读取器工作人员的数量。否则，不同的 worker 会映射到同一个文件，并且数据加载不会按预期进行。
暂时不支持使用正则化器的联合损失训练。
暂时不支持将 adam 优化器状态导出到 aws s3。
芯片现在还短缺吗
评测ANKER 65W快充充电器：小体积大功率，支持PPS、QC等多协议
中国科技企业创新成果井喷：汉威多款创新产品震撼发布
关于LLM+LoRa微调加速技术原理
RT-MSPD1-30/F1控制不带位移反馈比例放大器
Merlin HugeCTR第三代 Embedding 功能优化
线路高频保护停用对重合闸的使用有什么影响？
大规模智能网联汽车示范应用发布会议在长沙举行
水下机器人让水下勘察不再难
什么是3D微波技术，它有什么特点
数控机床高速电主轴有哪几种工作原理？
红米note8系列和荣耀9X相比，谁才是你心中的购机标准呢？
服务器在升级RAID卡固件版本后无法正常启动
胶管用钢丝绳标准GB/T12756-91
交流电压信号调理电路分析
智能配变综合监测终端的介绍，它都有哪些特色功能
在C++中使用OpenVINO工具包部署YOLOv5-Seg模型
拥抱eSIM技术，英飞凌引领新时代发展
泰禾智能开价600万出售艾睿思30%股权
电源中的+12V/+5V/+3.3V都给哪些硬件供电?
版本新增内容
hugectr 第三代 embedding 更新：
第三代 embedding 功能优化：自从在 v3.7 中引入新一代 hugectr embedding 以来，进行了一些更新和优化，包括代码重构以提高可用性。此版本的增强功能如下：
优化了稀疏查找在 warp 间负载不平衡方面的性能。稀疏操作工具包 （sok） 利用了此优化来提高性能。
修复了用于确定 globalembeddingdata 和 localembeddingdata 类中的最大 embedding 向量大小的问题。
sparse operation kit 1.1.4 版可以使用 pip 安装，并包括前面提到的优化。
embedding 表放置策略的 interface 简化：第三代 embedding 现在为您提供了一种更简单的方法来配置 embedding 表的放置策略。您可以使用函数参数配置嵌入表放置策略，而不是使用 json。您只需提供 shard_matrix、
table_group_strategy和 table_placement_strategy 参数。使用这些参数，第三代 embedding 可以将不同的表组合在一起，并根据 shard_matrix 参数放置它们。请参阅示例：https://github.com/nvidia-merlin/hugectr/blob/master/test/embedding_collection_test/dlrm_train.py
hugectr 分层参数服务器（hps）更新：
用于 hps 查找的 on-device 输入键：hps 查找支持在推理期间位于 gpu 内存上的输入 embedding 键。此功能移除了主机到设备的副本，并使用 dlpack lookup_fromdlpack（） 接口，使得 embedding key 的 dlpack 包装可以是一个 gpu tensor。
使用可配置的比例来初始化 embedding cache：在以前的版本中，cache_refresh_percentage_per_iteration 参数的默认值为 0.1。在此版本中，默认值更改为 0.0，并且该参数提供了额外的用途。如果您将参数设置为大于 0.0 的值并且还将模型的 use_gpu_embedding_cache 设置为 true，则当分层参数服务器 （hps） 启动时，hps 通过从模型的稀疏文件对 embedding cache 进行初始化时，hps 在会创建日志记录，日志记录类似于模型的 ec 初始化：“《model-name》”、num_tables：《int》 和设备上的 ec 初始化：《int》。这样将会减少预热阶段的持续时间。
hps 插件的隐式初始化：在此版本中，当您使用 triton 推理服务器部署 tensorflow 的 savedmodel 时，首次执行加载的模型时会隐式初始化 hps。在以前的版本中，您需要显式运行 hps.init（ps_config_file， global_batch_size）。
hugectr 分层参数服务器（hps）架构
hugectr i/o 模块更新：
支持了 aws s3 文件系统：parquet datareader 现在可以从 amazon web services s3 文件系统读取数据集。您还可以在训练期间从 s3 加载和存储模型。
文件系统使用的简化：您不再需要传递 datasourceparams 来使用远端文件系统进行模型的加载和存储。 filesystem 类会根据您在构建模型时指定的路径 uri 自动推断正确的文件系统类型：本地、hdfs 或 s3。例如，路径 hdfs://localhost:9000/ 将被推断为 hdfs 文件系统，路径
https://mybucket.s3.myregion.amazonaws.com/ 将被推断为 s3 文件系统。
支持将模型从远程文件系统加载到 hps：此版本使您能够在推理期间将模型从 hdfs 和 s3 远程文件系统加载到 hps。要使用这个新功能，请在 inferenceparams 中为模型文件路径提供准确的 hdfs 或者 s3 url。
hugectr i/o 框架
文档和示例更新：
新的 mmoe 模型示例：
https://github.com/nvidia-merlin/hugectr/tree/master/samples/mmoe
新的 hps 示例笔记本：
https://github.com/nvidia-merlin/hugectr/tree/master/hierarchical_parameter_server/notebooks
hps 文档样式更新：https://nvidia-
merlin.github.io/hugectr/master/hierarchical_parameter_server/index.html
删除了两个已弃用的教程 triton_tf_deploy 和 dump_to_tf。
增加了 performance 相关页面：https://nvidia-merlin.github.io/hugectr/master/performance.html
其他更新：
对重叠 pipeline 进行了更精细的粒度控制：我们弃用了旧的重叠 pipeline knob，并引入了四个新的 knob：
train_intra_iteration_overlap
train_inter_iteration_overlap
eval_intra_iteration_overlap
eval_inter_iteration_overlap
以帮助用户更好地控制重叠行为。有关详细信息，请参阅 api 文档
https://nvidia-merlin.github.io/hugectr/master/api/python_interface.html#createsolver-method
支持在训练过程中将 tensor 的值导出到 numpy array： 为 model 和 inferencemodel 类新增了 check_out_tensor（） 方法。现在用户可以使用这个 pyhon 方法将 tensor 的值导出，方便 debug。
修复的问题
interactionlayer 类已修复，它可以在 num_feas 》 30 时正常工作了。
通过增加工作空间大小和添加结尾掩码来更正 cublaslt 配置。
用于演示特征交叉的示例的预处理脚本已修复。
异步数据读取器是固定的。以前，由于不正确的 i/o 块大小和 i/o 对齐问题，它会挂起并报错。asyncparam 类已更改以实现修复。io_block_size 参数被 max_nr_request 参数替换，并且异步读取器使用的实际 i/o 块大小会相应计算
修复了在调试模式下触发的构建错误。
使用 parquet datareader 时，如果 metadata.json 中指定的 parquet 数据集文件不存在，hugectr 不再崩溃，而是跳过丢失的文件并显示警告消息。
已知问题
以下是目前 hugectr 存在的已知问题，我们将在之后的版本中尽快修复：
hugectr 使用 nccl 在队列之间共享数据，并且 nccl 可能需要共享系统内存用于 ipc 和固定（页面锁定）系统内存资源。如果您在容器内使用 nccl，请在启动容器时通过指定参数 -shm-size=1g -ulimit memlock=-1 来增加这些资源。
即使目标 kafka 代理没有响应，kafkaproducers 启动也会成功。为避免与来自 kafka 的流模型更新相关的数据丢失，您必须确保足够数量的 kafka 代理正在运行、正常运行，并且可以从运行 hugectr 的节点访问。
文件列表中的数据文件数量应大于或等于数据读取器工作人员的数量。否则，不同的 worker 会映射到同一个文件，并且数据加载不会按预期进行。
暂时不支持使用正则化器的联合损失训练。
暂时不支持将 adam 优化器状态导出到 aws s3。
芯片现在还短缺吗
评测ANKER 65W快充充电器：小体积大功率，支持PPS、QC等多协议
中国科技企业创新成果井喷：汉威多款创新产品震撼发布
关于LLM+LoRa微调加速技术原理
RT-MSPD1-30/F1控制不带位移反馈比例放大器
Merlin HugeCTR第三代 Embedding 功能优化
线路高频保护停用对重合闸的使用有什么影响？
大规模智能网联汽车示范应用发布会议在长沙举行
水下机器人让水下勘察不再难
什么是3D微波技术，它有什么特点
数控机床高速电主轴有哪几种工作原理？
红米note8系列和荣耀9X相比，谁才是你心中的购机标准呢？
服务器在升级RAID卡固件版本后无法正常启动
胶管用钢丝绳标准GB/T12756-91
交流电压信号调理电路分析
智能配变综合监测终端的介绍，它都有哪些特色功能
在C++中使用OpenVINO工具包部署YOLOv5-Seg模型
拥抱eSIM技术，英飞凌引领新时代发展
泰禾智能开价600万出售艾睿思30%股权
电源中的+12V/+5V/+3.3V都给哪些硬件供电?