英伟达最新推出部署边缘设备的语音识别技术
（文章来源：机器之心）
英伟达近日一篇论文为语音识别技术在边缘设备上的部署带来了福音，其新提出的解码器方法即使在边缘嵌入式 gpu 上也能高效高速地执行。而且这种方法不仅适用于低端硬件，而且也能为数据中心带来显著的效率提升，从而能够识别更多并行的在线音频流。该方法的早期版本已开源。
这篇论文提出了一种经过优化的加权式有限状态变换器（wfst/ weighted finite-state transducer）解码器，能够使用图像处理单元（gpu）实现对音频数据的在线流处理和离线批处理。这种解码器能高效利用内存、输入/输出带宽，并为最大化并行使用了一种全新的维特比（viterbi）实现。内存节省让该解码器能比之前处理更大的图，同时还能支持更多数量的连续流。对 lattice 段进行 gpu 预处理能让中间 lattice 结果在流推理期间返回给请求者。
总体而言，相比于单核 cpu 解码，新提出的改进能实现高达 240 倍的提速，并且解码速度也比当前最佳的 gpu 解码器快 40 倍，同时返回的结果表现相当。从大型数据中心服务器到低功耗边缘设备，该架构可在各种层级的硬件上部署生产级模型。
深度学习研究推动了自动语音识别（asr）技术的大发展，质量的显著提升让这项技术在许多人机交互用例中得到了实际应用，「流 asr 即服务（streaming asr as a service）」的需求也随之水涨船高。通常来说，如要满足这一需求，将需要在数据中心配置大量商用服务器。由于很多用例对时间延迟有很严格的要求，因此人们正在大力投入，意图加快数据中心中模型的推理速度；当然也有研究正致力于实现边缘推理，包括在低功耗设备上实现推理。
在这项研究中，研究者提出了一种全新的加权式有限状态变换器（wfst）实现，其可使用 gpu 和英伟达的 cuda 编程语言为语音识别任务提供高速解码。他们将该解码器设计成可直接替代现有解码器，而无需修改语言或声学模型。其设计目标是尽力实现最大的灵活性，能支持多路同时音频流的在线识别和 lattice 生成。
研究者还严格限制了该解码器的内存使用，从而可确保 gpu 内存能为大型语言模型和共同常驻的声学模型留有足够的空间。最后，从低功耗嵌入式 gpu 到单个服务器中运行的多个数据中心级 gpu，该算法都能有效地运行。
并行式 wfst 解码器通常会遵照串行解码器中的典型操作顺序：对于声学模型（am）后验的每一帧，该解码器可基于帧值处理发射弧（标签非零的弧），再处理任何非发射弧链，最后执行剪枝。新提出的算法利用了两个类型不同的异步 cuda 流：一个负责执行计算核，另一个负责执行非阻塞的设备到主机（d2h）lattice token 内存副本。使用第二个用于 d2h 副本的流，无需中止计算流程就能在在线编码期间返回中间结果。
研究者消除了很多常见的面向 cpu 的优化和限制，这种做法有时会妨害并行表现。具体来说，在扩展 token 时不测试新 token 是否唯一。将重复的 token 保留下来留待以后清理对正确性而言是足够的：少量额外的工作能减少对同步和原子操作的依赖。在 gpu 上，解码核的执行速度很快，其性能受限于核启动的延迟。通过调整解码器的结构，解码器能并行处理多路音频流，通过更长时间地运行这些核能够掩盖启动延迟。
为了同时处理多路音频流，研究者引入了两种不同的机制：干道（channel）和小道（lane）。小道大致等同于神经网络中的批大小，代表了正被解码的话语或流的集合。干道则能为有待继续处理（由于缺少音频或已计算后验）的话语维持状态。这种随时准备 gpu 工作的线程化解码器负责将干道（因为它们已准备就绪）多路复用到小道（因为它们可用）上。这种方案能根据模型和代表性数据与 gpu 的搭配而轻松地调整：增加小道的数量直到收益开始下降，并让通道的数量匹配所测得的吞吐量/xrtf。
华为huawei matepad pro 12.6英寸价格配置参数功能
大数据行业新风口即将来临
全新iMac或于十月末发布：配置曝光还会有更高大的设计
智能大灯将迎来广阔的发展前景，进入第三代智能远光ADB阶段
Type-C接口充电快的原因
英伟达最新推出部署边缘设备的语音识别技术
天线放大器的介绍以及应用
揭晓AI四小龙在安防行业的最新玩法！
SteamVR获新版本更新 已全面支持OculusRiftSVR头显
强化产品自主原创研发，打造凌科航空插头品牌新势能
高分辨率面板MIPI C-PHY的ESD防护方案
使用ETC什么事情不能忘
金泰克X3RGB3600内存上手 到底怎么样
可燃气体检测仪有哪些使用误区和注意事项
意法半导体灵活高压运放瞄准汽车和工业环境应用
换个方式玩手游？创维云游戏剧幕影院75A5 Pro引领沉浸式游戏体验
华体科技与仁寿县人民政府签订协议 将改建或新建2万套智慧路灯项目
电子产品分期购 糖库商城的消费生活新主张
四川电信助力四川马边彝族人民医院实现了5G+AI远程消化内镜诊断
韩中合作开发电铸法OLED掩膜版
英伟达近日一篇论文为语音识别技术在边缘设备上的部署带来了福音，其新提出的解码器方法即使在边缘嵌入式 gpu 上也能高效高速地执行。而且这种方法不仅适用于低端硬件，而且也能为数据中心带来显著的效率提升，从而能够识别更多并行的在线音频流。该方法的早期版本已开源。
这篇论文提出了一种经过优化的加权式有限状态变换器（wfst/ weighted finite-state transducer）解码器，能够使用图像处理单元（gpu）实现对音频数据的在线流处理和离线批处理。这种解码器能高效利用内存、输入/输出带宽，并为最大化并行使用了一种全新的维特比（viterbi）实现。内存节省让该解码器能比之前处理更大的图，同时还能支持更多数量的连续流。对 lattice 段进行 gpu 预处理能让中间 lattice 结果在流推理期间返回给请求者。
总体而言，相比于单核 cpu 解码，新提出的改进能实现高达 240 倍的提速，并且解码速度也比当前最佳的 gpu 解码器快 40 倍，同时返回的结果表现相当。从大型数据中心服务器到低功耗边缘设备，该架构可在各种层级的硬件上部署生产级模型。
深度学习研究推动了自动语音识别（asr）技术的大发展，质量的显著提升让这项技术在许多人机交互用例中得到了实际应用，「流 asr 即服务（streaming asr as a service）」的需求也随之水涨船高。通常来说，如要满足这一需求，将需要在数据中心配置大量商用服务器。由于很多用例对时间延迟有很严格的要求，因此人们正在大力投入，意图加快数据中心中模型的推理速度；当然也有研究正致力于实现边缘推理，包括在低功耗设备上实现推理。
在这项研究中，研究者提出了一种全新的加权式有限状态变换器（wfst）实现，其可使用 gpu 和英伟达的 cuda 编程语言为语音识别任务提供高速解码。他们将该解码器设计成可直接替代现有解码器，而无需修改语言或声学模型。其设计目标是尽力实现最大的灵活性，能支持多路同时音频流的在线识别和 lattice 生成。
研究者还严格限制了该解码器的内存使用，从而可确保 gpu 内存能为大型语言模型和共同常驻的声学模型留有足够的空间。最后，从低功耗嵌入式 gpu 到单个服务器中运行的多个数据中心级 gpu，该算法都能有效地运行。
并行式 wfst 解码器通常会遵照串行解码器中的典型操作顺序：对于声学模型（am）后验的每一帧，该解码器可基于帧值处理发射弧（标签非零的弧），再处理任何非发射弧链，最后执行剪枝。新提出的算法利用了两个类型不同的异步 cuda 流：一个负责执行计算核，另一个负责执行非阻塞的设备到主机（d2h）lattice token 内存副本。使用第二个用于 d2h 副本的流，无需中止计算流程就能在在线编码期间返回中间结果。
研究者消除了很多常见的面向 cpu 的优化和限制，这种做法有时会妨害并行表现。具体来说，在扩展 token 时不测试新 token 是否唯一。将重复的 token 保留下来留待以后清理对正确性而言是足够的：少量额外的工作能减少对同步和原子操作的依赖。在 gpu 上，解码核的执行速度很快，其性能受限于核启动的延迟。通过调整解码器的结构，解码器能并行处理多路音频流，通过更长时间地运行这些核能够掩盖启动延迟。
为了同时处理多路音频流，研究者引入了两种不同的机制：干道（channel）和小道（lane）。小道大致等同于神经网络中的批大小，代表了正被解码的话语或流的集合。干道则能为有待继续处理（由于缺少音频或已计算后验）的话语维持状态。这种随时准备 gpu 工作的线程化解码器负责将干道（因为它们已准备就绪）多路复用到小道（因为它们可用）上。这种方案能根据模型和代表性数据与 gpu 的搭配而轻松地调整：增加小道的数量直到收益开始下降，并让通道的数量匹配所测得的吞吐量/xrtf。
华为huawei matepad pro 12.6英寸价格配置参数功能
大数据行业新风口即将来临
全新iMac或于十月末发布：配置曝光还会有更高大的设计
智能大灯将迎来广阔的发展前景，进入第三代智能远光ADB阶段
Type-C接口充电快的原因
英伟达最新推出部署边缘设备的语音识别技术
天线放大器的介绍以及应用
揭晓AI四小龙在安防行业的最新玩法！
SteamVR获新版本更新 已全面支持OculusRiftSVR头显
强化产品自主原创研发，打造凌科航空插头品牌新势能
高分辨率面板MIPI C-PHY的ESD防护方案
使用ETC什么事情不能忘
金泰克X3RGB3600内存上手 到底怎么样
可燃气体检测仪有哪些使用误区和注意事项
意法半导体灵活高压运放瞄准汽车和工业环境应用
换个方式玩手游？创维云游戏剧幕影院75A5 Pro引领沉浸式游戏体验
华体科技与仁寿县人民政府签订协议 将改建或新建2万套智慧路灯项目
电子产品分期购 糖库商城的消费生活新主张
四川电信助力四川马边彝族人民医院实现了5G+AI远程消化内镜诊断
韩中合作开发电铸法OLED掩膜版