用于有效使用TinyML的随机计算架构
神经网络是一种流行的机器学习模型，但它们需要更高的能耗和更复杂的硬件设计。随机计算是平衡硬件效率和计算性能之间权衡的一种有效方式。然而，由于算术单元的低数据精度和不准确性，随机计算见证了 ml 工作负载的低准确性。
为了解决与传统随机计算方法相关的问题，并通过更高的精度和更低的功耗来提高性能，正在进行的研究提出了一种改进的基于块的随机计算架构。通过在输入层中引入块，可以通过利用高数据并行性来减少延迟。更重要的是确定全局优化方法所需要的块数。
现有的方法包括增加比特流的长度以提高数据精度，甚至使用指数比特来获得准确的结果。然而，这引入了较长的计算延迟，这对于 tinyml 应用程序来说是不合理的。因此，为了应对这种不断上升的计算延迟，比特流被分成块然后并行执行。结合块内算术单元和输出修正 （our） 方案可缓解块间不准确问题，从而提供高计算效率。
基于块的随机计算架构
研究提供了一种新颖的架构，其中输入被划分为块并使用优化的块内算术单元并行执行乘法和加法。此外，在 tinyml 应用程序的延迟-功耗权衡方面，所提出的模型是一个出色的架构。
架构划分如下：
块划分
如上图所示，输入比特流被划分为“k”个值块。所提出的想法是，为比特流选择大量块并不能保证是最佳的，但可以用于接近近似值。如果在选择块数时出现错误，这可能会自相矛盾地导致大错误。在确定来自输入比特流的正和负部分的两个平均值的概率方面存在复杂的计算。
块内计算
缓解了传统加法器面临的or加法器相关问题和分离加法器溢出问题。新修改的架构设计在输入之间带有 xnor+and 门，以消除双极计算的相关性。
每个输入位都在并行计数器 （pc） 中获取，对于正负部分 （ap， an） 分别进行处理。有两个专用累加器用于处理有符号位。取输入位后，累加器之间发生减法，如正负部分所示。目标是获得所有输入的累积 1 的数量。进一步地，比较取时间输出（sop，son）中的一位，在多个“n”个循环之后，计算符号位，并根据符号位ap和an，选择sop和son的输出结果。
这种新的基于累加器的符号幅度格式加法器利用 unnsadd 加法器来比较输出和输入中的实际累加 1 以确定输出位。这种方法消除了相关性和快速溢出问题的影响。
块间输出修正方案
尽管块内加法器解决了相关性和溢出问题，但块划分引入了新的块间不准确错误。乘法器不会发生这种情况，因为输入是 xnored 和 anded。但是对于加法器，输出中 1 的数量可能会偏离所产生的不准确性。输出修订方案在并行块内计算阶段之后添加或删除 1s，而不会引入任何额外的延迟来解决这些块间不准确错误。
新颖的基于块的随机计算架构旨在提高随机计算运算电路的精度，同时降低计算延迟和能源效率。根据研究结果，该方法比现有方法的准确度提高了 10% 以上，并节省了 6 倍以上的功率。
安科瑞基于物联网表计的综合能源管理解决方案
索尼将为苹果头戴式设备供应微型显示屏，或将明年推出
高通推出首款5G SoC，骁龙865还尚未发布
大疆Spark多少钱？2017年新一轮的黑科技无人机发布,人脸识别开机将是趋势
核心局密封式阀控铅酸蓄电池的安全维护和管理
用于有效使用TinyML的随机计算架构
单相双电容电机正反转原理详解
智能穿戴出货量今年将破3亿台
疫情之下的智能访客非接触卫生梯控解决方案
网游团战帧率对比测试：锐龙7 5800X和i9-10900K谁更厉害
智能故事书
洲明助力全国首座地铁数字艺术馆亮相
接地装置由什么组成_接地装置要求_建筑物防雷接地装置具体要求
河北承德全钒液流电池储能示范测试
索尼真无线降噪耳机WF-1000XM3体验 到底怎么样
HarmonyOS的万里长征和万里长城
VK1625 是64*8点 段码LCD液晶显示驱动IC，兼容替代市面1625 FAE技术支持
快充锂离子电池在高温和低温下恶化行为的差异
后摩智能与奇异摩尔正式签署战略合作协议
车载逆变器电路图
为了解决与传统随机计算方法相关的问题，并通过更高的精度和更低的功耗来提高性能，正在进行的研究提出了一种改进的基于块的随机计算架构。通过在输入层中引入块，可以通过利用高数据并行性来减少延迟。更重要的是确定全局优化方法所需要的块数。
现有的方法包括增加比特流的长度以提高数据精度，甚至使用指数比特来获得准确的结果。然而，这引入了较长的计算延迟，这对于 tinyml 应用程序来说是不合理的。因此，为了应对这种不断上升的计算延迟，比特流被分成块然后并行执行。结合块内算术单元和输出修正 （our） 方案可缓解块间不准确问题，从而提供高计算效率。
基于块的随机计算架构
研究提供了一种新颖的架构，其中输入被划分为块并使用优化的块内算术单元并行执行乘法和加法。此外，在 tinyml 应用程序的延迟-功耗权衡方面，所提出的模型是一个出色的架构。
架构划分如下：
块划分
如上图所示，输入比特流被划分为“k”个值块。所提出的想法是，为比特流选择大量块并不能保证是最佳的，但可以用于接近近似值。如果在选择块数时出现错误，这可能会自相矛盾地导致大错误。在确定来自输入比特流的正和负部分的两个平均值的概率方面存在复杂的计算。
块内计算
缓解了传统加法器面临的or加法器相关问题和分离加法器溢出问题。新修改的架构设计在输入之间带有 xnor+and 门，以消除双极计算的相关性。
每个输入位都在并行计数器 （pc） 中获取，对于正负部分 （ap， an） 分别进行处理。有两个专用累加器用于处理有符号位。取输入位后，累加器之间发生减法，如正负部分所示。目标是获得所有输入的累积 1 的数量。进一步地，比较取时间输出（sop，son）中的一位，在多个“n”个循环之后，计算符号位，并根据符号位ap和an，选择sop和son的输出结果。
这种新的基于累加器的符号幅度格式加法器利用 unnsadd 加法器来比较输出和输入中的实际累加 1 以确定输出位。这种方法消除了相关性和快速溢出问题的影响。
块间输出修正方案
尽管块内加法器解决了相关性和溢出问题，但块划分引入了新的块间不准确错误。乘法器不会发生这种情况，因为输入是 xnored 和 anded。但是对于加法器，输出中 1 的数量可能会偏离所产生的不准确性。输出修订方案在并行块内计算阶段之后添加或删除 1s，而不会引入任何额外的延迟来解决这些块间不准确错误。
新颖的基于块的随机计算架构旨在提高随机计算运算电路的精度，同时降低计算延迟和能源效率。根据研究结果，该方法比现有方法的准确度提高了 10% 以上，并节省了 6 倍以上的功率。
安科瑞基于物联网表计的综合能源管理解决方案
索尼将为苹果头戴式设备供应微型显示屏，或将明年推出
高通推出首款5G SoC，骁龙865还尚未发布
大疆Spark多少钱？2017年新一轮的黑科技无人机发布,人脸识别开机将是趋势
核心局密封式阀控铅酸蓄电池的安全维护和管理
用于有效使用TinyML的随机计算架构
单相双电容电机正反转原理详解
智能穿戴出货量今年将破3亿台
疫情之下的智能访客非接触卫生梯控解决方案
网游团战帧率对比测试：锐龙7 5800X和i9-10900K谁更厉害
智能故事书
洲明助力全国首座地铁数字艺术馆亮相
接地装置由什么组成_接地装置要求_建筑物防雷接地装置具体要求
河北承德全钒液流电池储能示范测试
索尼真无线降噪耳机WF-1000XM3体验 到底怎么样
HarmonyOS的万里长征和万里长城
VK1625 是64*8点 段码LCD液晶显示驱动IC，兼容替代市面1625 FAE技术支持
快充锂离子电池在高温和低温下恶化行为的差异
后摩智能与奇异摩尔正式签署战略合作协议
车载逆变器电路图