总部在加利福尼亚州欧文市的syntiant公司和总部在德克萨斯州奥斯汀的mythic公司都认为,它们可以使用嵌入式闪存来大大减少执行深度学习计算所需的电力。它们可能都是对的。
越来越多的公司希望推出加速其他计算繁重的深度学习应用的芯片,并且在某种程度上它们都有相似之处,因为“这些是面向相同形态的一类问题的解决方案”,mythic创始人兼ctodavefick解释说。
当在cpu中执行深度学习计算时,那类问题在形态上就像数据的交通堵塞。神经网络由连接和表示那些连接有多强的“权重”组成,必须移动这些权重以便它们可以在正确的时间和位置以数字方式被表示,是如今的深度学习中主要的耗能之处。
syntiant的ceokurtbush解释说:“我们的方法是通过在内存中进行计算来完全消除内存带宽和内存功耗的penalties问题”。
syntiant和mythic这两家公司所采用的方法中,网络权重实际上是存储在闪存单元阵列中的电荷水平。电荷改变了流过电池的电流量,电池是以电流可产出至关重要的“乘法和累加”运算的方式排列的,这样的运算是能从日落中读出停止信号或从“大灰狮子狗”中读出“okgoogle”的网络所需要的。
因为权重总是在它们需要在的位置,所以不需要花费任何时间或精力来移动它们。计算的模拟性质也使得功耗保持在低水平。虽然训练神经网络通常是通过使用相当精确的(8位或16位)数字进行计算来实现的,但实际上,使用经过训练的网络(称为推理)可以更快地完成,并且可以使用更低精度的数字(5位或者甚至3位)作为权重以更低的功耗完成。busch说:“通过模拟计算,你可以建立低精度但非常非常准确的乘法和累加运算”。
mythic的目标是每次乘法和累加运算仅消耗0.5焦耳,这将导致每瓦特可支持约4万亿次操作(tops/w)。syntiant希望达到20tops/w。根据syntiant的说法,nvidiavoltav100gpu可以达到0.4tops/w。然而,fick指出,在机器学习领域,真正的苹果对苹果(apples-to-apples)的比较是很难确定的。
每个创业公司在多大范围使用模拟电路,是它们之间的关键差异。syntiant的整个网络都是模拟的,而mythic环绕着带有可编程数字电路的模拟闪存阵列。mythic使用周围的电路来增加其芯片可以运行的网络的大小和类型的灵活性。fick说:“在我们的芯片上,所有的网络拓扑的运行效率大致相同”。
这种差异也会影响两家公司的目标客户和应用程序。在syntiant,“我们经常说,mythic百分之百出现在投资会议上,而从不对顾客这样表现殷勤”,busch说。两家公司都表示他们正在寻求增加处在前沿的人工智能领域的客户。但人工智能是一个宽泛的范畴,包括从自动驾驶汽车到人工智能增强助听器的所有内容。
syntiant正在寻求较小的、通常为毫瓦级的电力应用。它的第一个设备将能执行诸如识别唤醒词和识别说话者之类的事情。
mythic正在开发需要更复杂网络的应用程序,这些网络能够在具有很低的一位数瓦特功率的系统中处理高分辨率视频,例如自动无人机和智能手机。fick说,这些应用程序所需的每秒操作数与syntiant的那些应用程序所追求的每秒操作数之间存在数量级的差异。
NU5旗舰新品评测 一款值得考虑的新品
什么是三线制PT100热敏电阻
索尼还是那个索尼Xperia XZ4渲染图曝光
如何使用LTspice对复杂电路的统计容差分析进行建模
博通收购高通关卡重重,美国监管单位是最大挑战
Syntiant和Mythic认为可以通过嵌入式闪存的方法减少所需电力
量子计算五大常见误区
检测心脏病患者的低成本生物传感器
OPPO启动引力计划将以用户为中心带来5G+万物互融的世界
uln2003资料,ULN2003中文资料详解
石墨烯/环氧树脂复合材料的最新进展和航空应用
NXP TEA1713 150W 一体化PC适配器解决方案
球磨机小齿轮轴承位磨损快速维修方案的介绍
土耳其已接收两架F-35,后将采购100架F-35战机打造百架战机集群
74ls02中文资料汇总(74ls02引脚图及功能_真值表及应用电路)
广州华锐互动可视化模型检测技术管理
我国把第三代半导体材料被我国列为发展重点之一
莱迪思发ECP5 FPGA产品系列 适用于众多应用
电子可靠性技术:最坏情况分析方法
Mavic卖得太好 大疆首度回应延迟发货是因订单太多