机器学习介绍
机器学习是大多数ai应用的核心,负责教计算机学会识别数据中的模式。更具体地来说,其目标就是创建训练有素的模型。这可以通过监督学习来完成,这种学习方式向计算机提供学习实例。另外,这个过程也可以不受监督——计算机只是在数据中寻找其关心的模式。还有涉及连续学习或持续学习的技术,这些技术可以使计算机从错误中吸取教训,但这些不在本文讨论范围之内。
运行您的ml模型
一旦建成了ml模型,便可以将其应用于手头的工作。模型可用于预测未来事件、识别异常,以及进行图像或语音识别。几乎在所有情况下,模型都依赖于大型深层树状结构,并且需要大量的算力才能运行。对于通常基于人工神经网络进行图像和语音识别的模型而言尤其如此。神经网络创建稠密网格,因此需要在高度并行化的硬件(通常基于gpu)上运行。直到最近,也只有aws或azure等云服务提供商才有实力提供此类功能。
为了让您对所需的算力有个概念,下表列示了aws p3实例的规格,这是一个针对ml应用进行了优化的处理平台
类型 gpu vcpu ram gpu ram 存储bw 网络bw
p3.2xl 1 8 61gb 16gb 1.5gbps ~10gbps
p3.8xl 4 32 244gb 64gb 7gbps 10gbps
p3.16xl 8 64 488gb 128gb 14gbps 25gbps
p3.24xl 8 96 768gb 256gb 19gbps 100gbps
表1:aws p3实例规格
这些都是顶配机型。它们具备大容量ram,以及极快的网络和存储访问权限。最重要的是,它们具有强大的cpu和gpu处理能力,正是这一要求使ml模型在网络边缘运行成为了真正的挑战。
集中式ai的缺点
目前为止,由于ml模型难以在网络边缘运行,因此大多数最著名的ai应用都依赖于云。但是,这种对云计算的依赖给ai的使用带来了一些限制。下面列出了集中式ai在运行方面的一些缺陷。
有些应用无法在云端运行
为了在云端运行ai,需要有容量足够的可靠网络连接。如果没有这种条件,则可能由于缺乏基础设施,有些ai应用不得不在本地运行。换言之,只有能够在边缘运行ml模型,这些应用才能正常工作。
以自动驾驶汽车为例。它需要完成许多依赖于机器学习的任务。这些任务中最重要的是探测和规避物体。这要求ml模型要有相当大的算力。但是,即使是联网汽车也只有较低的连接带宽,这些连接还并不一致(尽管5g可能会改善这一点)。
在为采矿和其他重工业创建智能物联网监控系统时,同样存在这种限制。通常在本地会有快速网络,但是互联网连接可能会依赖于卫星上行链路。
延迟是关键
许多ml应用需要实时工作。上面提到的自动驾驶汽车就是此类应用,另外还有实时面部识别等应用。它可以用于门禁系统或安保措施;例如,警察经常使用这项技术监视体育赛事和其他活动中的人群,以找出已知的闹事者。
ai也越来越多地用于打造智能医疗设备。其中一些需要实时工作才能发挥真正的作用,但是连接到数据中心的平均往返时间约在10到100毫秒之间。因此,如果不将ml模型转移到网络边缘,就很难实现实时应用。
安全性可能会成为问题
许多ml应用会处理安全数据或敏感数据。显然,这类数据可以通过网络发送,并被安全存储到云端。但是,当地政策通常禁止这样做。健康数据尤其敏感,许多国家对发送到云服务器这一做法有着严格的法规要求。总之,确保仅连接到本地网络的设备的安全性永远更加容易。
成本
订购ml优化的云实例可能会非常昂贵 - 表1中所示的最低规格实例每小时花费约3美元。许多云提供商会收取额外的费用,例如用于存储和网络访问的费用,这笔费用也要考虑在内。实际上,运行一个ai应用每月可能要花费高达3,000美元。
结论
实现成功的机器学习通常需要具有强大算力的基于云或服务器的资源。但是,随着应用的发展和新用例的出现,将机器学习转移到网络边缘变得更加引人注目,尤其是在需要优先考虑延迟、安全性和实现成本等因素的情况下。
电源爱好者制作:串双硅和单硅混频逆变器
艾伯与中联瑞宏战略合作,共同开展5G基础设施建设
变压器的输入端不会短路的原因
小米MIUI9:越用越好用的系统!5大提升,你值得拥有
汽车安全专家11月齐聚苏州,第七届国际汽车安全系统峰会邀您共探未来
离网络边缘更近一步
爆款预定 CITE 2023观众登记全面启动
人工智能将成为电网和泛在电力物联网建设发展的重要方向
常见工业RFID读写器对比,不同工业读写器的特点和功能有哪些?
光纤信号传播采用什么原理?光纤传输的是电信号还是光信号?
光线接头有哪些类型
怎样用Arduino制作便携式数据记录器
小米米聊将于2021年2月19日12点00分停止服务 停服后无法导出任何信息
鸿蒙系统2.0实力具备了 鸿蒙什么时候可以全线支持
煤粉仓为什么要安装在线监测分析仪
太阳能电池工作原理 太阳能电池与锂电池的区别
Linux开发_文件发送与接收
LED发光字制作方法
便携式电源箱的制作
整流与滤波电路