新型gpu operator、helm chart与ngc-ready系统帮助各企业迁移至边缘与混合平台。
如今,ai已不再仅仅只停留在研究阶段,而是已经被应用于各企业机构中,帮助它们解决实际问题。而作为企业机构,它们需要清楚地知道应该将ai模型部署于何处,才能帮助其以更快的速度做出决策。
随着ai、物联网以及即将到来的5g基础架构三者之间正在走向互融。对于各企业而言,如今已然时机成熟——将其模型从数据中心推向边缘。在边缘,数十亿传感器正在源源不断地传输数据,实时决策已成为现实。
大规模部署ai工作负载的各企业正在综合运用本地数据中心和云端,将ai模型置于数据收集点。但是,如果企业缺乏相应的it专业知识,那么在诸如零售商店或室内停车场这类边缘地点部署工作负载,将变得非常困难。
尽管kubernetes简化了部署、管理与扩展应用过程中许多手动流程,为跨越本地、边缘与云端带来了一致的云原生部署方法。
但是,远程设置kubernetes集群以管理数百、甚至数千款应用却可能相当麻烦,特别是在每个边缘区域都不容易获得人工专业支持的情况下。而如今,我们能够通过nvidia egx 边缘超级计算平台化解这些难题。
简化ai部署
nvidia egx是一个云原生的软件定义平台,旨在实现并高效运行大规模混合云与边缘运维。
该平台内的egx堆栈包含nvidia驱动程序、kubernetes插件、nvidia容器运行时以及gpu监测工具,均通过nvidia gpu operator提供。operator负责整理运行信息与工作流,利用kubernetes自动完成容器化应用的生命周期管理。
gpu operator是一个由helm chart所部署的云原生方法,针对gpu支持的kubernetes系统配置,用于自动部署所有必要的组件,并完成组件标准化。nvidia、red hat及云原生社区内的其他公司协作创建了gpu operator。
gpu operator还能够让it团队像管理cpu驱动系统那样,管理gpu支持的远程服务器。这使得其可以利用单一镜像轻松完成一组远程系统初启,在无需现场额外技术专长的情况下运行边缘ai应用程序。
egx堆栈架构由诸如:canonical、cisco、微软、nutanix、red hat和vmware等混合云管理合作伙伴提供支持,以进一步简化部署,并提供从云端到数据中心一直到边缘的一致体验。
ngc-ready for edge系统
由全球领先的服务器制造商所提供的ngc-ready系统已通过nvidia面向gpu优化容器的软件中心 ngc 的ai软件功能与性能验证。
在洛杉矶举行的世界移动通信大会(mwc)上,nvidia宣布利用面向边缘的ngc-ready 系统进一步扩展ngc-ready计划,大力支持边缘部署。这些系统经过了边缘部署要求的更多安全与远程系统管理测试。此类合格系统可完美运行egx堆栈,为混合部署提供一个轻松入口。
已通过验证的ngc-ready for edge系统由众多全球领先的制造商提供,包括:advantech、altos computing、asrock rack、atos、dell technologies、富士通、gigabyte、hpe、联想、mitac、qct, supermicro 和tyan。
扩展ngc注册
为部署与管理ai软件,ngc现推出helm chart注册服务。helm chart是强大的云原生工具,用于定制并自动完成在kubernetes各集群内的各种应用部署。
ngc的helm chart注册包含ai框架、gpu operator等nvidia软件,以及面向医疗影像的nvidia clara,和用于智慧零售以及工业检查的nvidia metropolis。ngc还托管针对第三方人工智能应用的helm chart,包括面向车辆分析的deepvision、用于视频搜索的ironyun,和执行流分析的kinetica。
借助ngc-ready支持服务,开发者与运维团队可以为其ngc-ready for edge系统获得专用的helm注册,以推动与分享helm chart。这能够让各团队充分利用一致、安全且可靠的环境,加速集成与部署的持续循环。
采用ngc部署ai软件
如需跨不同平台轻松配置gpu驱动的kubernetes集群,利用helm chart与容器快速部署人工智能应用.
iPhone12发布会,就是AR前夜里华丽的手机续命!
TDA4VM 处理器可以满足现代车辆的计算需求
搭载天玑9000旗舰5G移动平台的vivo X80系列
PLC定时灯控管理系统如何实现故障报警与智能运维
工业用蒸汽回收机的分类及设备特点的介绍
NVIDIA EGX超级计算平台借助企业级Kubernetes简化边缘AI部署
应广单片机 PMS15B/PMS150G 系列8 位 OTP IO 类型单片机
锂电行业上游材料市场运行状态目前较为平稳 各大电池企业正逐步复工
我国量子通信技术现状 量子通信相比经典通信的优点
dns系统的层次结构
全球面板厂 2016年第4季财报表现亮丽
联想zuk edge发布会来袭,联想ZUK Edge预约价格你猜到了吗?
热成像仪在太阳能板检测的应用
南方电网启动IPv6改造运动,打响了全面推进IPv6规模部署的第一枪
城市道路积水电子水尺传感器
中低压配电网的自动化的必要性与实现方案
第3季全球液晶电视面板出货量7510万台,季增9.3%
如何解决高速数字接口的EMI问题
多点热式气体质量流量测试方法实验
大学课本里不会有的基础知识:电阻读数方法