Nsight DL Designer用于高效深度学习模型设计和开发

nvidia 宣布了 nsight dl designer –第一个支持应用内推理的深度神经网络高效设计的同类集成开发环境。
本 sdk 旨在通过在过程的每个阶段提供有效的支持,简化为应用内推理设计深度神经网络模型的经常迭代过程。
nsight dl designer 是一种基于 gui 的模型设计工具,具有基于 gpu 指标的集成评测功能。它提供了一种将模型导入 pytorch 进行培训的便捷方法。可视化分析模式允许开发人员以交互方式实时深入推理过程,并提供灵活的选项导出最终的推理部署模式。
端到端 nsight dl designer 工作流
开发人员首先在 nsight dl designer 中设计他们的深层神经网络模型,使用 nvidia 实现的一组内置高级神经网络层作为 神经推理机。创建模型后,可以进行性能分析,以了解模型是否满足分配的时间预算。分析可以提前完成,甚至在您花时间培训网络之前。
对于培训阶段, nsight dl designer 提供了各种 python 脚本,可以自动将 nsight dl designer 模型转换为 pytorch 模型,该模型可以轻松添加到培训循环中。训练完成后,您可以将学习到的权重数据从模型保存到 numpy 文件中。您可以返回 dl designer ,加载权重文件并进入分析模式以检查推断结果。分析模式还允许开发人员深入推理过程,直观地检查每个推理步骤中发生的事情。此反馈可能会指导开发人员优化其网络模型,以提高质量和性能。
一旦您对模型的质量和性能都感到满意,就到了部署的时候了。 nsight dl designer 提供了几种支持部署模型的方法。一种方法是将模型导出为 onnx 文件。使用 onnx 文件,您可以在任何运行 onnx 的平台上部署您的模型
此版本的主要功能包括:
基于 gui 的神经推理机模型设计
使用 gpu 度量的推理性能评测
与培训框架的接口– pytorch
推理过程的交互式可视化分析
用于部署的自动化模型导出和代码生成
关于作者
chaitrali joshi 是 nvidia 的产品营销经理,专注于电信 5g 系统的设计和开发。她对网络空间有着深入的了解,是移动通信系统和云栈方面的专家。在英特尔之前,她是一名领导,向开发人员宣传电信技术和边缘计算技术。她获得了加利福尼亚大学计算机科学硕士学位,戴维斯专注于软件定义的网络和多址边缘计算( mec )。


Micro OLED和Micro LED两种显示技术有哪些不同?
详细介绍链表在操作系统中定义和使用的方式
电子开关的工作原理 电子开关怎么安装
[组图]复式滤波电路
物联网和互联网之间有什么区别
Nsight DL Designer用于高效深度学习模型设计和开发
晶圆级封装的基本流程
降低使用门槛,亚马逊云科技推出实时AI编程助手Amazon CodeWhisperer
人脸识别做众筹 是炒概念还是真创新我们只能拭目以待
CEVA为低功耗嵌入式系统带来高度智能视觉处理能力
三菱XR号称合资性价比王者,悬浮式设计+混动四驱,仅售价12万
2017下半年即将发布的四款国产旗舰一加5、魅族pro7、小米mix2、小米note3,你期待谁?
RF射频电路为什么选取50欧姆作为阻抗匹配的数值呢?
意大利进口微生物快速检测仪的特点是什么
GPS的接口有哪些类型?
科普NPU、TPU、IPU是什么?
百度深度学习在人工智能运用的三个方向
精密电机“小巨人”华阳智能登陆创业板
应用RT8450设计一种LED灯具驱动方案
集成功放应用要点