全名为 nvidia gpu cloud 的 ngc 中心,是近年来 nvidia 用来统筹应用资源的云中心,本身并不具备任何计算功能,主要就是“应用资源分类整理”用途,将 nvidia 绝大部分与 gpu 开发相关的工具包、开发包、机器学习预训练模型等等,全部集中在这上面,方便开发人员集中使用与下载开发资源。
登录 http://ngc.nvidia.com 就能进入 ngc 中心,不过这个入口的更新频率很高,首页所看到的内容可能跳转至其他地方。网页最左边的 “explore catalog” 与右上角的“用户名(未登录之前为 guest)”,大致是固定的。
目前 ngc 将所有资源区分为以下五大类:
collections(集合):
这里存放着“以应用为单位”的综合信息内容,因为每个应用都需要用到一个以上的容器、预训练模型、helm 管理模块或资源,在 ngc 里存放数百个这些元件,如果让开发者自行搜索的话,的确是一件相当费劲的工作。
nvidia 将个别应用所需要的相关信息,先整理好并存放在这个分类里,让使用者可以非常轻松地掌握每个应用所需要的资源列表,目前已经整理好 50+个应用,包括 tao 对话 ai、asr 自动语音识别、nlp 自然语言处理等等,还在陆续增加当中。
下面截屏是在 “query” 栏输入 “tao” 后,会出现 10 个已经整理好的应用:
当点击 “tao toolkit-conversational ai” 之后,就会进入下面 “overview” 截图的内容,显示在 ngc 中心里,目前有 1 个容器、10 个预训练模型与 8 项资源与这个应用是有关的,当然这些数字未来是有可能改变的。
点击 “entities” 就能看到如下图,列出每个元件的名称以及进入该元件说明的链接:
这样就能很轻松地掌握每个应用完整的资源信息。
containers(容器):
docker 是非常好的用于封装应用软件的容器技术,封装的镜像能提供完全独立的执行环境,这样能有效地解决多种应用的同时运作。
由于 nvidia 的各种开发套件之间,仍有可能存在 cuda/cudnn/tensorrt 这些底层库的版本兼容问题,另外包括 python 各种数学库之间的版本依赖,经常造成软件安装的困难度。
nvidia 将大部分开发套件与工具包,以不同应用场景或功能组合的形式,用 docker 技术进行封装,例如 tao 开发工具就有 for conv ai、for cv 与 for lanuage model 三种镜像,而 deepstream 有 6 种以上的镜像。
使用镜像技术,开发者只需要在工作平台上安装最基础的 gpu 驱动、docker 管理器与 nv-docker 解析器,就能非常轻松地使用这些应用。目前 ngc 上已经有将近 200 个容器镜像,可以免费使用。
helm charts
这是一组针对 kubernetes 集群的管理与运维的工具,配合 docker 技术执行应用软件的部署与管理,与 gpu 计算没有直接关联,通常使用在数据中心、云平台上,对各种部署的 gpu 应用进行管理与监控,其中 nvidia network operator helm chart 是最重要的基础元件,对这方面有需求的读者可以从这个元件开始上手。
models(模型):
这里提供 300+个预训练好的人工智能模型,包括图像分类、对象检测、语言翻译、文本到语音、推荐引擎、情感分析等等,主要配合迁移学习(transfer learning) 的用途,或者直接拿来作为体验演示用途。
这里的所有模型都是经由最专业的技术人员,根据不同数据精度在 nvidia 最高端设备进行训练,在精确度与性能上都经过优化处理,包括 nvidia tensor core gpu,这样的预训练模型能为开发人员节省非常大量的模型训练时间。
resources
这里存放的内容,就是为创建深度学习模型的分步说明和脚本,例如用于 jupyter环境的 .ipynb 脚本,还有一些使用相关的指导文件或范例代码。
以上简单介绍了 ngc 的内容,nvidia 为开发人员提供非常丰富与优异的资源,若能好好善用 ngc 的功能,就能在人工智能的应用开发上得到事半功倍的效果。
要使用这些资源的第一件事情,就是要申请 ngc 账号,这个账号与 nvidia 开发者申请的账号是互相独立的,因此需要单独申请。本文最后就是带着大家去申请一个账号,并且申请一组密钥,这样就能轻松使用 ngc 的内容。
1. 创建ngc账号:
(1)登录 https://ngc.nvidia.com 会直接出现 catalog 画面。
(2)请点击下图右上角 “welcome guest”,然后点选下方 “sing in/sing up”。
(3)进入后点选 “nvidia account” 旁边的 “continue”,就会进入下图右的“登陆”或“创建一个账户”的画面。
(4)剩下的步骤与一般申请账号的过程是一样的,使用一个正规的邮箱进行申请,不过 ngc 为了便利国内用户,也允许使用 qq 或微信账号登录。在下面截屏下方点击 “show more”,就会出现 “login with qq” 与 “login with wechat” 选项,点入之后扫描二维码就能进行账号创建。
后面仍需要完成进一步的账号确认工作,回复 ngc 所发送的确认邮件,才能完成完成整个账号创建工作。
2. 获取ngc密钥:
(1)登陆 ngc 之后,会看到右上角出现您的登录名,以及一组哈希数列。点选用户名所出现的下拉菜单中,选择 “setup” 选项。
(2)进入 setup 选项后会出现下面两个设定,点击左边的 “get api key”:
(3)点击下图右上角 “generate api key” 会跳出“确认”,点击 “confirm” 即可
(4)在最下面会出现一组长度 85 的字符串:
由于密钥只有在创建时候能看到内容,日后无法在 ngc 独立查询,请自行复制做好记录。这组密钥在整个训练过程以及最后推理时都需要用到,非常关键,如果遗忘的话就得重新再创建一组,而前面所训练的模型,可能就得重新再做一次。
本文只是将 ngc 的内容做个简单的介绍,以及讲解创建账号、生成密钥的过程,更多关于 ngc 的详细使用说明。
原文标题:nvidia jetson nano 2gb 系列文章(54):ngc的内容简介与注册密钥
文章出处:【微信公众号:nvidia英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。
回流焊设备在SMT生产线有何作用?
IGBT的三种安全工作区(FBSOA/RBSOA/SCSOA)
如何在iPhone上分享您的驾驶预计到达时间
惠普打印机常见故障排除经验
openDACS第一批开源EDA核心贡献者名单、openDACS V2.0版本在CCF Chip2022正式发布
关于NGC中心的详细使用说明
快讯:网信办:收集汽车数据应取得车主同意 马斯克叫停比特币买车 比特币跳水
高效能的红外接收器电路图设计分析
51单片机我用按键复位和重新上电复位得到的结果不一样是怎么回事?
最佳的音频放大器设计方案介绍
迈来芯推新型高精度压力传感器,主要针对严苛汽车应用
AI与AR相结合两者会擦出怎样的火花?
2021年筋膜枪品牌排行榜-筋膜枪指南
如何看待大众汽车尝试的22kW直流充电墙盒?
三个方面介绍CPU入门知识
怎么投资元宇宙_普通人怎么参与元宇宙
哈工大人工智能有60多年历史,聚焦4个层次、8个方向
大华DH-ITC602 700万像素卡口电警一体机的特点及性能评测
ANYMESH-SDR-A1单兵手持台自组网设备 自组网单兵手持台
区块链市场研究网络是如何工作的