NVIDIA CUDA工具包的概念及主要功能

nvidia cuda 工具包提供了开发环境，可供开发、优化和部署经 gpu 加速的高性能应用。
什么是 cuda 工具包
nvidia cuda 工具包提供了开发环境，可供创建经 gpu 加速的高性能应用。借助 cuda 工具包，您可以在经 gpu 加速的嵌入式系统、台式工作站、企业数据中心、基于云的平台和 hpc 超级计算机中开发、优化和部署应用。此工具包中包含多个 gpu 加速库、多种调试和优化工具、一个 c/c++ 编译器以及一个用于部署应用的运行环境库。
借助多 gpu 配置中用于分布式计算的多项内置功能，科学家和研究人员能够开发出可从单个 gpu 工作站扩展到配置数千个 gpu 云端设施的应用。
cuda 11 主要功能
cuda 11 可为 nvidiaampere 架构、arm 服务器处理器、性能优化库以及多种开发者工具新功能提供支持。对 nvidia ampere 架构的支持包括新一代 tensor core、混合精度模式、多实例 gpu (mig)、高级内存管理以及标准 c++/fortran 并行语言结构。
支持 nvidia ampere gpu 架构，包括新的 nvidia a100 gpu，用于加速 ai 和 hpc 数据中心的扩展；采用 nvswitch 结构的多 gpu 系统，如 dgx a100 和 hgx a100。
多实例 gpu（mig）分区功能，对云服务提供商（csp）提高 gpu 利用率非常有利。
全新第三代 tensor cores 加速不同数据类型的混合精度，包括 tf32 和 bfloat16。
用于任务图、异步数据移动、细粒度同步和二级缓存驻留控制的编程和 api。
cuda 库中用于线性代数、fft 和矩阵乘法进行性能优化。
nsight 产品系列的更新，用于跟踪、剖析和调试 cuda 应用程序。
全面支持所有主要 cpu 体系结构，跨 x86 _ 64、arm64 服务器和 power 结构。
原文标题：devzone | cuda 工具包
文章出处：【微信公众号：nvidia英伟达企业解决方案】欢迎添加关注！文章转载请注明出处。