GPU和CPU谁最强呢？
近几个月，几乎每个行业的小伙伴都了解到了chatgpt的可怕能力。你知道么，chatgpt之所以如此厉害，是因为它用到了几万张nvida tesla a100显卡做ai推理和图形计算。
本文就简单分享下gpu的相关内容，欢迎阅读。
gpu是什么？
gpu的英文全称graphics processing unit，图形处理单元。
说直白一点：gpu是一款专门的图形处理芯片，做图形渲染、数值分析、金融分析、密码破解，以及其他数学计算与几何运算的。gpu可以在pc、工作站、游戏主机、手机、平板等多种智能终端设备上运行。
gpu和显卡的关系，就像是cpu和主板的关系。前者是显卡的心脏，后者是主板的心脏。有些小伙伴会把gpu和显卡当成一个东西，其实还有些差别的，显卡不仅包括gpu，还有一些显存、vrm稳压模块、mram芯片、总线、风扇、外围设备接口等等。
gpu和cpu谁最强呢？
这个其实不好说，好点的gpu内部的晶体管数量可以超过cpu，cpu的强项是做逻辑运算，gpu的强项是做数学运算和图形渲染。这就chatgpt用大量高性能显卡做ai推理的原因。
接下来，我们做个简单的对比。
结构组成不同
cpu和gpu都是运算的处理器，在架构组成上都包括3个部分：运算单元alu、控制单元control和缓存单元cache。
但是，三者的组成比例却相差很大。
在cpu中缓存单元大概占50%，控制单元25%，运算单元25%；
在gpu中缓存单元大概占5%，控制单元5%，运算单元90%。
结构组成上的巨大差异说明：cpu的运算能力更加均衡，但是不适合做大量的运算；gpu更适合做大量运算。
这倒不是说gpu更牛x，实际上gpu更像是一大群工厂流水线上的工人，适合做大量的简单运算，很复杂的搞不了。但是简单的事情做得非常快，比cpu要快得多。
相比gpu，cpu更像是技术专家，可以做复杂的运算，比如逻辑运算、响应用户请求、网络通信等。但是因为alu占比较少、内核少，所以适合做相对少量的复杂运算。
在cpu里面，大概50%是缓存单元，并且是四级缓存结构；而在gpu中，缓存是一级或者二级的。
cpu性能更加注重线程的性能，在控制部分做的事情较多，这样做就是为了确保控制指令不能中断，在浮点计算上功耗少。
相较于cpu，gpu的结构更为简单，基本上它也只做单精度或双精度浮点运算。gpu的运算速度更快，吞吐量也更高。
cpu基本上是实时响应，采用多级缓存来保障多个任务的响应速度。
gpu往往采用的是批处理的机制，即：任务先排好队，挨个处理。
gpu对于图形处理
我们假设在实时渲染中，一帧1080*720p的图片，那么这张图就有大概777600个像素点。如果按照最基本的24帧/秒的帧率计算。1秒钟就要求计算机处理18662400个，即：1866.24万个像素点。
这还是高清的情况下，如果是1090*1080、2k、4k甚至8k的视频渲染，可想而知，这个计算量是何其巨大。尤其是在像游戏这样的实时渲染场景下，显然仅仅依靠cpu渲染是会超时的。
实际上，在屏幕中显示的三维物体都要经过多重的坐标变换，并且物体的表面会受到环境中各种光线的影响，呈现不同的颜色和阴影。这就包括了光线的漫射、折射、透射、散射等。
接下来，我们以英伟达nvidia rtx3090 为例，看下gpu是如何进行渲染的。
rtx3090的流式多处理器有10496个，每个内核都有具备整数运算和浮点运算的部分，还有用于在操作数中排队和收集结果的部分。
所谓流式多处理器可以认为是一个独立的任务处理单元，也可以认为一颗gpu包含了10496个cpu同时处理各个图片处理任务。
我们就可以通过算法和程序，对1秒钟18662400个像素点的整体任务进行切割分片，让10496颗处理器并行计算。
这样的话，每个处理器负责大概每秒处理18662400/10496，即1778个像素点的渲染任务就行了。
如下图所示，在gpu中会划分为多个流式处理区，每个处理区包含数百个内核，每个内核相当于一颗简化版的cpu，具备整数运算和浮点运算的功能，以及排队和结果收集功能。
注意，除了流处理器cuda以外，影响gpu性能的还有
缓存不同
浮点运算方式不同
响应方式不同
核心频率：频率越高，性能越强、功耗也越高。
显示位宽：单位是bit，位宽决定了显卡同时可以处理的数据量，越大越好。
显存容量：显存容量越大，代表能缓存的数据就越多。
显存频率：单位是mhz或bps，显存频率越高，图形数据传输速度就越快。
总结
一言以蔽之，gpu不管是处理图形渲染、数值分析，还是处理ai推理。底层逻辑都是将极为繁重的数学进行任务拆解，化繁为简。
然后，利用gpu多流处理器的机制，将大量的运算拆解为一个个小的、简单的运算，并行处理。我们也可以认为一个gpu就是一个集群，里面每个流处理器都是一颗cpu，这样就容易理解了。
以上是关于gpu概念、工作原理的简要介绍。说是简单，其实在图形处理方面，还有很多深层次的处理逻辑没有展开，比如像素位置变换、三角原理等等。感兴趣的小伙伴可以深入研究下。
vivo X9、OPPOR9s对比评测：vivo X9、OPPOR9s怎么样？价格配置相近谁更值得购买？
小米总裁林斌曝光了全球第一台双折叠手机
Cisco网络数据通信过程 ping不通如何排查
马来西亚电信运营商Digi宣布将于中兴通讯合作
扒一扒流行科技潮品，这些你都知道吗？
GPU和CPU谁最强呢？
2022年值得关注的7个主要SD-WAN趋势
关于滤波器一些主要参数的详细介绍
区块链游戏底层公有链平台MagnaChain介绍
缺芯催促国产碳化硅半导体加速“上车”
你了解过压故障保护模拟开关代替分立保护器件？
大数据、人工智能、互联网将在镇府新政策下迎来创业黄金时代
山寨币与竞争币的区别是什么
U-CPE公司选择Enea NFV Access开放式虚拟化和管理平台
台积电tsmc公司是做什么?是一家怎样的公司
信道编码器与译码器原理仿真
中国机器人市场增长迅速，在发展中国家市场有很大的优势
天宫二号成功发射 首次太空脑－机交互实验将启动
Apple在WWDC 2017主题演讲中推出了iOS 11
动中通数据的无线传输切换是如何实现的
本文就简单分享下gpu的相关内容，欢迎阅读。
gpu是什么？
gpu的英文全称graphics processing unit，图形处理单元。
说直白一点：gpu是一款专门的图形处理芯片，做图形渲染、数值分析、金融分析、密码破解，以及其他数学计算与几何运算的。gpu可以在pc、工作站、游戏主机、手机、平板等多种智能终端设备上运行。
gpu和显卡的关系，就像是cpu和主板的关系。前者是显卡的心脏，后者是主板的心脏。有些小伙伴会把gpu和显卡当成一个东西，其实还有些差别的，显卡不仅包括gpu，还有一些显存、vrm稳压模块、mram芯片、总线、风扇、外围设备接口等等。
gpu和cpu谁最强呢？
这个其实不好说，好点的gpu内部的晶体管数量可以超过cpu，cpu的强项是做逻辑运算，gpu的强项是做数学运算和图形渲染。这就chatgpt用大量高性能显卡做ai推理的原因。
接下来，我们做个简单的对比。
结构组成不同
cpu和gpu都是运算的处理器，在架构组成上都包括3个部分：运算单元alu、控制单元control和缓存单元cache。
但是，三者的组成比例却相差很大。
在cpu中缓存单元大概占50%，控制单元25%，运算单元25%；
在gpu中缓存单元大概占5%，控制单元5%，运算单元90%。
结构组成上的巨大差异说明：cpu的运算能力更加均衡，但是不适合做大量的运算；gpu更适合做大量运算。
这倒不是说gpu更牛x，实际上gpu更像是一大群工厂流水线上的工人，适合做大量的简单运算，很复杂的搞不了。但是简单的事情做得非常快，比cpu要快得多。
相比gpu，cpu更像是技术专家，可以做复杂的运算，比如逻辑运算、响应用户请求、网络通信等。但是因为alu占比较少、内核少，所以适合做相对少量的复杂运算。
在cpu里面，大概50%是缓存单元，并且是四级缓存结构；而在gpu中，缓存是一级或者二级的。
cpu性能更加注重线程的性能，在控制部分做的事情较多，这样做就是为了确保控制指令不能中断，在浮点计算上功耗少。
相较于cpu，gpu的结构更为简单，基本上它也只做单精度或双精度浮点运算。gpu的运算速度更快，吞吐量也更高。
cpu基本上是实时响应，采用多级缓存来保障多个任务的响应速度。
gpu往往采用的是批处理的机制，即：任务先排好队，挨个处理。
gpu对于图形处理
我们假设在实时渲染中，一帧1080*720p的图片，那么这张图就有大概777600个像素点。如果按照最基本的24帧/秒的帧率计算。1秒钟就要求计算机处理18662400个，即：1866.24万个像素点。
这还是高清的情况下，如果是1090*1080、2k、4k甚至8k的视频渲染，可想而知，这个计算量是何其巨大。尤其是在像游戏这样的实时渲染场景下，显然仅仅依靠cpu渲染是会超时的。
实际上，在屏幕中显示的三维物体都要经过多重的坐标变换，并且物体的表面会受到环境中各种光线的影响，呈现不同的颜色和阴影。这就包括了光线的漫射、折射、透射、散射等。
接下来，我们以英伟达nvidia rtx3090 为例，看下gpu是如何进行渲染的。
rtx3090的流式多处理器有10496个，每个内核都有具备整数运算和浮点运算的部分，还有用于在操作数中排队和收集结果的部分。
所谓流式多处理器可以认为是一个独立的任务处理单元，也可以认为一颗gpu包含了10496个cpu同时处理各个图片处理任务。
我们就可以通过算法和程序，对1秒钟18662400个像素点的整体任务进行切割分片，让10496颗处理器并行计算。
这样的话，每个处理器负责大概每秒处理18662400/10496，即1778个像素点的渲染任务就行了。
如下图所示，在gpu中会划分为多个流式处理区，每个处理区包含数百个内核，每个内核相当于一颗简化版的cpu，具备整数运算和浮点运算的功能，以及排队和结果收集功能。
注意，除了流处理器cuda以外，影响gpu性能的还有
缓存不同
浮点运算方式不同
响应方式不同
核心频率：频率越高，性能越强、功耗也越高。
显示位宽：单位是bit，位宽决定了显卡同时可以处理的数据量，越大越好。
显存容量：显存容量越大，代表能缓存的数据就越多。
显存频率：单位是mhz或bps，显存频率越高，图形数据传输速度就越快。
总结
一言以蔽之，gpu不管是处理图形渲染、数值分析，还是处理ai推理。底层逻辑都是将极为繁重的数学进行任务拆解，化繁为简。
然后，利用gpu多流处理器的机制，将大量的运算拆解为一个个小的、简单的运算，并行处理。我们也可以认为一个gpu就是一个集群，里面每个流处理器都是一颗cpu，这样就容易理解了。
以上是关于gpu概念、工作原理的简要介绍。说是简单，其实在图形处理方面，还有很多深层次的处理逻辑没有展开，比如像素位置变换、三角原理等等。感兴趣的小伙伴可以深入研究下。
vivo X9、OPPOR9s对比评测：vivo X9、OPPOR9s怎么样？价格配置相近谁更值得购买？
小米总裁林斌曝光了全球第一台双折叠手机
Cisco网络数据通信过程 ping不通如何排查
马来西亚电信运营商Digi宣布将于中兴通讯合作
扒一扒流行科技潮品，这些你都知道吗？
GPU和CPU谁最强呢？
2022年值得关注的7个主要SD-WAN趋势
关于滤波器一些主要参数的详细介绍
区块链游戏底层公有链平台MagnaChain介绍
缺芯催促国产碳化硅半导体加速“上车”
你了解过压故障保护模拟开关代替分立保护器件？
大数据、人工智能、互联网将在镇府新政策下迎来创业黄金时代
山寨币与竞争币的区别是什么
U-CPE公司选择Enea NFV Access开放式虚拟化和管理平台
台积电tsmc公司是做什么?是一家怎样的公司
信道编码器与译码器原理仿真
中国机器人市场增长迅速，在发展中国家市场有很大的优势
天宫二号成功发射 首次太空脑－机交互实验将启动
Apple在WWDC 2017主题演讲中推出了iOS 11
动中通数据的无线传输切换是如何实现的