ChatGPT算力芯片如何做算力输出
我们谈到算力芯片和内存，这一期我们来聊聊算力芯片如何做算力输出，进而形成chatgpt等生成式ai背后的算力基座。
现在的算力服务器中，里面并不是一颗颗芯片堆叠在一起，而是一张张算力卡并排插在卡槽里。目前大部分算力服务器单台放置8张或者16张算力卡。
算力卡的核心当然还是计算芯片，会搭配大容量高带宽的内存、缓存，以及搭载cpu用于调度，为了帮助数据传输，便会使用高速通道，这便是pcie（高速串行计算机扩展总线标准）在系统中的作用：提供总线通道。
图：算力卡示意图
pcie在数据运算中的应用非常广泛，比如cpu控制和调度芯片组进行工作会采用pcie总线，算力卡和算力卡之间的互联也可能用到serdes总线，计算好的数据存入到ssd硬盘中也是使用pcie总线，算力中心里的交换机内部cpu与switch芯片之间，采用pcie总线。
图：pcie总线在ai异构计算系统中的应用
因此，pcie相当于是一种通用的总线标准，串联起整个ai背后的异构计算系统。通过采用pcie接口，研发人员完全不必担心计算芯片、加速芯片、内存芯片、存储芯片、网关芯片和交换机等人工智能系统不同组件之间的互联问题。
pcie从多个方面赋能当前人工智能系统的高速发展，包括以下几个特性：
1. 高效传输
2. 高可扩展性
3. 实时处理能力
4. 持续优化的低功耗性能
由于pcie连接了系统中核心的芯片，又承担着数据传输的责任，因此其性能可靠性非常重要。在实际测试过程中，首先要测试pcie接口的上传和下载峰值速度，以及稳定传输的速度，这是保证高效计算的关键。然后是测试pcie接口的电气特性，包括传输功耗，以及高速逻辑唤醒等低功耗功能的具体表现，如下图：
图：是德科技pcie测试拓扑图
此外，在pcie接口稳定性方面，还要测试热插拔特性、隔离度和emc性能等。当然，目前有一些厂商已经不满足于pcie的传输速度，于是他们自己研发了一套连接标准。比如，英特尔提供xe link用于算力卡的互联，这是一种基于pcle 5.0扩展的新协议；英伟达则是开发了nvlink作为pcle的替代方案，带宽和能效能够达到pcle 5.0的数倍。这些自研方案会带来更高的测试挑战，对于是德科技而言，无论采取的是pcle协议，还是自研的高速互联协议，我们的方案都能够满足相关测试需求，如下图：
图：是德科技pcie 6.0全链路测试方案
京东云技术助力航天基地筑构云端
一场由半导体推动的能源革命机遇正到来
模拟量滤波程序算法详解
印制电路版面设计的步骤有哪些？
电磁炉线圈如何维修
ChatGPT算力芯片如何做算力输出
E开箱：华为Mate 30 Pro 5G不香吗？
华为P10国行售价突破5000元，高配置高价格，贵的离谱了
苹果macOS Big Sur 11.3 Beta 已支持双 HomePod 立体声组合
感应灯原理_感应灯的种类
2006年芝加哥家庭用品展|芝加哥家庭用品博览会｜美国芝加哥
车KGC充电器电路原理分析介绍（1）
电瓶修复技术——免费公开课开讲啦（铅酸电池不平衡5终结篇）
烟雾探测器的原理是什么？
ARM首次公布了其到2020年为止的CPU规划图！
工业控制系统如果被黑客破坏将会带来不可估量的后果
Galaxy M21成为第一款One UI 2.5更新的M系列智能手机
台积电11月营收刷新单月营收记录 Q4季度业务有望超过预期
全钒液流电池反应原理
国芯思辰|国产碳化硅可替代科锐C2M0160120D应用服务器电源中
现在的算力服务器中，里面并不是一颗颗芯片堆叠在一起，而是一张张算力卡并排插在卡槽里。目前大部分算力服务器单台放置8张或者16张算力卡。
算力卡的核心当然还是计算芯片，会搭配大容量高带宽的内存、缓存，以及搭载cpu用于调度，为了帮助数据传输，便会使用高速通道，这便是pcie（高速串行计算机扩展总线标准）在系统中的作用：提供总线通道。
图：算力卡示意图
pcie在数据运算中的应用非常广泛，比如cpu控制和调度芯片组进行工作会采用pcie总线，算力卡和算力卡之间的互联也可能用到serdes总线，计算好的数据存入到ssd硬盘中也是使用pcie总线，算力中心里的交换机内部cpu与switch芯片之间，采用pcie总线。
图：pcie总线在ai异构计算系统中的应用
因此，pcie相当于是一种通用的总线标准，串联起整个ai背后的异构计算系统。通过采用pcie接口，研发人员完全不必担心计算芯片、加速芯片、内存芯片、存储芯片、网关芯片和交换机等人工智能系统不同组件之间的互联问题。
pcie从多个方面赋能当前人工智能系统的高速发展，包括以下几个特性：
1. 高效传输
2. 高可扩展性
3. 实时处理能力
4. 持续优化的低功耗性能
由于pcie连接了系统中核心的芯片，又承担着数据传输的责任，因此其性能可靠性非常重要。在实际测试过程中，首先要测试pcie接口的上传和下载峰值速度，以及稳定传输的速度，这是保证高效计算的关键。然后是测试pcie接口的电气特性，包括传输功耗，以及高速逻辑唤醒等低功耗功能的具体表现，如下图：
图：是德科技pcie测试拓扑图
此外，在pcie接口稳定性方面，还要测试热插拔特性、隔离度和emc性能等。当然，目前有一些厂商已经不满足于pcie的传输速度，于是他们自己研发了一套连接标准。比如，英特尔提供xe link用于算力卡的互联，这是一种基于pcle 5.0扩展的新协议；英伟达则是开发了nvlink作为pcle的替代方案，带宽和能效能够达到pcle 5.0的数倍。这些自研方案会带来更高的测试挑战，对于是德科技而言，无论采取的是pcle协议，还是自研的高速互联协议，我们的方案都能够满足相关测试需求，如下图：
图：是德科技pcie 6.0全链路测试方案
京东云技术助力航天基地筑构云端
一场由半导体推动的能源革命机遇正到来
模拟量滤波程序算法详解
印制电路版面设计的步骤有哪些？
电磁炉线圈如何维修
ChatGPT算力芯片如何做算力输出
E开箱：华为Mate 30 Pro 5G不香吗？
华为P10国行售价突破5000元，高配置高价格，贵的离谱了
苹果macOS Big Sur 11.3 Beta 已支持双 HomePod 立体声组合
感应灯原理_感应灯的种类
2006年芝加哥家庭用品展|芝加哥家庭用品博览会｜美国芝加哥
车KGC充电器电路原理分析介绍（1）
电瓶修复技术——免费公开课开讲啦（铅酸电池不平衡5终结篇）
烟雾探测器的原理是什么？
ARM首次公布了其到2020年为止的CPU规划图！
工业控制系统如果被黑客破坏将会带来不可估量的后果
Galaxy M21成为第一款One UI 2.5更新的M系列智能手机
台积电11月营收刷新单月营收记录 Q4季度业务有望超过预期
全钒液流电池反应原理
国芯思辰|国产碳化硅可替代科锐C2M0160120D应用服务器电源中