一文了解IBM Spectrum LSF分布式工作负载管理平台
作者简介：何金池是 ibm 科技事业部负责客户工程的架构师，著有《kubeflow：云计算和机器学习的桥梁》和《大数据处理之道》等书，是 kubeflow、tekton 多个开源社区的 maintainer，亲自参与了 ibm spectrum lsf、ibm cloud pak for data 等产品的研发，是分布式计算、大数据处理和云原生等相关技术和产品的专家。
引言
当前，我们正处在一个“数据智能”的时代，数据呈指数级增长，数字化、智能化转型已是企业创新和高质量发展的基石。在数据为王的时代，如何让数据产生价值，让数据说话，让数据辅助决策呢?数据变宝任重而道远，只有借助于高性能计算 (hpc) 和人工智能 (ai)，数据才能淋漓尽致的绽放其价值。而在分布式的 hpc 集群的工作负载运行中，调度是 “大脑中枢”，无调度不成超算。
ibm spectrum lsf (load sharing facility，下文称 lsf) 给分布式高性能计算系统注入灵魂，强有力地把分布在不同地方的算力组织起来，犹如万剑归一，凝心聚力，以实时的算力监控和优越的调度性能，在最短的时间内完成工作负载的调度和执行。
lsf 横空出世并一往直前
站在今天看过去，分布式高性能计算一直是 it 行业的热门话题。就是算力强悍的今天，大型机 (比如 ibm z 系列) 已经承载了一些核心的业务，但一些其他的应用和作业，无福享受到强悍的大型机的伺候，更何况把目光往前推 20多年，单个主机很难满足应用作业的需求，那怎么办呢?最直接的方式就是把一群机器组织起来，并行干活。如果有一把绝世宝剑，来统一号令集群协同工作，只要调度得当，完全有可能实现“机心齐，泰山移”。
在这种背景下，lsf 于 1992年横空出世。到今天，lsf 已经走过了 29个年头。在这 29年的发展中，新的技术层出不穷，用户的需求也在不断变化，经过 lsf 研发团队的精益求精和不懈努力，lsf 已经发展成为 hpc 分布式集群的“瑞士军刀”，拥有高性能的大规模分布式集群管理和调度能力。近日在中国，lsf 被 ibm 中国团队创业成长计划“12星座”冠以“白羊座”黑科技产品，算是名至所归。29岁，lsf 正当壮年!
那么 lsf 到底是什么呢?lsf 是一个强大的分布式工作负载管理平台，基于智能的、策略驱动的调度特性，充分利用计算基础设施资源，实现最佳的应用程序性能。一言以蔽之，lsf 在正确的时间内，将正确的资源分配给正确的用户作业。lsf 旨在降低企业运营成本的同时，提高生产效率。
经过二十多年的发展，相对于最初的 lsf 1.0 版本，最新的 lsf 10.1，不管是功能上，还是性能上，都得到了质的飞跃。lsf 从最初简单的调度器，发展到今天丰富多彩的调度“航母”，不仅后向兼容，而且不断创新，支持层出不群的新技术和新平台，比如支持 gpu 和 kubernetes 等，也支持机器学习的平台和作业，ai 赋能，发展出了很多周边产品，一往无前的创新和完善的功能，让 29岁的 lsf 成为了妥妥的“黑科技”。
在分布式管理和调度方面，lsf 的功能可谓应有尽有，仅仅调度策略，就有数十种，比如先来先服务 (fcfs)、抢占 (preemption)、资源需求 (resource requirement)、公开共享 (fair share scheduling)、服务水平的资源保障 (guarantee sla)、资源预订 (resource reservations)、回填调度 (backfill scheduling)、亲和调度 (affinity scheduling) 等。
lsf 不光支持 cpu 等常见算力，而且也支持 gpu 调度。同时支持多集群调度，块调度、作业动态调度、许可证(license)调度，基于事件的调度、计算单元和作业包装、作业开始时间预测等功能。
lsf 也支持容器化的应用的调度，lsf 可作为 kubernetes 集群的热插拔调度器，根据策略将 pod 绑定到特定节点，由 kubelet 在目标节点上执行和管理 pod 生命周期，hpc 作业可以在不影响 kubernetes pods 的情况下提交和执行。
同时，lsf 支持混合云策略，lsf 有一个非常受欢迎的功能：resource connector。如果在作业激增的情况下，等待作业较多，本地资源不足的情况下，resource connector 可以迅速的向公有云或者私有云申请资源，然后基于智能化的策略，把作业调度到云端资源上执行。如果业务量下降了，根据预设的门限，即刻释放云端资源。这种可伸缩性，有效的提高计算效率的同时，为客户节省了费用，真是鱼和熊掌二者兼得也!
在 hpc 集群中，性能非常重要，在 lsf 10 版本中，实现了无与伦比的大规模高性能，并且包含了很多创新性功能，提高了易用性和可访问性。lsf 10 支持数以千计的并发用户数，同时管理数以万计的节点资源，同时调度数以百万计的作业。通过 io 模式优化、将数据移到更靠近作业的地方、处理器间通信的优化等方法，来提高作业的吞吐量性能。在 lsf 10 的 benchmark 测试中，lsf 可以在每小时调度分发 9百万的作业(超短作业)。在另外一组测试环境中，在 100,000个 slots 的 lsf 集群，纵向对比了 lsf 的性能提升，从图中我们可以看是 lsf 10 的性能得到了大幅提升。
lsf 的小伙伴们
俗话说，一个好汉三个帮。lsf 的核心的功能是根据集群的资源情况对作业进行调度和分发，到今天，lsf 已经发展出了一个大的家族，lsf 更像是一个家长，以“带头大哥”的身份带领其家族的小伙伴们，为客户降低运营成本，提高生产率。具体看，lsf 家族的核心价值有：
通过有效的调度和共享策略提高资产利用率
通过易用性、易访问性和简化来提高用户的工作效率
通过洞察如何使用 hpc 环境来提高操作效率
下面有请 lsf 家族中几位主要的小伙伴们亮相：
01
lsf ac (application center)
lsf ac 是 lsf 的 web portal。作为是 lsf 家族中“大师兄”，为集群用户和管理员提供了灵活、易用的界面，使用户能够直观的和 lsf 集群进行交互。有了 lsf ac，妈妈再也不用担心程序员小明记不住复杂的 lsf 后台命令了!用户可以通过 web 浏览器轻松愉快的完成作业的基本操作，如停止、暂停、恢复或重新排队作业，也可以在 web 界面监控作业的运行情况。同时，lsf ac 有很多应用程序的模板和脚本指南，这些模板和指南，很好的简化了作业提交，很大程度上降低用户的操作错误概率。
lsf ac 不光有电脑客户端，也支持手机客户端，用户随时随地的掌握作业的运行状态和资源情况。
02
lsf pm (process manager)
在一些 lsf 的应用场景中，很多作业之间有依赖关系，特别是近几年来的容器化，微服务化，并行化作业愈发盛行，面对错综复杂的作业依赖关系，如果没有一套流水线的管理工具，那对于这些用户来说，简直就是灾难。lsf pm 就是肩负着这个使命而诞生的，使用这个流水线工具，lsf 用户可以在提交作业前，图形化的勾勒出作业的先后顺序和驱动事件，然后再提交执行。使用直观的图形界面记录和查看工作流步骤和执行情况，允许用户自动执行容易出现人为错误的、或者冗长重复任务。
同时，用户可以通过 lsf pm 设置一些驱动事件，比如文件事件(比如文件产生或者消失的时候，触发某些作业)，时间事件(可以在特定的时间或者周期性的触发作业的运行)等。lsf pm 拥有 cs 模式的客户端，同时也已经集成到了 lsf ac 的 web 界面中了。
03
lsf rtm (report, track, monitor)
lsf rtm 是 lsf 集群管理员的福音，lsf 集群管理员可以通过 lsf rtm 的 web 仪表盘来全面的、实时的监视、报告和管理集群和工作负载，极大程度上提高了集群资源利用率和用户生产率，以及控制或降低了用户的成本。同时lsf rtm 支持监控应用程序许可证服务器和集群中的用户和用户组。通过 lsf rtm 直观的 dashboard，可以轻松有效的监控多个 lsf 集群，完成管理员日常的集群维护工作。
04
lsf explorer
lsf explorer 是针对 lsf 环境的轻量级报告解决方案，支持各种业务和用户快速创建和查看报告和 dashboard。如果没有 lsf explorer，想要满足不同用户的需求，这些报告需要从多个产品中的不同报告中获得，而且这些数据可能需要通过电子表格的方式，手动创建报告，耗时且费力。lsf explorer 使用 elasticsearch 数据库来存储、索引和查询数据，lsf 的用户、it 管理人员或者项目负责人，都可以轻松的、定制化的获取，定期查看计算环境的执行报告，和所在项目或业务线正在消耗什么样的资源。
05
lsf license scheduler
商业化的应用程序许可证 (license) 往往是一种昂贵的资源，用户可以使用 lsf license scheduler，根据已建立的分发策略分配 license，从而管理和优化计算节点和项目之间的应用程序 license 使用。license 可以在集群之间共享，也可以在集群内的项目之间共享。lsf license scheduler 可以简化 license 共享，帮助提高生产力和增加对 license 资源的整体访问，支持 flexnet 和 reprise 许可证管理器 (rlm) 等。
06
lsf data manager
作业的执行，往往需要一些数据作为输入，或者会输入大量的数据，如果没有合理的数据管理，势必对作业的执行速度造成影响。使用 lsf data manager，用户可以有效地管理在 hpc 环境中的大量数据，借助已经具备的底层文件传输基础设施(如 ibm aspera)，自动化 lsf 集群内和集群间的数据传输，以及本地与云之间的数据传输。lsf data manager 还提供了一个智能托管缓存，允许复用数据，并避免重复的传输，从而消除浪费的磁盘空间和数据传输的等待时间。简单的说，lsf data manager 根据作业调度情况，决定移动哪些数据，和什么时候移动，然后可以借助文件传输技术(如 ibm aspera)实现超高速传输。
lsf 应用场景和用户分析
lsf 主要的应用场景为分布式计算领域和一些计算密集型的场景。lsf 已经成功的应用到了众多行业，包括电子自动化，航空航天等制造业、教育培训、能源、金融、生命科学，大型超算中心、气象分析、环境监测、仿真系统、数据挖掘、人工智能、动漫渲染等。简而言之，如果后台需要大量的计算，lsf 定能助一臂之力。
目前，全球前 12大汽车领域的公司，有 10家在使用 lsf。前 25家电子自动化企业，有 23家在使用 lsf 计算机辅助作业调度。全球前 3大生命科学中心均在使用 lsf 做后台的集群调度。一些成功的超算中心，也在使用 lsf 做调度和监控。很多高等学府和研究院，使用 lsf 做超前的研究工作。我们每天看的精准的天气预报，也有 lsf 默默无闻的贡献。lsf 的成功案例数不胜数，可以说，虽然我们摸不到，看不到，但 lsf 已然和我们的生活息息相关。
结语
因篇幅有限，不能对浩瀚的 lsf 做详尽阐述，lsf 依旧在持续的发展中。二十多年来，lsf 工作负载/资源管理解决方案赢得了多个行业客户的青睐，借助于 lsf，客户的作业运行效率得到了极大的提高，降低了成本。今日的成功只是明日的起跑线，风华正茂的 lsf 和它的小伙伴们，在以后的日子里，不改初心，会不断完善自己，持续为客户创造更大的价值。
end
往期回顾
→ 宝藏 ibm 的黑科技之“十二星座”干货粗略说说
→ ibm 专家观点: data fabric 将会是下一个 it 的风口吗?
点击“阅读原文”，了解更多
原文标题：ibm spectrum lsf:分布式系统的“瑞士军刀”
文章出处：【微信公众号：ibm中国】欢迎添加关注!文章转载请注明出处。
华为P30 Pro用的哪家屏?京东方如此回应
当前人工智能的商业模式挑战
音响制作技术规范
DC/DC转换器的基板布局-输入电容器和二极管的配置
美国国家半导体推出SIMPLE SWITCHER 电源模块
一文了解IBM Spectrum LSF分布式工作负载管理平台
非洲猪瘟检测器用途有哪些?市场价多少
道氏技术再度加速其在锂电材料领域的布局
康耐视推出DataMan 503 扩展物流业条码读码器系列
变量液压马达电控比例控制放大器
四个词形容IBM：历史、创新、转型、行业
HALCON机器视觉软件有哪些优点？
嵌入式Web污染源自动监测系统
气体腰轮流量计安装要求及注意事项
积层贴片压敏电阻与积层贴片电容器的比较
在这个连接器的花园里面挖呀挖
发电机电磁感应电流的大小和方向
华为ENSP之OSPF故障快速切换的办法
达林顿管内部结构、分类、应用电路
揭秘2019双11背后的云网络 – 双11网络架构和洛神系统
引言
当前，我们正处在一个“数据智能”的时代，数据呈指数级增长，数字化、智能化转型已是企业创新和高质量发展的基石。在数据为王的时代，如何让数据产生价值，让数据说话，让数据辅助决策呢?数据变宝任重而道远，只有借助于高性能计算 (hpc) 和人工智能 (ai)，数据才能淋漓尽致的绽放其价值。而在分布式的 hpc 集群的工作负载运行中，调度是 “大脑中枢”，无调度不成超算。
ibm spectrum lsf (load sharing facility，下文称 lsf) 给分布式高性能计算系统注入灵魂，强有力地把分布在不同地方的算力组织起来，犹如万剑归一，凝心聚力，以实时的算力监控和优越的调度性能，在最短的时间内完成工作负载的调度和执行。
lsf 横空出世并一往直前
站在今天看过去，分布式高性能计算一直是 it 行业的热门话题。就是算力强悍的今天，大型机 (比如 ibm z 系列) 已经承载了一些核心的业务，但一些其他的应用和作业，无福享受到强悍的大型机的伺候，更何况把目光往前推 20多年，单个主机很难满足应用作业的需求，那怎么办呢?最直接的方式就是把一群机器组织起来，并行干活。如果有一把绝世宝剑，来统一号令集群协同工作，只要调度得当，完全有可能实现“机心齐，泰山移”。
在这种背景下，lsf 于 1992年横空出世。到今天，lsf 已经走过了 29个年头。在这 29年的发展中，新的技术层出不穷，用户的需求也在不断变化，经过 lsf 研发团队的精益求精和不懈努力，lsf 已经发展成为 hpc 分布式集群的“瑞士军刀”，拥有高性能的大规模分布式集群管理和调度能力。近日在中国，lsf 被 ibm 中国团队创业成长计划“12星座”冠以“白羊座”黑科技产品，算是名至所归。29岁，lsf 正当壮年!
那么 lsf 到底是什么呢?lsf 是一个强大的分布式工作负载管理平台，基于智能的、策略驱动的调度特性，充分利用计算基础设施资源，实现最佳的应用程序性能。一言以蔽之，lsf 在正确的时间内，将正确的资源分配给正确的用户作业。lsf 旨在降低企业运营成本的同时，提高生产效率。
经过二十多年的发展，相对于最初的 lsf 1.0 版本，最新的 lsf 10.1，不管是功能上，还是性能上，都得到了质的飞跃。lsf 从最初简单的调度器，发展到今天丰富多彩的调度“航母”，不仅后向兼容，而且不断创新，支持层出不群的新技术和新平台，比如支持 gpu 和 kubernetes 等，也支持机器学习的平台和作业，ai 赋能，发展出了很多周边产品，一往无前的创新和完善的功能，让 29岁的 lsf 成为了妥妥的“黑科技”。
在分布式管理和调度方面，lsf 的功能可谓应有尽有，仅仅调度策略，就有数十种，比如先来先服务 (fcfs)、抢占 (preemption)、资源需求 (resource requirement)、公开共享 (fair share scheduling)、服务水平的资源保障 (guarantee sla)、资源预订 (resource reservations)、回填调度 (backfill scheduling)、亲和调度 (affinity scheduling) 等。
lsf 不光支持 cpu 等常见算力，而且也支持 gpu 调度。同时支持多集群调度，块调度、作业动态调度、许可证(license)调度，基于事件的调度、计算单元和作业包装、作业开始时间预测等功能。
lsf 也支持容器化的应用的调度，lsf 可作为 kubernetes 集群的热插拔调度器，根据策略将 pod 绑定到特定节点，由 kubelet 在目标节点上执行和管理 pod 生命周期，hpc 作业可以在不影响 kubernetes pods 的情况下提交和执行。
同时，lsf 支持混合云策略，lsf 有一个非常受欢迎的功能：resource connector。如果在作业激增的情况下，等待作业较多，本地资源不足的情况下，resource connector 可以迅速的向公有云或者私有云申请资源，然后基于智能化的策略，把作业调度到云端资源上执行。如果业务量下降了，根据预设的门限，即刻释放云端资源。这种可伸缩性，有效的提高计算效率的同时，为客户节省了费用，真是鱼和熊掌二者兼得也!
在 hpc 集群中，性能非常重要，在 lsf 10 版本中，实现了无与伦比的大规模高性能，并且包含了很多创新性功能，提高了易用性和可访问性。lsf 10 支持数以千计的并发用户数，同时管理数以万计的节点资源，同时调度数以百万计的作业。通过 io 模式优化、将数据移到更靠近作业的地方、处理器间通信的优化等方法，来提高作业的吞吐量性能。在 lsf 10 的 benchmark 测试中，lsf 可以在每小时调度分发 9百万的作业(超短作业)。在另外一组测试环境中，在 100,000个 slots 的 lsf 集群，纵向对比了 lsf 的性能提升，从图中我们可以看是 lsf 10 的性能得到了大幅提升。
lsf 的小伙伴们
俗话说，一个好汉三个帮。lsf 的核心的功能是根据集群的资源情况对作业进行调度和分发，到今天，lsf 已经发展出了一个大的家族，lsf 更像是一个家长，以“带头大哥”的身份带领其家族的小伙伴们，为客户降低运营成本，提高生产率。具体看，lsf 家族的核心价值有：
通过有效的调度和共享策略提高资产利用率
通过易用性、易访问性和简化来提高用户的工作效率
通过洞察如何使用 hpc 环境来提高操作效率
下面有请 lsf 家族中几位主要的小伙伴们亮相：
01
lsf ac (application center)
lsf ac 是 lsf 的 web portal。作为是 lsf 家族中“大师兄”，为集群用户和管理员提供了灵活、易用的界面，使用户能够直观的和 lsf 集群进行交互。有了 lsf ac，妈妈再也不用担心程序员小明记不住复杂的 lsf 后台命令了!用户可以通过 web 浏览器轻松愉快的完成作业的基本操作，如停止、暂停、恢复或重新排队作业，也可以在 web 界面监控作业的运行情况。同时，lsf ac 有很多应用程序的模板和脚本指南，这些模板和指南，很好的简化了作业提交，很大程度上降低用户的操作错误概率。
lsf ac 不光有电脑客户端，也支持手机客户端，用户随时随地的掌握作业的运行状态和资源情况。
02
lsf pm (process manager)
在一些 lsf 的应用场景中，很多作业之间有依赖关系，特别是近几年来的容器化，微服务化，并行化作业愈发盛行，面对错综复杂的作业依赖关系，如果没有一套流水线的管理工具，那对于这些用户来说，简直就是灾难。lsf pm 就是肩负着这个使命而诞生的，使用这个流水线工具，lsf 用户可以在提交作业前，图形化的勾勒出作业的先后顺序和驱动事件，然后再提交执行。使用直观的图形界面记录和查看工作流步骤和执行情况，允许用户自动执行容易出现人为错误的、或者冗长重复任务。
同时，用户可以通过 lsf pm 设置一些驱动事件，比如文件事件(比如文件产生或者消失的时候，触发某些作业)，时间事件(可以在特定的时间或者周期性的触发作业的运行)等。lsf pm 拥有 cs 模式的客户端，同时也已经集成到了 lsf ac 的 web 界面中了。
03
lsf rtm (report, track, monitor)
lsf rtm 是 lsf 集群管理员的福音，lsf 集群管理员可以通过 lsf rtm 的 web 仪表盘来全面的、实时的监视、报告和管理集群和工作负载，极大程度上提高了集群资源利用率和用户生产率，以及控制或降低了用户的成本。同时lsf rtm 支持监控应用程序许可证服务器和集群中的用户和用户组。通过 lsf rtm 直观的 dashboard，可以轻松有效的监控多个 lsf 集群，完成管理员日常的集群维护工作。
04
lsf explorer
lsf explorer 是针对 lsf 环境的轻量级报告解决方案，支持各种业务和用户快速创建和查看报告和 dashboard。如果没有 lsf explorer，想要满足不同用户的需求，这些报告需要从多个产品中的不同报告中获得，而且这些数据可能需要通过电子表格的方式，手动创建报告，耗时且费力。lsf explorer 使用 elasticsearch 数据库来存储、索引和查询数据，lsf 的用户、it 管理人员或者项目负责人，都可以轻松的、定制化的获取，定期查看计算环境的执行报告，和所在项目或业务线正在消耗什么样的资源。
05
lsf license scheduler
商业化的应用程序许可证 (license) 往往是一种昂贵的资源，用户可以使用 lsf license scheduler，根据已建立的分发策略分配 license，从而管理和优化计算节点和项目之间的应用程序 license 使用。license 可以在集群之间共享，也可以在集群内的项目之间共享。lsf license scheduler 可以简化 license 共享，帮助提高生产力和增加对 license 资源的整体访问，支持 flexnet 和 reprise 许可证管理器 (rlm) 等。
06
lsf data manager
作业的执行，往往需要一些数据作为输入，或者会输入大量的数据，如果没有合理的数据管理，势必对作业的执行速度造成影响。使用 lsf data manager，用户可以有效地管理在 hpc 环境中的大量数据，借助已经具备的底层文件传输基础设施(如 ibm aspera)，自动化 lsf 集群内和集群间的数据传输，以及本地与云之间的数据传输。lsf data manager 还提供了一个智能托管缓存，允许复用数据，并避免重复的传输，从而消除浪费的磁盘空间和数据传输的等待时间。简单的说，lsf data manager 根据作业调度情况，决定移动哪些数据，和什么时候移动，然后可以借助文件传输技术(如 ibm aspera)实现超高速传输。
lsf 应用场景和用户分析
lsf 主要的应用场景为分布式计算领域和一些计算密集型的场景。lsf 已经成功的应用到了众多行业，包括电子自动化，航空航天等制造业、教育培训、能源、金融、生命科学，大型超算中心、气象分析、环境监测、仿真系统、数据挖掘、人工智能、动漫渲染等。简而言之，如果后台需要大量的计算，lsf 定能助一臂之力。
目前，全球前 12大汽车领域的公司，有 10家在使用 lsf。前 25家电子自动化企业，有 23家在使用 lsf 计算机辅助作业调度。全球前 3大生命科学中心均在使用 lsf 做后台的集群调度。一些成功的超算中心，也在使用 lsf 做调度和监控。很多高等学府和研究院，使用 lsf 做超前的研究工作。我们每天看的精准的天气预报，也有 lsf 默默无闻的贡献。lsf 的成功案例数不胜数，可以说，虽然我们摸不到，看不到，但 lsf 已然和我们的生活息息相关。
结语
因篇幅有限，不能对浩瀚的 lsf 做详尽阐述，lsf 依旧在持续的发展中。二十多年来，lsf 工作负载/资源管理解决方案赢得了多个行业客户的青睐，借助于 lsf，客户的作业运行效率得到了极大的提高，降低了成本。今日的成功只是明日的起跑线，风华正茂的 lsf 和它的小伙伴们，在以后的日子里，不改初心，会不断完善自己，持续为客户创造更大的价值。
end
往期回顾
→ 宝藏 ibm 的黑科技之“十二星座”干货粗略说说
→ ibm 专家观点: data fabric 将会是下一个 it 的风口吗?
点击“阅读原文”，了解更多
原文标题：ibm spectrum lsf:分布式系统的“瑞士军刀”
文章出处：【微信公众号：ibm中国】欢迎添加关注!文章转载请注明出处。
华为P30 Pro用的哪家屏?京东方如此回应
当前人工智能的商业模式挑战
音响制作技术规范
DC/DC转换器的基板布局-输入电容器和二极管的配置
美国国家半导体推出SIMPLE SWITCHER 电源模块
一文了解IBM Spectrum LSF分布式工作负载管理平台
非洲猪瘟检测器用途有哪些?市场价多少
道氏技术再度加速其在锂电材料领域的布局
康耐视推出DataMan 503 扩展物流业条码读码器系列
变量液压马达电控比例控制放大器
四个词形容IBM：历史、创新、转型、行业
HALCON机器视觉软件有哪些优点？
嵌入式Web污染源自动监测系统
气体腰轮流量计安装要求及注意事项
积层贴片压敏电阻与积层贴片电容器的比较
在这个连接器的花园里面挖呀挖
发电机电磁感应电流的大小和方向
华为ENSP之OSPF故障快速切换的办法
达林顿管内部结构、分类、应用电路
揭秘2019双11背后的云网络 – 双11网络架构和洛神系统