RT-DETR用114FPS实现54.8AP远超YOLOv8
最近，基于transformer的端到端检测器（detr）已经取得了显著的性能。然而，detr的高计算成本问题尚未得到有效解决，这限制了它们的实际应用，并使它们无法充分利用无后处理的好处，如非最大值抑制（nms）。
本文首先分析了现代实时目标检测器中nms对推理速度的影响，并建立了端到端的速度基准。为了避免nms引起的推理延迟，作者提出了一种实时检测transformer（rt-detr），这是第一个实时端到端目标检测器。
具体而言，设计了一种高效的混合编码器，通过解耦尺度内交互和跨尺度融合来高效处理多尺度特征，并提出了iou感知的查询选择，以提高目标查询的初始化。
此外，本文提出的检测器支持通过使用不同的解码器层来灵活调整推理速度，而不需要重新训练，这有助于实时目标检测器的实际应用。
rtdetr-l在coco val2017上实现了53.0%的ap，在t4 gpu上实现了114 fps，而rt-detr-x实现了54.8%的ap和74 fps，在速度和精度方面都优于相同规模的所有yolo检测器。
此外，rtdetr-r50实现了53.1%的ap和108 fps，在精度上比dino-deformable-detr-r50高出2.2%的ap，在fps上高出约21倍。
1、简介
目标检测是一项基本的视觉任务，涉及识别和定位图像中的目标。现代目标检测器有两种典型的体系结构：
基于cnn
基于transformer
在过去的几年里，人们对基于cnn的目标检测器进行了广泛的研究。这些检测器的架构已经从最初的两阶段发展到一阶段，并且出现了两种检测范式，anchor-base和anchor-free。这些研究在检测速度和准确性方面都取得了重大进展。
基于transformer的目标检测器（detr）由于消除了各种手工设计的组件，如非最大值抑制（nms），自提出以来，受到了学术界的广泛关注。该架构极大地简化了目标检测的流水线，实现了端到端的目标检测。
实时目标检测是一个重要的研究领域，具有广泛的应用，如目标跟踪、视频监控、自动驾驶等。现有的实时检测器通常采用基于cnn的架构，在检测速度和准确性方面实现了合理的权衡。然而，这些实时检测器通常需要nms进行后处理，这通常难以优化并且不够鲁棒，导致检测器的推理速度延迟。
最近，由于研究人员在加速训练收敛和降低优化难度方面的努力，基于transformer的检测器取得了显著的性能。然而，detr的高计算成本问题尚未得到有效解决，这限制了detr的实际应用，并导致无法充分利用其优势。这意味着，尽管简化了目标检测流水线，但由于模型本身的计算成本高，很难实现实时目标检测。
上述问题自然启发考虑是否可以将detr扩展到实时场景，充分利用端到端检测器来避免nms对实时检测器造成的延迟。为了实现上述目标，作者重新思考了detr，并对其关键组件进行了详细的分析和实验，以减少不必要的计算冗余。
具体而言，作者发现，尽管多尺度特征的引入有利于加速训练收敛和提高性能，但它也会导致编码器中序列长度的显著增加。因此，由于计算成本高，transformer编码器成为模型的计算瓶颈。为了实现实时目标检测，设计了一种高效的混合编码器来取代原来的transformer编码器。通过解耦多尺度特征的尺度内交互和尺度间融合，编码器可以有效地处理不同尺度的特征。
此外，先前的工作表明，解码器的目标查询初始化方案对检测性能至关重要。为了进一步提高性能，作者提出了iou-aware的查询选择，它通过在训练期间提供iou约束来向解码器提供更高质量的初始目标查询。
此外，作者提出的检测器支持通过使用不同的解码器层来灵活调整推理速度，而不需要重新训练，这得益于detr架构中解码器的设计，并有助于实时检测器的实际应用。
本文提出了一种实时检测transformer（rt-detr），这是第一个实时基于transformer的端到端目标检测器。rt-detr不仅在精度和速度上优于目前最先进的实时检测器，而且不需要后处理，因此检测器的推理速度不会延迟并保持稳定，充分利用了端到端检测流水线的优势。
rt-detr-l在coco val2017上实现了53.0%的ap，在nvidia tesla t4 gpu上实现了114 fps，而rt-detr-x实现了54.8%的ap和74 fps，在速度和精度方面都优于相同规模的所有yolo检测器。因此，rt-detr成为了一种用于实时目标检测的新的sota，如图1所示。
此外，提出的rt-detr-r50实现了53.1%的ap和108 fps，而rt-detr-r101实现了54.3%的ap和74 fps。其中，rt-detr50在准确度上优于dino-deformable-detr-r50 2.2%的ap（53.1%的ap对50.9%的ap），在fps（108 fps对5 fps）上优于dino-deformable-detr-r5约21倍。
本文的主要贡献总结如下：
提出了第一个实时端到端目标检测器，它不仅在准确性和速度上优于当前的实时检测器，而且不需要后处理，因此推理速度不延迟，保持稳定；
详细分析了nms对实时检测器的影响，并从后处理的角度得出了关于基于cnn的实时检测器的结论；
提出的iou-aware查询选择在我们的模型中显示出优异的性能改进，这为改进目标查询的初始化方案提供了新的线索；
本文的工作为端到端检测器的实时实现提供了一个可行的解决方案，并且所提出的检测器可以通过使用不同的解码器层来灵活地调整模型大小和推理速度，而不需要重新训练。
2、相关方法
2.1、实时目标检测器
经过多年的不断发展，yolo系列已成为实时目标检测器的代名词，大致可分为两类：
anchor-base
anchor-free
从这些检测器的性能来看，anchor不再是制约yolo发展的主要因素。然而，上述检测器产生了许多冗余的边界框，需要在后处理阶段使用nms来过滤掉它们。
不幸的是，这会导致性能瓶颈，nms的超参数对检测器的准确性和速度有很大影响。作者认为这与实时目标检测器的设计理念不兼容。
2.2、端到端目标检测器
端到端目标检测器以其流线型管道而闻名。carion等人首先提出了基于transformer的端到端目标检测器，称为detr（detection transformer）。它因其独特的特点而备受关注。特别地，detr消除了传统检测流水线中手工设计的anchor和nms组件。相反，它采用二分匹配，并直接预测一对一的对象集。通过采用这种策略，detr简化了检测管道，缓解了nms带来的性能瓶颈。
尽管detr具有明显的优势，但它存在两个主要问题：
训练收敛缓慢
查询难以优化
已经提出了许多detr变体来解决这些问题。具体而言，deformable detr通过提高注意力机制的效率，加速了多尺度特征的训练收敛。conditional detr和anchor detr降低了查询的优化难度。dab-detr引入4d参考点，并逐层迭代优化预测框。dn-detr通过引入查询去噪来加速训练收敛。dino以之前的作品为基础，取得了最先进的成果。
尽管正在不断改进detr的组件，但本文的目标不仅是进一步提高模型的性能，而且是创建一个实时的端到端目标检测器。
2.3、目标检测的多尺度特征
现代目标检测器已经证明了利用多尺度特征来提高性能的重要性，尤其是对于小物体。fpn引入了一种融合相邻尺度特征的特征金字塔网络。随后的工作扩展和增强了这种结构，并被广泛用于实时目标检测器。zhu等人首先在detr中引入了多尺度特征，提高了性能和收敛速度，但这也导致了detr计算成本的显著增加。
尽管deformable attention制在一定程度上减轻了计算成本，但多尺度特征的结合仍然会导致较高的计算负担。为了解决这个问题，一些工作试图设计计算高效的detr。effificient detr通过初始化具有密集先验的目标查询来减少编码器和解码器层的数量。sparse detr选择性地更新期望被解码器引用的编码器token，从而减少计算开销。lite detr通过以交错方式降低低级别特征的更新频率来提高编码器的效率。尽管这些研究降低了detr的计算成本，但这些工作的目标并不是将detr作为一种实时检测器来推广。
3、检测器端到端速度
3.1、分析nms
nms是检测中广泛采用的后处理算法，用于消除检测器输出的重叠预测框。nms中需要2个超参数：得分阈值和iou阈值。
特别地，分数低于分数阈值的预测框被直接过滤掉，并且每当2个预测框的iou超过iou阈值时，分数较低的框将被丢弃。重复执行此过程，直到每个类别的所有框都已处理完毕。因此，nms的执行时间主要取决于输入预测框的数量和两个超参数。
为了验证这一观点，作者利用yolov5和yolov8进行实验。首先计算在输出框被相同输入图像的不同得分阈值滤波后剩余的预测框的数量。采样了0.001到0.25的一些分数作为阈值，对两个检测器的剩余预测框进行计数，并将其绘制成直方图，直观地反映了nms易受其超参数的影响，如图2所示。
此外，以yolov8为例，评估了不同nms超参数下coco val2017的模型准确性和nms操作的执行时间。
注意，在实验中采用的nms后处理操作是指tensorrt efficientnmsplugin，它涉及多个cuda内核，包括efficientnmsfilter、radixsort、efficientnms等，作者只报告了efficientnms内核的执行时间。在t4 gpu上测试了速度，上述实验中的输入图像和预处理是一致的。使用的超参数和相应的结果如表1所示。
3.2、端到端速度基准
为了能够公平地比较各种实时检测器的端到端推理速度，作者建立了一个端到端速度测试基准。考虑到nms的执行时间可能会受到输入图像的影响，有必要选择一个基准数据集，并计算多个图像的平均执行时间。该基准采用coco val2017作为默认数据集，为需要后处理的实时检测器添加了tensorrt的nms后处理插件。
具体来说，根据基准数据集上相应精度的超参数测试检测器的平均推理时间，不包括io和内存复制操作。利用该基准测试t4 gpu上基于锚的检测器yolov5和yolov7以及anchor-free检测器pp-yoloe、yolov6和yolov8的端到端速度。
测试结果如表2所示。
根据结果得出结论，对于需要nms后处理的实时检测器，anchor-free检测器在同等精度上优于anchor-base的检测器，因为前者的后处理时间明显少于后者，这在以前的工作中被忽略了。这种现象的原因是，anchor-base的检测器比anchor-free的检测器产生更多的预测框（在测试的检测器中是3倍多）。
4、the real-time detr
4.1、方法概览
所提出的rt-detr由backbone、混合编码器和带有辅助预测头的transformer解码器组成。模型体系结构的概述如图3所示。
具体来说：
首先，利用backbone的最后3个阶段的输出特征作为编码器的输入；
然后，混合编码器通过尺度内交互和跨尺度融合将多尺度特征转换为一系列图像特征（如第4.2节所述）；
随后，采用iou-aware查询选择从编码器输出序列中选择固定数量的图像特征，作为解码器的初始目标查询；
最后，具有辅助预测头的解码器迭代地优化对象查询以生成框和置信度得分。
4.2、高效混合编码器
1、计算瓶颈分析
为了加速训练收敛并提高性能，zhu等人建议引入多尺度特征，并提出deformable attention机制以减少计算。然而，尽管注意力机制的改进减少了计算开销，但输入序列长度的急剧增加仍然导致编码器成为计算瓶颈，阻碍了detr的实时实现。
如 所述，编码器占gflop的49%，但在deformable detr中仅占ap的11%。为了克服这一障碍，作者分析了多尺度transformer编码器中存在的计算冗余，并设计了一组变体，以证明尺度内和尺度间特征的同时交互在计算上是低效的。
从包含关于图像中的对象的丰富语义信息的低级特征中提取高级特征。直观地说，对连接的多尺度特征进行特征交互是多余的。如图5所示，为了验证这一观点，作者重新思考编码器结构，并设计了一系列具有不同编码器的变体。
该组变体通过将多尺度特征交互解耦为尺度内交互和跨尺度融合的两步操作，逐步提高模型精度，同时显著降低计算成本。首先删除了dino-r50中的多尺度变换编码器作为基线a。接下来，插入不同形式的编码器，以产生基于基线a的一系列变体，具体如下：
a→ b：变体b插入一个单尺度transformer编码器，该编码器使用一层transformer block。每个尺度的特征共享编码器，用于尺度内特征交互，然后连接输出的多尺度特征。
b→ c：变体c引入了基于b的跨尺度特征融合，并将连接的多尺度特征输入编码器以执行特征交互。
c→ d：变体d解耦了多尺度特征的尺度内交互和跨尺度融合。首先，使用单尺度transformer编码器进行尺度内交互，然后使用类panet结构进行跨尺度融合。
d→ e：变体e进一步优化了基于d的多尺度特征的尺度内交互和跨尺度融合，采用了设计的高效混合编码器。
2、hybrid design
基于上述分析，作者重新思考了编码器的结构，并提出了一种新的高效混合编码器。如图3所示，所提出的编码器由两个模块组成，即基于注意力的尺度内特征交互（aifi）模块和基于神经网络的跨尺度特征融合模块（ccfm）。
aifi进一步减少了基于变体d的计算冗余，变体d仅在上执行尺度内交互。作者认为，将自注意力操作应用于具有更丰富语义概念的高级特征可以捕捉图像中概念实体之间的联系，这有助于后续模块对图像中目标的检测和识别。
同时，由于缺乏语义概念以及与高级特征的交互存在重复和混淆的风险，较低级别特征的尺度内交互是不必要的。为了验证这一观点，只对变体d中的进行了尺度内相互作用，实验结果见表3，见行。与变体d相比，显著降低了延迟（快35%），但提高了准确性（ap高0.4%）。这一结论对实时检测器的设计至关重要。
ccfm也基于变体d进行了优化，在融合路径中插入了几个由卷积层组成的融合块。融合块的作用是将相邻的特征融合成一个新的特征，其结构如图4所示。融合块包含n个repblock，两个路径输出通过元素相加进行融合。
可以将这个过程表述如下：
其中表示多头自注意力，表示将特征的形状恢复到与相同的形状，这是的inverse操作。
4.3、iou-aware查询选择
detr中的目标查询是一组可学习的嵌入，这些嵌入由解码器优化，并由预测头映射到分类分数和边界框。然而，这些目标查询很难解释和优化，因为它们没有明确的物理意义。后续工作改进了目标查询的初始化，并将其扩展到内容查询和位置查询（anchor点）。其中，effificient detr、dino以及deformable detr都提出了查询选择方案，它们的共同点是利用分类得分从编码器中选择top-k个特征来初始化目标查询（或仅位置查询）。然而，由于分类得分和位置置信度的分布不一致，一些预测框具有高分类得分，但不接近gt框，这导致选择了分类得分高、iou得分低的框，而分类得分低、iou分数高的框被丢弃。这会削弱探测器的性能。
为了解决这个问题，作者提出了iou-aware查询选择，通过约束模型在训练期间为具有高iou分数的特征产生高分类分数，并为具有低iou得分的特征产生低分类分数。因此，与模型根据分类得分选择的top-k个编码器特征相对应的预测框具有高分类得分和高iou得分。
将检测器的优化目标重新表述如下：
其中和表示预测和gt，和。和分别表示类别和边界框。将iou分数引入分类分支的目标函数（类似于vfl），以实现对正样本分类和定位的一致性约束。
有效性分析
为了分析所提出的iou感知查询选择的有效性，在val2017上可视化了查询选择所选择的编码器特征的分类分数和iou分数，如图6所示。
具体来说，首先根据分类得分选择前k个（在实验中k=300）编码器特征，然后可视化分类得分大于0.5的散点图。红点和蓝点是根据分别应用普通查询选择和iou感知查询选择训练的模型计算的。点越靠近图的右上角，对应特征的质量就越高，即分类标签和边界框更有可能描述图像中的真实对象。
根据可视化结果发现最引人注目的特征是大量蓝色点集中在图的右上角，而红色点集中在右下角。这表明，使用iou感知查询选择训练的模型可以产生更多高质量的编码器特征。
此外，还定量分析了这两类点的分布特征。图中蓝色点比红色点多138%，即分类得分小于或等于0.5的红色点更多，这可以被视为低质量特征。然后，分析分类得分大于0.5的特征的iou得分，发现iou得分大于0.5时，蓝色点比红色点多120%。
定量结果进一步表明，iou感知查询选择可以为对象查询提供更多具有准确分类（高分类分数）和精确定位（高iou分数）的编码器特征，从而提高检测器的准确性。
4.4、scaled rt-detr
为了提供rt-detr的可扩展版本，将resnet网替换为hgnetv2。使用depth multiplier和width multiplier将backbone和混合编码器一起缩放。因此，得到了具有不同数量的参数和fps的rt-detr的两个版本。
对于混合编码器，通过分别调整ccfm中repblock的数量和编码器的嵌入维度来控制depth multiplier和width multiplier。值得注意的是，提出的不同规模的rt-detr保持了同质解码器，这有助于使用高精度大型detr模型对光检测器进行蒸馏。这将是一个可探索的未来方向。
5、实验
5.1、与sota比较
5.2、混合编码器的消融实验研究
5.3、iou感知查询选择的消融研究
5.4、解码器的消融研究
电科院公布公章鉴定结果：未造成不利影响
韩国业界正努力朝向存储器中心的运算迈进
PI3EQX1002BZLEX 中文规格及特征介绍
慧硕电子实现三个月主体结构封顶
阿里巴巴达摩院研发数学规划求解器，在国际评测排名第一
RT-DETR用114FPS实现54.8AP远超YOLOv8
买耳机送手机？三星s8开箱，良心配件！
Molex 发布 MXMag™ 千兆级单端口RJ45连接器
柔性屏幕的优点与未来挑战
深度解读车路协同是什么？
蓝牙耳机那个品牌好用点、目前蓝牙耳机最受欢迎的五款
面对智能音箱这片红海，华为将全力进军智能音箱
基于HT48单片机的笔段型液晶显示驱动设计
IC分销商立功科技撤回申请
电子脉冲围栏探测器在周界防范报警系统的优势
5G无界智慧互联S1：5G+AI+UHD
基于两级监控中心架构实现全网络化视频监控系统的设计方案
Magic Leap正在与多家公司合作将AR硬件带入了医院手术室
使用uA741+CA3140制作的高灵敏触摸报警器,Sensitive touch alarm
德国电信最近扩大了其NB-IoT物联网漫游协议
本文首先分析了现代实时目标检测器中nms对推理速度的影响，并建立了端到端的速度基准。为了避免nms引起的推理延迟，作者提出了一种实时检测transformer（rt-detr），这是第一个实时端到端目标检测器。
具体而言，设计了一种高效的混合编码器，通过解耦尺度内交互和跨尺度融合来高效处理多尺度特征，并提出了iou感知的查询选择，以提高目标查询的初始化。
此外，本文提出的检测器支持通过使用不同的解码器层来灵活调整推理速度，而不需要重新训练，这有助于实时目标检测器的实际应用。
rtdetr-l在coco val2017上实现了53.0%的ap，在t4 gpu上实现了114 fps，而rt-detr-x实现了54.8%的ap和74 fps，在速度和精度方面都优于相同规模的所有yolo检测器。
此外，rtdetr-r50实现了53.1%的ap和108 fps，在精度上比dino-deformable-detr-r50高出2.2%的ap，在fps上高出约21倍。
1、简介
目标检测是一项基本的视觉任务，涉及识别和定位图像中的目标。现代目标检测器有两种典型的体系结构：
基于cnn
基于transformer
在过去的几年里，人们对基于cnn的目标检测器进行了广泛的研究。这些检测器的架构已经从最初的两阶段发展到一阶段，并且出现了两种检测范式，anchor-base和anchor-free。这些研究在检测速度和准确性方面都取得了重大进展。
基于transformer的目标检测器（detr）由于消除了各种手工设计的组件，如非最大值抑制（nms），自提出以来，受到了学术界的广泛关注。该架构极大地简化了目标检测的流水线，实现了端到端的目标检测。
实时目标检测是一个重要的研究领域，具有广泛的应用，如目标跟踪、视频监控、自动驾驶等。现有的实时检测器通常采用基于cnn的架构，在检测速度和准确性方面实现了合理的权衡。然而，这些实时检测器通常需要nms进行后处理，这通常难以优化并且不够鲁棒，导致检测器的推理速度延迟。
最近，由于研究人员在加速训练收敛和降低优化难度方面的努力，基于transformer的检测器取得了显著的性能。然而，detr的高计算成本问题尚未得到有效解决，这限制了detr的实际应用，并导致无法充分利用其优势。这意味着，尽管简化了目标检测流水线，但由于模型本身的计算成本高，很难实现实时目标检测。
上述问题自然启发考虑是否可以将detr扩展到实时场景，充分利用端到端检测器来避免nms对实时检测器造成的延迟。为了实现上述目标，作者重新思考了detr，并对其关键组件进行了详细的分析和实验，以减少不必要的计算冗余。
具体而言，作者发现，尽管多尺度特征的引入有利于加速训练收敛和提高性能，但它也会导致编码器中序列长度的显著增加。因此，由于计算成本高，transformer编码器成为模型的计算瓶颈。为了实现实时目标检测，设计了一种高效的混合编码器来取代原来的transformer编码器。通过解耦多尺度特征的尺度内交互和尺度间融合，编码器可以有效地处理不同尺度的特征。
此外，先前的工作表明，解码器的目标查询初始化方案对检测性能至关重要。为了进一步提高性能，作者提出了iou-aware的查询选择，它通过在训练期间提供iou约束来向解码器提供更高质量的初始目标查询。
此外，作者提出的检测器支持通过使用不同的解码器层来灵活调整推理速度，而不需要重新训练，这得益于detr架构中解码器的设计，并有助于实时检测器的实际应用。
本文提出了一种实时检测transformer（rt-detr），这是第一个实时基于transformer的端到端目标检测器。rt-detr不仅在精度和速度上优于目前最先进的实时检测器，而且不需要后处理，因此检测器的推理速度不会延迟并保持稳定，充分利用了端到端检测流水线的优势。
rt-detr-l在coco val2017上实现了53.0%的ap，在nvidia tesla t4 gpu上实现了114 fps，而rt-detr-x实现了54.8%的ap和74 fps，在速度和精度方面都优于相同规模的所有yolo检测器。因此，rt-detr成为了一种用于实时目标检测的新的sota，如图1所示。
此外，提出的rt-detr-r50实现了53.1%的ap和108 fps，而rt-detr-r101实现了54.3%的ap和74 fps。其中，rt-detr50在准确度上优于dino-deformable-detr-r50 2.2%的ap（53.1%的ap对50.9%的ap），在fps（108 fps对5 fps）上优于dino-deformable-detr-r5约21倍。
本文的主要贡献总结如下：
提出了第一个实时端到端目标检测器，它不仅在准确性和速度上优于当前的实时检测器，而且不需要后处理，因此推理速度不延迟，保持稳定；
详细分析了nms对实时检测器的影响，并从后处理的角度得出了关于基于cnn的实时检测器的结论；
提出的iou-aware查询选择在我们的模型中显示出优异的性能改进，这为改进目标查询的初始化方案提供了新的线索；
本文的工作为端到端检测器的实时实现提供了一个可行的解决方案，并且所提出的检测器可以通过使用不同的解码器层来灵活地调整模型大小和推理速度，而不需要重新训练。
2、相关方法
2.1、实时目标检测器
经过多年的不断发展，yolo系列已成为实时目标检测器的代名词，大致可分为两类：
anchor-base
anchor-free
从这些检测器的性能来看，anchor不再是制约yolo发展的主要因素。然而，上述检测器产生了许多冗余的边界框，需要在后处理阶段使用nms来过滤掉它们。
不幸的是，这会导致性能瓶颈，nms的超参数对检测器的准确性和速度有很大影响。作者认为这与实时目标检测器的设计理念不兼容。
2.2、端到端目标检测器
端到端目标检测器以其流线型管道而闻名。carion等人首先提出了基于transformer的端到端目标检测器，称为detr（detection transformer）。它因其独特的特点而备受关注。特别地，detr消除了传统检测流水线中手工设计的anchor和nms组件。相反，它采用二分匹配，并直接预测一对一的对象集。通过采用这种策略，detr简化了检测管道，缓解了nms带来的性能瓶颈。
尽管detr具有明显的优势，但它存在两个主要问题：
训练收敛缓慢
查询难以优化
已经提出了许多detr变体来解决这些问题。具体而言，deformable detr通过提高注意力机制的效率，加速了多尺度特征的训练收敛。conditional detr和anchor detr降低了查询的优化难度。dab-detr引入4d参考点，并逐层迭代优化预测框。dn-detr通过引入查询去噪来加速训练收敛。dino以之前的作品为基础，取得了最先进的成果。
尽管正在不断改进detr的组件，但本文的目标不仅是进一步提高模型的性能，而且是创建一个实时的端到端目标检测器。
2.3、目标检测的多尺度特征
现代目标检测器已经证明了利用多尺度特征来提高性能的重要性，尤其是对于小物体。fpn引入了一种融合相邻尺度特征的特征金字塔网络。随后的工作扩展和增强了这种结构，并被广泛用于实时目标检测器。zhu等人首先在detr中引入了多尺度特征，提高了性能和收敛速度，但这也导致了detr计算成本的显著增加。
尽管deformable attention制在一定程度上减轻了计算成本，但多尺度特征的结合仍然会导致较高的计算负担。为了解决这个问题，一些工作试图设计计算高效的detr。effificient detr通过初始化具有密集先验的目标查询来减少编码器和解码器层的数量。sparse detr选择性地更新期望被解码器引用的编码器token，从而减少计算开销。lite detr通过以交错方式降低低级别特征的更新频率来提高编码器的效率。尽管这些研究降低了detr的计算成本，但这些工作的目标并不是将detr作为一种实时检测器来推广。
3、检测器端到端速度
3.1、分析nms
nms是检测中广泛采用的后处理算法，用于消除检测器输出的重叠预测框。nms中需要2个超参数：得分阈值和iou阈值。
特别地，分数低于分数阈值的预测框被直接过滤掉，并且每当2个预测框的iou超过iou阈值时，分数较低的框将被丢弃。重复执行此过程，直到每个类别的所有框都已处理完毕。因此，nms的执行时间主要取决于输入预测框的数量和两个超参数。
为了验证这一观点，作者利用yolov5和yolov8进行实验。首先计算在输出框被相同输入图像的不同得分阈值滤波后剩余的预测框的数量。采样了0.001到0.25的一些分数作为阈值，对两个检测器的剩余预测框进行计数，并将其绘制成直方图，直观地反映了nms易受其超参数的影响，如图2所示。
此外，以yolov8为例，评估了不同nms超参数下coco val2017的模型准确性和nms操作的执行时间。
注意，在实验中采用的nms后处理操作是指tensorrt efficientnmsplugin，它涉及多个cuda内核，包括efficientnmsfilter、radixsort、efficientnms等，作者只报告了efficientnms内核的执行时间。在t4 gpu上测试了速度，上述实验中的输入图像和预处理是一致的。使用的超参数和相应的结果如表1所示。
3.2、端到端速度基准
为了能够公平地比较各种实时检测器的端到端推理速度，作者建立了一个端到端速度测试基准。考虑到nms的执行时间可能会受到输入图像的影响，有必要选择一个基准数据集，并计算多个图像的平均执行时间。该基准采用coco val2017作为默认数据集，为需要后处理的实时检测器添加了tensorrt的nms后处理插件。
具体来说，根据基准数据集上相应精度的超参数测试检测器的平均推理时间，不包括io和内存复制操作。利用该基准测试t4 gpu上基于锚的检测器yolov5和yolov7以及anchor-free检测器pp-yoloe、yolov6和yolov8的端到端速度。
测试结果如表2所示。
根据结果得出结论，对于需要nms后处理的实时检测器，anchor-free检测器在同等精度上优于anchor-base的检测器，因为前者的后处理时间明显少于后者，这在以前的工作中被忽略了。这种现象的原因是，anchor-base的检测器比anchor-free的检测器产生更多的预测框（在测试的检测器中是3倍多）。
4、the real-time detr
4.1、方法概览
所提出的rt-detr由backbone、混合编码器和带有辅助预测头的transformer解码器组成。模型体系结构的概述如图3所示。
具体来说：
首先，利用backbone的最后3个阶段的输出特征作为编码器的输入；
然后，混合编码器通过尺度内交互和跨尺度融合将多尺度特征转换为一系列图像特征（如第4.2节所述）；
随后，采用iou-aware查询选择从编码器输出序列中选择固定数量的图像特征，作为解码器的初始目标查询；
最后，具有辅助预测头的解码器迭代地优化对象查询以生成框和置信度得分。
4.2、高效混合编码器
1、计算瓶颈分析
为了加速训练收敛并提高性能，zhu等人建议引入多尺度特征，并提出deformable attention机制以减少计算。然而，尽管注意力机制的改进减少了计算开销，但输入序列长度的急剧增加仍然导致编码器成为计算瓶颈，阻碍了detr的实时实现。
如 所述，编码器占gflop的49%，但在deformable detr中仅占ap的11%。为了克服这一障碍，作者分析了多尺度transformer编码器中存在的计算冗余，并设计了一组变体，以证明尺度内和尺度间特征的同时交互在计算上是低效的。
从包含关于图像中的对象的丰富语义信息的低级特征中提取高级特征。直观地说，对连接的多尺度特征进行特征交互是多余的。如图5所示，为了验证这一观点，作者重新思考编码器结构，并设计了一系列具有不同编码器的变体。
该组变体通过将多尺度特征交互解耦为尺度内交互和跨尺度融合的两步操作，逐步提高模型精度，同时显著降低计算成本。首先删除了dino-r50中的多尺度变换编码器作为基线a。接下来，插入不同形式的编码器，以产生基于基线a的一系列变体，具体如下：
a→ b：变体b插入一个单尺度transformer编码器，该编码器使用一层transformer block。每个尺度的特征共享编码器，用于尺度内特征交互，然后连接输出的多尺度特征。
b→ c：变体c引入了基于b的跨尺度特征融合，并将连接的多尺度特征输入编码器以执行特征交互。
c→ d：变体d解耦了多尺度特征的尺度内交互和跨尺度融合。首先，使用单尺度transformer编码器进行尺度内交互，然后使用类panet结构进行跨尺度融合。
d→ e：变体e进一步优化了基于d的多尺度特征的尺度内交互和跨尺度融合，采用了设计的高效混合编码器。
2、hybrid design
基于上述分析，作者重新思考了编码器的结构，并提出了一种新的高效混合编码器。如图3所示，所提出的编码器由两个模块组成，即基于注意力的尺度内特征交互（aifi）模块和基于神经网络的跨尺度特征融合模块（ccfm）。
aifi进一步减少了基于变体d的计算冗余，变体d仅在上执行尺度内交互。作者认为，将自注意力操作应用于具有更丰富语义概念的高级特征可以捕捉图像中概念实体之间的联系，这有助于后续模块对图像中目标的检测和识别。
同时，由于缺乏语义概念以及与高级特征的交互存在重复和混淆的风险，较低级别特征的尺度内交互是不必要的。为了验证这一观点，只对变体d中的进行了尺度内相互作用，实验结果见表3，见行。与变体d相比，显著降低了延迟（快35%），但提高了准确性（ap高0.4%）。这一结论对实时检测器的设计至关重要。
ccfm也基于变体d进行了优化，在融合路径中插入了几个由卷积层组成的融合块。融合块的作用是将相邻的特征融合成一个新的特征，其结构如图4所示。融合块包含n个repblock，两个路径输出通过元素相加进行融合。
可以将这个过程表述如下：
其中表示多头自注意力，表示将特征的形状恢复到与相同的形状，这是的inverse操作。
4.3、iou-aware查询选择
detr中的目标查询是一组可学习的嵌入，这些嵌入由解码器优化，并由预测头映射到分类分数和边界框。然而，这些目标查询很难解释和优化，因为它们没有明确的物理意义。后续工作改进了目标查询的初始化，并将其扩展到内容查询和位置查询（anchor点）。其中，effificient detr、dino以及deformable detr都提出了查询选择方案，它们的共同点是利用分类得分从编码器中选择top-k个特征来初始化目标查询（或仅位置查询）。然而，由于分类得分和位置置信度的分布不一致，一些预测框具有高分类得分，但不接近gt框，这导致选择了分类得分高、iou得分低的框，而分类得分低、iou分数高的框被丢弃。这会削弱探测器的性能。
为了解决这个问题，作者提出了iou-aware查询选择，通过约束模型在训练期间为具有高iou分数的特征产生高分类分数，并为具有低iou得分的特征产生低分类分数。因此，与模型根据分类得分选择的top-k个编码器特征相对应的预测框具有高分类得分和高iou得分。
将检测器的优化目标重新表述如下：
其中和表示预测和gt，和。和分别表示类别和边界框。将iou分数引入分类分支的目标函数（类似于vfl），以实现对正样本分类和定位的一致性约束。
有效性分析
为了分析所提出的iou感知查询选择的有效性，在val2017上可视化了查询选择所选择的编码器特征的分类分数和iou分数，如图6所示。
具体来说，首先根据分类得分选择前k个（在实验中k=300）编码器特征，然后可视化分类得分大于0.5的散点图。红点和蓝点是根据分别应用普通查询选择和iou感知查询选择训练的模型计算的。点越靠近图的右上角，对应特征的质量就越高，即分类标签和边界框更有可能描述图像中的真实对象。
根据可视化结果发现最引人注目的特征是大量蓝色点集中在图的右上角，而红色点集中在右下角。这表明，使用iou感知查询选择训练的模型可以产生更多高质量的编码器特征。
此外，还定量分析了这两类点的分布特征。图中蓝色点比红色点多138%，即分类得分小于或等于0.5的红色点更多，这可以被视为低质量特征。然后，分析分类得分大于0.5的特征的iou得分，发现iou得分大于0.5时，蓝色点比红色点多120%。
定量结果进一步表明，iou感知查询选择可以为对象查询提供更多具有准确分类（高分类分数）和精确定位（高iou分数）的编码器特征，从而提高检测器的准确性。
4.4、scaled rt-detr
为了提供rt-detr的可扩展版本，将resnet网替换为hgnetv2。使用depth multiplier和width multiplier将backbone和混合编码器一起缩放。因此，得到了具有不同数量的参数和fps的rt-detr的两个版本。
对于混合编码器，通过分别调整ccfm中repblock的数量和编码器的嵌入维度来控制depth multiplier和width multiplier。值得注意的是，提出的不同规模的rt-detr保持了同质解码器，这有助于使用高精度大型detr模型对光检测器进行蒸馏。这将是一个可探索的未来方向。
5、实验
5.1、与sota比较
5.2、混合编码器的消融实验研究
5.3、iou感知查询选择的消融研究
5.4、解码器的消融研究
电科院公布公章鉴定结果：未造成不利影响
韩国业界正努力朝向存储器中心的运算迈进
PI3EQX1002BZLEX 中文规格及特征介绍
慧硕电子实现三个月主体结构封顶
阿里巴巴达摩院研发数学规划求解器，在国际评测排名第一
RT-DETR用114FPS实现54.8AP远超YOLOv8
买耳机送手机？三星s8开箱，良心配件！
Molex 发布 MXMag™ 千兆级单端口RJ45连接器
柔性屏幕的优点与未来挑战
深度解读车路协同是什么？
蓝牙耳机那个品牌好用点、目前蓝牙耳机最受欢迎的五款
面对智能音箱这片红海，华为将全力进军智能音箱
基于HT48单片机的笔段型液晶显示驱动设计
IC分销商立功科技撤回申请
电子脉冲围栏探测器在周界防范报警系统的优势
5G无界智慧互联S1：5G+AI+UHD
基于两级监控中心架构实现全网络化视频监控系统的设计方案
Magic Leap正在与多家公司合作将AR硬件带入了医院手术室
使用uA741+CA3140制作的高灵敏触摸报警器,Sensitive touch alarm
德国电信最近扩大了其NB-IoT物联网漫游协议