5种前沿的点云分割网络
众所周知，点云的有效分割是许多应用的前提，例如在三维重建领域，需要对场景内的物体首先进行分类处理，然后才能进行后期的识别和重建。传统的点云分割主要依赖聚类算法和基于随机采样一致性的分割算法，在很多技术上得到了广泛应用，但当点云规模不断增大时，传统的分割算法已经很难满足实际需要，这时就需要结合深度学习进行分割。因此，本文将重点介绍5种前沿的点云分割网络，包括pointnet/pointnet++、pct、cylinder以及jsnet网络，最后介绍5中常用的点云分割数据集。
“点云分割是根据空间、几何和纹理等特征对点云进行划分，使得同一划分内的点云拥有相似的特征。”
01pointnet/pointnet++
说起点云分割网络，就不得不介绍pointnet，它来源于cvpr的论文“deep learning on point sets for 3d classification and segmentation”。pointnet是首个输入3d点云输出分割结果的深度学习网络，属于开山之作，成为了后续很多工作的baseline，网络的总体结构如图1所示。
图1 pointnet网络
整体的pointnet网络中，除了点云的感知以外，还有t-net，即3d空间变换矩阵预测网络，这主要是由于点云分类的旋转不变性，当一个n×d在n的维度上随意的打乱之后，其表述的其实是同一个物体，因此针对点云的置换不变性，其设计的网络必须是一个对称的函数。
在pointnet网络中，对于每一个n×3的点云输入，网络先通过一个t-net将其在空间上对齐(旋转到正面)，再通过mlp将其映射到64维的空间上，再进行对齐，最后映射到1024维的空间上。这时对于每一个点，都有一个1024维的向量表征，而这样的向量表征对于一个3维的点云明显是冗余的，因此这个时候引入最大池化操作，将1024维所有通道上都只保留最大的那一个，这样得到的1×1024的向量就是n个点云的全局特征。
pointnet网络在shapenet数据集上的实验效果如表1所示，可以看出，大多数分割都取得了soat效果。部分分割结果如图2所示，可以看出分割结果相当平稳，并且具有很强的鲁棒性。
表1 pointnet在shapenet上的分割效果对比
图2 pointnet部分分割结果
pointnet++主要是为了克服pointnet自身的一些缺点，其中最大的缺点就是缺失局部特征。由于pointnet直接暴力地将所有的点最大池化为一个全局特征，因此局部点与点之间的联系并没有被网络学习到。在分类和物体的part segmentation中，这样的问题还可以通过中心化物体的坐标轴部分地解决，但在场景分割中，这就会导致效果变差。
为了克服pointnet的缺点，作者在pointnet++中主要借鉴了cnn的多层感受野的思想。cnn通过分层不断地使用卷积核扫描图像上的像素并做内积，使得越到后面的特征图感受野越大，同时每个像素包含的信息也越多。而pointnet++就是仿照了这样的结构，先通过在整个点云的局部采样并划一个范围，将里面的点作为局部的特征，用pointnet进行一次特征的提取。因此，通过了多次这样的操作以后，原本的点的个数变得越来越少，而每个点都是有上一层更多的点通过pointnet提取出来的局部特征，也就是每个点包含的信息变多了。
pointnet++的网络结构如图3所示，同时作者对比了pointnet和pointnet++的分割效果如图4所示，可见pointnet++的效果全面优于pointnet。
图3 pointnet++网络结构
图4 pointnet++分割结果
02pct网络
近年来，nlp领域的transformer大火，同时也有大量学者将其从nlp领域迁移到图像和点云领域。清华大学将transformer应用于3d点云分割技术，设计了全新的pct(point cloud transformer)网络,其网络结构如图5所示。
图5 pct网络结构
pct应用transformer进行点云分割的具体原理如图6所示，其中星号代表transformer的查询向量，黄色到蓝色代表注意力权重逐渐增加，最后一列代表分割结果。
图6 pct点云分割原理
为了更好地捕获点云中的local context，作者在最远点采样和最近邻居搜索的支持下增强了输入嵌入，同时transformer在点云分割领域的成功，也逐渐打通了nlp、图像、点云等不同领域的壁垒，对于“模型大一统”具有重要意义。pct点云分割与其他分割算法的对比如图7所示，大量的实验表明，pct在形状分类，part分割和法向量估算任务方面达到了最先进的性能。
图6 pct点云分割效果与其他算法对比
03cylinder网络
cylinder网络来源于cvpr论文“cylindrical and asymmetrical 3d convolution networks for lidar segmentation”，cylinder网络结构如图7所示。cylinder网络由圆柱坐标体素划分和非对称3d卷积网络组成，作者认为圆柱分割可以有效提高分割精度，此外作者还引入了一个point-wise模块来改进体素块输出，提高辨识精度。
图7 cylinder网络结构
作者认为基于柱坐标的voxel的划分，可以与激光雷达扫描过程保持一致。进而有效地减少空voxel的比率。此外，作者将cylinder网络在两个大型室外场景数据集（semantickitti和nuscenes）上进行了评估，评估效果对比如表2和表3所示。评估显示，在semantickitti数据集上，cylinder网络排名第一。在nuscenes数据集上，新方法的表现也大大超过了之前的方法。
表2 cylinder网络在semantickitti数据集上的对比效果
表3 cylinder网络在nuscenes数据集上的对比效果
04jsnet网络
jsnet来源于aaai论文“jsnet: joint instance and semantic segmentation of 3d point clouds”，jsnet可以同时解决3d点云的实例和语义分割问题，其网络结构如图8所示。
图8 jsnet网络结构
jsnet首先建立有效的骨干网络，以从原始点云数据中提取鲁棒的特征。其次为了获得更多的判别特征，提出了一种点云特征融合模块来融合骨干网的不同层特征。此外，jsnet开发了联合实例语义分割模块以将语义特征转换为实例嵌入空间，然后将转换后的特征进一步与实例特征融合以促进实例分割。同时，该模块还将实例特征聚合到语义特征空间中，以促进语义分割。最后，jsnet通过对实例嵌入应用简单的均值漂移聚类来生成实例预测。
如表4和表5所示是jsnet网络在大型3d室内点云数据集s3dis上的评估结果，图9是jsnet网络的分割效果。实验结果表明，jsnet网络在3d实例分割中的性能优于最新方法，在3d语义预测方面有重大改进，同时有利于零件分割。
表4 jsnet网络在s3dis数据集上的实例分割结果
表5 jsnet网络在s3dis数据集上的语义分割结果
图9 jsnet网络的分割效果
05点云分割数据集
深度神经网络的训练往往需要大量的数据集，同时深度神经网络性能的优劣也往往是在公开数据集上进行评估，因此选择合适的数据集至关重要。常用的点云分割数据集主要有如下几个：
5.1 semantic3d
经典的大型室外场景点云分割数据集，由激光雷达扫描周围场景得到。semantic3d提供了一个带有大标签的自然场景的3d点云数据集，总计超过40亿个点，8个类别标签。
数据集包含了各种城市和乡村场景，如农场，市政厅，运动场，城堡和广场。该数据集包含15个训练数据集和15个测试数据集，另外还包括4个缩减了的测试数据集。数据集中的点都含有rgb和深度信息，并被标记为8个语义类别，分别是1：人造地形；2：自然地形；3：高植被；4：低植被；5：建筑物；6：硬景观；7：扫描人工制品，8：汽车，附加标签0：未标记点，标记没有地面真值的点。
数据集地址：http://www.semantic3d.net/
5.2 s3dis
s3dis数据集是斯坦福大学开发的带有像素级语义标注的语义数据集，是常用的室内场景分割数据集，使用matterport相机收集数据，包含6个area，13个语义元素，11种场景。
其中13个语义元素分别包括：天花板ceiling、地板floor、墙壁wall、梁beam、柱column、窗window、门door、桌子table、椅子chair、沙发sofa、书柜bookcase、板board、混杂元素(其他)clutter；11种场景分别包括办公室office、会议室conference room、走廊hallway、礼堂auditorium、开放空间open space、大堂lobby、休息室lounge、储藏室pantry、复印室copy room、储藏室storage和卫生间wc。
数据集地址：http://buildingparser.stanford.edu/dataset.html
5.3 semantickitti
semantickitti数据集是一个基于kitti vision benchmark里程计数据集的大型户外点云数据集，显示了市中心的交通、住宅区，以及德国卡尔斯鲁厄周围的高速公路场景和乡村道路。原始里程计数据集由22个序列组成，作者将序列00到10拆分为训练集，将11到21拆分为测试集，并且为了与原始基准保持一致，作者对训练和测试集采用相同的划分，采用和kitti数据集相同的标定方法，这使得该数据集和kitti数据集等数据集可以通用。
semantickitti数据集作者提供了精确的序列扫描注释，并且在点注释中显示了前所未有的细节，包含28个类，确保了类与mapillary visiotas数据集和cityscapes数据集有很大的重叠，并在必要时进行了修改，以考虑稀疏性和垂直视野。
数据集地址：http://www.semantic-kitti.org/index.html
5.4 shapenet
shapenet数据集是一个由对象的三维cad模型表示的形状存储库，注释丰富，规模较大。shapenet包含来自多种语义类别的3d模型，并按照wordnet分类法组织，能够完成部件分割任务，即不仅知道这个点云数据大的分割，还要将它的小部件进行分割。它总共包括十六个大的类别，每个大的类别有可以分成若干个小类别，十六个类别具体包括：飞机airplane、包bag、帽子cap、汽车car、椅子chair、耳机earphone、吉他guitar、刀knife、灯lamp、电脑laptop、摩托车motorbike、杯子mug、手枪pistol、火箭rocket、滑板skateboard、桌子table。
数据集地址：https://www.shapenet.org/
5.5 partnet
partnet数据集是用于细粒度和分层零件级3d对象理解的大规模基准。数据集包含573585个零件实例，涵盖26671个3d模型，涵盖24个对象类别。partnet数据集启用并充当许多任务的催化剂，例如形状分析，动态3d场景建模和仿真，可负担性分析等。数据集建立了用于评估3d零件识别的三个基准测试任务：细粒度语义分割，分层语义分割和实例分割。
数据集地址：https://shapenet.org/download/parts
06结论
近年来，随着自动驾驶和三维重建技术的不断发展，需要处理的点云规模越来越庞大，传统的聚类算法和基于随机采样一致性的分割算法较难满足实时性和精度要求。而基于深度学习的点云分割网络较好地解决了上述问题，本文重点介绍了几种前沿的点云分割网络，包括pointnet/pointnet++、pct、cylinder以及jsnet网络，并介绍了5种常用的点云分割数据集。读者在应用深度学习进行点云分割或设计点云分割网络时，要根据自身需求和实际工况，有针对地选择合适的点云分割网络和数据集。
关于腾讯的开源分布式存储系统DCache
丰田卡罗拉双擎，拥有EV电动、ECO节能、POWER动力三种驱动模式，车展实拍！
电流互感器的使用注意事项
高精度GPS航迹测量系统
设计实践：AWS物联网解决方案
5种前沿的点云分割网络
OnRobot一体化系统解决方案将机器人兼容性提升至新高度
开启游戏生活新方式 惠普新品燃爆游戏之魂
有关晶体管运作的背景知识
浅述高频微波印制板生产中应注意的问题
江西力争2026年电子信息产业链营收达1.2万亿元
苹果或在2021年推出大屏iPhoneSE
PCB:PALUP基板结构工艺技术
合宙LuatOS | 高效节能——顺舟智能Cat.1路灯控制器，开启智慧城市新生态
Marvell 对Cavium的并购尘埃落定并任命三名新董事
金属3D打印与CNC工法非竞争而是互补
自动配送机器人 悄然到来的变革
如何将5V电源适配器的电压更改为3V？
2023数博会 | 工赋千行百业，浪潮云洲数迎新"冀"遇
BOE(京东方)8K超高清技术进社区 让冰雪赛场“零距离”
“点云分割是根据空间、几何和纹理等特征对点云进行划分，使得同一划分内的点云拥有相似的特征。”
01pointnet/pointnet++
说起点云分割网络，就不得不介绍pointnet，它来源于cvpr的论文“deep learning on point sets for 3d classification and segmentation”。pointnet是首个输入3d点云输出分割结果的深度学习网络，属于开山之作，成为了后续很多工作的baseline，网络的总体结构如图1所示。
图1 pointnet网络
整体的pointnet网络中，除了点云的感知以外，还有t-net，即3d空间变换矩阵预测网络，这主要是由于点云分类的旋转不变性，当一个n×d在n的维度上随意的打乱之后，其表述的其实是同一个物体，因此针对点云的置换不变性，其设计的网络必须是一个对称的函数。
在pointnet网络中，对于每一个n×3的点云输入，网络先通过一个t-net将其在空间上对齐(旋转到正面)，再通过mlp将其映射到64维的空间上，再进行对齐，最后映射到1024维的空间上。这时对于每一个点，都有一个1024维的向量表征，而这样的向量表征对于一个3维的点云明显是冗余的，因此这个时候引入最大池化操作，将1024维所有通道上都只保留最大的那一个，这样得到的1×1024的向量就是n个点云的全局特征。
pointnet网络在shapenet数据集上的实验效果如表1所示，可以看出，大多数分割都取得了soat效果。部分分割结果如图2所示，可以看出分割结果相当平稳，并且具有很强的鲁棒性。
表1 pointnet在shapenet上的分割效果对比
图2 pointnet部分分割结果
pointnet++主要是为了克服pointnet自身的一些缺点，其中最大的缺点就是缺失局部特征。由于pointnet直接暴力地将所有的点最大池化为一个全局特征，因此局部点与点之间的联系并没有被网络学习到。在分类和物体的part segmentation中，这样的问题还可以通过中心化物体的坐标轴部分地解决，但在场景分割中，这就会导致效果变差。
为了克服pointnet的缺点，作者在pointnet++中主要借鉴了cnn的多层感受野的思想。cnn通过分层不断地使用卷积核扫描图像上的像素并做内积，使得越到后面的特征图感受野越大，同时每个像素包含的信息也越多。而pointnet++就是仿照了这样的结构，先通过在整个点云的局部采样并划一个范围，将里面的点作为局部的特征，用pointnet进行一次特征的提取。因此，通过了多次这样的操作以后，原本的点的个数变得越来越少，而每个点都是有上一层更多的点通过pointnet提取出来的局部特征，也就是每个点包含的信息变多了。
pointnet++的网络结构如图3所示，同时作者对比了pointnet和pointnet++的分割效果如图4所示，可见pointnet++的效果全面优于pointnet。
图3 pointnet++网络结构
图4 pointnet++分割结果
02pct网络
近年来，nlp领域的transformer大火，同时也有大量学者将其从nlp领域迁移到图像和点云领域。清华大学将transformer应用于3d点云分割技术，设计了全新的pct(point cloud transformer)网络,其网络结构如图5所示。
图5 pct网络结构
pct应用transformer进行点云分割的具体原理如图6所示，其中星号代表transformer的查询向量，黄色到蓝色代表注意力权重逐渐增加，最后一列代表分割结果。
图6 pct点云分割原理
为了更好地捕获点云中的local context，作者在最远点采样和最近邻居搜索的支持下增强了输入嵌入，同时transformer在点云分割领域的成功，也逐渐打通了nlp、图像、点云等不同领域的壁垒，对于“模型大一统”具有重要意义。pct点云分割与其他分割算法的对比如图7所示，大量的实验表明，pct在形状分类，part分割和法向量估算任务方面达到了最先进的性能。
图6 pct点云分割效果与其他算法对比
03cylinder网络
cylinder网络来源于cvpr论文“cylindrical and asymmetrical 3d convolution networks for lidar segmentation”，cylinder网络结构如图7所示。cylinder网络由圆柱坐标体素划分和非对称3d卷积网络组成，作者认为圆柱分割可以有效提高分割精度，此外作者还引入了一个point-wise模块来改进体素块输出，提高辨识精度。
图7 cylinder网络结构
作者认为基于柱坐标的voxel的划分，可以与激光雷达扫描过程保持一致。进而有效地减少空voxel的比率。此外，作者将cylinder网络在两个大型室外场景数据集（semantickitti和nuscenes）上进行了评估，评估效果对比如表2和表3所示。评估显示，在semantickitti数据集上，cylinder网络排名第一。在nuscenes数据集上，新方法的表现也大大超过了之前的方法。
表2 cylinder网络在semantickitti数据集上的对比效果
表3 cylinder网络在nuscenes数据集上的对比效果
04jsnet网络
jsnet来源于aaai论文“jsnet: joint instance and semantic segmentation of 3d point clouds”，jsnet可以同时解决3d点云的实例和语义分割问题，其网络结构如图8所示。
图8 jsnet网络结构
jsnet首先建立有效的骨干网络，以从原始点云数据中提取鲁棒的特征。其次为了获得更多的判别特征，提出了一种点云特征融合模块来融合骨干网的不同层特征。此外，jsnet开发了联合实例语义分割模块以将语义特征转换为实例嵌入空间，然后将转换后的特征进一步与实例特征融合以促进实例分割。同时，该模块还将实例特征聚合到语义特征空间中，以促进语义分割。最后，jsnet通过对实例嵌入应用简单的均值漂移聚类来生成实例预测。
如表4和表5所示是jsnet网络在大型3d室内点云数据集s3dis上的评估结果，图9是jsnet网络的分割效果。实验结果表明，jsnet网络在3d实例分割中的性能优于最新方法，在3d语义预测方面有重大改进，同时有利于零件分割。
表4 jsnet网络在s3dis数据集上的实例分割结果
表5 jsnet网络在s3dis数据集上的语义分割结果
图9 jsnet网络的分割效果
05点云分割数据集
深度神经网络的训练往往需要大量的数据集，同时深度神经网络性能的优劣也往往是在公开数据集上进行评估，因此选择合适的数据集至关重要。常用的点云分割数据集主要有如下几个：
5.1 semantic3d
经典的大型室外场景点云分割数据集，由激光雷达扫描周围场景得到。semantic3d提供了一个带有大标签的自然场景的3d点云数据集，总计超过40亿个点，8个类别标签。
数据集包含了各种城市和乡村场景，如农场，市政厅，运动场，城堡和广场。该数据集包含15个训练数据集和15个测试数据集，另外还包括4个缩减了的测试数据集。数据集中的点都含有rgb和深度信息，并被标记为8个语义类别，分别是1：人造地形；2：自然地形；3：高植被；4：低植被；5：建筑物；6：硬景观；7：扫描人工制品，8：汽车，附加标签0：未标记点，标记没有地面真值的点。
数据集地址：http://www.semantic3d.net/
5.2 s3dis
s3dis数据集是斯坦福大学开发的带有像素级语义标注的语义数据集，是常用的室内场景分割数据集，使用matterport相机收集数据，包含6个area，13个语义元素，11种场景。
其中13个语义元素分别包括：天花板ceiling、地板floor、墙壁wall、梁beam、柱column、窗window、门door、桌子table、椅子chair、沙发sofa、书柜bookcase、板board、混杂元素(其他)clutter；11种场景分别包括办公室office、会议室conference room、走廊hallway、礼堂auditorium、开放空间open space、大堂lobby、休息室lounge、储藏室pantry、复印室copy room、储藏室storage和卫生间wc。
数据集地址：http://buildingparser.stanford.edu/dataset.html
5.3 semantickitti
semantickitti数据集是一个基于kitti vision benchmark里程计数据集的大型户外点云数据集，显示了市中心的交通、住宅区，以及德国卡尔斯鲁厄周围的高速公路场景和乡村道路。原始里程计数据集由22个序列组成，作者将序列00到10拆分为训练集，将11到21拆分为测试集，并且为了与原始基准保持一致，作者对训练和测试集采用相同的划分，采用和kitti数据集相同的标定方法，这使得该数据集和kitti数据集等数据集可以通用。
semantickitti数据集作者提供了精确的序列扫描注释，并且在点注释中显示了前所未有的细节，包含28个类，确保了类与mapillary visiotas数据集和cityscapes数据集有很大的重叠，并在必要时进行了修改，以考虑稀疏性和垂直视野。
数据集地址：http://www.semantic-kitti.org/index.html
5.4 shapenet
shapenet数据集是一个由对象的三维cad模型表示的形状存储库，注释丰富，规模较大。shapenet包含来自多种语义类别的3d模型，并按照wordnet分类法组织，能够完成部件分割任务，即不仅知道这个点云数据大的分割，还要将它的小部件进行分割。它总共包括十六个大的类别，每个大的类别有可以分成若干个小类别，十六个类别具体包括：飞机airplane、包bag、帽子cap、汽车car、椅子chair、耳机earphone、吉他guitar、刀knife、灯lamp、电脑laptop、摩托车motorbike、杯子mug、手枪pistol、火箭rocket、滑板skateboard、桌子table。
数据集地址：https://www.shapenet.org/
5.5 partnet
partnet数据集是用于细粒度和分层零件级3d对象理解的大规模基准。数据集包含573585个零件实例，涵盖26671个3d模型，涵盖24个对象类别。partnet数据集启用并充当许多任务的催化剂，例如形状分析，动态3d场景建模和仿真，可负担性分析等。数据集建立了用于评估3d零件识别的三个基准测试任务：细粒度语义分割，分层语义分割和实例分割。
数据集地址：https://shapenet.org/download/parts
06结论
近年来，随着自动驾驶和三维重建技术的不断发展，需要处理的点云规模越来越庞大，传统的聚类算法和基于随机采样一致性的分割算法较难满足实时性和精度要求。而基于深度学习的点云分割网络较好地解决了上述问题，本文重点介绍了几种前沿的点云分割网络，包括pointnet/pointnet++、pct、cylinder以及jsnet网络，并介绍了5种常用的点云分割数据集。读者在应用深度学习进行点云分割或设计点云分割网络时，要根据自身需求和实际工况，有针对地选择合适的点云分割网络和数据集。
关于腾讯的开源分布式存储系统DCache
丰田卡罗拉双擎，拥有EV电动、ECO节能、POWER动力三种驱动模式，车展实拍！
电流互感器的使用注意事项
高精度GPS航迹测量系统
设计实践：AWS物联网解决方案
5种前沿的点云分割网络
OnRobot一体化系统解决方案将机器人兼容性提升至新高度
开启游戏生活新方式 惠普新品燃爆游戏之魂
有关晶体管运作的背景知识
浅述高频微波印制板生产中应注意的问题
江西力争2026年电子信息产业链营收达1.2万亿元
苹果或在2021年推出大屏iPhoneSE
PCB:PALUP基板结构工艺技术
合宙LuatOS | 高效节能——顺舟智能Cat.1路灯控制器，开启智慧城市新生态
Marvell 对Cavium的并购尘埃落定并任命三名新董事
金属3D打印与CNC工法非竞争而是互补
自动配送机器人 悄然到来的变革
如何将5V电源适配器的电压更改为3V？
2023数博会 | 工赋千行百业，浪潮云洲数迎新"冀"遇
BOE(京东方)8K超高清技术进社区 让冰雪赛场“零距离”