跨解剖域自适应对比半监督学习方法解析
u-net 在医学图像分割方面已经取得了最先进的表现，但是需要大量手动注释的图像来进行训练。半监督学习（ssl）方法可以减少注释的需求，但是当数据集和注释图像数量较小时，其性能仍然受到限制。利用具有相似解剖结构的现有标注数据集来辅助训练可以提高模型性能。但是，这个方法面临的挑战是由于目标结构的外观和成像模式与现有标注数据集不同，导致解剖跨域差异。为了解决这个问题，这篇论文提出了跨解剖域自适应对比半监督学习（contrastive semi-supervised learning for cross anatomy domain adaptation，cs-cada）方法，通过利用源域中一组类似结构的现有标注图像来适应目标域的模型分割类似结构，只需要在目标域中进行少量标注。
有一些细节的方法我们先简单概述下，cs-cada 使用领域特定批归一化（domain specific batch normalization ，dsbn）来分别归一化两个解剖域的特征图，并提出跨域对比学习策略来鼓励提取领域不变性特征。它们被整合到自我集成平均教师（self-ensembling mean-teacher，se-mt）框架中，以利用具有预测一致性约束的未标注目标域图像。实验证明 cs-cada 能够解决具有挑战性的解剖跨域差异问题，只给出目标域中少量的标注，就能够在 x 光血管造影图像分割中使用视网膜血管图像，在心脏 mr 图像分割中使用眼底图像，如下图所示。
前置知识
semi-supervised learning
在半监督学习中，一个典型的例子是 mean-teacher。与对抗网络类似，其整体架构包含了两个网络：teacher 网络和 student 网络。不过与对抗网络不同的是，这两个网络结构是相同的，teacher 网络参数通过 student 网络计算得到，student 网络参数通过损失函数梯度下降更新得到。
（1）teacher 网络参数更新：整个训练过程中 teacher 网络的参数通过 student 网络参数的 moving average 更新：
（2）student 网络参数更新：通过梯度下降更新参数得到损失函数包含两部分：第一部分是有监督损失函数，主要是保证有标签训练数据拟合；第二部分是无监督损失函数，主要保证 teacher 网络的预测结果与 student 网络的预测标签尽量的相似。由于teacher 的参数是 student 网络参数的 moving average，因此要求不管什么样本预测标签都不应该有太大的抖动，类似于对标签做了平滑，保证其输出结果更具有稳定性，无标签数据也可以构造该损失函数。
假设有一批训练样本 x1，x2，其中 x1 是有标签数据，x2 是无标签数据。具体训练过程如下：步骤一，把这一批样本作为 student 网络输入，然后分别得到输出标签 ys1 和 ys2；步骤二，损失函数 l1，对于有标签样本 x1，构造分类损失函数；步骤三，损失函数 l2，通过 student 网络参数，更新计算 teacher 网络参数，并把样本 x1，x2 输入 teacher 网络，得到预测标签 yt1，yt2，然后构造防标签抖动，连续性损失函数（直接采用 mse 损失函数）；步骤四，根据 l=l1+l2 进行梯度下降，求解更新 student 网络参数。
domain adaptation
在这一部分我们只做思路介绍，不做论文中具体例子的讲解。其目标就是将原数据域（source domain）尽可能好的迁移到目标域（target domain），domain adaptation 任务中往往源域和目标域属于同一类任务，即源于为训练样本域（有标签），目标域为测集域，其测试集域无标签或只有少量标签，但是分布不同或数据差异大，具体根据这两点可以划分为：
homogeneous 同质：target 与 source domain 特征空间相似，但数据分布存在 distribution shift。
heterogeneous 异构：target 与 source domain 特征空间不同。
non-equal：空间不同且数据偏移，这种就属于差异很大的情况了，可借助中间辅助 data 来 bridge the gap，用 multi-step / transitive da 来解决。
这也是与 pre-traning 不一样的地方，现在流行的 pre-traning 技术也需要后期的很多数据才行。但由于 da 的目标域是没有标签的，那么如何使在源于训练得到的模型也能够被目标域使用呢？很自然的想法是将源域和目标域映射到一个特征空间中，使其在该空间中的距离尽可能近。于是产生了三大类方法：
样本自适应，对源域样本进行加权重采样，使得重采样后的源域样本和目标域样本分布基本一致，然后在重采样的样本集合上重新学习分类器，即把源域和目标域相似的数据直接加权然后再训练。这种方法虽然简单但太过依赖于设计和经验。
特征层面自适应，将源域和目标域投影到公共特征子空间，在子空间中两者的数据分布一致。
模型层面自适应，对源域误差函数进行修改，考虑目标域的误差。主要有两种方式，一是直接建模模型，但是在模型中加入“domain 间距离近”的约束，二是采用迭代的方法，渐进的对目标域的样本进行分类，将信度高的样本加入训练集，并更新模型。
技术手段主要分为 discrepancy-based（空间距离近）和 adversarial-based（混淆空间）。
contrastive learning
对比学习是一种自监督的学习方法，旨在通过学习相似和不相似的样本之间的差异，从而为后续的下游任务提供有用的特征。在这篇论文中，使用对比学习方法进行跨解剖域自适应，旨在训练一个能够提取具有域不变性的特征的模型。这种方法与以往的对比学习方法不同之处在于，它是用于解决跨域问题的，并且它特别强调了模型应该在相似的解剖结构之间提取全面的特征。通过这种方法，可以训练出一个能够在不同解剖域上具有较好性能的模型。
cs-cada 方法介绍
在这一部分，主要介绍 cs-cada 方法的实现流程，主要由三部分组成，分别是 dsbn、se-mt 和跨域对比学习模块。橙色圆圈和蓝色圆圈分别表示源域和目标域经过 dbsn 处理后的特征，因为 dbsn 的设计，每个域上会输出两种特征。
joint learning with domain-specific batch normalization(dsbn)
源域和目标域之间存在差异，如果直接使用来自这两个域的数据进行训练，则会受到域间统计变化的影响，从而无法学习到通用的特征表示。为了解决这个问题，提出了一种称为 dsbn 的方法，在网络中引入了两种不同的批归一化，分别用于处理两个域中的数据。通过采用这种方法，可以更好地处理源域和目标域之间的差异，并从中学习到更通用的特征表示。dsbn 会对每个域中的特征进行归一化，并使用特定于该域的参数来对其进行仿射变换。同时，卷积核在两个域之间是共享的，以学习到更通用的表示。
音调可调的胆机电路,Adjustable tone vacuum tube amplifier
digilentchipKIT uC32带有UnoR3接头控制器介绍
车间车间多个CNC设备如何实现网段隔离和跨网段访问
智能家居关键的环节是什么
5G时代之下，我国光模块产业的发展趋势如何
跨解剖域自适应对比半监督学习方法解析
汽车零部件生产企业金鸿顺发布2022第一季度报告
Vyond现已推出突破性的人工智能脚本和视频创建器
如何进一步激发5G发展新动能，从这三方面出发
小米MIX2发布时间正式确认，小米Note3也要来？
万众瞩目的三星折叠式手机有新消息，听说加强了
嵌入式主板可在恶劣的工业环境中安全运行
惠普暗影精灵2代Pro, 一款即将发售的主流游戏本
基于逆变器的变速驱动器实现冰箱压缩机高能效等级
基于智慧城市的应用场景创新需求，组成全光自动驾驶网络四大部分
LCD液晶显示器的分辨率
分散控制系统硬件体系结构
关于Baker Hughes改进油气钻探设备的精度的分析和应用
直流电动机调速之H桥驱动简介
双十一狂卖1000万？南卡耳机为什么这么火？
有一些细节的方法我们先简单概述下，cs-cada 使用领域特定批归一化（domain specific batch normalization ，dsbn）来分别归一化两个解剖域的特征图，并提出跨域对比学习策略来鼓励提取领域不变性特征。它们被整合到自我集成平均教师（self-ensembling mean-teacher，se-mt）框架中，以利用具有预测一致性约束的未标注目标域图像。实验证明 cs-cada 能够解决具有挑战性的解剖跨域差异问题，只给出目标域中少量的标注，就能够在 x 光血管造影图像分割中使用视网膜血管图像，在心脏 mr 图像分割中使用眼底图像，如下图所示。
前置知识
semi-supervised learning
在半监督学习中，一个典型的例子是 mean-teacher。与对抗网络类似，其整体架构包含了两个网络：teacher 网络和 student 网络。不过与对抗网络不同的是，这两个网络结构是相同的，teacher 网络参数通过 student 网络计算得到，student 网络参数通过损失函数梯度下降更新得到。
（1）teacher 网络参数更新：整个训练过程中 teacher 网络的参数通过 student 网络参数的 moving average 更新：
（2）student 网络参数更新：通过梯度下降更新参数得到损失函数包含两部分：第一部分是有监督损失函数，主要是保证有标签训练数据拟合；第二部分是无监督损失函数，主要保证 teacher 网络的预测结果与 student 网络的预测标签尽量的相似。由于teacher 的参数是 student 网络参数的 moving average，因此要求不管什么样本预测标签都不应该有太大的抖动，类似于对标签做了平滑，保证其输出结果更具有稳定性，无标签数据也可以构造该损失函数。
假设有一批训练样本 x1，x2，其中 x1 是有标签数据，x2 是无标签数据。具体训练过程如下：步骤一，把这一批样本作为 student 网络输入，然后分别得到输出标签 ys1 和 ys2；步骤二，损失函数 l1，对于有标签样本 x1，构造分类损失函数；步骤三，损失函数 l2，通过 student 网络参数，更新计算 teacher 网络参数，并把样本 x1，x2 输入 teacher 网络，得到预测标签 yt1，yt2，然后构造防标签抖动，连续性损失函数（直接采用 mse 损失函数）；步骤四，根据 l=l1+l2 进行梯度下降，求解更新 student 网络参数。
domain adaptation
在这一部分我们只做思路介绍，不做论文中具体例子的讲解。其目标就是将原数据域（source domain）尽可能好的迁移到目标域（target domain），domain adaptation 任务中往往源域和目标域属于同一类任务，即源于为训练样本域（有标签），目标域为测集域，其测试集域无标签或只有少量标签，但是分布不同或数据差异大，具体根据这两点可以划分为：
homogeneous 同质：target 与 source domain 特征空间相似，但数据分布存在 distribution shift。
heterogeneous 异构：target 与 source domain 特征空间不同。
non-equal：空间不同且数据偏移，这种就属于差异很大的情况了，可借助中间辅助 data 来 bridge the gap，用 multi-step / transitive da 来解决。
这也是与 pre-traning 不一样的地方，现在流行的 pre-traning 技术也需要后期的很多数据才行。但由于 da 的目标域是没有标签的，那么如何使在源于训练得到的模型也能够被目标域使用呢？很自然的想法是将源域和目标域映射到一个特征空间中，使其在该空间中的距离尽可能近。于是产生了三大类方法：
样本自适应，对源域样本进行加权重采样，使得重采样后的源域样本和目标域样本分布基本一致，然后在重采样的样本集合上重新学习分类器，即把源域和目标域相似的数据直接加权然后再训练。这种方法虽然简单但太过依赖于设计和经验。
特征层面自适应，将源域和目标域投影到公共特征子空间，在子空间中两者的数据分布一致。
模型层面自适应，对源域误差函数进行修改，考虑目标域的误差。主要有两种方式，一是直接建模模型，但是在模型中加入“domain 间距离近”的约束，二是采用迭代的方法，渐进的对目标域的样本进行分类，将信度高的样本加入训练集，并更新模型。
技术手段主要分为 discrepancy-based（空间距离近）和 adversarial-based（混淆空间）。
contrastive learning
对比学习是一种自监督的学习方法，旨在通过学习相似和不相似的样本之间的差异，从而为后续的下游任务提供有用的特征。在这篇论文中，使用对比学习方法进行跨解剖域自适应，旨在训练一个能够提取具有域不变性的特征的模型。这种方法与以往的对比学习方法不同之处在于，它是用于解决跨域问题的，并且它特别强调了模型应该在相似的解剖结构之间提取全面的特征。通过这种方法，可以训练出一个能够在不同解剖域上具有较好性能的模型。
cs-cada 方法介绍
在这一部分，主要介绍 cs-cada 方法的实现流程，主要由三部分组成，分别是 dsbn、se-mt 和跨域对比学习模块。橙色圆圈和蓝色圆圈分别表示源域和目标域经过 dbsn 处理后的特征，因为 dbsn 的设计，每个域上会输出两种特征。
joint learning with domain-specific batch normalization(dsbn)
源域和目标域之间存在差异，如果直接使用来自这两个域的数据进行训练，则会受到域间统计变化的影响，从而无法学习到通用的特征表示。为了解决这个问题，提出了一种称为 dsbn 的方法，在网络中引入了两种不同的批归一化，分别用于处理两个域中的数据。通过采用这种方法，可以更好地处理源域和目标域之间的差异，并从中学习到更通用的特征表示。dsbn 会对每个域中的特征进行归一化，并使用特定于该域的参数来对其进行仿射变换。同时，卷积核在两个域之间是共享的，以学习到更通用的表示。
音调可调的胆机电路,Adjustable tone vacuum tube amplifier
digilentchipKIT uC32带有UnoR3接头控制器介绍
车间车间多个CNC设备如何实现网段隔离和跨网段访问
智能家居关键的环节是什么
5G时代之下，我国光模块产业的发展趋势如何
跨解剖域自适应对比半监督学习方法解析
汽车零部件生产企业金鸿顺发布2022第一季度报告
Vyond现已推出突破性的人工智能脚本和视频创建器
如何进一步激发5G发展新动能，从这三方面出发
小米MIX2发布时间正式确认，小米Note3也要来？
万众瞩目的三星折叠式手机有新消息，听说加强了
嵌入式主板可在恶劣的工业环境中安全运行
惠普暗影精灵2代Pro, 一款即将发售的主流游戏本
基于逆变器的变速驱动器实现冰箱压缩机高能效等级
基于智慧城市的应用场景创新需求，组成全光自动驾驶网络四大部分
LCD液晶显示器的分辨率
分散控制系统硬件体系结构
关于Baker Hughes改进油气钻探设备的精度的分析和应用
直流电动机调速之H桥驱动简介
双十一狂卖1000万？南卡耳机为什么这么火？