如何实现更绿色、经济的NLP预训练模型迁移
nlp中，预训练大模型finetune是一种非常常见的解决问题的范式。利用在海量文本上预训练得到的bert、gpt等模型，在下游不同任务上分别进行finetune，得到下游任务的模型。然而，这种方式的代价也很大，经常要对所有任务都保存一个完整的task-specific模型，随着预训练模型体积越来越大，这种方式会占用很多存储空间，当下游任务很多的时候要存储大量的预训练模型。同时，为每个任务finetune一个如此庞大的模型，训练资源的消耗也比较大。
为了实现更绿色、经济的nlp预训练模型迁移，近两年来业内提出了很多优化finetune的方法，例如adapter finetune、mask finetune等。最近很火的prompt更是极大减轻了finetune开销，甚至不进行finetune就能应用于下游任务。本文重点介绍近两年几个nlp中finetune优化的经典工作，包括adapter-finetune、side-tuning、mask-finetune以及prefix-finetune等工作。
adapter-tuning
迁移nlp预训练模型的方法主要分为finetune和feature-based。finetune将原来的模型在下游任务上进行训练，而feature-based方法使用预训练模型产出的词、句子等embedding作为输入，接下游一个独立的模型进行预测。其中finetune的效果往往由于feature-based方法。然而finetune的计算开销要比feature-based大很多，能不能采用一种折中的方式呢?parameter-efficient transfer learning for nlp(icml 2019)提出了一种更经济的迁移学习方法adapter-tuning，只需要finetune少量参数就能达到和finetune整个模型不相上下的效果。具体做法为，在原来的bert模型的每层中间加入两个adapter，adapter首先通过全连接对原输入进行降维进一步缩小参数量，经过内部的nn后再将维度还原，形成一种bottleneck的结构。在finetune过程中，原预训练bert模型的参数freeze住不更新，只更新adapter的参数，大大减少了finetune阶段需要更新和保存的参数量。
adapterfusion: non-destructive task composition for transfer learning(2021)在adapter finetune的基础上，提出当下游存在多个任务的时候，使用两阶段的finetune。第一阶段和adapter finetune的思路一样，在预训练大模型基础上加上每个任务的adapter进行finetune，大模型参数freeze。在第二阶段，继续freeze预训练模型，同时freeze住第一阶段训练的adapter模型参数，学习一个adapterfusion模型，这个模块的作用是融合各个adapter的信息，实现下游多个任务之间的信息共享。adapterfusion部分的思路是，利用当前样本在ff层的输出和各个任务的adapter输出做attention，实现从多个adapter产出信息中的选择和融合。这样模型实现了根据每个样本选择合适的adapter输出，综合了多任务的adapter信息。
side-tuning
side-tuning: a baseline for network adaptation via additive side networks(eccv 2019)提出了一种side-tuning的方法。如下图，side-tune是在原来的预训练模型基础上，增加一个小的side network，然后将预训练模型的输入和side-network的输出进行融合。融合的方法文中提出使用一个可学习的参数α进行加权融合就能取得比较的效果。在训练过程中，预训练模型不会进行更新，只更新side-network部分的参数。side模型的尺寸和复杂度也可以根据任务的难易程度进行调整。side-tuning和adapt-tuning有相似之处，都是利用一个附属的小模型对原预训练大模型的表示进行更精细化的针对下游任务的调整。
mask-tuning
masking as an efficient alternative to finetuning for pretrained language models(2020)提出一种简单的mask方法实现高效finetune。相比一般的finetune，该方法在finetune阶段不对参数进行调整，而是学习一个mask矩阵。对于每一个transformer层，都会学习一个0-1的矩阵，然后用这个矩阵对该层所有全连接权重进行缩放。公式如下，m表示矩阵中某一个元素，根据一个阈值设置为1或0，再用这个矩阵和每层的全连接参数相乘进行对应元素的缩放。
mask-tuning的出发点为，在预训练模型finetune的过程中，其实不需要finetune那么多参数，只要finetune一些关键参数就能达到较好的效果，减少finetune阶段计算的冗余性。在how fine can fine-tuning be? learning efficient language models(2020)一文中也提出了类似的思路。
mask-tuning的出发点为，在预训练模型finetune的过程中，其实不需要finetune那么多参数，只要finetune一些关键参数就能达到较好的效果，减少finetune阶段计算的冗余性。在how fine can fine-tuning be? learning efficient language models(2020)一文中也提出了类似的思路。
prefix-tuning
reformer: the efficient transformer(iclr 2020)提出了采用局部敏感哈希的方法提升transformer效率。当序列较长时，qk^t的维度[batch_size, l, l]的计算量和存储开销会非常大，但是由于我们关注的是softmax后的结果，并不关注qk^t本身是什么，而softmax只关注值最大的几个元素，因此我们可以只选择k<
prefix-tuning: optimizing continuous prompts for generation(2021)提出的方法只finetune 0.1%的参数就取得和finetune相当的效果，并且在少样本任务上效果优于finetune。本文提出针对自然语言生成任务(如摘要生成、table-to-text等任务)的迁移预训练大模型的方法。基于language models are few-shot learners(2020，gpt3)等文章中提出的prompt思路，只要能给模型一个合适的上下文信息context，预训练的语言模型不需要修改参数就能很好的解决下游问题。例如当我们想生成obama这个词，只要上下文信息给barack，模型就可有可能生成obama，因为模型在预训练阶段已经学到了这些信息。
该方法的具体实现为，将预训练的transformer模型参数整体freeze住，当正常输入文本序列的时候，在最前端添加几个prefix id，每一个prefix id都对应一个随机初始化的embedding，不同的任务有不同的prefix id。这样在模型中，prefix之后每个时刻的表示都会受到prefix的影响，prefix代表某个对应具体任务的上下文信息。在finetune过程中，模型的其他参数都freeze，只finetune prefix的embedding，以及prefix后面接的一些全连接层，finetune参数量只占整体模型的0.1%，远小于其他的finetune方法。该方法核心思想利用了prefix embedding去学习对于某个任务来说，需要从预训练语言模型中提取什么样的信息。
总结
nlp领域预训练大模型的发展，催生出很多针对如何提升迁移效率的研究工作。从目前的研究趋势来看，基于prompt思想的finetune是未来的一个重要研究趋势，充分利用预训练模型的信息，让下游任务更贴近预训练模型，而不是让预训练模型贴近下游任务。后续我们也会对prompt进行更为详细的介绍。
原文标题：nlp中的绿色finetune方法
文章出处：【微信公众号：深度学习自然语言处理】欢迎添加关注!文章转载请注明出处。
苹果iOS10.2正式版更新啦！然而改善诸多却遭果粉狂吐槽
e络盟新型工具包助您打造Raspberry Pi媒体中心
创基usb集线器不一样需求的选择
ARM架构已经建立完整生态系统 目前无法取代
1000TOPS背后的“大算力芯片”
如何实现更绿色、经济的NLP预训练模型迁移
Google推出基于AmpereOne处理器的C3A实例
单向可控硅和双向的区别在哪
曝Navi至少有两个版本 最高版本性能超过RTX2070
就因为多投入的240亿美元中国在5G技术方面就可以超越美国了吗？
电动汽车与传统汽车的区别
树脂颗粒机器人破包机 全自动破袋机工作优势
Microchip推出经TüV SüD认证的MPLAB工具
状态机怎么上来就错了？怎么解决？
小米5c摄影，拍甜美的妹子
基于ADI ADG5421F双路单刀单掷(SPST)低阻开关设计方案介绍
科普一下12种管道过滤器
三元锂电池与磷酸铁锂电池相比哪个成本更低
[图文]频率合成式调频立体声发射ＩＣ－ＢＨ１４１７
可穿戴设备+电子病历的APP已然来袭！
为了实现更绿色、经济的nlp预训练模型迁移，近两年来业内提出了很多优化finetune的方法，例如adapter finetune、mask finetune等。最近很火的prompt更是极大减轻了finetune开销，甚至不进行finetune就能应用于下游任务。本文重点介绍近两年几个nlp中finetune优化的经典工作，包括adapter-finetune、side-tuning、mask-finetune以及prefix-finetune等工作。
adapter-tuning
迁移nlp预训练模型的方法主要分为finetune和feature-based。finetune将原来的模型在下游任务上进行训练，而feature-based方法使用预训练模型产出的词、句子等embedding作为输入，接下游一个独立的模型进行预测。其中finetune的效果往往由于feature-based方法。然而finetune的计算开销要比feature-based大很多，能不能采用一种折中的方式呢?parameter-efficient transfer learning for nlp(icml 2019)提出了一种更经济的迁移学习方法adapter-tuning，只需要finetune少量参数就能达到和finetune整个模型不相上下的效果。具体做法为，在原来的bert模型的每层中间加入两个adapter，adapter首先通过全连接对原输入进行降维进一步缩小参数量，经过内部的nn后再将维度还原，形成一种bottleneck的结构。在finetune过程中，原预训练bert模型的参数freeze住不更新，只更新adapter的参数，大大减少了finetune阶段需要更新和保存的参数量。
adapterfusion: non-destructive task composition for transfer learning(2021)在adapter finetune的基础上，提出当下游存在多个任务的时候，使用两阶段的finetune。第一阶段和adapter finetune的思路一样，在预训练大模型基础上加上每个任务的adapter进行finetune，大模型参数freeze。在第二阶段，继续freeze预训练模型，同时freeze住第一阶段训练的adapter模型参数，学习一个adapterfusion模型，这个模块的作用是融合各个adapter的信息，实现下游多个任务之间的信息共享。adapterfusion部分的思路是，利用当前样本在ff层的输出和各个任务的adapter输出做attention，实现从多个adapter产出信息中的选择和融合。这样模型实现了根据每个样本选择合适的adapter输出，综合了多任务的adapter信息。
side-tuning
side-tuning: a baseline for network adaptation via additive side networks(eccv 2019)提出了一种side-tuning的方法。如下图，side-tune是在原来的预训练模型基础上，增加一个小的side network，然后将预训练模型的输入和side-network的输出进行融合。融合的方法文中提出使用一个可学习的参数α进行加权融合就能取得比较的效果。在训练过程中，预训练模型不会进行更新，只更新side-network部分的参数。side模型的尺寸和复杂度也可以根据任务的难易程度进行调整。side-tuning和adapt-tuning有相似之处，都是利用一个附属的小模型对原预训练大模型的表示进行更精细化的针对下游任务的调整。
mask-tuning
masking as an efficient alternative to finetuning for pretrained language models(2020)提出一种简单的mask方法实现高效finetune。相比一般的finetune，该方法在finetune阶段不对参数进行调整，而是学习一个mask矩阵。对于每一个transformer层，都会学习一个0-1的矩阵，然后用这个矩阵对该层所有全连接权重进行缩放。公式如下，m表示矩阵中某一个元素，根据一个阈值设置为1或0，再用这个矩阵和每层的全连接参数相乘进行对应元素的缩放。
mask-tuning的出发点为，在预训练模型finetune的过程中，其实不需要finetune那么多参数，只要finetune一些关键参数就能达到较好的效果，减少finetune阶段计算的冗余性。在how fine can fine-tuning be? learning efficient language models(2020)一文中也提出了类似的思路。
mask-tuning的出发点为，在预训练模型finetune的过程中，其实不需要finetune那么多参数，只要finetune一些关键参数就能达到较好的效果，减少finetune阶段计算的冗余性。在how fine can fine-tuning be? learning efficient language models(2020)一文中也提出了类似的思路。
prefix-tuning
reformer: the efficient transformer(iclr 2020)提出了采用局部敏感哈希的方法提升transformer效率。当序列较长时，qk^t的维度[batch_size, l, l]的计算量和存储开销会非常大，但是由于我们关注的是softmax后的结果，并不关注qk^t本身是什么，而softmax只关注值最大的几个元素，因此我们可以只选择k<
prefix-tuning: optimizing continuous prompts for generation(2021)提出的方法只finetune 0.1%的参数就取得和finetune相当的效果，并且在少样本任务上效果优于finetune。本文提出针对自然语言生成任务(如摘要生成、table-to-text等任务)的迁移预训练大模型的方法。基于language models are few-shot learners(2020，gpt3)等文章中提出的prompt思路，只要能给模型一个合适的上下文信息context，预训练的语言模型不需要修改参数就能很好的解决下游问题。例如当我们想生成obama这个词，只要上下文信息给barack，模型就可有可能生成obama，因为模型在预训练阶段已经学到了这些信息。
该方法的具体实现为，将预训练的transformer模型参数整体freeze住，当正常输入文本序列的时候，在最前端添加几个prefix id，每一个prefix id都对应一个随机初始化的embedding，不同的任务有不同的prefix id。这样在模型中，prefix之后每个时刻的表示都会受到prefix的影响，prefix代表某个对应具体任务的上下文信息。在finetune过程中，模型的其他参数都freeze，只finetune prefix的embedding，以及prefix后面接的一些全连接层，finetune参数量只占整体模型的0.1%，远小于其他的finetune方法。该方法核心思想利用了prefix embedding去学习对于某个任务来说，需要从预训练语言模型中提取什么样的信息。
总结
nlp领域预训练大模型的发展，催生出很多针对如何提升迁移效率的研究工作。从目前的研究趋势来看，基于prompt思想的finetune是未来的一个重要研究趋势，充分利用预训练模型的信息，让下游任务更贴近预训练模型，而不是让预训练模型贴近下游任务。后续我们也会对prompt进行更为详细的介绍。
原文标题：nlp中的绿色finetune方法
文章出处：【微信公众号：深度学习自然语言处理】欢迎添加关注!文章转载请注明出处。
苹果iOS10.2正式版更新啦！然而改善诸多却遭果粉狂吐槽
e络盟新型工具包助您打造Raspberry Pi媒体中心
创基usb集线器不一样需求的选择
ARM架构已经建立完整生态系统 目前无法取代
1000TOPS背后的“大算力芯片”
如何实现更绿色、经济的NLP预训练模型迁移
Google推出基于AmpereOne处理器的C3A实例
单向可控硅和双向的区别在哪
曝Navi至少有两个版本 最高版本性能超过RTX2070
就因为多投入的240亿美元中国在5G技术方面就可以超越美国了吗？
电动汽车与传统汽车的区别
树脂颗粒机器人破包机 全自动破袋机工作优势
Microchip推出经TüV SüD认证的MPLAB工具
状态机怎么上来就错了？怎么解决？
小米5c摄影，拍甜美的妹子
基于ADI ADG5421F双路单刀单掷(SPST)低阻开关设计方案介绍
科普一下12种管道过滤器
三元锂电池与磷酸铁锂电池相比哪个成本更低
[图文]频率合成式调频立体声发射ＩＣ－ＢＨ１４１７
可穿戴设备+电子病历的APP已然来袭！