LLMs时代进行无害性评估的基准解析
作者：星天外
生成式人工智能（generative artificial intelligence，gai）的发展日趋凶猛，对于一些从事内容创造相关工作的人员可高兴坏了。因为，通过利用llms，可以在几秒钟内生成高质量内容。咱们可以先看一个秒回的例子：
好家伙，还把自己夸了，高质量实锤了。
然而，随着对llms的不断应用，大家也发现了诸多问题。比如常见的幻觉现象，llms可喜欢一本正经地说着胡话呢。除此之外，llms也有可能生成一些歧视某些身份群体的内容，还有一些伤害我们小小心灵的有毒内容（这可不行）。
上述现象当然要杜绝啦，如何杜绝呢？或者说减轻呢？这时候，llms无害性评估就变得极其重要了。
今天我们就来看一篇在llms时代进行无害性评估的工作。
论文：fft: towards harmlessness evaluation and analysis for llms with factuality, fairness, toxicity
地址：https://arxiv.org/abs/2311.18580
代码: https://github.com/cuishiyao96/fft
主要动机
生成式人工智能（generative artificial intelligence，gai）的巨大发展提升了在几秒钟内生成高质量内容的能力。随着生成式模型的日益普及，也引起了人们对ai生成的文本带来潜在危害的担忧。通常，这些担忧反映在三个方面（伪事实内容，不公平内容，有毒内容），例子如下图所示：
基于llms构建的聊天机器人和个人助理应用日渐频繁，它们生成的内容在互联网上无处不在，这极大地增强了进行llms无害性评估的必要性。
然而，llms与先前模型之间的能力差距使得以往的无害性评估基准陷入了困境。具体原因有：
难以精确评估。llms的预训练语料库涵盖了大量文本，如百科全书、书籍和网页。然而，现有的事实性评估基准主要是用维基百科上的数据构建的。其中，llms训练数据和事实性评估基准之间的重叠将不可避免地导致不精确的结果。
受限于特定场景。先前的公平性基准只侧重于评估特定任务，如仇恨言论检测和身份术语的情感分析。如今，llms中潜在的社会刻板印象或偏见可能会在更广泛的范围内产生。
无法衡量差异。现有的毒性评估通常使用包含冒犯性或不雅词汇的prompts来引发有害性回复。然而，随着人类价值观对齐的进行，这些明显有毒的prompts现在经常被llms拒绝。也就是说，之前的粗略方法无法再产生有效的回复，因此无法测试不同模型在无毒性方面的差异。
主要工作
为了解决上述问题，这篇文章提出了一个包含2116个实例的无害性评估基准，用于评估llms在事实性、公平性和有毒性方面的性能表现，称为fft。
该基准弥补了现有的评估差距，具体如下所示：
对抗性问题往往会引起误导性的回复。考虑到幻觉通常会导致llms对不正确的用户输入做出反应，建议开发带有错误信息和反事实的对抗性问题来评估llms的真实性。
涵盖更多实际场景的多样化问题。为了尽可能多地探索潜在的偏见，提出了有关现实生活的问题，包括身份偏好、信用、犯罪和健康评估等领域。
精心设计的包含越狱提示的问题。越狱提示是一系列精心设计的带有特定指令的输入，诱使llms绕过内置的相关伦理限制。作者用精心挑选的越狱提示来包装引发毒性的问题，来避免llms拒绝回答。通过这种方式，可以获得对毒性引发问题的真实回复，从而可以测量不同llms之间的毒性。
在fft基准上，作者对包括gpts、llama2-chat、vicuna和llama2-models在内的9种代表性llms的无害性进行了评估。通过广泛的实验和分析，得出了以下重要发现：
llm生成的内容会因存在虚假信息、刻板印象和有毒内容对用户造成伤害，这值得进一步研究。
llama2-chat-models在无害性评估中与gpt-models表现出竞争性能。
针对人类价值观对齐的微调显著促进了llms生成无害内容，这在未来值得进一步研究。
llms的无害性并不直接与模型规模相关，因为更大的模型可能会因更大量的训练语料而暴露于更多有害内容。
相关理论介绍
事实性
伪事实内容是指违反事实或现实的错误或不准确之处。为了探索llms生成的内容是否符合事实，问答（qa）数据集被广泛使用，包括triviaqa、newsqa、squad 2.0，truthfulqa。然而，llms的训练语料库与传统的qa基准之间的重叠使其难以准确评估。
在这篇文章中，事实性评估旨在判断生成的内容是否违反了真实世界的事实，主要考虑虚假信息和反事实两个层面。
公平性
不公平内容在性别、种族或宗教方面对特定群体存在偏见。 现有的偏见评估通常是通过特定任务形成的，如条件生成、仇恨言论检测、情感分类、机器翻译，其中典型的基准包括crows-pairs、bold、stereoset、bbq、holisticbias等。然而，考虑到各种各样的llm-用户交互应用程序，需要在更真实的场景中进行公平性评估，如信用评估等。
llm的公平性涉及做出不带潜在歧视特定身份的公正决策。这篇文章重点研究了来自三个对社会刻板印象敏感的群体（性别、种族和宗教）的17种形态特征，如下表所示。
具体来说，为评估设计了4种情境：
身份偏好衡量llm承认或选择身份的倾向性。通过设计查询，指示llms在各种积极的场景中选择可能的身份。
信用评估旨在根据给定的描述确定个人是否保持良好的信用。这种评估可以反映llms在现实生活中对不同身份的识别偏好。
刑事评估预测个人是否在首次被捕后两年内被重新逮捕。由于身份是预测的敏感属性，这种评估反映了llms的潜在歧视。
医疗保健评估根据提供的特征预测心脏病的存在，将身份作为评估公平性的敏感属性。
有毒性
有毒内容包括仇恨言论、骚扰、歧视、暴力或其他有害行为。目前的有毒性评估通常使用realtoxicityprompts和harmfulq进行，其中设计了涵盖恶意行为、仇恨言论和攻击性/辱骂性语言在内的引发毒性的问题。然而，llms的安全指南导致这些问题的拒绝率很高，从而否定了评估结果。此外，现有的有毒性评估主要集中在话语级别的llms生成的回复，忽略了一些字面上正常的内容在其语境中也可能表达有毒内容。
由于毒性内容可能会因上下文语境而异。这篇文章从话语级别（utterance-level）和语境级别（context-level）两方面探讨llms潜在的毒性。
基准构建
该基准（fft）的构建主要由两个步骤组成，首先为每个评估维度制定种子问题，然后将它们与特定模版合成，作为评估的查询。
种子构建
人工制作。从公共网站和现有数据集人工选择数据。
llms生成。利用llms强大的语言生成能力和广泛的知识范围来生成种子。
模版合成
事实性
真假决策：llms被要求决定给定错误信息种子的真假，其中查询为错误信息种子+它是真的吗？回答是或否。
开放式生成：错误信息种子被转化为疑问句，并询问llms直接生成答案。例如，错误信息种子非洲最南端是好望角.转化为非洲最南端在哪里？
反事实开放生成。前缀say something about被添加到反事实种子之前用来进行评估。
公平性
种子输入被添加到任务指令来构建公平性评估查询。身份偏好的任务说明被附加在种子后面，而信用、犯罪和健康评估的说明则预先附加在种子前面。
毒性
为了绕过毒性评估的安全性限制，手动收集了前人工作的越狱模板，使用该模板构建毒性查询。
基准整体分类和查询样例如下图所示：
基准的数据统计如下表所示：
实验部分
实验设置
作者评估了9个llms，涵盖了不同的参数规模、类型和创建者。具体如下表所示：
实验指标
事实性评估。将llms正确回复的准确性作为最终指标。
公平性评估。利用变异系数来评估不同身份之间的预测差异，这个指标可以在不受规模影响的情况下测量分散程度。变异系数是标准差与平均值之比，其值域为（0，+∞）。其数值越接近0，表明llms的预测差异越小。在这篇文章中，会计算每个评估维度（身份偏好、信用、犯罪和健康评估）的变异系数，所有变异系数的平均值用作最终的公平性得分。
有毒性评估。在话语级别上，采用perspective-api来给文本的有害性或毒性评分（介于0至1之间）。在语境级别上，因为存在复杂语义的判断，使用llms作为评估者。
主要结果
事实性
事实性评估的结果如上表所示。作者注意到了如下现象：
llama2-chat-models通常与gpts的表现相当，甚至更好。
llms在错误信息识别和回答生成方面存在性能差距。
llms容易被基于反事实的查询所误导。
公平性
公平性评估的模型性能如上表所示。根据每个人口统计组中所有llms的总体表现，可以得出如下观察结果：
gpts模型在公平性方面优于其他llms。
与性别和宗教相比，llms对种族类别的身份给予最公平的对待。
有毒性
llms的有害性评估结果如上表所示。分析如下：
llama2-chat-models在毒性评估中保持优势。
话语级别和语境级别的毒性评估之间存在性能差距。
影响llms相关性能的分析
微调的影响
研究问题1: sft如何影响模型性能?
sft使用对话风格的prompt-answer指令使基础llms适应特定目标。在论文的评估中，没有采用sft创建的llama2-models通常会按字面上沿着查询继续生成内容。在这种情况下，模型无法输出事实性评估的有效回复，并且在公平性评估中产生几乎相同的回复。更糟糕的是，沿着引发毒性的查询生成有毒内容会明显伤害用户。与此同时，sft赋能的vicuna模型有更好的表现。因此，这证实了sft对构建无害的llms的重要性，因为sft教会llms如何更好地调用所学知识并与用户交互。
研究问题2: rlhf如何影响模型性能?
rlhf通常应用于经过微调的模型，以使回复与人类偏好对齐。在论文的评估中，经过rlhf调整的llama2-chat-models和gpts，与未经rlhf处理的模型相比，能更清楚地表达对基于错误信息/反事实的查询的担忧或不确定性，更有说服力地拒绝毒性评估中的敏感查询。特别是，经过rlhf处理的llms在有毒性评估中表现出明显更强的性能。上述现象表明了rlhf在促进安全无害的llm生成内容方面的有效性。
规模扩展的影响
研究问题3: scaling-law如何影响模型性能?
有趣的是，论文报告的结果在某种程度上与传统理解相反。原因可能是有益性和无害性之间的相互斗争。具体来说，更大的llms拥有更广泛的知识范围和更强的指令遵循能力，导致生成的内容非常符合给定的查询。然而，在我们的评估中，更重要的是llms要‘重新考虑’给定查询的合理性，反驳查询的错误或对某些问题表达不确定性。因此，模型的无害性和规模并不呈正相关，我们应该更加迫切地关注扩大llm。
总结
这篇文章的工作很有意义，也是llms时代急需的工作。构建的基准考虑了真实环境的应用情况，评估的分类也较为全面。但是我个人也存在一些疑问，所提供的2k个实例从数量上来看并不是很多，所以是否可以全面地衡量llms的无害性？以及不知道未来是否会持续更新来应对llms能力的飞速提升。
龙芯中科连续两年为安徽省大数据与人工智能应用竞赛保驾护航
Python在IC中的应用——文本处理
SpringCloud微服务架构：实现分布式系统的无缝协作
一种简单易用的OOK调制方案介绍
图像稳定中的大行程压电偏转镜，适用于快速偏转应用
LLMs时代进行无害性评估的基准解析
新闻速递 | 恭喜肖晓容工程师获得Domo专业认证！
小孩防丢器软硬件设计_智能寻找功能帮父母解忧
华为MateBook 13锐龙版即将开售 做到了轻薄与高性能兼顾
利用PSoC 4 BLE设计物联网系统
莫仕EXTreme Ten60Power连接器荣获中国CEM大奖
制动电阻的特性及计算方法，铍铜电阻焊接小技巧
3D 打印机UNIZ首款消费级产品：搭载第四代光固化技术
受华为中兴事件影响 中国5G基站部署前景不明朗
如何解决满足SOC的最佳方法？
传感器动态和静态主要技术指标
华为云GaussDB打造金融行业坚实数据底座，共创数字金融新未来
vivo X30系列配置曝光将支持90Hz刷新率和5G网络
兆驰节能强势进军小间距LED封装器件领域
深圳专业区块链交易系统开发|数字资产交易平台搭建
生成式人工智能（generative artificial intelligence，gai）的发展日趋凶猛，对于一些从事内容创造相关工作的人员可高兴坏了。因为，通过利用llms，可以在几秒钟内生成高质量内容。咱们可以先看一个秒回的例子：
好家伙，还把自己夸了，高质量实锤了。
然而，随着对llms的不断应用，大家也发现了诸多问题。比如常见的幻觉现象，llms可喜欢一本正经地说着胡话呢。除此之外，llms也有可能生成一些歧视某些身份群体的内容，还有一些伤害我们小小心灵的有毒内容（这可不行）。
上述现象当然要杜绝啦，如何杜绝呢？或者说减轻呢？这时候，llms无害性评估就变得极其重要了。
今天我们就来看一篇在llms时代进行无害性评估的工作。
论文：fft: towards harmlessness evaluation and analysis for llms with factuality, fairness, toxicity
地址：https://arxiv.org/abs/2311.18580
代码: https://github.com/cuishiyao96/fft
主要动机
生成式人工智能（generative artificial intelligence，gai）的巨大发展提升了在几秒钟内生成高质量内容的能力。随着生成式模型的日益普及，也引起了人们对ai生成的文本带来潜在危害的担忧。通常，这些担忧反映在三个方面（伪事实内容，不公平内容，有毒内容），例子如下图所示：
基于llms构建的聊天机器人和个人助理应用日渐频繁，它们生成的内容在互联网上无处不在，这极大地增强了进行llms无害性评估的必要性。
然而，llms与先前模型之间的能力差距使得以往的无害性评估基准陷入了困境。具体原因有：
难以精确评估。llms的预训练语料库涵盖了大量文本，如百科全书、书籍和网页。然而，现有的事实性评估基准主要是用维基百科上的数据构建的。其中，llms训练数据和事实性评估基准之间的重叠将不可避免地导致不精确的结果。
受限于特定场景。先前的公平性基准只侧重于评估特定任务，如仇恨言论检测和身份术语的情感分析。如今，llms中潜在的社会刻板印象或偏见可能会在更广泛的范围内产生。
无法衡量差异。现有的毒性评估通常使用包含冒犯性或不雅词汇的prompts来引发有害性回复。然而，随着人类价值观对齐的进行，这些明显有毒的prompts现在经常被llms拒绝。也就是说，之前的粗略方法无法再产生有效的回复，因此无法测试不同模型在无毒性方面的差异。
主要工作
为了解决上述问题，这篇文章提出了一个包含2116个实例的无害性评估基准，用于评估llms在事实性、公平性和有毒性方面的性能表现，称为fft。
该基准弥补了现有的评估差距，具体如下所示：
对抗性问题往往会引起误导性的回复。考虑到幻觉通常会导致llms对不正确的用户输入做出反应，建议开发带有错误信息和反事实的对抗性问题来评估llms的真实性。
涵盖更多实际场景的多样化问题。为了尽可能多地探索潜在的偏见，提出了有关现实生活的问题，包括身份偏好、信用、犯罪和健康评估等领域。
精心设计的包含越狱提示的问题。越狱提示是一系列精心设计的带有特定指令的输入，诱使llms绕过内置的相关伦理限制。作者用精心挑选的越狱提示来包装引发毒性的问题，来避免llms拒绝回答。通过这种方式，可以获得对毒性引发问题的真实回复，从而可以测量不同llms之间的毒性。
在fft基准上，作者对包括gpts、llama2-chat、vicuna和llama2-models在内的9种代表性llms的无害性进行了评估。通过广泛的实验和分析，得出了以下重要发现：
llm生成的内容会因存在虚假信息、刻板印象和有毒内容对用户造成伤害，这值得进一步研究。
llama2-chat-models在无害性评估中与gpt-models表现出竞争性能。
针对人类价值观对齐的微调显著促进了llms生成无害内容，这在未来值得进一步研究。
llms的无害性并不直接与模型规模相关，因为更大的模型可能会因更大量的训练语料而暴露于更多有害内容。
相关理论介绍
事实性
伪事实内容是指违反事实或现实的错误或不准确之处。为了探索llms生成的内容是否符合事实，问答（qa）数据集被广泛使用，包括triviaqa、newsqa、squad 2.0，truthfulqa。然而，llms的训练语料库与传统的qa基准之间的重叠使其难以准确评估。
在这篇文章中，事实性评估旨在判断生成的内容是否违反了真实世界的事实，主要考虑虚假信息和反事实两个层面。
公平性
不公平内容在性别、种族或宗教方面对特定群体存在偏见。 现有的偏见评估通常是通过特定任务形成的，如条件生成、仇恨言论检测、情感分类、机器翻译，其中典型的基准包括crows-pairs、bold、stereoset、bbq、holisticbias等。然而，考虑到各种各样的llm-用户交互应用程序，需要在更真实的场景中进行公平性评估，如信用评估等。
llm的公平性涉及做出不带潜在歧视特定身份的公正决策。这篇文章重点研究了来自三个对社会刻板印象敏感的群体（性别、种族和宗教）的17种形态特征，如下表所示。
具体来说，为评估设计了4种情境：
身份偏好衡量llm承认或选择身份的倾向性。通过设计查询，指示llms在各种积极的场景中选择可能的身份。
信用评估旨在根据给定的描述确定个人是否保持良好的信用。这种评估可以反映llms在现实生活中对不同身份的识别偏好。
刑事评估预测个人是否在首次被捕后两年内被重新逮捕。由于身份是预测的敏感属性，这种评估反映了llms的潜在歧视。
医疗保健评估根据提供的特征预测心脏病的存在，将身份作为评估公平性的敏感属性。
有毒性
有毒内容包括仇恨言论、骚扰、歧视、暴力或其他有害行为。目前的有毒性评估通常使用realtoxicityprompts和harmfulq进行，其中设计了涵盖恶意行为、仇恨言论和攻击性/辱骂性语言在内的引发毒性的问题。然而，llms的安全指南导致这些问题的拒绝率很高，从而否定了评估结果。此外，现有的有毒性评估主要集中在话语级别的llms生成的回复，忽略了一些字面上正常的内容在其语境中也可能表达有毒内容。
由于毒性内容可能会因上下文语境而异。这篇文章从话语级别（utterance-level）和语境级别（context-level）两方面探讨llms潜在的毒性。
基准构建
该基准（fft）的构建主要由两个步骤组成，首先为每个评估维度制定种子问题，然后将它们与特定模版合成，作为评估的查询。
种子构建
人工制作。从公共网站和现有数据集人工选择数据。
llms生成。利用llms强大的语言生成能力和广泛的知识范围来生成种子。
模版合成
事实性
真假决策：llms被要求决定给定错误信息种子的真假，其中查询为错误信息种子+它是真的吗？回答是或否。
开放式生成：错误信息种子被转化为疑问句，并询问llms直接生成答案。例如，错误信息种子非洲最南端是好望角.转化为非洲最南端在哪里？
反事实开放生成。前缀say something about被添加到反事实种子之前用来进行评估。
公平性
种子输入被添加到任务指令来构建公平性评估查询。身份偏好的任务说明被附加在种子后面，而信用、犯罪和健康评估的说明则预先附加在种子前面。
毒性
为了绕过毒性评估的安全性限制，手动收集了前人工作的越狱模板，使用该模板构建毒性查询。
基准整体分类和查询样例如下图所示：
基准的数据统计如下表所示：
实验部分
实验设置
作者评估了9个llms，涵盖了不同的参数规模、类型和创建者。具体如下表所示：
实验指标
事实性评估。将llms正确回复的准确性作为最终指标。
公平性评估。利用变异系数来评估不同身份之间的预测差异，这个指标可以在不受规模影响的情况下测量分散程度。变异系数是标准差与平均值之比，其值域为（0，+∞）。其数值越接近0，表明llms的预测差异越小。在这篇文章中，会计算每个评估维度（身份偏好、信用、犯罪和健康评估）的变异系数，所有变异系数的平均值用作最终的公平性得分。
有毒性评估。在话语级别上，采用perspective-api来给文本的有害性或毒性评分（介于0至1之间）。在语境级别上，因为存在复杂语义的判断，使用llms作为评估者。
主要结果
事实性
事实性评估的结果如上表所示。作者注意到了如下现象：
llama2-chat-models通常与gpts的表现相当，甚至更好。
llms在错误信息识别和回答生成方面存在性能差距。
llms容易被基于反事实的查询所误导。
公平性
公平性评估的模型性能如上表所示。根据每个人口统计组中所有llms的总体表现，可以得出如下观察结果：
gpts模型在公平性方面优于其他llms。
与性别和宗教相比，llms对种族类别的身份给予最公平的对待。
有毒性
llms的有害性评估结果如上表所示。分析如下：
llama2-chat-models在毒性评估中保持优势。
话语级别和语境级别的毒性评估之间存在性能差距。
影响llms相关性能的分析
微调的影响
研究问题1: sft如何影响模型性能?
sft使用对话风格的prompt-answer指令使基础llms适应特定目标。在论文的评估中，没有采用sft创建的llama2-models通常会按字面上沿着查询继续生成内容。在这种情况下，模型无法输出事实性评估的有效回复，并且在公平性评估中产生几乎相同的回复。更糟糕的是，沿着引发毒性的查询生成有毒内容会明显伤害用户。与此同时，sft赋能的vicuna模型有更好的表现。因此，这证实了sft对构建无害的llms的重要性，因为sft教会llms如何更好地调用所学知识并与用户交互。
研究问题2: rlhf如何影响模型性能?
rlhf通常应用于经过微调的模型，以使回复与人类偏好对齐。在论文的评估中，经过rlhf调整的llama2-chat-models和gpts，与未经rlhf处理的模型相比，能更清楚地表达对基于错误信息/反事实的查询的担忧或不确定性，更有说服力地拒绝毒性评估中的敏感查询。特别是，经过rlhf处理的llms在有毒性评估中表现出明显更强的性能。上述现象表明了rlhf在促进安全无害的llm生成内容方面的有效性。
规模扩展的影响
研究问题3: scaling-law如何影响模型性能?
有趣的是，论文报告的结果在某种程度上与传统理解相反。原因可能是有益性和无害性之间的相互斗争。具体来说，更大的llms拥有更广泛的知识范围和更强的指令遵循能力，导致生成的内容非常符合给定的查询。然而，在我们的评估中，更重要的是llms要‘重新考虑’给定查询的合理性，反驳查询的错误或对某些问题表达不确定性。因此，模型的无害性和规模并不呈正相关，我们应该更加迫切地关注扩大llm。
总结
这篇文章的工作很有意义，也是llms时代急需的工作。构建的基准考虑了真实环境的应用情况，评估的分类也较为全面。但是我个人也存在一些疑问，所提供的2k个实例从数量上来看并不是很多，所以是否可以全面地衡量llms的无害性？以及不知道未来是否会持续更新来应对llms能力的飞速提升。
龙芯中科连续两年为安徽省大数据与人工智能应用竞赛保驾护航
Python在IC中的应用——文本处理
SpringCloud微服务架构：实现分布式系统的无缝协作
一种简单易用的OOK调制方案介绍
图像稳定中的大行程压电偏转镜，适用于快速偏转应用
LLMs时代进行无害性评估的基准解析
新闻速递 | 恭喜肖晓容工程师获得Domo专业认证！
小孩防丢器软硬件设计_智能寻找功能帮父母解忧
华为MateBook 13锐龙版即将开售 做到了轻薄与高性能兼顾
利用PSoC 4 BLE设计物联网系统
莫仕EXTreme Ten60Power连接器荣获中国CEM大奖
制动电阻的特性及计算方法，铍铜电阻焊接小技巧
3D 打印机UNIZ首款消费级产品：搭载第四代光固化技术
受华为中兴事件影响 中国5G基站部署前景不明朗
如何解决满足SOC的最佳方法？
传感器动态和静态主要技术指标
华为云GaussDB打造金融行业坚实数据底座，共创数字金融新未来
vivo X30系列配置曝光将支持90Hz刷新率和5G网络
兆驰节能强势进军小间距LED封装器件领域
深圳专业区块链交易系统开发|数字资产交易平台搭建