ChatGLM2-6B：性能大幅提升，8-32k上下文，推理提速42%，在中文榜单位列榜首
自3月14日发布以来， chatglm-6b 深受广大开发者喜爱，截至 6 月24日，来自 huggingface 上的下载量已经超过 300w。
为了更进一步促进大模型开源社区的发展，我们再次升级 chatglm-6b，发布 chatglm2-6b 。
在主要评估llm模型中文能力的 c-eval 榜单中，截至6月25日 chatglm2 模型以 71.1 的分数位居 rank 0 ，chatglm2-6b 模型以 51.7 的分数位居 rank 6，是榜单上排名最高的开源模型。
* ceval榜单，chatglm2暂时位居rank 0，chatglm2-6b位居 rank 6
性能升级
chatglm2-6b 是开源中英双语对话模型 chatglm-6b 的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，chatglm2-6b 引入了如下新特性：
更强大的性能：基于 chatglm 初代模型的开发经验，我们全面升级了 chatglm2-6b 的基座模型。chatglm2-6b 使用了 glm 的混合目标函数，经过了 1.4t 中英标识符的预训练与人类偏好对齐训练，评测结果显示，相比于初代模型，chatglm2-6b 在 mmlu（+23%）、ceval（+33%）、gsm8k（+571%） 、bbh（+60%）等数据集上的性能取得了大幅度的提升，在同尺寸开源模型中具有较强的竞争力。
更长的上下文：基于 flashattention 技术，我们将基座模型的上下文长度（context length）由 chatglm-6b 的 2k 扩展到了 32k，并在对话阶段使用 8k 的上下文长度训练，允许更多轮次的对话。但当前版本的 chatglm2-6b 对单轮超长文档的理解能力有限，我们会在后续迭代升级中着重进行优化。
更高效的推理：基于 multi-query attention 技术，chatglm2-6b 有更高效的推理速度和更低的显存占用：在官方的模型实现下，推理速度相比初代提升了 42%，int4 量化下，6g 显存支持的对话长度由 1k 提升到了 8k。
更开放的协议：chatglm2-6b 权重对学术研究完全开放，在获得官方的书面许可后，亦允许商业使用。如果您发现我们的开源模型对您的业务有用，我们欢迎您对下一代模型 chatglm3 研发的捐赠。
评测结果
我们选取了部分中英文典型数据集进行了评测，以下为 chatglm2-6b 模型在 mmlu （英文）、c-eval（中文）、gsm8k（数学）、bbh（英文） 上的测评结果。
推理性能
chatglm2-6b 使用了 multi-query attention，提高了生成速度。生成 2000 个字符的平均速度对比如下
multi-query attention 同时也降低了生成过程中 kv cache 的显存占用，此外，chatglm2-6b 采用 causal mask 进行对话训练，连续对话时可复用前面轮次的 kv cache，进一步优化了显存占用。因此，使用 6gb 显存的显卡进行 int4 量化的推理时，初代的 chatglm-6b 模型最多能够生成 1119 个字符就会提示显存耗尽，而 chatglm2-6b 能够生成至少 8192 个字符。
我们也测试了量化对模型性能的影响。结果表明，量化对模型性能的影响在可接受范围内。
示例对比
相比于初代模型，chatglm2-6b 多个维度的能力都取得了提升，以下是一些对比示例。更多 chatglm2-6b 的可能，等待你来探索发现！
数理逻辑
知识推理
长文档理解
chatglm2-6b的安装请参考官方：
https://github.com/thudm/chatglm2-6b
71M6x01：第四代单相电表SoC解决方案[图]
南方isi加密移动硬盘
食品安全检测仪的检测项目有哪些
一体化速印机的原稿类型/印刷颜色
物联网、5G等新兴行业应届生岗位明显增加
ChatGLM2-6B：性能大幅提升，8-32k上下文，推理提速42%，在中文榜单位列榜首
什么是齿轮修形？
使用NFC保护您的系统
可弯曲LCD降临 柔软不再是OLED专利
半导体市场刚起步谁能成为下个胜利者？
什么是数字人民币？假冒数字人民币钱包咋回事？
iphone手机电池保养
电厂人员定位系统可实现哪些功能
飞利浦Sonicare远程牙科诊疗方案
什么是midi接口
分频器是什么东西_音箱分频器的结构、特点
华为云音视频质量监控与优化实践
三星电子批量生产的第六代V-NAND 具有业界快速的数据传输速率
电动机绕组的线径与匝数会对功率有何影响
什么是压力变送器_压力变送器和压力传感器有什么区别
为了更进一步促进大模型开源社区的发展，我们再次升级 chatglm-6b，发布 chatglm2-6b 。
在主要评估llm模型中文能力的 c-eval 榜单中，截至6月25日 chatglm2 模型以 71.1 的分数位居 rank 0 ，chatglm2-6b 模型以 51.7 的分数位居 rank 6，是榜单上排名最高的开源模型。
* ceval榜单，chatglm2暂时位居rank 0，chatglm2-6b位居 rank 6
性能升级
chatglm2-6b 是开源中英双语对话模型 chatglm-6b 的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，chatglm2-6b 引入了如下新特性：
更强大的性能：基于 chatglm 初代模型的开发经验，我们全面升级了 chatglm2-6b 的基座模型。chatglm2-6b 使用了 glm 的混合目标函数，经过了 1.4t 中英标识符的预训练与人类偏好对齐训练，评测结果显示，相比于初代模型，chatglm2-6b 在 mmlu（+23%）、ceval（+33%）、gsm8k（+571%） 、bbh（+60%）等数据集上的性能取得了大幅度的提升，在同尺寸开源模型中具有较强的竞争力。
更长的上下文：基于 flashattention 技术，我们将基座模型的上下文长度（context length）由 chatglm-6b 的 2k 扩展到了 32k，并在对话阶段使用 8k 的上下文长度训练，允许更多轮次的对话。但当前版本的 chatglm2-6b 对单轮超长文档的理解能力有限，我们会在后续迭代升级中着重进行优化。
更高效的推理：基于 multi-query attention 技术，chatglm2-6b 有更高效的推理速度和更低的显存占用：在官方的模型实现下，推理速度相比初代提升了 42%，int4 量化下，6g 显存支持的对话长度由 1k 提升到了 8k。
更开放的协议：chatglm2-6b 权重对学术研究完全开放，在获得官方的书面许可后，亦允许商业使用。如果您发现我们的开源模型对您的业务有用，我们欢迎您对下一代模型 chatglm3 研发的捐赠。
评测结果
我们选取了部分中英文典型数据集进行了评测，以下为 chatglm2-6b 模型在 mmlu （英文）、c-eval（中文）、gsm8k（数学）、bbh（英文） 上的测评结果。
推理性能
chatglm2-6b 使用了 multi-query attention，提高了生成速度。生成 2000 个字符的平均速度对比如下
multi-query attention 同时也降低了生成过程中 kv cache 的显存占用，此外，chatglm2-6b 采用 causal mask 进行对话训练，连续对话时可复用前面轮次的 kv cache，进一步优化了显存占用。因此，使用 6gb 显存的显卡进行 int4 量化的推理时，初代的 chatglm-6b 模型最多能够生成 1119 个字符就会提示显存耗尽，而 chatglm2-6b 能够生成至少 8192 个字符。
我们也测试了量化对模型性能的影响。结果表明，量化对模型性能的影响在可接受范围内。
示例对比
相比于初代模型，chatglm2-6b 多个维度的能力都取得了提升，以下是一些对比示例。更多 chatglm2-6b 的可能，等待你来探索发现！
数理逻辑
知识推理
长文档理解
chatglm2-6b的安装请参考官方：
https://github.com/thudm/chatglm2-6b
71M6x01：第四代单相电表SoC解决方案[图]
南方isi加密移动硬盘
食品安全检测仪的检测项目有哪些
一体化速印机的原稿类型/印刷颜色
物联网、5G等新兴行业应届生岗位明显增加
ChatGLM2-6B：性能大幅提升，8-32k上下文，推理提速42%，在中文榜单位列榜首
什么是齿轮修形？
使用NFC保护您的系统
可弯曲LCD降临 柔软不再是OLED专利
半导体市场刚起步谁能成为下个胜利者？
什么是数字人民币？假冒数字人民币钱包咋回事？
iphone手机电池保养
电厂人员定位系统可实现哪些功能
飞利浦Sonicare远程牙科诊疗方案
什么是midi接口
分频器是什么东西_音箱分频器的结构、特点
华为云音视频质量监控与优化实践
三星电子批量生产的第六代V-NAND 具有业界快速的数据传输速率
电动机绕组的线径与匝数会对功率有何影响
什么是压力变送器_压力变送器和压力传感器有什么区别