清华团队发布ChatGLM2-6B ，在ChatGLM-6B 基础上改进

源自：PingWest品玩

---

　　品玩6月26日消息，据 huggingface 页面显示，ChatGLM-6B的第二代版本 ChatGLM2-6B 现已正式开源。

b09e-0bb07c4dc8028d29f12b3afe75022e53.jpg  保存到相册

上传时间: 2023-6-27 20:14

文件大小: 30.62 KB

下载次数: 0

点击文件名下载图片

 

　　ChatGLM2-6B 拥有比 ChatGLM-6B更强大的性能，相比于初代模型，ChatGLM2-6B 在 MMLU（+23%）、CEval（+33%）、GSM8K（+571%）、BBH（+60%）等数据集上的性能取得了大幅度的提升，在同尺寸开源模型中具有较强的竞争力。此外，ChatGLM2-6B基座模型的上下文长度由 ChatGLM-6B 的 2K 扩展到了 32K，并在对话阶段使用 8K 的上下文长度训练，允许更多轮次的对话。
　　另外，ChatGLM2-6B 可以实现更高效的推理，在官方的模型实现下，其推理速度相比初代提升了 42%，INT4 量化下，6G 显存支持的对话长度由 1K 提升到了 8K。