Update README.md

README.md

@@ -166,7 +166,27 @@ Chinese Fineweb Edu 数据集的原始数据来源广泛，涵盖了多个国内
 
 我们记录了100k条数据及其得分，形成`fineweb_edu_classifier_chinese_data`。将数据集中的得分作为文本打分的标签，我们训练了一个中文Bert模型 `fineweb_edu_classifier_chinese`，此模型能够为每条输入文本给出0-5分的得分。我们会进一步优化这个打分模型，未来，OpenCSG算法团队将开源`fineweb_edu_classifier_chinese_data`数据集以及`fineweb_edu_classifier_chinese`打分模型，以进一步推动社区的发展和交流。该数据集包含了经过精细标注打分的教育领域文本数据，能够为研究人员和开发者提供高质量的训练数据。
 
+
+
+
+经过精心设计的消融实验，我们旨在对比 Chinese-fineweb-edu 数据集与传统中文预训练语料的效果差异。为此，我们从 CCI2-Data、SkyPile-150B、TeleChat-PTD、IndustryCorpus 和 MAP-CC 这五个数据集中，随机抽取了与 Chinese-fineweb-edu 数据比例相同的样本，构建了一个对比数据集chinese-random-select。
+实验中，我们使用了一个 2.1B 参数规模的模型，分别使用这两种数据集，训练 65k 步。在训练过程中，我们定期保存模型的 checkpoint，并在中文评测基准 CEval 和 CMMLU 数据集上进行了验证。下图展示了这两个数据集在评测任务中的表现变化趋势。
+从结果可以清晰看出，使用 Chinese-fineweb-edu 训练的数据集在两个评测任务中均显著优于 chinese-random-select 数据集，特别是在训练到后期时表现出极大的优势，证明了 Chinese-fineweb-edu 在中文语言任务中的有效性和适配性。这一实验结果也进一步表明，数据集的选择和构建对模型的最终性能有着关键性的影响。
+<p align="left">
+<img width="900px" alt="OpenCSG" src="./ceval-valid.png">
+</p>
+<p align="right">
+<img width="900px" alt="OpenCSG" src="./cmmlus.png">
+</p>
+
+
+
+通过实验结果可以发现，在训练的靠后阶段，由于进入了第2个epoch，且学习率进入快速下降阶段，此时，使用chinese-fineweb-edu训练的模型，准确率有了明显的上升，而使用随机抽取的数据训练，则一直处于较低水平。这证明了chinese-fineweb-edu高质量数据对于模型训练效果有显著帮助，在同样训练时间下，能够更快的提升模型能力，节省训练资源，这个结果也和HuggingFace fineweb edu 的数据消融实验有异曲同工之妙。
+
+
+
 **我们诚邀对这一领域感兴趣的开发者和研究者关注和联系社区，共同推动技术的进步。敬请期待数据集的开源发布！**
 
+
 ## 许可协议
 使用 Chinese Fineweb Edu 数据集需要遵循 OpenCSG 社区许可证。Chinese Fineweb Edu 数据集支持商业用途。如果您计划将 OpenCSG 模型或其衍生产品用于商业目的，您必须遵守 OpenCSG 社区许可证以及 Apache 2.0 许可证中的条款和条件。如用于商业用途，需发送邮件至 lorraineg@opencsg.com，并获得许可。