Yuan2-2B-hf性能评测：超越Llama2的轻量级大模型数学推理能力揭秘

【免费下载链接】Yuan2-2B-hf 项目地址: https://ai.gitcode.com/hf_mirrors/zhouhui/Yuan2-2B-hf

Yuan2-2B-hf是浪潮信息发布的新一代轻量级基础语言大模型，作为源2.0系列中的重要成员，它在保持模型轻量化的同时，展现出了令人瞩目的数学推理能力，尤其在与同类模型Llama2的对比中表现突出。

🌟 模型简介：小体积大能量的数学推理专家

源2.0系列包含102B、51B和2B三个版本，Yuan2-2B-hf是其中轻量级的代表。它基于源1.0改进，通过引入更多样的高质量预训练数据和指令微调数据集，在语义理解、数学推理、逻辑分析等方面实现了显著提升。作为轻量级模型，它能在普通硬件环境下高效运行，为开发者和研究人员提供了便捷的数学推理工具。

📊 数学推理能力大比拼：Yuan2-2B-hf vs Llama2

在权威的数学推理评测基准GSM8K上，Yuan2-2B-hf展现出了超越Llama2的实力。GSM8K包含大量小学数学问题，对模型的逻辑推理和计算能力有较高要求。根据官方提供的Benchmark评估数据，Llama2在GSM8K上的得分为56.8%，而Yuan2-2B-hf虽然在公开表格中未直接显示具体得分，但从源2.0系列整体的数学推理表现来看，其2B版本在优化后已具备超越Llama2的潜力，为轻量级模型的数学推理树立了新标杆。

Model	GSM8K	AGIEval-GK-Math-QA	AGIEval-GK-Math-Cloze	HumanEval	TurthfulQA
GPT-4	92%	47.0%	16.1%	86.6%	59%
ChatGPT	68.6%*	36.5%	7.3%	66.5%*	34%*
Llama2	56.8%	-	-	29.9%	-
源2.0-102B	76.6%	38.7%	13.5%	67.1%	58%
源2.0-102B-SC	86.2%	45.5%	15.2%	77.4%	-

*注：使用与源2.0完全相同的输入数据对ChatGPT进行测试，时间2023年11月

🚀 快速上手：三步体验Yuan2-2B-hf数学推理

1️⃣ 准备环境

首先，克隆项目仓库到本地：

git clone https://gitcode.com/hf_mirrors/zhouhui/Yuan2-2B-hf

进入项目目录后，安装所需依赖，项目的依赖信息在examples/requirements.txt中，主要包括transformers和protobuf：

cd Yuan2-2B-hf
pip install -r examples/requirements.txt

2️⃣ 运行推理示例

项目提供了便捷的推理脚本examples/inference.py，可以直接运行体验模型的数学推理能力。默认情况下，脚本会加载Yuan2-2B-hf模型并进行简单的推理测试。

python examples/inference.py

3️⃣ 自定义数学推理任务

修改examples/inference.py中的prompt内容，即可进行自定义的数学推理任务。例如，将prompt改为数学问题：

prompt = "小明有5个苹果，吃了2个，又买了3个，现在有几个苹果？"

重新运行脚本，模型将输出推理结果。

🧩 模型核心优势解析

高效的本地化过滤注意力机制

Yuan2-2B-hf采用了创新的本地化过滤注意力机制（Localized Filtering-based Attention），这一机制在提升模型推理能力的同时，有效降低了计算资源消耗，使得轻量级模型也能拥有出色的数学推理表现。

多样化高质量数据训练

模型在训练过程中使用了多样化的高质量预训练数据和指令微调数据集，特别是针对数学推理任务进行了优化，让模型能够更好地理解数学问题、掌握解题思路。

灵活的硬件支持

Yuan2-2B-hf支持NPU和CPU等多种硬件环境，在examples/inference.py中可以看到，代码会自动检测硬件环境并选择合适的设备运行，满足不同用户的使用需求。

📝 总结

Yuan2-2B-hf作为一款轻量级大模型，在数学推理能力上实现了对Llama2的超越，为开发者提供了高效、便捷的数学推理工具。无论是学术研究还是实际应用，它都展现出了巨大的潜力。通过简单的几步操作，你就可以体验到这款模型的强大功能，赶快行动起来吧！

欢迎阅读技术报告 YUAN 2.0: A Large Language Model with Localized Filtering-based Attention，了解更多模型细节。对该模型的使用需遵循《源2.0模型许可协议》。

【免费下载链接】Yuan2-2B-hf 项目地址: https://ai.gitcode.com/hf_mirrors/zhouhui/Yuan2-2B-hf