ChatGLM-6B模型Prompt工程实战：提升生成质量的关键技巧

你是不是也遇到过这样的情况：兴冲冲地部署好了ChatGLM-6B，结果问它几个问题，回答要么太啰嗦，要么答非所问，甚至有时候会胡说八道。明明是个挺聪明的模型，怎么用起来感觉不太对劲？

其实问题很可能出在“提问方式”上。就像和人聊天一样，你问得越清楚，对方回答得越准确。对于ChatGLM-6B这样的对话模型，你给它的“问题描述”——也就是Prompt——直接决定了它生成内容的质量。

今天咱们就来聊聊怎么通过Prompt工程，让ChatGLM-6B发挥出真正的实力。我会用最直白的方式，分享一些实用的技巧和例子，让你看完就能用上。

1. 为什么Prompt这么重要？

先看个简单的对比。如果你直接问ChatGLM-6B：

“写一篇关于环保的文章”

它可能会给你一篇泛泛而谈的文章，内容比较空洞。但如果你这样问：

“以‘垃圾分类从我做起’为主题，写一篇800字左右的议论文，要求观点明确、论据充分，适合在社区宣传栏使用”

你会发现，第二个问题的回答明显更有针对性，结构也更清晰。

这就是Prompt工程的核心价值——通过优化你的输入，引导模型生成更符合你期望的输出。对于ChatGLM-6B这样的开源模型来说，好的Prompt能弥补它在某些能力上的不足，让生成质量提升一个档次。

2. 基础Prompt设计原则

2.1 明确你的需求

首先得想清楚你到底要什么。是想要一个简洁的回答，还是详细的解释？是要创意内容，还是事实性信息？

举个例子，如果你想让模型帮你写代码：

不太好的Prompt：

写一个Python函数

好得多的Prompt：

写一个Python函数，功能是计算两个日期间的工作日天数（排除周末）。函数接收两个datetime.date类型的参数，返回整数。请包含必要的注释。

第二个Prompt明确了函数的功能、输入输出类型，甚至要求了代码风格。模型生成的结果自然会更加符合你的预期。

2.2 提供足够的上下文

ChatGLM-6B虽然有一定的上下文理解能力，但毕竟只有6B参数，记忆和推理能力有限。多给点背景信息，它能表现得更好。

比如你想让它扮演某个角色：

假设你是一位经验丰富的健身教练。用户是一位办公室职员，每天久坐8小时，最近开始腰背酸痛。请以健身教练的身份，给他一些针对性的建议。

这里不仅指定了角色，还提供了用户的身份和具体问题，模型就能生成更贴切的回答。

2.3 结构化你的Prompt

把复杂任务拆分成几个明确的部分，用清晰的格式表达出来。这样模型更容易理解你的意图。

看看这个例子：

请根据以下要求生成一份产品介绍：
1. 产品名称：智能空气净化器X1
2. 目标用户：城市家庭，特别是有小孩或老人的家庭
3. 核心卖点：三重过滤系统、静音设计、手机APP控制
4. 字数：300字左右
5. 风格：专业但亲切，突出健康和安全

这种列表式的Prompt，让模型的“任务清单”一目了然。

3. 实用Prompt模板与技巧

3.1 角色扮演模板

想让ChatGLM-6B扮演特定角色？试试这个结构：

你是一位[角色]，具有[年限]年经验，擅长[领域]。现在需要你[具体任务]。

背景信息：[相关背景]
具体要求：[具体要求]
输出格式：[期望的格式]

实际应用：

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True)
model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().cuda()
model = model.eval()

prompt = """你是一位资深的产品经理，具有8年互联网产品经验，擅长用户增长和留存分析。现在需要你为我们的新社交APP设计一个用户激活方案。

背景信息：APP主打兴趣社交，用户可以通过兴趣标签匹配同好。目前注册用户10万，但次日留存只有35%。

具体要求：
1. 分析可能的原因
2. 提出3个具体的改进方案
3. 每个方案需要包含实施步骤和预期效果

输出格式：用Markdown格式，分章节呈现。"""

response, history = model.chat(tokenizer, prompt, history=[])
print(response)

3.2 内容创作模板

需要写文章、文案等内容时：

请以[主题]为主题，创作一篇[类型]的内容。

要求：
- 目标读者：[读者群体]
- 核心观点：[主要观点]
- 文章结构：[结构要求]
- 风格语气：[风格描述]
- 字数范围：[字数]

请确保内容[其他要求]。

3.3 问题解答模板

当你想获得更准确、深入的答案时：

关于[问题主题]，请从以下几个方面详细解答：

1. 基本概念解释
2. 核心原理说明  
3. 实际应用场景
4. 常见问题与解决方案
5. 发展趋势展望

请用通俗易懂的语言，避免过于专业的术语。如果涉及步骤，请按顺序说明。

4. 进阶优化策略

4.1 使用Few-Shot示例

有时候，直接告诉模型“我想要这样的回答”最有效。这就是Few-Shot Learning的思路——给模型几个例子，让它学习你的期望格式。

prompt = """请根据用户的问题生成回答。以下是示例：

示例1：
用户：Python中如何读取CSV文件？
助手：可以使用pandas库的read_csv函数。示例代码：
```python
import pandas as pd
df = pd.read_csv('file.csv')
print(df.head())

示例2： 用户：怎么用Python发送邮件？ 助手：可以使用smtplib库。示例代码：

import smtplib
from email.mime.text import MIMEText

msg = MIMEText('邮件内容')
msg['Subject'] = '邮件主题'
msg['From'] = 'sender@example.com'
msg['To'] = 'receiver@example.com'

s = smtplib.SMTP('smtp.example.com')
s.send_message(msg)
s.quit()

现在请回答： 用户：Python中如何连接MySQL数据库？ 助手："""

response, _ = model.chat(tokenizer, prompt, history=[]) print(response)

模型看到前面的例子，就会模仿那种“解释+代码示例”的格式来回答新问题。

### 4.2 控制生成参数

除了Prompt本身，ChatGLM-6B还有一些参数可以调整，影响生成效果：

```python
# 调整生成参数
response, history = model.chat(
    tokenizer,
    "请写一首关于春天的诗",
    history=[],
    max_length=200,      # 最大生成长度
    top_p=0.9,           # 核采样参数，值越小生成越保守
    temperature=0.7,     # 温度参数，值越小生成越确定
)

• max_length：控制回答的长度。太短可能说不完，太长可能啰嗦。
• top_p：通常设置在0.7-0.9之间。值越小，生成的内容越保守、可预测；值越大，越有创意但也可能更随机。
• temperature：建议在0.5-0.8之间。值越小，生成的内容越“安全”；值越大，越有创意但也可能偏离主题。

4.3 迭代优化Prompt

好的Prompt往往不是一次写成的，需要不断调整。我的建议是：

1. 先试一个简单版本：看看模型的基本反应
2. 分析问题：回答哪里不符合预期？是太啰嗦、跑题，还是信息不全？
3. 针对性改进：根据问题调整Prompt
4. 再测试：看看改进效果

比如，如果发现模型回答太简略，可以在Prompt里加一句“请详细说明”；如果发现它总跑题，可以强调“请严格围绕主题”。

5. 常见问题与解决方案

5.1 模型回答太啰嗦怎么办？

问题：问一个简单问题，模型却回答了一大堆无关内容。

解决方案：

• 在Prompt开头明确要求“请简洁回答”
• 指定回答长度，如“请用100字以内回答”
• 使用更具体的提问方式

# 改进前
prompt = "什么是机器学习？"

# 改进后  
prompt = "请用一句话简单解释什么是机器学习。"

5.2 模型总是重复内容怎么办？

问题：模型在回答中不断重复相同的观点或句子。

解决方案：

• 降低temperature值（如设为0.5）
• 在Prompt中要求“避免重复表述”
• 使用更结构化的Prompt，明确不同部分的内容

prompt = """请从以下三个不同角度分析远程办公的优缺点：
1. 员工角度
2. 企业角度  
3. 社会角度

请确保每个角度的分析内容不重复。"""

5.3 模型生成的内容不够专业怎么办？

问题：需要专业领域的内容，但模型回答太浅显。

解决方案：

• 在Prompt中指定专业级别，如“请以专家的身份回答”
• 提供专业术语和背景知识
• 要求引用具体数据或案例

prompt = """你是一位金融分析师，请分析当前股市行情。

要求：
1. 使用专业的金融术语
2. 引用近期的具体数据
3. 从宏观经济、行业趋势、技术分析三个层面进行
4. 给出具体的投资建议"""

5.4 如何处理多轮对话？

问题：在连续对话中，模型忘记之前的上下文。

解决方案：

• 重要信息在每轮对话中适当重复
• 使用ChatGLM-6B的history参数保持对话记忆
• 定期总结对话要点

history = []

# 第一轮
question1 = "我想学习Python，应该从哪里开始？"
response1, history = model.chat(tokenizer, question1, history=history)

# 第二轮，模型会记住之前的对话
question2 = "那我学完基础后，下一步该学什么？"
response2, history = model.chat(tokenizer, question2, history=history)

6. 实战案例：构建一个智能客服系统

让我们用一个完整的例子，看看如何用Prompt工程优化ChatGLM-6B在实际场景中的应用。

假设我们要构建一个电商客服机器人：

def create_customer_service_prompt(user_query, order_info=None):
    """构建客服Prompt模板"""
    
    base_prompt = """你是某电商平台的智能客服助手，专业、友好、乐于助人。
    
你的职责：
1. 解答用户关于订单、物流、退换货的问题
2. 提供产品咨询和建议
3. 处理用户投诉和反馈
4. 引导用户完成相关操作
    
回答要求：
- 每次回答以“亲爱的用户”开头
- 语气亲切但专业
- 如果涉及具体操作，请分步骤说明
- 如果无法解决，请引导联系人工客服
    
用户问题：{query}
"""
    
    # 如果有订单信息，添加到Prompt中
    if order_info:
        base_prompt += f"\n相关订单信息：{order_info}"
    
    return base_prompt.format(query=user_query)

# 使用示例
user_question = "我的订单什么时候能发货？"
order_details = "订单号：20231215001，商品：智能手机X1，下单时间：2023-12-15 10:30"

prompt = create_customer_service_prompt(user_question, order_details)
response, _ = model.chat(tokenizer, prompt, history=[])
print(response)

通过这样的Prompt设计，模型就能以客服的身份，用专业的语气回答用户问题，还能利用提供的订单信息给出更准确的回答。

7. 总结

用了一段时间ChatGLM-6B，最大的感受就是：Prompt工程真的能让这个模型的表现提升不少。虽然它只有6B参数，比不上那些动辄几百亿的大模型，但通过精心设计的Prompt，完全能满足很多实际场景的需求。

关键是要把模型当成一个需要明确指令的助手。你给它的指令越清晰、越具体，它完成得越好。刚开始可能需要多试几次，找到最适合你需求的Prompt写法，但一旦掌握了这些技巧，用起来就会顺手很多。

另外，不要指望一次Prompt就能完美解决所有问题。在实际应用中，可能需要根据不同的场景准备不同的Prompt模板，甚至结合Few-Shot示例和参数调整，才能达到最好的效果。

如果你刚开始接触Prompt工程，建议从简单的任务开始，先让模型完成明确、单一的工作，然后再尝试更复杂的场景。多实践、多调整，慢慢就能找到感觉了。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。