【大模型】提示词工程
·
提示词工程概述
提示工程(prompt engineering),也称为in-context prompting,是指不更新模型权重的情况下,让模型给出更精准的结果。
- 详细的描述
- 让模型充当某个角色
- 使用分隔符标明输入的不同部分
使用中括号、分隔符、三引号等来区隔不同部分的文本 - 对任务指定步骤
- 提供例子
类似于few-shot learning,先给模型距离,然后让模型按照示例来输出。 - 参考文本作答
经典知识库用法,让大模型使用提供的信息来组成答案。辅助大模型回答,从而降低模型“幻觉”。
实战案例
针对金融数据进行深度分析,从而获得一些有效的决策和帮助。主要场景:金融文本分类;金融文本信息抽取;金融文本匹配。
zero-shot思想
是指在训练阶段不存在与测试阶段完全相同的类别,但是模型可以使用训练过的知识俩推广到新的类别上。
也就是在训练时,结合已由特征的组合来识别新类别。这种能力被称为“零样本”学习。
- 在提示词优化中使用zero-shot思想,基于已训练的能力,不提供任何示例,仅通过语言来描述任务的要求、目标和约束,让模型直接生成结果。
比如判断对应的评价是否为正面或负面。将评价根据语义进行二分类。
few-shot思想
少样本学习,当模型在学习了一定类别的大量数据后,对于新的类别,只需要少量的样本就能快速学习,对应的有one-shot leaning,单样本学习,
- 在提示词优化上,可以基于few-shot 思想,给出一个样例,基于样例来推广当前样例。
文本分类任务
对不同的文本进行分类。代码如下:
from openai import OpenAI
examples_data = { # 示例数据
'新闻报道': '今日,股市经历了一轮震荡,受到宏观经济数据和全球贸易紧张局势的影响。投资者密切关注美联储可能的政策调整,以适应市场的不确定性。',
'财务报告': '本公司年度财务报告显示,去年公司实现了稳步增长的盈利,同时资产负债表呈现强劲的状况。经济环境的稳定和管理层的有效战略执行为公司的健康发展奠定了基础。',
'公司公告': '本公司高兴地宣布成功完成最新一轮并购交易,收购了一家在人工智能领域领先的公司。这一战略举措将有助于扩大我们的业务领域,提高市场竞争力',
'分析师报告': '最新的行业分析报告指出,科技公司的创新将成为未来增长的主要推动力。云计算、人工智能和数字化转型被认为是引领行业发展的关键因素,投资者应关注这些趋势'
}
messages = [
{"role": "system",
"content": "你是金融专家,将文本分类为['新闻报道', '财务报道', '公司公告', '分析师报告'],不清楚的分类为'不清楚类别' 下面有示例:"},
]
for key, value in examples_data.items():
messages.append({"role": "user", "content": value})
messages.append({"role": "assistant", "content": key})
# 提问数据
questions = [
"今日,央行发布公告宣布降低利率,以刺激经济增长。这一降息举措将影响贷款利率,并在未来几个季度内对金融市场产生影响。",
"ABC公司今日发布公告称,已成功完成对XYZ公司股权的收购交易。本次交易是ABC公司在扩大业务范围、加强市场竞争力方面的重要举措。据悉,此次收购将进一步巩固ABC公司在行业中的地位,并为未来业务发展提供更广阔的发展空间。详情请见公司官方网站公告栏",
"公司资产负债表显示,公司偿债能力强劲,现金流充足,为未来投资和扩张提供了坚实的财务基础。",
"最新的分析报告指出,可再生能源行业预计将在未来几年经历持续增长,投资者应该关注这一领域的投资机会",
"小明喜欢小新哟"
]
client = OpenAI(
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"
)
# 对每个问题逐个提问
for question in questions:
resp = client.chat.completions.create(
model="deepseek-v3",
messages=messages+[{"role":"user","content":f"按照示例,回答这段文本的分类类别:{question}"}]
)
print(resp.choices[0].message.content)
信息抽取任务
prompt中需要考虑两点:向模型解释什么是信息抽取任务,需要让模型按照我们指定的格式JSON输出。
from openai import OpenAI
import json
client = OpenAI(
# base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"
base_url="http://localhost:11434/v1"
)
schema = ['日期', '股票名称', '开盘价', '收盘价', '成交量']
examples_data = [ # 示例数据
{
"content": "2023-01-10,股市震荡。股票强大科技A股今日开盘价100人民币,一度飙升至105人民币,随后回落至98人民币,最终以102人民币收盘,成交量达到520000。",
"answers": {
"日期": "2023-01-10",
"股票名称": "强大科技A股",
"开盘价": "100人民币",
"收盘价": "102人民币",
"成交量": "520000"
}
},
{
"content": "2024-05-16,股市利好。股票英伟达美股今日开盘价105美元,一度飙升至109美元,随后回落至100美元,最终以116美元收盘,成交量达到3560000。",
"answers": {
"日期": "2024-05-16",
"股票名称": "英伟达美股",
"开盘价": "105美元",
"收盘价": "116美元",
"成交量": "3560000"
}
}
]
questions = [ # 提问问题
"2025-06-16,股市利好。股票传智教育A股今日开盘价66人民币,一度飙升至70人民币,随后回落至65人民币,最终以68人民币收盘,成交量达到123000。",
"2025-06-06,股市利好。股票黑马程序员A股今日开盘价200人民币,一度飙升至211人民币,随后回落至201人民币,最终以206人民币收盘。"
]
messages = [
{"role": "system",
"content": f"你帮我完成信息抽取,我给你句子,你抽取{schema}信息,按JSON字符串输出,如果某些信息不存在,用'原文未提及'表示,请参考如下示例:"}
]
for example in examples_data:
messages.append(
{"role": "user", "content": example["content"]}
)
messages.append(
{"role": "assistant", "content": json.dumps(example["answers"], ensure_ascii=False)}
)
for question in questions:
resp = client.chat.completions.create(
# model="deepseek-v3",
model="deepseek-r1:32b",
messages=messages + [{"role": "user", "content": f"按照上述的实力,现在抽取这个句子的信息:{question}"}],
)
print(resp.choices[0].message.content)
信息文本匹配任务
1.(‘股票市场今日大涨,投资者乐观。’, ‘持续上涨的市场让投资者感到满意。’),
2.(‘油价大幅下跌,能源公司面临挑战。’, ‘未来智能城市的建设趋势愈发明显。’),
3.(‘利率上升,影响房地产市场。’, ‘高利率对房地产有一定冲击。’),
我们期望模型能够帮我们识别出成对的句子中,2句话是否是有关联的。
我们期望模型输出的结果为:[‘是’, ‘不是’, ‘是’]
from openai import OpenAI
client = OpenAI(
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"
# base_url="http://localhost:11434/v1"
)
examples_data = {
"是": [
("公司ABC发布了季度财报,显示盈利增长。", "财报披露,公司ABC利润上升。"),
("公司ITCAST发布了年度财报,显示盈利大幅度增长。", "财报披露,公司ITCAST更赚钱了。")
],
"不是": [
("黄金价格下跌,投资者抛售。", "外汇市场交易额创下新高。"),
("央行降息,刺激经济增长。", "新能源技术的创新。")
]
}
questions = [
("利率上升,影响房地产市场。", "高利率对房地产有一定的冲击。"),
("油价大幅度下跌,能源公司面临挑战。", "未来智能城市的建设趋势越加明显。"),
("股票市场今日大涨,投资者乐观。", "持续上涨的市场让投资者感到满意。")
]
"""
{"role": "system", "content": f"你帮我完成文本匹配,我给你2个句子,被[]包围,你判断它们是否匹配,回答是或不是,请参考如下示例:"},
{"role": "user", "content": "句子1:[公司ABC发布了季度财报,显示盈利增长。]句子2:[财报披露,公司ABC利润上升。]"},
{"role": "assistant", "content": "是"},
{"role": "user", "content": "句子1:[公司ITCAST发布了年度财报,显示盈利大幅度增长。]句子2:[财报披露,公司ITCAST更赚钱了。]"},
{"role": "assistant", "content": "是"},
{"role": "user", "content": "句子1:[黄金价格下跌,投资者抛售。]句子2:[外汇市场交易额创下新高。]"},
{"role": "assistant", "content": "不是"},
{"role": "user", "content": "句子1:[央行降息,刺激经济增长。]句子2:[新能源技术的创新。]"},
{"role": "assistant", "content": "不是"},
{"role": "user", "content": f"按照上述示例,回答这2个句子的情况。句子1: [...],句子2: [...]"}
"""
messages = [
{"role": "system",
"content": f"你帮我完成文本匹配,我给你2个句子,被[]包围,你判断它们是否匹配,回答是或不是,请参考如下示例:"},
]
for key, value in examples_data.items():
for t in value:
messages.append(
{"role": "user", "content": f"句子1:[{t[0]}],句子2:[{t[1]}]"}
)
messages.append(
{"role": "assistant", "content": key}
)
for q in questions:
response = client.chat.completions.create(
model="deepseek-v3",
messages=messages + [{"role": "user", "content": f"句子1:[{q[0]}],句子2:[{q[1]}]"}]
)
print(response.choices[0].message.content)
更多推荐
所有评论(0)