logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

人工智能基础知识笔记十八:Prompt Engineering

摘要:提示词工程(Prompt Engineering)是设计优化输入提示以引导AI生成更精准输出的方法。由于AI模型的局限性及语言歧义性,清晰的提示词能激发模型潜力,提高回答质量。核心要素包括:角色扮演、明确任务、提供背景、输入数据及输出要求。文中提供了两个实用模板(角色-任务-步骤-输出、输入-处理-输出)并强调提示词工程是提升AI交互效率的关键技能,将成为未来重要的生产力工具。(150字)

文章图片
人工智能基础知识笔记十七:微调方法

全面微调训练所有参数性能潜力最大成本极高,灾难性遗忘算力无限,任务特殊适配器插入并训练小网络参数高效,模块化推理延迟,结构复杂需要快速切换多任务提示微调优化输入前缀极其高效,无结构改动占用上下文,效果不稳轻量级任务适配LoRA用低秩矩阵模拟权重更新高效、强效、零开销需选择秩r当前绝大多数场景的首选QLoRA量化 + LoRA极致的内存效率有极小的量化损失资源受限的个人或团队。

#人工智能
人工智能基础知识笔记十六:微调(Fine Tuning)

摘要:微调(Fine-Tuning)是对预训练大模型进行领域适配的再训练过程,使其从通用模型转变为特定领域的专家模型。相比提示词工程,微调能提供更稳定、专业的输出,但成本较高。微调步骤包括:明确任务目标、准备高质量数据集、选择合适模型与方法(如LoRA等高效微调技术)、配置训练参数、评估模型表现。提示词工程适用于简单任务,而专业化和高可靠性需求则需考虑微调。

#人工智能
人工智能基础知识笔记十四:文本转换成向量

文本向量化是自然语言处理的关键步骤,将文本转换为数值向量以供机器学习模型处理。主要方法包括:基于词频的BoW和TF-IDF,简单高效但无法捕捉语义;词嵌入方法(Word2Vec、GloVe)通过预测上下文或全局统计生成低维稠密向量,能表达语义关系但无法处理多义词;动态嵌入技术(ELMo、BERT)利用深度学习生成上下文相关向量,性能优越但计算成本高;FastText和Doc2Vec则分别针对未登录

#人工智能
人工智能基础知识笔记八:数据预处理

在进行数据分析之前,数据预处理是一个至关重要的步骤。它包括了数据清洗、转换和特征工程等过程,以确保数据的质量并提高模型的性能。数据预处理是机器学习和数据分析中至关重要的步骤,其中分类变量的编码是核心任务之一。本文详细讲解四种常用编码方法(One-Hot Encoding、Label Encoding、Frequency Encoding、Target Encoding)。

文章图片
#人工智能
人工智能基础知识笔记十三:数据清理

本文系统介绍了大型语言模型(LLM)训练前的数据清理方法。主要内容包括:1)文本规范化(大小写处理、特殊字符去除、缩写恢复、停用词过滤);2)噪声数据去除(HTML标签、URL、重复内容等);3)语言检测与过滤;4)分词与标记化技术;5)数据去重、长度过滤、毒性内容检测等关键技术。文章还提供了完整的Python代码示例,涵盖NLTK、BeautifulSoup、transformers等工具库的使

#人工智能
人工智能基础知识笔记七:随机变量的几种分布

随机变量的分布研究的是随机变量在某些离散点或某个区间取值时的概率,即概率分布或分布律,主要包括正态分布、二项分布、泊松分布、均匀分布、卡方分布、Beta 分布等。

#人工智能#概率论
人工智能基础知识笔记七:随机变量的几种分布

随机变量的分布研究的是随机变量在某些离散点或某个区间取值时的概率,即概率分布或分布律,主要包括正态分布、二项分布、泊松分布、均匀分布、卡方分布、Beta 分布等。

#人工智能#概率论
人工智能基础知识笔记四:聚类分析

在原型聚类中,属于某一簇的数据与定义这一簇的原型的点具有更近的距离或更大的相似性,而与属于其他簇的原型点具有较远的距离或较小的相似性。数据点分布密集的区域,拥有较高的密度;在聚类树中,不同类别的原始数据点是树的最低层,树的中间结点是聚合的一些簇,树的根结点对应多数据点的聚类。对于原型聚类算法的实现,通常要先对原型进行初始化,确定每个簇的中心点,然后计算属于每个簇的数据点划分,最后根据新计算的簇,计

文章图片
#人工智能
人工智能基础知识笔记二:激活函数

不论神经网络的层数有多少,任何线性函数的线性组合仍然是线性的,在一张纸上证明它是正确的并不难。使用非线性激活函数,可以将线性作用变成非线性作用,在输入输出之间生成非线性映射,使神经网络更加复杂,可以表示输人输出之间非线性的复杂的任意函数映射,可以描述复杂的表单数据,甚至可以具有学习复杂事物的能力。激活函数(Activation Function)又称激励函数,是在人工神经网络(Artifcial

文章图片
#人工智能
    共 30 条
  • 1
  • 2
  • 3
  • 请选择