logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型微调实战指南

摘要:本文介绍了大模型微调的基本原理和方法。主要内容包括:1. 大模型训练的核心是对下一个token进行分类预测,使用交叉熵损失计算;2. 微调方法分为全参数微调、参数高效微调(PEFT/LoRA)和提示微调三种,分别适用于不同数据量和资源场景;3. 详细介绍了使用Transformers、PEFT等框架进行微调的具体实现步骤;4. 对比了不同微调方法的优缺点和适用场景,全参数微调性能最优但资源消

#深度学习#vscode#人工智能
大模型API调用及部署服务实战指南

调用大模型API是指:直接使调用第三方提供(的或者导入的是 OpenAI 开发的 Python SDK(软件开发工具包),本质是一套封装好的 HTTP 请求工具,方便开发者调用符合其规范的 API。

#vscode#人工智能#vLLM
Agent_Skill_MCP区别与发展顺序

当 Agent 和 Skill 都需要连接文件、浏览器、数据库、企业系统等真实资源时,就需要一种统一标准。MCP 正是为了解决连接问题而出现的。Agent 决定并执行,Skill 教它怎么专业地做,MCP 帮它连接真实世界。

#人工智能#语言模型#数据分析 +1
小白也能看懂的Transformer解析

下面以 “我爱你。→ I LOVE YOU.” 的翻译任务为例,详细拆解 Transformer 架构的每一步处理过程:作用:将离散的 Token 映射为连续的低维向量(更容易捕捉语义信息)。必要性?Transformer 是并行处理序列的(无循环结构),无法像 RNN 那样自然捕捉顺序,位置编码通过正弦余弦函数注入位置信息,让模型区分不同位置的 Token。Transformer 是并行处理序列

#transformer#深度学习#人工智能 +1
到底了