logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LLM模型开发教程(十六)Agent核心技术(ReAct,FunctionCall,Tool Json Schema)

给 LLM 装上“外挂”,让它能查资料、用工具。

#AI
LLM模型开发教程(十七)MCP/A2A/Memory一篇搞定(文末附源码)

MCP(Model Context Protocol)是一个开源标准协议,旨在标准化AI模型(Agent)与外部系统之间的连接。它采用类似USB接口的统一标准,解决传统集成中的碎片化问题,降低开发维护成本。MCP基于JSON-RPC 2.0协议,支持多种传输方式(HTTP/HTTPS、IPC等),实现Client(客户端)与Server(服务端)的安全高效通信。其核心价值包括即插即用、安全隔离和促

#AI#MCP
LLM模型开发教程(二)内功筑基

本文摘要: 深度学习开发环境配置指南,包含关键软件包安装、硬件配置建议和效率工具推荐。主要内容包括: 开发环境搭建:列出PyTorch、Transformers等核心包的指定版本及安装命令,强调Python 3.10.18环境要求。 硬件配置方案:对比NVIDIA与AMD显卡性能,推荐RTX4090等配置,提供完整硬件选型表。 免费GPU资源:汇总阿里云、Kaggle和Google Colab的免

#深度学习#AI
LLM模型开发教程(十七)MCP/A2A/Memory一篇搞定(文末附源码)

MCP(Model Context Protocol)是一个开源标准协议,旨在标准化AI模型(Agent)与外部系统之间的连接。它采用类似USB接口的统一标准,解决传统集成中的碎片化问题,降低开发维护成本。MCP基于JSON-RPC 2.0协议,支持多种传输方式(HTTP/HTTPS、IPC等),实现Client(客户端)与Server(服务端)的安全高效通信。其核心价值包括即插即用、安全隔离和促

#AI#MCP
LLM模型开发教程(十六)Agent核心技术(ReAct,FunctionCall,Tool Json Schema)

给 LLM 装上“外挂”,让它能查资料、用工具。

#AI
LLM模型开发教程(十五)RAG核心技术和RAG与蒸馏/微调的选型建议

摘要:RAG技术通过检索增强生成,解决大模型的三大缺陷:幻觉、知识滞后和数据隐私问题。关键环节包括文档切割(推荐递归字符分割算法)、向量数据库选型(Milvus适合大规模,Qdrant适合轻量级),以及参数调优策略(合理设置chunk_size和重叠度)。特别针对中文场景,需调整分隔符并防范信息割裂风险。该技术可有效提升大模型在专业领域的可靠性和实用性。

#AI#RAG#milvus
LLM模型开发教程(十)Transformer架构核心原理解读(一文搞定)

Transformer是一种革命性的序列模型,通过注意力机制取代传统循环结构,解决了RNN/LSTM训练慢和长距离依赖难的问题。其核心技术包括: 位置编码:在输入层添加位置信息,使模型感知词序 多头注意力:并行捕捉语法、语义等多种关系 残差连接:稳定深层网络训练,防止信息丢失 架构采用Encoder-Decoder框架,支持序列到序列任务(如机器翻译)。Encoder处理输入时保持token位置不

#transformer#深度学习#人工智能 +1
LLM模型开发教程(九)注意力机制解读(一文拿下)

摘要 注意力机制是现代深度学习的核心技术,通过动态权重分配实现信息聚焦。其核心原理是计算输入词之间的相关性(注意力权重),加权融合关键信息。相比RNN的顺序处理,注意力机制能并行计算所有词汇间的关联,直接建立长距离依赖关系。该机制包含Q(查询)、K(键)、V(值)三要素:Q与K计算相似度得分,softmax归一化为权重后与V加权求和输出。注意力机制解决了RNN的两大痛点:长距离依赖和并行计算问题,

#AI#transformer
LLM模型开发教程(五)模型训练基础

本文介绍了使用HuggingFace平台训练GPT2模型的完整流程。主要内容包括:1)HuggingFace平台的核心价值,包括丰富的预训练模型资源和便捷的Transformers库;2)LLM训练的两个关键阶段:预训练(自监督学习海量文本)和微调(有监督学习特定任务);3)大模型工作原理,重点解析了自回归生成、掩码机制等核心技术原理;4)训练与推理阶段的区别,训练阶段通过因果掩码学习预测下一个t

#AI
LLM模型开发教程(二)内功筑基

深度学习开发环境配置与硬件指南 本文提供了深度学习开发环境配置的完整指南,包括: Python包安装:详细列出torch、transformers等核心包的版本及安装命令 硬件配置推荐:对比NVIDIA/AMD显卡、Intel/AMD处理器等硬件选择 免费GPU资源:阿里云、Kaggle和Google Colab的获取方式 效率工具:介绍国内外代码生成工具和主流AI模型平台 深度学习基础:解释人工

#深度学习#AI
    共 12 条
  • 1
  • 2
  • 请选择