logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Cursor、Claude Code、Codex 三剑客:如何用 AI 编程工具加速产品迭代与技术方案设计

工具一句话总结Cursor你的“首席架构师”和“全栈助手”,适合复杂任务与技术方案设计你的“终端自动化专家”,批量操作、分析和修 Bug 一把好手你的“第二双手”,随时待命,让编码行云流水三者结合,不是简单叠加,而是设计 → 实现 → 调试 → 文档全链路的效率跃升。希望本文的实战经验能帮助你尽快上手,让 AI 真正成为你技术方案落地的加速器。(本文代码已在 Python 3.11 + LangC

文章图片
#人工智能
大模型“金鱼脑”终结者!AI Agent短期记忆与长期记忆机制设计及LangChain状态管理源码剖析

本文深入探讨了构建AI智能体时的记忆机制设计,重点分析了LangChain框架中的短期与长期记忆实现方案。文章指出大模型本质上是无状态的,需要通过外部系统存储对话历史并动态拼接至提示词中。 在短期记忆部分,介绍了四种实现策略: ConversationBufferMemory(全量记忆) ConversationBufferWindowMemory(滑动窗口记忆) ConversationToke

文章图片
#人工智能#microsoft
大模型“金鱼脑”终结者!AI Agent短期记忆与长期记忆机制设计及LangChain状态管理源码剖析

本文深入探讨了构建AI智能体时的记忆机制设计,重点分析了LangChain框架中的短期与长期记忆实现方案。文章指出大模型本质上是无状态的,需要通过外部系统存储对话历史并动态拼接至提示词中。 在短期记忆部分,介绍了四种实现策略: ConversationBufferMemory(全量记忆) ConversationBufferWindowMemory(滑动窗口记忆) ConversationToke

文章图片
#人工智能#microsoft
Prompt注入与工具越权:面向企业级Agent的安全防护框架设计与实践

摘要: AI Agent的自主性带来安全挑战,核心风险是Prompt注入(恶意指令伪装输入)和工具越权(滥用权限执行高危操作)。防御需构建三层防护体系: 输入层:检测拦截Prompt注入(直接/间接); 工具层:动态权限控制,高危操作需人工审批; 输出层:敏感数据脱敏。通过规则引擎(如OPA)和开源工具(如buzur、agenttoolguard)实现主动防御,确保Agent安全执行任务。

文章图片
#安全
Prompt注入与工具越权:面向企业级Agent的安全防护框架设计与实践

摘要: AI Agent的自主性带来安全挑战,核心风险是Prompt注入(恶意指令伪装输入)和工具越权(滥用权限执行高危操作)。防御需构建三层防护体系: 输入层:检测拦截Prompt注入(直接/间接); 工具层:动态权限控制,高危操作需人工审批; 输出层:敏感数据脱敏。通过规则引擎(如OPA)和开源工具(如buzur、agenttoolguard)实现主动防御,确保Agent安全执行任务。

文章图片
#安全
生成式多模态大模型:从微调推理到业务应用

摘要: 本文系统探讨了生成式多模态大模型的技术体系与落地实践,涵盖训练优化、数据构建、场景应用与工程部署全链路。多模态大模型通过预训练(对比学习与生成式学习结合)、指令微调(SFT)、LoRA高效适配和RLHF后训练形成完整技术闭环,解决跨模态语义对齐与生成质量优化问题。数据层面提出多模态采集、清洗与标注方案,构建适配不同训练阶段的专用数据集。在视频生成、图像创作、多模态对话等场景中,模型需针对性

文章图片
#python#django
工业大模型算法与架构设计

摘要:工业场景对高精度物理仿真和工程计算的需求推动了AI与工程科学的深度融合。工业大模型需突破通用模型的局限,精准处理几何网格、仿真数据等复杂结构,同时满足物理一致性、训练效率和工程落地要求。本文系统探讨了工业仿真大模型的算法设计(如Transformer、图神经网络)、架构优化(分层模块设计)、训练策略(物理约束嵌入、分布式训练)及前沿技术(AI4Science、几何深度学习)的落地路径,为AI

文章图片
#算法
大模型端侧部署:从模型压缩到推理加速

摘要:本文针对大语言模型在端侧设备部署面临的算力、内存和存储资源限制,提出一套全链路轻量化优化体系。通过知识蒸馏实现模型规模精简(7B→1B-2B),结合结构化剪枝剔除冗余参数,采用分组混合量化(关键层FP16/普通层INT4)将模型体积压缩至原生9.2%。配套算子融合、KV缓存优化和动态批处理等推理加速技术,最终在移动端实现180ms低时延推理,MMLU准确率保留44.8%。实验表明,该多阶段组

文章图片
#python#pip#大数据 +4
从零搭建大模型应用:Python、NLP 与 LangChain 项目实战

本文介绍如何基于LangChain框架从零构建私有知识库问答系统。主要内容包括:1) Python开发环境配置与核心依赖安装;2) NLP基础概念讲解(文本预处理、词向量等);3) LangChain核心模块详解(LLM封装、提示词模板、文档加载器、文本分块器等);4) 完整实现RAG(检索增强生成)流程。项目采用OpenAI API、ChromaDB向量数据库等技术栈,适合开发者快速掌握大模型应

文章图片
#python#自然语言处理#pygame +3
别再瞎用 Prompt 了!3 个迭代技巧,让大模型响应速度提升 3 倍

摘要: 大模型响应速度慢的常见原因并非硬件算力不足,而是低效的Prompt设计。本文通过分析大模型推理的Prefill(计算密集型)和Decode(内存带宽瓶颈)两个阶段,指出冗余Prompt会显著增加延迟和显存占用。提出三大优化技巧: 精简指令:删除客套话、软描述,采用字段化结构,减少80%无效Token,首Token延迟下降45%。 约束输出:强制格式/长度,结合Few-shot示例,减少70

文章图片
#人工智能#python#pycharm
    共 26 条
  • 1
  • 2
  • 3
  • 请选择