
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
摘要: 随着AI Agent能力升级,其自主决策与多场景操作能力(如文件处理、网络访问)带来显著效率提升,但伴随模型幻觉、越权操作、数据泄露等安全隐患。本文提出Workspace安全治理体系,通过沙箱隔离(环境独立/资源隔离)、精细化权限管控(最小权限/实时校验)和全链路审计(防篡改日志/溯源追责)三大模块协同,解决AI Agent特有风险。该体系适配大模型动态性,遵循零信任原则,弥补模型原生缺陷

摘要: 随着AI Agent能力升级,其自主决策与多场景操作能力(如文件处理、网络访问)带来显著效率提升,但伴随模型幻觉、越权操作、数据泄露等安全隐患。本文提出Workspace安全治理体系,通过沙箱隔离(环境独立/资源隔离)、精细化权限管控(最小权限/实时校验)和全链路审计(防篡改日志/溯源追责)三大模块协同,解决AI Agent特有风险。该体系适配大模型动态性,遵循零信任原则,弥补模型原生缺陷

本文探讨了AI Agent开发中的评估体系构建问题。文章指出,虽然搭建Agent原型容易,但量化评估其性能、指导优化方向才是项目落地的关键难点。作者提出了一套完整的Agent评估方法论,包含三大评测技术(LLM-as-Judge、人工标注、A/B测试)和四大评估维度(功能准确性、服务性能、运行安全性、成本损耗)。通过多层次评测方案架构,实现从离线测试到线上验证的闭环迭代,解决传统试错式开发的弊端。

本文探讨了AI Agent开发中的评估体系构建问题。文章指出,虽然搭建Agent原型容易,但量化评估其性能、指导优化方向才是项目落地的关键难点。作者提出了一套完整的Agent评估方法论,包含三大评测技术(LLM-as-Judge、人工标注、A/B测试)和四大评估维度(功能准确性、服务性能、运行安全性、成本损耗)。通过多层次评测方案架构,实现从离线测试到线上验证的闭环迭代,解决传统试错式开发的弊端。

本文探讨了AI Agent开发中的评估体系构建问题。文章指出,虽然搭建Agent原型容易,但量化评估其性能、指导优化方向才是项目落地的关键难点。作者提出了一套完整的Agent评估方法论,包含三大评测技术(LLM-as-Judge、人工标注、A/B测试)和四大评估维度(功能准确性、服务性能、运行安全性、成本损耗)。通过多层次评测方案架构,实现从离线测试到线上验证的闭环迭代,解决传统试错式开发的弊端。

本文深入探讨了四大主流大模型应用开发框架(LangChain、LangGraph、AutoGen、CrewAI)的演进历程、核心原理及应用实践。文章首先分析了原生API开发的三大痛点:能力局限、效率低下和架构混乱,进而提出分层技术解决方案:基础层(LangChain)提供组件化开发能力,流程层(LangGraph)实现任务编排优化,协作层(AutoGen/CrewAI)支持多智能体协同。通过对比单

摘要: AI智能体通过Workflow多步骤任务编排弥补了大模型单次调用的局限性(上下文有限、无规划性),实现复杂任务的自动化执行。其核心在于将模糊需求拆解为有序子任务,结合状态机与大模型动态决策,形成“规则兜底+智能微调”的闭环流程。示例展示了基于腾讯混元大模型的五步工作流(需求预处理→任务拆解→分步执行→结果校验→整合输出),验证了智能体在连贯执行、上下文记忆及异常处理上的优势。Workflo

本文详细探讨了在RTX4090显卡(24GB显存)上部署Qwen3-32B大模型的实践方案。针对原生BF16精度加载需60GB显存的难题,采用BitsAndBytes的4bit量化技术,将显存占用压缩至15GB左右。通过对比HuggingFace Transformers和vLLM两套框架,发现vLLM凭借分页注意力机制(PagedAttention)实现显存高效复用,推理速度达11.3 toke

本文介绍了一种在RTX4090显卡上实现ChatGLM2-6B和ChatGLM3-6B双模型并行部署的显存池化技术方案。该方案将24GB显存划分为64MB大小的分片单元,通过"保底+弹性"双轨分配机制,实现模型权重常驻显存锁定保护与推理动态显存灵活共享。关键技术包括:1)分片台账管理;2)优先级抢占调度;3)统一模型适配封装层;4)后台碎片合并与GC监控。实验表明,该方案可在单

本文介绍了一个基于ChatGLM3-6B大模型的本地化部署方案,采用FastAPI后端和Web前端实现完整对话系统。项目特点包括:1)适配RTX4090显卡,支持FP16半精度推理,显存占用优化;2)提供两种推理模式(一次性返回和SSE流式输出);3)内置完善监控系统,实时采集显存、Token生成速度等指标;4)兼容OpenAI API标准接口;5)包含可视化前端界面。系统采用四层架构设计,包含前








