logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型Agent安全实践:Workspace沙箱隔离与全链路审计,规避AI自主运行核心风险21.2

摘要: 随着AI Agent能力升级,其自主决策与多场景操作能力(如文件处理、网络访问)带来显著效率提升,但伴随模型幻觉、越权操作、数据泄露等安全隐患。本文提出Workspace安全治理体系,通过沙箱隔离(环境独立/资源隔离)、精细化权限管控(最小权限/实时校验)和全链路审计(防篡改日志/溯源追责)三大模块协同,解决AI Agent特有风险。该体系适配大模型动态性,遵循零信任原则,弥补模型原生缺陷

文章图片
大模型Agent安全实践:Workspace沙箱隔离与全链路审计,规避AI自主运行核心风险21.2

摘要: 随着AI Agent能力升级,其自主决策与多场景操作能力(如文件处理、网络访问)带来显著效率提升,但伴随模型幻觉、越权操作、数据泄露等安全隐患。本文提出Workspace安全治理体系,通过沙箱隔离(环境独立/资源隔离)、精细化权限管控(最小权限/实时校验)和全链路审计(防篡改日志/溯源追责)三大模块协同,解决AI Agent特有风险。该体系适配大模型动态性,遵循零信任原则,弥补模型原生缺陷

文章图片
AI Agent量化评估:LLM-as-Judge、人工标注、A/B测试全解,智能体多维评测实践21.0

本文探讨了AI Agent开发中的评估体系构建问题。文章指出,虽然搭建Agent原型容易,但量化评估其性能、指导优化方向才是项目落地的关键难点。作者提出了一套完整的Agent评估方法论,包含三大评测技术(LLM-as-Judge、人工标注、A/B测试)和四大评估维度(功能准确性、服务性能、运行安全性、成本损耗)。通过多层次评测方案架构,实现从离线测试到线上验证的闭环迭代,解决传统试错式开发的弊端。

文章图片
#人工智能
AI Agent量化评估:LLM-as-Judge、人工标注、A/B测试全解,智能体多维评测实践21.0

本文探讨了AI Agent开发中的评估体系构建问题。文章指出,虽然搭建Agent原型容易,但量化评估其性能、指导优化方向才是项目落地的关键难点。作者提出了一套完整的Agent评估方法论,包含三大评测技术(LLM-as-Judge、人工标注、A/B测试)和四大评估维度(功能准确性、服务性能、运行安全性、成本损耗)。通过多层次评测方案架构,实现从离线测试到线上验证的闭环迭代,解决传统试错式开发的弊端。

文章图片
#人工智能
AI Agent量化评估:LLM-as-Judge、人工标注、A/B测试全解,智能体多维评测实践21.0

本文探讨了AI Agent开发中的评估体系构建问题。文章指出,虽然搭建Agent原型容易,但量化评估其性能、指导优化方向才是项目落地的关键难点。作者提出了一套完整的Agent评估方法论,包含三大评测技术(LLM-as-Judge、人工标注、A/B测试)和四大评估维度(功能准确性、服务性能、运行安全性、成本损耗)。通过多层次评测方案架构,实现从离线测试到线上验证的闭环迭代,解决传统试错式开发的弊端。

文章图片
#人工智能
从单智能体到多智能体:LangChain/LangGraph/AutoGen/CrewAI大模型架构原理20.2

本文深入探讨了四大主流大模型应用开发框架(LangChain、LangGraph、AutoGen、CrewAI)的演进历程、核心原理及应用实践。文章首先分析了原生API开发的三大痛点:能力局限、效率低下和架构混乱,进而提出分层技术解决方案:基础层(LangChain)提供组件化开发能力,流程层(LangGraph)实现任务编排优化,协作层(AutoGen/CrewAI)支持多智能体协同。通过对比单

文章图片
#人工智能
AI智能体Workflow深度解析:大模型多步骤任务编排原理、流程与落地实战方案20.5

摘要: AI智能体通过Workflow多步骤任务编排弥补了大模型单次调用的局限性(上下文有限、无规划性),实现复杂任务的自动化执行。其核心在于将模糊需求拆解为有序子任务,结合状态机与大模型动态决策,形成“规则兜底+智能微调”的闭环流程。示例展示了基于腾讯混元大模型的五步工作流(需求预处理→任务拆解→分步执行→结果校验→整合输出),验证了智能体在连贯执行、上下文记忆及异常处理上的优势。Workflo

文章图片
#人工智能
RTX4090单卡跑Qwen3-32B实践:4bit量化+Transformers与vLLM双方案部署差异.193

本文详细探讨了在RTX4090显卡(24GB显存)上部署Qwen3-32B大模型的实践方案。针对原生BF16精度加载需60GB显存的难题,采用BitsAndBytes的4bit量化技术,将显存占用压缩至15GB左右。通过对比HuggingFace Transformers和vLLM两套框架,发现vLLM凭借分页注意力机制(PagedAttention)实现显存高效复用,推理速度达11.3 toke

文章图片
分层配额显存共享方案:RTX4090运行ChatGLM2/3双模型,显存池化应用实践.194

本文介绍了一种在RTX4090显卡上实现ChatGLM2-6B和ChatGLM3-6B双模型并行部署的显存池化技术方案。该方案将24GB显存划分为64MB大小的分片单元,通过"保底+弹性"双轨分配机制,实现模型权重常驻显存锁定保护与推理动态显存灵活共享。关键技术包括:1)分片台账管理;2)优先级抢占调度;3)统一模型适配封装层;4)后台碎片合并与GC监控。实验表明,该方案可在单

文章图片
RTX4090适配ChatGLM3-6B本地私有化部署:前后端分离构建对话服务实战项目.197

本文介绍了一个基于ChatGLM3-6B大模型的本地化部署方案,采用FastAPI后端和Web前端实现完整对话系统。项目特点包括:1)适配RTX4090显卡,支持FP16半精度推理,显存占用优化;2)提供两种推理模式(一次性返回和SSE流式输出);3)内置完善监控系统,实时采集显存、Token生成速度等指标;4)兼容OpenAI API标准接口;5)包含可视化前端界面。系统采用四层架构设计,包含前

文章图片
    共 196 条
  • 1
  • 2
  • 3
  • 20
  • 请选择