logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

vLLM 0.4.2 部署 Qwen2.5-7B:单卡RTX 4090实测,吞吐量提升3倍关键参数解析

本文详细解析了如何使用vLLM 0.4.2在单卡RTX 4090上高效部署Qwen2.5-7B大模型,通过关键参数调优实现吞吐量提升3倍的性能优化。重点介绍了内存管理、批处理参数及量化配置等核心技巧,为开发者提供实用的部署指南和性能对比数据。

#vLLM
AI Agent系统架构设计:从Prompt Engineering到Harness Engineering的演进

AI系统开发正从单点优化转向系统化设计,其中Harness Engineering作为新兴技术领域,专注于构建可靠的生产级AI Agent架构。其核心原理是通过系统提示词设计、工具执行框架、沙箱环境等组件,将语言模型转化为高效能的智能体。在技术价值层面,Harness Engineering解决了模型能力趋同背景下的系统可靠性问题,通过内存管理、反馈循环等机制提升AI工程化水平。应用场景涵盖企业级

AI智能体核心模块解析与开发实战指南

AI智能体作为结合大语言模型认知能力与行动API的智能系统,正在重塑自动化服务领域。其技术架构包含感知、认知、规划和执行四大核心模块,通过环境感知、自主决策和动作执行的闭环实现类人智能。在电商客服等场景中,智能体系统能显著提升响应速度与处理效率,如某平台实现72%会话自主处理。开发过程中需重点关注模块化设计、数据质量保障和性能优化,采用渐进式工具链选型策略。典型实践表明,合理的记忆管理和多智能体协

#AI智能体
企业级AI Agent SLA指标体系构建与优化实战

SLA(服务等级协议)是衡量AI系统服务质量的关键框架,尤其对具有不确定性的企业级AI Agent至关重要。传统基于确定性的SLA指标无法有效评估Agent的业务价值,需要构建涵盖业务价值、智能能力、合规安全等7个维度的新型指标体系。通过实时数据采集、多级告警策略和自动化根因分析,企业可以实现对Agent性能的精准监控。典型应用场景包括金融合同审查、电商客服等,某银行信贷审批Agent通过科学SL

从Prompt到Loop:构建AI Agent自动化工作流的核心架构与实战

在人工智能与软件工程深度融合的背景下,自动化工作流正成为提升开发效率的关键。其核心原理在于将传统的一次性指令交互,升级为具备感知、决策、执行与自检能力的闭环系统。这种转变的技术价值在于,它通过系统化的任务调度与执行,实现了人力的解放、流程的稳定与规模化的处理能力。在应用场景上,自动化工作流广泛适用于代码审查、缺陷修复、日常报告生成等重复性开发任务。本文聚焦于**Loop Engineering**

Python+OpenCV人脸检测实战教程

人脸检测是计算机视觉中的基础技术,通过分析图像特征识别面部位置。其核心原理是基于Haar特征的级联分类器,结合积分图加速计算,在保证准确率的同时提升检测效率。这项技术在安防监控、智能硬件、图像处理等领域有广泛应用价值。本文以Python+OpenCV为例,详细讲解如何使用预训练的Haar级联模型实现人脸检测,包括环境配置、核心代码实现、参数调优等实践内容,并针对实时视频流处理、多角度检测等场景提供

Windows原生AI智能体开发前瞻:从系统内核到应用场景的全面解析

智能体(Agent)作为人工智能领域的关键技术,正从独立应用向操作系统层面深度集成。其核心原理在于通过规划-执行-评估的循环,结合上下文感知与工具调用能力,实现自主任务处理。这一技术价值在于将传统的事件驱动应用升级为目标驱动的智能伙伴,显著提升自动化水平与人机协作效率。在应用场景上,它特别适用于企业流程自动化、个人生产力工具和系统运维管理等领域,能够串联复杂工作流并提供主动式辅助。微软在Windo

大语言模型技术解析:从Transformer原理到RAG应用实战

自然语言处理技术经历了从统计模型到深度学习的演进,其中Transformer架构通过自注意力机制解决了长距离依赖和并行计算难题,成为现代大语言模型的核心引擎。这一技术突破使得模型能够从海量文本数据中学习语言规律和世界知识,涌现出指令遵循、思维链推理等高级能力,在代码生成、内容创作、智能问答等场景展现出巨大价值。基于检索增强生成(RAG)的应用模式,结合向量数据库和提示工程技术,能够有效缓解模型幻觉

#RAG
从零构建具备持久记忆与技能自进化的AI智能体:Hermes Agent实战指南

在人工智能领域,智能体(AI Agent)是能够感知环境、自主决策并执行任务以实现目标的软件实体。其核心原理在于结合大语言模型的推理能力与外部工具的执行能力,通过规划、记忆和工具调用等机制完成复杂任务。这一技术价值在于将静态的对话模型转变为能持续学习、适应并解决实际问题的动态系统,极大地扩展了AI的应用边界。在软件开发自动化、个性化助手和智能运维等场景中,具备长期记忆和自主进化能力的智能体正成为关

GPTs Builder零代码实操指南:5步构建企业级专属对话助手

GPTs(Generative Pre-trained Transformers)是OpenAI推出的配置化智能体构建方式,区别于传统大模型微调或API调用,其核心在于角色指令(Instructions)、知识库(Knowledge)与工具集成(Actions)三层封装。这种‘配置即服务’模式大幅降低AI应用门槛,兼顾安全性、一致性与交付速度,适用于合同审查、课纲生成、多语言客服等强业务约束场景。

    共 23 条
  • 1
  • 2
  • 3
  • 请选择