logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【RAG】RAGAS 评估框架与 Python 代码实践

RAGAS评估框架摘要 RAGAS是业界主流的RAG系统自动化评估框架,解决了传统评估中的两大痛点:主观盲测和线上同步打分代价高。其核心思路是解耦评估系统,利用大模型作为异步裁判进行离线审计。 框架包含四项关键指标: Faithfulness(0-1分):检测回答是否基于检索内容,避免幻觉 Answer Relevancy(0-1分):评估回答与问题的相关性 Context Precision(0

#python#开发语言#AIGC +1
【Agent】如何为 AI Agent 设计高可用的 Tools

摘要 本文探讨了如何为AI Agent设计高可用工具(Tools)的核心原则与方法。文章指出,工具是连接大语言模型与外部系统的关键桥梁,其设计质量直接影响Agent的实际效能。作者提出四大黄金法则:1) 原子化设计原则,2) 精准描述Docstring,3) 强类型参数约束,4) 防御性错误处理。同时分析了工具调用技术从文本匹配到原生JSON结构的演进过程,强调现代框架如LangGraph的优势。

#人工智能#AIGC#RAG
【向量数据库】Milvus 稠密与稀疏向量核心解析

本文解析了Milvus中稠密向量与稀疏向量的核心概念与应用。稠密向量擅长语义理解,表现为固定长度的高维浮点数组;稀疏向量则专注于精准字面匹配,采用权重矩阵结构。文章详细阐述了L2、COSINE和IP三种距离度量方式的适用场景,以及归一化带来的性能优化。特别强调了BM25稀疏向量的抗噪机制和多路混合检索的实现逻辑,包括Python代码示例。最后指出生产环境中必须保持模型一致性,并提供了不同业务场景下

#数据库#milvus#人工智能
【RAG】Milvus 混合检索参数调优:ef / candidate_k / final_k 详解

本文详细介绍了Milvus混合检索中的三个关键调优参数:ef、candidate_k和final_k。final_k是最终返回结果数,candidate_k是每路检索的候选条数,ef控制HNSW算法的搜索范围。三者呈层级关系:ef≥candidate_k≥final_k。文章通过代码示例展示了参数的实际应用,解释了candidate_k需要大于final_k的原因(防止优质结果被遗漏),并深入分析

#milvus#网络#RAG
【Redis】三种缓存问题(穿透、击穿、双删)的 Golang 实践

本文介绍了Redis缓存三大问题(穿透、击穿、双删)的Golang解决方案。针对缓存穿透问题,通过缓存空值和布隆过滤器来防护无效查询;针对缓存击穿问题,采用互斥锁机制确保热点key失效时只有一个请求能访问数据库;针对缓存一致性问题,使用延迟双删策略保证数据同步。文中提供了用户查询和商品查询两个具体场景的Golang实现示例,包含完整的代码实现和关键逻辑说明,如空值缓存有效期设置、互斥锁控制等核心要

#缓存#redis#golang
【Agent】ReAct 核心架构与设计哲学

Reasoning(推理)Acting(行动)ReAct\text{Reasoning(推理)} + \text{Acting(行动)} = \text{ReAct}Reasoning(推理)Acting(行动)ReAct以 CoT 为代表。模型在脑海中一步步推导(如:“第一步应该…,第二步应该…”),但由于完全不与外部环境交互,一旦遇到知识盲区,只能盲目续写。以早期的 API 联动为代表。

#架构#AIGC#RAG
【Agent】智能客服系统设计要点

本文总结了智能客服系统的设计要点,分为五个部分: 系统定位与架构分层:强调智能客服是嵌入现有客服体系的AI入口,采用LLM Agent+RAG+业务集成+渠道UI的技术栈,需分离Agent运行时状态和业务实体状态。 安全模型:指出Prompt不能作为写操作的安全边界,必须结合代码硬约束(如RBAC、状态机等),并给出读/写操作的安全防线优先级。 业务能力边界:明确智能客服主要承担查询和申请受理角色

#后端#架构#python
【大模型对话】大模型对话送审核心知识点

在对话流程中,将用户提问和模型流式生成的回答提交至内容审核服务,通过异步事件回调驱动业务侧中断输出、通知客户端、记录审计日志。阶段送审内容触发时机输入送审用户问题发起 LLM 请求前输出送审累积的回答文本每个流式 chunk 到达时双端送审— 输入 + 输出均覆盖,降低内容风险漏检异步非阻塞— 审核与流式生成并行,事件驱动打断灰度可控— 配置白名单 + 热更新,按应用 / 租户逐步放量多语言适配—

#人工智能#AIGC#golang
【Agent】如何为 AI Agent 设计高可用的 Tools

摘要 本文探讨了如何为AI Agent设计高可用工具(Tools)的核心原则与方法。文章指出,工具是连接大语言模型与外部系统的关键桥梁,其设计质量直接影响Agent的实际效能。作者提出四大黄金法则:1) 原子化设计原则,2) 精准描述Docstring,3) 强类型参数约束,4) 防御性错误处理。同时分析了工具调用技术从文本匹配到原生JSON结构的演进过程,强调现代框架如LangGraph的优势。

#人工智能#AIGC#RAG
【向量数据库】Milvus 稠密与稀疏向量核心解析

本文解析了Milvus中稠密向量与稀疏向量的核心概念与应用。稠密向量擅长语义理解,表现为固定长度的高维浮点数组;稀疏向量则专注于精准字面匹配,采用权重矩阵结构。文章详细阐述了L2、COSINE和IP三种距离度量方式的适用场景,以及归一化带来的性能优化。特别强调了BM25稀疏向量的抗噪机制和多路混合检索的实现逻辑,包括Python代码示例。最后指出生产环境中必须保持模型一致性,并提供了不同业务场景下

#数据库#milvus#人工智能
    共 13 条
  • 1
  • 2
  • 请选择