logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

意图识别——全方位解析

本文从业务和架构角度探讨对话系统中意图识别的优化策略。业务上指出准确率需达90%以上才可用,95%后每提升1%都至关重要。架构层面提出三层处理流程:接入层预处理、意图识别层(含关键词匹配/轻量分类/LLM兜底三阶段)和业务逻辑层。优化方案包括:构建贴近真实用户的测试集、槽位类型标记、多意图拆分、多轮对话管理和意图切断机制。强调需定期分析错误案例持续优化,准确率提升对整体对话体验具有决定性影响。

#人工智能
物理内存 虚拟内存

是操作系统提供的一种内存管理技术,它使得应用程序认为自己有连续的、独立的内存空间,而实际上,这个虚拟内存可能部分存储在物理内存上,部分存储在 磁盘(如硬盘的交换分区或页面文件) 中。访问分页系统中内存数据需要两次的内存访问 :一次是从内存中访问页表,从中找到指定的物理页号,加上页内偏移得到实际物理地址,第二次就是根据第一次得到的物理地址访问内存取出数据。当一个程序访问的页(页面)不在物理内存中时,

#java#前端#数据库
FunctionCalling与MCP:大模型交互与工具执行的标准化

MCP 是一个开放协议,用于标准化应用程序向大语言模型(LLM)提供上下文的方式。你可以把 MCP 想象成 AI 应用的 USB-C 接口——正如 USB-C 提供了一种将设备连接到各种外设和配件的标准化方式一样,MCP 提供了一种将 AI 模型连接到不同数据源和工具的标准化方式。MCP的出现不是为了解决function calling的问题的(幻觉,提取不准确等问题依然可能出现),而是为了解决针

#服务器#网络#人工智能
FunctionCalling与MCP:大模型交互与工具执行的标准化

MCP 是一个开放协议,用于标准化应用程序向大语言模型(LLM)提供上下文的方式。你可以把 MCP 想象成 AI 应用的 USB-C 接口——正如 USB-C 提供了一种将设备连接到各种外设和配件的标准化方式一样,MCP 提供了一种将 AI 模型连接到不同数据源和工具的标准化方式。MCP的出现不是为了解决function calling的问题的(幻觉,提取不准确等问题依然可能出现),而是为了解决针

#服务器#网络#人工智能
Python 继承的两条路:ABC 与 Protocol,到底差在哪?

写 Python 的人迟早会碰到同一个问题:我想定义一套「契约」——规定某些类必须实现某些方法,然后让别的代码依赖这套契约而不是具体实现。从 Python 3.0 的 `abc` 模块,到 Python 3.8 引入的 `typing.Protocol`,官方前后给了两套机制。但很多人用了很久,仍说不清:为什么有时候要 `class Foo(ABC)`,有时候只要写个 `Protocol` 就够了

#python#开发语言
Prompt Caching VS KV Cache

KV Cache与Prompt Caching是大模型推理中的两种缓存技术。KV Cache主要优化单次对话内自回归生成的重复计算,通过缓存历史token的Key-Value对避免重复注意力计算,显著提升decode阶段效率。Prompt Caching则针对多轮对话复用固定前缀(如system prompt),通过哈希匹配直接复用已计算的KV张量,减少重复prefill消耗。两者协同工作——Pr

#人工智能
ReAct、CoT、Plan-and-Execute

CoT只适合纯推理场景,不具备调用工具和与外部交互的能力,完成推理仅依赖已有知识,如数学逻辑推理题、文本写作类等基于已有规则的问题。Final Answer:杭州 7 月单周平均降雨 28mm,宁波 42mm,宁波周降雨量比杭州多 14 毫米。执行阶段(Execute):遍历每一个子任务,并根据子任务需求调用工具执行,子任务内部采用循环模式。Observation:杭州未来 7 天 24~32℃,

#人工智能
harness system 设计——MCP层解析

本文介绍了Harness架构中MCP层与客户端的五种连接方式及其特点:1)本地进程通信(无网络);2)SSE长连接(单向HTTP1.1);3)HTTP短连接(REST POST);4)长轮询(伪长连接);5)WebSocket(全双工)。同时对比了RPC(JSON-RPC)和gRPC的实现差异,并分析了MCP协议的三种实现方案(本地进程/HTTP流式/SSE)及各自适用场景。最后补充了HTTP各版

#人工智能
RAG全链路拆解及优化

本文介绍RAG系统的构建与优化,分为存储、检索、优化三阶段。存储阶段处理文本后采用Elasticsearch同时支持关键词和向量检索,选用Qwen3-Embedding等模型进行2048维向量化。检索阶段结合KNN向量检索和BM25关键词检索,使用Deepseekchat生成回答。优化部分包括评估指标(召回率、准确率等)、问题定位(数据处理/召回策略/模型选择)及提升方案(GraphRAG/Lig

#java
到底了