
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
原因很实际:团队对ES太熟了,不需要额外学习成本,而且我们除了语义检索,还需要大量基于关键词的精确匹配(比如搜索设备编号"MC-2024-0087"这种,向量检索一塌糊涂)。**重排序是关键**。结果模型在各种"编造",尤其是当参考资料不包含答案时,它会强行凑一个似是而非的回答。原因是大量用户问的是"XX设备的维护流程是什么",这种问题里的"XX设备"是专有名词,向量检索无法精确匹配。最终选bge
*踩坑提醒**:script_score方式会对全库做cosine计算,数据量大了之后单次查询可能超过30秒。**方案一:批处理。** 单次推理改成batch推理,30对一起过,延迟从1.2秒降到0.4秒。** 30个候选减少到20个,rerank延迟降到0.25秒。m=16,ef_construction=100是平衡召回率和索引速度的参数,实测这个配置下索引速度约800条/秒,召回率比flat
*表格处理**:PDFPlumber的extract_table()对有线表格效果不错,但对无线表格(用空格对齐的那种)基本无效。调参依据:看解析出来的文本里有没有"今 天 天 气 不 错"这种被空格隔开的词,有就调大x_tolerance。**性能优化**:1.8万份扫描PDF,每份平均15页,单机跑完需要约45天。**问题**:很多文档没有标题结构(如Excel导出的数据、扫描PDF的纯文本)
*避坑提醒**:测试集必须和训练数据隔离。后来用文档ID做了严格隔离,确保测试query对应的ground_truth_docs不在任何人的训练数据里。输出JSON格式:{{"accuracy": x, "completeness": x, "conciseness": x, "overall": x}}** 如果判断为knowledge gap,触发文档补录流程,通知对应的业务部门负责人补充资料
bge-large-zh-v1.5的tokenizer默认max_length是512,但我们的chunk平均486字符(约350个token),问题不大。我们选了**ES + HNSW**,原因很简单:团队对ES最熟,而且ES的dense_vector从8.11开始支持HNSW索引,同时还能做BM25关键词检索,混合检索天然支持。**分片数为什么是6**:数据量约7000万条,单个分片建议不超过
比如"MC-2023"被改写成"MC-2023数控机床主轴驱动参数",加了"数控机床"和"主轴驱动"——如果用户其实想问的是这个设备的维修记录呢?文档里写的是"主轴驱动模块电源输入电压范围180-264VAC",用户问的是"这玩意儿电压要多少"。"温度""电压""报警"这种单个词的query,给什么模型都救不了。patterns = ['它', '该', '其', '那个', '这个', '上述'
本文基于当前产业落地实践,系统拆解 AI Agent 核心架构、关键技术、工程落地路径与典型场景方案,详细阐述神经符号融合、动态 MoE 路由、反思式记忆、多智能体协同等关键技术,结合金融、办公、工业、客服等真实落地案例,给出一套可直接部署、低门槛接入、高稳定性的企业级 Agent 建设方案。智能体以大模型为认知底座,具备感知、规划、推理、执行、反思全闭环能力,能够像人类员工一样理解目标、拆解任务
过去几年,大模型的爆发让大众快速认识了人工智能。但早期AI存在非常明显的短板:只能根据用户输入被动生成文本、图片、代码,无法自主规划任务、无法持续执行复杂工作、不具备记忆延续与自我纠错能力。简单来说,过去的AI本质是“高级生成工具”。而到2026年,整个AI产业范式彻底切换。行业不再迷信超大模型,不再一味追求参数堆叠,而是全面走向效率化、工程化、自主化、安全化。AI不再只是帮用户写文案、写代码的辅
2025 AI技术新风口:边缘计算与智能体协同,解锁产业落地新范式当AI大模型的参数竞赛逐渐降温,产业界的目光开始从“实验室能力”转向“场景化落地”。2025年,AI技术的核心突破不再局限于基础模型的能力跃迁,而是聚焦“边缘端高效部署”与“智能体自主协同”的深度融合,打破了以往“云端算力依赖”“技术与场景脱节”的行业痛点。
本文提出一套预制规则 + 查表检索 + 轻量试算的端侧 AI 新架构,不依赖 3nm/5nm 先进制程,在通用 CPU、嵌入式芯片上即可实现常量算力、低延迟、结构级安全与离线自治,完美覆盖手机、可穿戴、车载、工业终端等全场景,为下一代端侧智能提供可落地、可验证、可量产的技术路径。手机、手表内置常量算力 AI,全离线运行、数据不出设备,续航提升 3-5 倍,无发热、无卡顿,隐私绝对可控。关键词:端侧







