logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

语义缓存:把重复的提问变成可复用的推理结果

任何做过线上 LLM 应用的人都知道,用户的问题高度重复。一个客服机器人,60%~80% 的请求集中在少数几十个意图上。。但精确缓存(Exact Match Cache)的命中率往往低得令人失望。原因在于自然语言的。

#缓存#人工智能#后端 +1
13.2 进阶篇:多智能体协作系统设计与实现

多智能体协作系统设计与实现摘要 多智能体系统通过多个专门化Bot协同工作,解决复杂任务。Coze平台支持构建主从架构或对等协作模式的多智能体系统,通过工作流编排和API调用实现Bot间通信。本文以智能客服系统为例,展示如何创建协调Bot和专家Bot(技术/售后/销售/客服专家),配置任务分发与结果整合逻辑。系统优势包括专业化分工、强扩展性和良好容错性。实现步骤涵盖Bot创建、工作流配置、通信设置和

#网络#大数据#copilot +2
AI 参与代码审查:审查清单、置信度与责任边界

团队里对 AI 做代码审查的期待经常走两个极端。一派认为"AI 能替代人工 review",于是把 PR 直接丢给机器人,等它说"LGTM"就合并。另一派认为"AI 不懂业务,审查没用",于是完全不看它的意见。两种都错。。它能发现人类因为疲劳而漏掉的模式化问题,也会提出大量"看起来对、实际不适用"的建议。所以工程设计的目标不是"让 AI 说得更多",而是:哪些意见必须听、哪些可以忽略、哪些需要人工

#人工智能#后端
11.1 具身智能前沿:AI如何感知并与物理世界交互

具身智能是人工智能的一个重要分支,它强调智能体通过物理身体与环境进行交互来获得智能。与传统的AI系统不同,具身智能体不仅处理抽象的符号或数据,还通过传感器感知物理世界,通过执行器影响物理环境,在这种感知-行动的循环中学习和演化。fill:#333;important;important;fill:none;color:#333;color:#333;important;fill:none;fill

#人工智能#交互#算法 +1
具身智能 2026:VLA 大模型如何让机器人真正“理解“世界

(2026年):- 将 DeepSeek 的强化学习方法论移植到具身领域- 自主探索生成训练数据,减少人工标注依赖—## 三、VLA 模型的核心技术挑战### 挑战一:数据稀缺语言模型有互联网上海量文本,视觉模型有数十亿图片,但机器人操作数据极难获取:- 需要物理机器人执行和记录- 失败轨迹也要标注- 数据采集成本是文本的 1000 倍以上。这背后的核心技术,是。(2026年4月最新):- 在操作

#机器人#人工智能#系统架构
大模型部署工程2026:从模型文件到生产API的完整路径

边缘设备、断网环境本文覆盖从开源模型选型,到生产级推理服务的完整部署工程实践。PagedAttention是vLLM的核心创新,它将KV Cache管理类比为操作系统的虚拟内存,允许KV Cache非连续存储,将GPU内存利用率从通常的30%提升到90%+,并发吞吐量提升2-4倍。当OpenAI、Anthropic、Google的API已经如此强大,很多工程师会问:还有必要自己部署模型吗?:量化指

#python#开发语言#人工智能 +1
Ollama本地大模型部署工程2026:从安装到生产的完整实战指南

内置模型拉取、删除、列表管理缺点同样明显:性能不如vLLM,不支持多GPU张量并行,不适合大规模并发生产。本地化部署大模型在2026年已经不是"尝鲜"而是"刚需"——数据隐私、网络隔离、成本控制,都推动着企业走向自托管。:- 8GB显存服务器:Qwen2.5:7b(中文场景最优)- 16GB显存服务器:Qwen2.5:14b 或 DeepSeek-r1:14b- 无GPU:使用CPU运行3B模型(

#人工智能#系统架构
端侧大模型部署实战2026:手机、汽车、IoT设备上的LLM工程化挑战

2026年,端侧大模型(On-Device LLM)已经从"概念演示"走向"规模商用"。:- 实时翻译(延迟<100ms要求)- 智能助手(离线可用)- 隐私敏感场景(医疗、金融)- AR/VR交互(毫秒级响应)- IoT设备(无网络或弱网环境)## 2026年端侧模型的核心技术### 1. 模型量化:精度与性能的平衡。但端侧部署不是把云端模型"压缩一下"那么简单。## 端侧大模型的真实价值为什么

#人工智能#gateway#istio +2
端侧大模型部署实战:从模型压缩到NPU适配的完整链路

单纯堆叠参数的"大模型路线"正在放缓,轻量化、低成本、可落地的端侧 AI 技术成为产业应用的主流方向。但要在一个功耗受限的设备上运行一个数十亿参数的大模型,工程挑战巨大——从模型压缩到运行时优化,从硬件适配到功耗控制,每一个环节都需要精心设计。2026年的端侧 AI 已经从"能跑"进入"好用"阶段,3B 级别的量化模型在旗舰设备上已能达到 40+ tokens/s 的生成速度。## 第一步:模型选

#人工智能
具身智能量产拐点:宇树 IPO 后的 VLA 与世界模型双系统路线

2026 年 7 月 2 日,宇树科技科创板 IPO 注册生效,成为 A 股"具身智能第一股"。从获受理到注册生效仅 104 天,创下科创板预先审阅机制落地以来最快审核纪录。这家以四足和人形机器人闻名的公司,带着 5500 台人形出货和 20 亿研发投入的募资方案,站到了聚光灯下。宇树的上市不仅是一家公司的里程碑,更标志着具身智能产业从"实验室炫技"迈向"规模交付"的关键拐点。

#人工智能#智能电视#机器人
    共 1098 条
  • 1
  • 2
  • 3
  • 110
  • 请选择