logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

微服务资源优化新思路:Sablier + Podman 实现按需启动与自动休眠

在资源紧张的生产环境中,运行着大量微服务却只有有限的服务器资源,这是许多团队面临的现实困境。Java 微服务动辄占用几个 G 的内存,即使业务空闲时也丝毫不减,服务器资源被白白浪费。传统的解决方案往往围绕“优化 Java 启动速度”展开——CDS、Lazy Init、TieredStopAtLevel=1……这些手段确实有效,但治标不治本。服务空闲时,为什么还要让它占着资源?,实现微服务的按需启动

文章图片
#微服务#架构
【Web安全,微服务安全】HashiCorp Vault 项目深度分析报告

本文对 HashiCorp Vault 项目进行了深度分析,从核心架构、内部机制到常见业务安全痛点的覆盖度评估,全面解析 Vault 如何解决 RESTful API 权限控制、统一 Token 颁发与自动刷新、数据库密码管理以及第三方密钥保存等四大安全难题。文章还探讨了 Vault 在机密泄露控制、密钥隔离、加密即服务、短期证书等方面的独特价值,并提供了典型使用场景与采用建议,帮助读者判断 Va

文章图片
#微服务#安全架构#web安全
【AI 推理】在 Rockchip NPU 上实现 MoE 大模型流式推理的技术方案

是一个由 Andrey Mikhaylov 开发的独立研究项目,其核心成就是让(一个 260 亿参数的 Mixture-of-Experts 大语言模型)在仅有 8 GB 内存的 Apple Silicon MacBook 上运行,峰值内存占用仅约 2 GB,并在 M2 MacBook Air 上实现 5.1–6.3 tok/s 的解码速度。该项目完全使用编写,没有依赖 MLX 或 llama.c

文章图片
#人工智能
【Agent Harness】Agent Harness 学习之路(Agent OS 实战)

它最核心的想法其实很简单:把 LLM 的上下文窗口当成 L1 Cache,把持久化知识当成磁盘,中间用 Oxigraph 图数据库和 JSON‑LD 语义总线串联起来。这样做的好处是 多轮对话几乎不丢上下文,还巨省 Token,因为你不是把整段历史砸进 Prompt,而是给了 LLM 一把能随时打开任意一扇门的万能钥匙。如果你对 Agent 的记忆管理、技能安全或者 Rust 系统编程感兴趣,可以

文章图片
#学习#rust#人工智能
【Agent Harness】Gliding Horse 上下文感知与智能压缩:让 Agent 的“注意力”永不偏移

Gliding Horse 通过 RelevanceTracker 双维度评分、L1 淘汰策略增强、ContextWindowManager 感知压缩和后台话题连贯性分析,构建了一套完整的上下文相关性感知与智能压缩系统。该系统解决了多轮对话中 Agent 面临的话题漂移和信息过载两大核心痛点,实现了 LLM 注意力窗口的精细化管理,使 Token 利用率提升 20-40%,话题切换响应从被动淘汰升

文章图片
#人工智能#rust#架构
【Agent Harness】我给 AI 装上了“触觉神经”,它终于知道环境变了

能力之前之后文件感知Agent 主动轮询,有盲区notify 事件驱动,毫秒级被动感知状态管理Agent 自己记“读过什么”L2 图数据库托管,read_fresh/read_stale 精确追踪文件读取每次全量读盘LRU 缓存 + 差分模式,Token 节省 60%+写入安全靠 Prompt 约束ToolGuard 硬阻断过期写入依赖感知Agent 手动分析ImportScanner 自动更新依

文章图片
#人工智能#架构#rust
【Agent Harness】Gliding Horse L2 作战地图深度优化:给多 Agent 上下文装上“精准导航”

L2 作战地图是 Gliding Horse 多 Agent 协作的基石。只解决“看得见”还不够,必须解决“只看该看的”。通过多维索引、上下文过滤和投影引擎深度集成,Gliding Horse 的每个 Agent 终于拥有了一个干净、专注的工作空间,这或许就是 AI 协作从“草台班子”走向“专业团队”的关键一步。

文章图片
#人工智能#rust#架构
【Agent Harness实战】我让 Agent 的上下文“瘦身”成功,Token 省了,记忆反而更好了

传统 Agent 怎么处理多轮对话?把每轮的完整回复全塞进上下文。聊 50 轮,上下文就塞满 50 轮完整回复——Token 爆炸,LLM 还容易迷失重点。我的做法:每轮 LLM 回复后,强制它输出一个summary(摘要)。历史上下文只拼接这些摘要,不拼原始内容。历史上下文示例:第1轮摘要: 用户需要分析Q2销售数据,目的是为库存计划提供依据第2轮摘要: 确认数据源为sales_q2.csv,数

文章图片
#rust#人工智能#架构
【Agent Harness实战】我给 Agent 装了一套“神经系统”,它现在比我还敏感

触发器:TaskEnd任务结束时(不管是成功还是失败),感知引擎会自动提取经验从任务结果中抽取场景摘要创建Experience对象,成功给 0.9 分,失败给 0.1 分打上标签(experiencetask:任务ID存入 L0 图数据库下次同类任务启动时,TaskStart 触发器会自动检索这些经验,注入给 SA。整个系统形成了一个“经验 → 检索 → 应用 → 再提取经验”的正向循环。"sce

文章图片
#人工智能#rust
【Agent Harness实战】拼图完成!聊聊流马(Gliding Horse)到底是个什么东西

这个系列从"为什么选 JSON-LD"开始,写到 CPU 缓存记忆、Oxigraph 图数据库、丰田安灯绳、技能图谱、知识图谱、事件总线、硬核门禁,到今天把这幅拼图完整摊开。我从不觉得流马是个"完美的系统"。它还缺很多文档、缺更多示例、缺社区的打磨。但它的核心设计——把 Agent 从"提示词工程"升级为"系统工程"——这个方向,我坚信是对的。写代码的人都知道一句话:“相信程序员,但验证他的代码。

文章图片
#人工智能#rust#架构
    共 83 条
  • 1
  • 2
  • 3
  • 9
  • 请选择