logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AI Agent Context 压缩策略选型

本文系统介绍了6种AI对话场景的Context压缩策略及其应用场景。首先指出错误选择压缩策略会导致任务完成率显著下降(如硬截断可能丢失关键信息导致任务失败),而非仅是成本问题。随后通过酒店前台类比形象化阐释了6种策略: 硬截断(直接丢弃超量内容) 滑动窗口(保留最近对话轮次) 摘要压缩(LLM生成内容摘要) 关键提取(保留实体/数字/决策) 神经压缩(AI判断token重要性) 外部化(存储外部仅

文章图片
#人工智能
AI Agent Context 压缩策略选型

本文系统介绍了6种AI对话场景的Context压缩策略及其应用场景。首先指出错误选择压缩策略会导致任务完成率显著下降(如硬截断可能丢失关键信息导致任务失败),而非仅是成本问题。随后通过酒店前台类比形象化阐释了6种策略: 硬截断(直接丢弃超量内容) 滑动窗口(保留最近对话轮次) 摘要压缩(LLM生成内容摘要) 关键提取(保留实体/数字/决策) 神经压缩(AI判断token重要性) 外部化(存储外部仅

文章图片
#人工智能
AI Agent Context 工程

本文探讨了AI Agent中Context(上下文)的作用与管理策略。

文章图片
#人工智能#microsoft
AI Agent Context 工程

本文探讨了AI Agent中Context(上下文)的作用与管理策略。

文章图片
#人工智能#microsoft
Synchronized 锁升级:从偏向锁到重量级锁的性能进化之路

摘要:本文探讨了Java中synchronized的锁升级机制。在JDK6之前,synchronized作为重量级锁性能较差,每次加锁都需操作系统介入。JDK6引入智能升级机制,根据竞争程度自动切换锁状态:偏向锁(单线程无竞争)、轻量级锁(少量竞争)和重量级锁(激烈竞争)。通过电影院入场检查的类比,形象说明了不同锁状态的特点。文章还提供了代码示例,展示如何观察锁升级过程及性能差异,帮助开发者理解并

文章图片
#java#后端
Java集合

本文章主要详细的从0-1讲述了java常用集合的框架知识,以及面试可能会提到的问题

文章图片
#java
Java反射:从运行时窥探到动态代理的工程实践

摘要:本文探讨了Java反射机制在框架开发中的应用。通过模拟策略加载器场景,展示了反射如何实现动态加载类、调用方法和修改字段值。文章分析了反射的核心概念与操作链路,包括获取Class对象、创建实例、调用方法和修改私有字段。同时指出了反射的三大陷阱:性能损耗、破坏封装和类型安全问题,并给出了相应解决方案。最后对比了反射与其他调用方式的优劣,指出反射虽存在缺陷,但仍是框架实现动态扩展的核心技术。

文章图片
#java
SSE流式响应:从Reactor Flux到生产级AI聊天的工程实践——5分钟超时、线程隔离、背压处理全解析

摘要:本文介绍了如何通过异步流式架构解决AI聊天系统中同步调用大模型导致的线程阻塞问题。当OpenAI API延迟飙升时,传统的同步阻塞调用会快速耗尽Tomcat线程池。解决方案采用Reactor Flux + SSE技术,将同步调用转为异步流式处理,并使用独立线程池隔离AI调用与Web请求线程。文章详细阐述了SSE协议、Flux响应式流等核心概念,并通过交通收费站的类比解释架构原理。代码实现展示

文章图片
#人工智能#firefox#前端
断点续传:LangGraph人机交互与状态恢复

本文探讨了LangGraph中checkpoint机制的重要性及其生产环境应用。

文章图片
#人机交互
断点续传:LangGraph人机交互与状态恢复

本文探讨了LangGraph中checkpoint机制的重要性及其生产环境应用。

文章图片
#人机交互
    共 25 条
  • 1
  • 2
  • 3
  • 请选择