登录社区云,与社区用户共同成长
邀请您加入社区
fill:#333;important;important;fill:none;CPU缓存优化为什么需要缓存存储器金字塔L1~4拍 / L2~12拍 / L3~40拍 / 内存~250拍缓存结构Cache Line = 64字节组相联映射提升数据命中率时间局部性空间局部性连续访问循环分块 Tiling提升指令命中率代码紧凑分支预测友好热点内联多核陷阱False Sharing 伪共享Cache L
本文系统解析大模型按能力维度的分工:推理型专注复杂逻辑与多步规划,多模态型擅长图文音视频理解,代码型则优化工程正确性与上下文连贯性。通过对比三类模型的设计取向、适用场景及调用示例,强调“无全能模型,唯有场景最优”,倡导组合使用以实现高效、低成本的AI应用落地。
本文精选 5 篇 AI 算力方向的热点优质文章,涵盖 vLLM 推理引擎 2026 年技术进展、算力进入 "系统级" 竞争时代、曙光 8000 与华为昇腾 950 超节点对决、800G 向 1.6T 光模块迭代,以及十万卡集群背后的技术逻辑。内容聚焦推理提速、显存优化、超节点架构、光互连与国产算力等当下最受关注的话题。本周精选 AI 算力热点优质文章,涵盖推理引擎优化、超节点架构、国产算力对决、光
Agent状态栏以user角色消息形式追加至上下文末尾,而非修改system消息,避免破坏KVCache。此举仅为API技术实现,内容由框架自动生成,非真实用户输入,通过<agent_status>标签标识,确保模型获取最新状态且不影响缓存。该设计遵循“动态信息追加、静态信息固定”原则,实现高效、低延迟的状态传递。
文章描述了传统后端工程师以 CRUD 为主的日常工作,并指出其职业发展瓶颈。随着 AI 浪潮兴起,懂 AI 工程化、Agent 落地的后端开发者成为稀缺人才。作者提出后端工程师应完成技术跃迁,从 CRUD 业务开发进阶到 AI Agent 工程化后端,并提供了一份后端工程师专属的 AI 技术成长地图,帮助同行找到技术突破口。作为一名双非研究生毕业的后端工程师,工作这几年,我的日常几乎被一套固定的技
前 30 天:收敛调用层。选定一个统一调用抽象,把现有散落的模型 HTTP 调用收拢到一处;同时上线最小埋点:请求数、延迟、token、错误分类。产出物是"换供应商只需改配置与依赖"的能力。31–60 天:工具资产化。盘点内部可被模型调用的业务动作,按只读/写分级;把其中复用度高的 3–5 个工具按协议方式暴露,建立 schema 评审、权限与审计规范。产出物是"新工具接入不再写一遍 functi
MCP 解决的是一件事:让"写一次工具,处处可调用"成为现实,而不是为每个 AI 客户端重写一遍胶水代码。Spring AI 2.0 把这件事的复杂度压到了最低——一个@McpTool注解,方法签名自动变 JSON Schema,@Component自动扫描注册,几乎零配置。回顾本文:我们用 Spring Boot 4.1.1 + Spring AI 2.0.1 写了一个订单服务 MCP Serv
网上很多大模型横向对比测评存在一个通病:测试用例不统一、Prompt 各自定制、参数不一致,这种条件下的对比参考价值有限,很难客观反映模型真实能力。为了尽量消除变量干扰,本次测评设计了一套固定的测试题库,使用完全一致的系统提示词、超时阈值、打分规则,同时跑 Gemini 4 Argon、Grok、OpenAI 新旗舰模型。所有评测逻辑封装为 Python 脚本,代码开源放在文中,你拿到密钥之后可以
本书作者柳伟卫,网名 waylau、老卫,80 后程序员、IT 技术作家、认证讲师,关注编程、系统架构、性能优化。多年软件研发及系统架构经验。著有《跟老卫学 AI 大模型开发》等开源书,并出版了包括《分布式系统常用技术及案例分析》《Spring Boot 企业级应用开发实战》《Spring Cloud 微服务架构开发实战》《Spring 5 开发大全》《鸿蒙架构师修炼之道》等数十本专著。
Agent任务中重复发送提示导致token成本激增,核心解法是提升提示缓存命中率。关键在于提示分层:将角色设定、工具定义等稳定内容前置,动态内容后置,确保前缀一致。多轮对话应增量追加历史,避免重建;多Agent场景需共享前缀、路由亲和。通过分层度量命中率、规避时间戳/会话ID等动态内容干扰,可显著降低耗费。缓存不仅是降本,更可优化延迟。2026奇点智能技术大会将聚焦此类工程实践。
大模型推理服务挂在单一区域上,一次机房故障就是全站不可用。跨地域部署的难点不在多开几套,而在权重怎么提前就位、会话要不要迁、切换谁说了算、以及这套流程有没有真被练过。本文按可落地的顺序拆开讲这四件事,并给出一份能直接抄的演练分档。2026 奇点智能技术大会(11 月 20-21 日·北京万达文华酒店)AI Infra 与 AgenticOps 专题会聊这类工程保障。▸ 核心结论:多区域容灾的成色取
最近在做企业内部 LLM 统一调度网关项目,也就是大家常说的大模型 API 中转网关。很多业务系统需要接入不同厂商的大模型,比如 OpenAI、Claude、国内各类大模型。每家模型接口协议、请求体、鉴权方式各不相同,耦合严重;切换模型时,业务代码需要大规模修改;无法统一做鉴权、额度管控、调用日志、成本统计;上游模型服务不稳定,缺少统一的熔断、降级、重试能力。
本文为 Spring AI 1.1.0 全量字典,涵盖模型接入(ChatModel)、Prompt与Message架构、ChatOptions配置及实战用例。重点解析 call()/stream() 方法签名、Prompt 消息封装机制、ChatResponse 响应结构,以及工具调用(ToolCall/ToolResponse)的配对逻辑。附真实项目用例(如 WebSearchReactAgen
以 Spring Boot 4.1 与 Spring AI 2.0 为底座搭建 Java Agent 平台:向量库供语义、知识图谱供关系、MCP 供工具,给出装配、编排与观测的落地配置。
3. → ToolResponseMessage([ToolResponse(id:"call_1", name:"queryDtc", responseData:"...")]) ← 你的程序执行后回填。2. → AssistantMessage(toolCalls=[{id:"call_1", name:"queryDtc", args:{code:"P0301"}}]) ← 模型说"我要查"
本文详解 Spring AI 2.0 中实现类 ChatGPT 打字机效果的全链路方案:基于 Flux<ChatResponse> 与 SSE 的流式输出,后端推荐 WebFlux 方式(produces = TEXT_EVENT_STREAM_VALUE),前端用 EventSource 实现增量渲染。涵盖背压处理、断线重连机制及常见踩坑点(如参数传递、SSE 混淆等),强调前端流式 SSE 与
本文详解Spring MVC一次请求的完整执行流程:从DispatcherServlet接收请求,经HandlerMapping定位处理器,通过HandlerAdapter调用Controller方法,期间穿插拦截器的preHandle、postHandle与afterCompletion,根据返回值类型决定是否走视图渲染或@ResponseBody直接返回数据。异常由HandlerExcepti
先来看一段你大概率写过的代码。// 1. 取登录用户return ApiResponse.fail(401, "未登录");// 2. 打日志log.info("创建订单 userId={}, amount={}", user.getId(), dto.getAmount());// 3. 记耗时log.info("创建订单耗时 {} ms", System.currentTimeMillis()
所谓程序(Program)程序 = 指令 + 指令要处理的数据狭义上,程序通常表现为一组文件。而最早的计算机编程,是真的要用 0 和 1 的——比如最早的微型电脑 Altair 8800,用户需要拨动开关,一个 bit 一个 bit 地把程序录入进去。如果今天还要求大家用二进制编程,那大家真的都要疯掉了(Σ(っ °Д °;)っ)。于是,编程语言应运而生。每个应用程序运行在现代操作系统之上时,操作系
在广州政务大厅、医疗机构、婚姻登记场所等信创落地场景,多媒体信息发布系统是高频使用的大屏管控软件。很多项目方案评审阶段,都会核验平台对飞腾、鲲鹏国产 CPU 的适配能力。本文从指令集差异、适配层级、验证标准、广州本地落地现状几个维度客观说明:飞腾、鲲鹏同属 ARM64 架构,但多媒体信息发布系统不存在天然兼容,兼容结果取决于软件厂商是否完成全栈适配、硬解调优以及兼容性认证。
Agent 到底是什么?简单来说,Agent 是一种能够自主调用工具、多步推理并完成复杂任务的 AI 应用形态。普通聊天机器人:你问它答,只依赖模型自身知识;Agent:模型可以调用外部工具(如搜索网页、查询数据库、调用本地函数),并根据工具返回的结果继续推理,直到完成任务。Spring AI 是 Spring 官方推出的 AI 应用开发框架。统一的 AI 接口抽象:一套 API 适配 OpenA
在工业控制与机器人系统中,同一段控制代码偶发执行时间翻倍,常因缓存未命中、缺页、锁竞争、动态内存分配或同步日志等非算法因素导致。问题本质是任务响应时间波动,而非代码本身变慢。需统一测量边界,区分执行时间、调度延迟与端到端延迟,使用单调时钟与分位数分析尾部耗时。优化应基于对照实验,聚焦预分配内存、减少锁持有、异步日志与实时调度配置,并建立可复现的性能基线,确保关键任务满足周期截止时间。
综合篇 已经把企业开发的「骨架」搭好了:Session 登录+ 拦截器MyBatisController → Service → Mapper 分层软删除分页查询统一响应但真实电商不止「列表 + 消息」。按分类逛商品 → 加购物车 → 管地址 → 一键下单 → 看订单。这些能力会引入更典型的数据关系与事务:本文在综合篇 为宠物用品电商([spring-petshop](./spring-petsh
DNS 解析变更后几小时未生效,主因是多层缓存未过期。TTL 设置过大导致旧记录持续缓存,从操作系统、递归解析器到应用层连接池均可能留存旧地址。排查时应逐层验证,使用 dig 查看实际 TTL 值,切换前调小 TTL 并重启服务清除缓存。尤其注意长连接不触发重解析的问题,需主动重建连接池。掌握缓存机制,才能快速定位“改了没生效”的根源。
在前面的章节中,我们让OS具备了虚拟化能力和高性能网络。但此时的调度器仍是“尽力而为”的公平模型:CFS追求CPU时间的长期均分,却无法回答“这个任务能否在10ms内完成”这一关键问题。一个没有实时调度能力的操作系统,就像一辆只有油门没有刹车的跑车——直道飙车很快,但遇到弯道(截止期限)必然失控翻车。实时性不是“更快的代码”,而是“对时间确定性的数学证明”。它通过EDF(Earliest Dead
二手玩具电商平台根据不同的用户角色,创建出不同的功能模块。普通用户功能模块有玩具商城查看、购物车管理、订单管理、地址管理、订单配送查看和评论管理,是商品浏览到交易完成整个流程的操作。商家用户功能模块有玩具商城管理、订单列表查看、订单配送管理、订单售后管理,可以支持商品发布、订单处理、售后审核等经营行为。管理员功能模块包含玩具商城管理、订单列表管理、订单配送管理、订单售后管理这四个部分,对整个平台
本文针对工业控制与机器人系统中实时性抖动问题,提出从任务建模出发的完整实时架构设计方法。通过明确实时边界、分层任务(控制、通信、监测、业务)、合理规划CPU与中断、设计有界数据交换机制,并建立异常处理与可复现验证流程,实现控制链路端到端时序可控。强调:实时性能取决于整条执行链路的设计,而非单一参数优化;核心隔离与高优先级仅是手段,关键在于消除依赖、降低干扰、量化验证。
AgentScope助力Agent从“只会聊天”到“能办事”的跃迁。通过注解式工具注册,自动生成JSON Schema,实现模型自主调用订单查询、退款等业务功能,无需手写复杂Function Calling逻辑。支持权限控制、异步执行与MCP协议接入第三方服务,大幅提升工程效率与系统可靠性。真正实现Agent“有手能干”,是落地生产的关键一步。
MemFree这也是 Linux 内存监控里最容易被问的点。
本文深入解析了Linux内核中的页缓存(pagecache)机制。页缓存通过将文件数据暂存于内存,显著提升I/O性能,弥合内存与磁盘的速度差距。文章详细介绍了页缓存的核心结构(struct page、address_space)、工作原理(读写缓存机制)和关键技术(基数树、LRU回收)。同时提供了查看系统缓存状态、调试缓存行为的实践方法,并探讨了页缓存的局限性与优化方向。理解页缓存机制对排查I/O
Linux系统通过缓存机制提升I/O性能,但存在断电数据丢失风险。为此,系统提供三个文件同步接口:sync全局触发但不等待回写,适用于不严格要求数据持久性的场景;fsync同步单个文件的数据和元数据并等待完成,适合数据库事务等严格场景;fdatasync是fsync的优化版,仅同步必要元数据,适合日志写入等高频操作。选择同步接口需权衡数据持久性要求和性能开销,并结合内核参数优化。通常优先使用fda
等机制,尽可能减少跨节点内存访问。调优的关键在于:根据应用特性(内存密集型/CPU密集型)选择合适的内存分配策略和进程亲和性设置,避免“远程内存陷阱”。在Linux内核中,NUMA(Non-Uniform Memory Access)调度算法的核心目标是。以下是与NUMA调度相关的重要内核参数(可通过。Linux内核提供多种内存分配策略,通过。Linux内核的NUMA调度算法通过。
系统调用的结果由 eax 返回,第 8 步判断 clone 系统调用的结果,对当前进程而言,clone 系统调用如果成功返回的是新线程在它的 pid namespace 中的 id,大于 0,所以它执行 ret 退出 __clone 函数。但对新线程而言,它是从内核的 ret_from_fork 执行的,切换到用户态后,它的栈已经成为 stackaddr 了,所以它的 edi 等于 clone_f
=========================================================================================================================================================================一、启动类简介=======@SpringBootApplic
在 Java 24 生产落地虚拟线程(Virtual Threads)的过程中,如果让所有架构师评选一个最让人恨之入骨的隐形暗礁,那绝对非莫属。虚拟线程之所以能号称“支持百万级并发”,其核心设计是建立在**智能解耦(Unmount)**的基础之上的:当虚拟线程遇到阻塞操作(比如读网络 Socket、等待数据库响应、)时,JVM 底层的调度器会自动把该虚拟线程从操作系统物理平台线程(即载体线程 Ca
本文以“超市机器人服务员+储物柜”比喻,通俗拆解SSM中XML配置到事务提交的全过程:Spring通过Bean装配创建DAO实例,SqlSessionTemplate作为代理实现SQL执行与事务管理;借助ThreadLocal确保线程内连接复用;声明式事务通过XML或注解自动织入事务逻辑,最终实现自动开启、提交与回滚。核心在于理解代理、线程绑定与拦截机制如何协同工作。
在前面的章节中,我们构建了功能完备且安全隔离的操作系统。但此时的系统仍是一个“性能黑盒”:程序变慢时只能靠猜测,调度延迟无法量化,缓存命中率无从得知,CPU周期被谁消耗更是谜团。一个没有性能剖析能力的操作系统,就像一辆没有仪表盘和故障码的赛车——无论引擎多强劲,你也无法知道它何时过热、何时失速、为何跑不快。性能剖析不是“计数器集合”,而是“硬件行为到软件语义的映射层”。
今天是学习redis的第四天,我会继续学习,并持续更新🚚。
春招,秋招,社招,我们 Java 程序员的面试之路,是挺难的,过了 HR,还得被技术面,小刀在去各个厂面试的时候,经常是通宵睡不着觉,头发都脱了一大把,还好最终侥幸能够入职一个独角兽公司,安稳从事喜欢的工作至今...
Spring使用Redis出现Readtimedout问题的排查与解决方案。该问题源于Redis连接成功但返回超时,主要排查路径包括:Redis命令阻塞、单线程负载高、连接池耗尽、超时时间过短、网络抖动和大Key问题。关键验证方法包括检查慢查询(slowlog)、Redis状态(infostats)和大Key扫描(bigkeys)。解决方案建议:禁用阻塞命令、调整超时时间(建议5秒)、优化连接池配
摘要:使用Apifox请求数据时出现错误,解决方法为:先打开浏览器,进入扩展程序管理页面下载相关插件,然后返回Apifox重新发起请求即可。该方案通过安装浏览器插件来修复Apifox的数据请求问题。
spring
——spring
联系我们(工作时间:8:30-22:00)
400-660-0108 kefu@csdn.net