
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
LangGraph 是 LangChain 的一个分支或扩展,专注于构建和运行基于图的、有状态的、多参与者的工作流。它通过将复杂的任务分解为多个节点(步骤),并通过边(依赖关系)连接这些节点,来实现更灵活和强大的任务编排。目前大模型agent特别火,agent框架也特别多,比如langchain、openai agent、autoGen等等,从这些不同的框架中,可以学习它们的构建思路,来完善自己的

Request│▼Cache├── Hit → 直接返回结果那么就不需要重新查询数据库。LLM 的缓存思想类似,但比传统缓存复杂很多。Prompt│▼│▼Prefill│▼KV Cache│▼Decode│▼Response因此,我们可以在不同层面消除重复计算。│▼│ Miss▼│ Cache ││▼│▼KV Cache│▼Decode缓存主要解决的问题KV Cache同一次生成过程中,不重复计算

rag应用已经有成熟的操作范式,针对具体场景又有一些细微的变化。以电商业务中的问答场景为例,客户积累了大量的问答数据,即faq问答对,这些数据是结构化的,需要再加工处理的步骤不多,非常有利于做rag应用。以下以这种特殊场景为例,简要介绍rag处理步骤。已经存在大量faq问答对的场景,将数据过滤索引后,很容易接入rag系统,进行问答改造。此外,这类问答场景中,客户问题一般也具有某种共性,可以提取一些

最近两年大模型很火,它在各个行业的应用也在逐渐推进。作为一个开发人员,学会推理部署大模型,是必要的,今天主要说下大模型推理以及部署。本文以qwen2.5-0.5B模型为例,介绍了它的本地调试过程,同时也介绍了它的模型部署过程,介绍过程比较简单。大模型推理过程这里还有很多可以做的,比如有些深度思考模型,思考内容和正文在一个字段的,可以在推理层,将两者分开。此外,如果需要适配其他硬件GPU,还需要对v
我们在使用大模型的时候,有些事情是需要固定的流程来处理,我们怎么办呢,一般会创建模板,然后通过命令行或者其他工具,在想使用这个流程的时候,就会触发它。这样通过模板的方式,不是很智能,Claude code提出了一种新的方式agent skills来处理。Agent Skills 是 Claude 生态中用来扩展智能体能力的一种模块化机制:模块化封装专业能力:一个 Skill 是一个文件夹,通常包含
AI coding越来越火,相关的工具也也越来越成熟,程序员好像距离失业越来越近了。但是好的工具还是要学习的,这里介绍下LSP,主要之前有些AI coding工具,让人很困惑,比如仅仅支持某些语言,LSP这个工具就是让AI更好的理解代码的,能够更好地进行AI辅助编程。LSP即(Language Server Protocol),是一种标准化协议,用于:在 编辑器(Client) 与 语言服务器(S
ai时代,使用claude code进行软件开发,几乎是程序员的标配了。但是大家在使用的过程中,会遇到很多问题,总之就是觉得大模型好像没有那么牛,那么就需要了解一下claude code的context window了,也就是上下文。大模型,它是无状态的,也就是说,每次你对它进行问答,它并不会将前后两次问答记录联系起来,对agent来说,如果要保持记忆,就是需要将聊天记录携带着,进行下一次的问答。

现在大家都在使用ai写代码,手写代码的时代慢慢过去了,但是现在有一个问题,就是如何判断ai写的代码有效,这就离不开测试用例。那么应该先写代码,还是应该先写测试用例呢,今天主要说下TDD。TDD(Test-Driven Development,测试驱动开发)是一种开发方法,其核心流程是:RED:先写测试(且必须失败)GREEN:写最小实现让测试通过REFACTOR:在测试保护下优化代码这里最重要的一

现在没有软件开发工程师不知道codex和claude code的,大家可能都会疑问,到底应该做选型呢,两者各自的优势是什么,今天简要探讨下。codex和claude code都是不错的ai coding工具,可以根据具体的需求进行切换使用,当然如果精通一个工具也是可以的。参考文档。

随着大家使用ai coding的程度越来越深,通过ai聊天的方式进行ai coding,越来难以满足大家的开发需求,主要原因是:1、上下文爆炸2、prompt能力差异大3、模型切换麻烦4、自动化能力差于是,多agent模式协作ai coding就应用而生。ai协作范式,从聊天窗口到多agent编排,是一个大趋势。现在程序员手写代码的地方,不多了,所以尽可能地使用复用的agent,是拉齐大家ai c









