logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

认识vLLM和SGLang

两者都支持 OpenAI-compatible API,但真正选型要基于自己的模型、GPU、上下文长度、并发和请求模式做压测。官方文档列出的 OpenAI-compatible API 包括 Chat Completions、Completions、Responses、Embeddings、音频转写/翻译等,具体能力取决于不同模型。第二,KV Cache 非常吃显存。它的目标不是训练模型,而是把

文章图片
#sglang#python
【SpringBoot】@Scheduled是静态配置,是我想改时间,但又不想引入其他组件,还有什么方案么?

本文介绍了Spring中两种定时任务实现方式:静态的@Scheduled注解和动态的TaskScheduler。重点展示了动态任务的实现方案,包括配置线程池任务调度器、任务管理类封装核心功能(添加/删除/更新任务)、业务方法类示例以及对外暴露的REST接口。通过Map存储任务状态,支持运行时动态调整任务配置,并提供了调试示例(如每5秒执行邮件发送任务)。该方案比静态注解更灵活,适用于需要动态管理定

文章图片
#spring boot#java#spring
坤哥看了都能懂的MCP和Function Calling异同

MCP与Function Calling对比分析 本文通过咖啡点单场景形象对比了MCP与Function Calling的异同。Function Calling如同直接操作咖啡机,需预先定义工具集,模型只能调用固定函数;MCP则像拥有万能助理,能动态发现和协调多种服务。关键区别在于:Function Calling在限定工具集内执行,MCP支持动态扩展服务。两者都能处理多工具场景,但MCP更注重服

文章图片
Agent2Agent协议你怎么理解?

如果只用一句话来概括:MCP 解决的是 Agent 怎么调用工具,A2A 解决的是 Agent 怎么和另一个 Agent 协作。

文章图片
#AI
【Database】虚拟机centos7安装Oracle12c数据库,以及创建用户使用PLSQL或者Navicat连接

准备工作为了方便学习,下面,否则奇奇怪怪的问题会层出不穷。1. 防火墙关闭防火墙systemctl stop firewalld.service禁止防火墙开机启动systemctl disable firewalld.service查看防火墙状态systemctl status firewalld.service2. 禁用SELINUX编辑文件vi /etc/selinux/config找到指定行

#oracle#数据库
MCP 与 Skill 两种 Agent 工具机制的设计思路

它们都用于,但在上存在本质差异。

文章图片
#AI#MCP
【Mybatis】tk.mybatis的Weekend简单用法,对比Example

tk.mybatis的Weekend简单用法,对比Example其中NotifyUserRelation为实体类//Example的写法如下(都是按照三个and条件查询记录条数)// Example example = new Example(NotifyUserRelation.class);// Example.Criteria criteria = example.createCriteri

#mybatis#java
【SpringBoot】springboot数据使用多线程批量入数据库

Spring实现事务的原理是通过ThreadLocal把数据库连接绑定到当前线程中,同一个事务中数据库操作使用同一个jdbc connection,新开启的线程获取不到当前jdbc connection。可见时间从180秒,缩短到了28秒,但是@Transactional对于多线程是控制不了所有的事务的。可见5个线程都报错了,但是去查询数据库,却可以查询到5000条数据,这是不应该出现的情况。分别

#数据库#spring boot#java
MultiAgent系统的一些开发方案

摘要:MultiAgent系统是由多个专门化的Agent协作完成复杂任务的系统架构,适用于工具过多、上下文过大或需要不同专长的场景。主要分为网络型、监督型和分层型架构,运作模式包括工具调用和任务交接两种。设计时需明确Agent职责、流程控制、上下文管理等。示例代码展示了监督型架构中主管Agent调用数学和知识解释两个子Agent的工具调用模式,实现了模块化协作和流式响应功能。该系统提高了任务处理的

文章图片
这个所谓的 RAPTOR 是怎么优化 RAG 的?

RAPTOR优化RAG的核心在于递归构建摘要树结构。它将文档分块后,通过聚类和摘要生成多层抽象节点,形成树状索引。检索时不仅匹配原始分块,还会沿树结构展开相关上下文,从而获取更全面的信息覆盖。相比普通RAG仅检索原始分块,RAPTOR能通过摘要节点捕捉宏观关联,提升长文档和多步推理的表现,但构建成本较高,需进行聚类、摘要和多层embedding处理。

文章图片
#RAG
    共 14 条
  • 1
  • 2
  • 请选择