logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Rag优化 - 如何提升首字响应速度

批量查询与并发连接:Milvus 支持在一次请求中执行批量搜索(即传入多个查询向量一起检索),这相比逐一查询能减少网络开销和调度开销,适用于需要同时回答多子问题或多用户批量请求的场景。如果数据规模巨大或需要亚毫秒级查询延迟,可考虑 GPU 加速:使用 Milvus 的 GPU 版本或将向量数据托管到支持 GPU 的向量引擎上,以利用 GPU 的并行计算能力执行向量点积运算。:对于经常被查询的问题,

#后端
Rag评估

基于 “一元语法(单个词)” 的召回率,即参考文本中被候选文本覆盖的。

文章图片
云计算与云原生

在了解云计算之前我们需要先了解一下什么叫做分布式计算。在了解分布式计算之前,我们需要先了解一下目前的互联网的一些常识和背景。随着越来越多的网民开始使用互联网,如今互联网已经几乎进入了全民化的时代。不算国外的人口,中国使用互联网的人数保守有10亿人。有一些很火爆的软件,例如:QQ,微信,淘宝等等。这些软件的并发量可能在某些特定时期会达到上千万。如此大的并发量,一台服务器肯定是无法容纳的,而我们的服务

文章图片
#云计算#云原生
Rag优化 - 如何提升首字响应速度

批量查询与并发连接:Milvus 支持在一次请求中执行批量搜索(即传入多个查询向量一起检索),这相比逐一查询能减少网络开销和调度开销,适用于需要同时回答多子问题或多用户批量请求的场景。如果数据规模巨大或需要亚毫秒级查询延迟,可考虑 GPU 加速:使用 Milvus 的 GPU 版本或将向量数据托管到支持 GPU 的向量引擎上,以利用 GPU 的并行计算能力执行向量点积运算。:对于经常被查询的问题,

#后端
环境变量简单解释

在终端输入的命令行对着应用程序,如果不是系统自带的命令,那么系统需要环境变量来定位应用程序所在的文件路径。我们以Java来举例子,我们要运行Java程序就需要Java虚拟机来进行编译,需要用到javac指令,而我们直接使用javac指令系统是无法识别的,因为我们没有指名这个指令对应的路径。所以我们需要配置环境变量,让系统可以在环境变量里面直接寻找到对应的路径。...

文章图片
#linux#windows#运维
云计算与云原生

在了解云计算之前我们需要先了解一下什么叫做分布式计算。在了解分布式计算之前,我们需要先了解一下目前的互联网的一些常识和背景。随着越来越多的网民开始使用互联网,如今互联网已经几乎进入了全民化的时代。不算国外的人口,中国使用互联网的人数保守有10亿人。有一些很火爆的软件,例如:QQ,微信,淘宝等等。这些软件的并发量可能在某些特定时期会达到上千万。如此大的并发量,一台服务器肯定是无法容纳的,而我们的服务

文章图片
#云计算#云原生
Error attempting to get column ‘create_time‘ from result set. Cause: java.sql.SQLFeatureNotSupported

首先是一个数据库连接池。Druid是目前最好的数据库连接池,在功能、性能、扩展性方面,都超过其他数据库连接池,包括DBCP、C3P0、BoneCP、Proxool、JBossDataSource。Druid已经在阿里巴巴部署了超过600个应用,经过一年多生产环境大规模部署的严苛考验。问题原因是mp3.1.1+使用了新版jdbc,LocalDateTime等新日期类型处理方式升级,但druid在1.

文章图片
#java#sql#mybatis
redis无法远程连接的所有解决方案大全

在我们远程连接Linux云服务的时候,经常会出现一个错误,就是redis连接超时,今天我们来彻底的解决这个问题。

文章图片
#redis#linux#运维
到底了