logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

gRPC结合FAISS构建AI助手语义缓存模块(一):设计

本文提出了一种基于语义相似度的AI聊天助手缓存优化方案。针对现有KV存储仅支持字面匹配的问题,系统整合了FAISS向量搜索、自研KV存储和gRPC通信三大组件:1)采用SentenceTransformer将用户提问编码为768维向量;2)通过FAISS计算向量相似度实现语义级检索;3)用KV存储维护ID-Answer映射;4)通过gRPC实现Go服务与Python语义层的跨语言通信。方案包含五层

文章图片
#faiss#人工智能#缓存
shared_ptr实现中的RAII思想

本文介绍了C++中shared_ptr的实现原理,重点讲解了其三大核心机制:引用计数、原子操作和RAII思想。通过简化版shared_ptr代码示例,展示了构造函数、拷贝构造、移动语义等关键实现细节,说明如何通过引用计数管理共享资源,使用原子操作保证线程安全,并利用RAII实现资源自动释放。相比unique_ptr,shared_ptr更适合需要资源共享的场景,如线程池等。文章还分析了shared

#算法
shared_ptr实现中的RAII思想

本文介绍了C++中shared_ptr的实现原理,重点讲解了其三大核心机制:引用计数、原子操作和RAII思想。通过简化版shared_ptr代码示例,展示了构造函数、拷贝构造、移动语义等关键实现细节,说明如何通过引用计数管理共享资源,使用原子操作保证线程安全,并利用RAII实现资源自动释放。相比unique_ptr,shared_ptr更适合需要资源共享的场景,如线程池等。文章还分析了shared

#算法
谈C++智能指针对资源管理的优势

本文探讨了智能指针在现代C++中的核心作用。通过对比传统new/delete的内存管理方式,指出其易出错和异常不安全等缺陷。智能指针通过RAII机制,在对象析构时自动释放资源,有效解决了资源泄漏问题。文章以unique_ptr为例展示了其优势,同时也指出智能指针的局限性——在底层内存分配器等场景仍需使用malloc/free等底层操作。最后强调智能指针作为现代C++的重要特性,极大提升了资源管理的

#c++#开发语言
AI辅助实现心得分享 - RDMA优化KVstore已有数据同步

从零实现的19万+QPS KV存储开源,代码仅3千行,比教材更易懂!研一的某个下午,抱着对技术的兴趣,我翻阅着大部头教材,对着epoll的示例代码发了一下午呆。书上的代码跑起来了,但我不知道它为什么快。Redis源码翻过几页,但几万行的代码让我望而却步。能不能写一个比Redis简单100倍,但性能不输的KV存储?不久后,KVStore诞生了。它是一个纯C编写的轻量级键值存储引擎,核心代码仅3000

#数据库
到底了