logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

用 Rust 构建agent的 LLM 应用的高性能框架

langchainrust:Rust 实现的 LLM 应用框架 摘要:langchainrust 是一个受 LangChain 启发的 Rust 框架,专为构建高性能 LLM 应用设计。主要特点包括: 核心组件:提供 LLM 集成、Agent、Chain、Memory、向量数据库和 RAG 等完整功能 技术优势: 完全异步架构(基于 Tokio) 类型安全和内存安全 零成本抽象的高性能实现 关键功

#rust#开发语言#后端 +1
java面面试面经(面试过程)

1.1 自我介绍(2min)1.2要求介绍项目一项目亮点以及做的具体工作根据介绍项目进行细挖,其中包括方案设计、场景设计等等等由于项目一种涉及数据库源的转换问题和限流方案,所以面试官拷打的是这两块,其中包括场景题,重新涉及一个限流如何设计项目一,从技术的角度讲,他最复杂的是什么?(18min,挖的很深)1.3 要求介绍项目二如果项目二中,让你去设计推荐算法,你会咋做?(5min,因为这个项目比较简

文章图片
#java#开发语言#面试 +3
Go语言面试篇数据结构底层原理精讲(下)

Go语言核心数据结构底层原理摘要 本文深入剖析Go语言三大核心数据结构的底层实现: String结构: 底层为16字节结构体(指针+长度) 不可变性确保并发安全和内存共享 长度返回字节数而非字符数 Slice机制: 24字节结构体(指针+长度+容量) 扩容采用平滑过渡策略(2倍→1.25倍) 截取操作可能导致内存泄漏 Map实现: 哈希表+链表法解决冲突 渐进式扩容减少性能抖动 随机遍历顺序确保安

#golang#面试#数据结构
Langchainrust:中LLM-as-a-Judge,用 Rust 实现一套 LLM 评估系统

文章摘要 本文介绍了如何用Rust实现一个LLM评估系统(LLM-as-a-Judge),用于自动评估语言模型的输出质量。文章首先阐述了评估的必要性,区分了有参考评估和无参考评估两种方式,并指出传统指标在语义评估上的局限性。 核心部分提出了评估系统的抽象设计,包括Evaluator trait和Predictor trait,以及串联两者的EvalRunner。重点介绍了10种评估器,从简单的字符

#rust#后端#RAG +1
基于Go语言构建轻量级微服务框架的设计与实现

Microg是一个简单易用的Go微服务框架,提供构建生产级微服务所需的核心功能,包括服务注册发现、gRPC/HTTP支持、链路追踪、结构化日志等。框架基于成熟开源组件(gRPC、Gin、zap等)构建,具有高性能特点,并支持开箱即用的服务生命周期管理。通过用户服务示例展示了框架的实际应用,包括gRPC服务端和HTTP客户端的实现。该框架适合需要快速构建可靠微服务的开发者使用。

#golang#微服务#开发语言
Agent中RAG 对话系统的 6 种压缩方案:从滑动窗口到 AFM 自适应保真度

本文介绍了RAG对话系统中6种对话历史压缩策略的实现方案: 滑动窗口:简单保留最近N条消息,零延迟但会丢失关键信息 Token限制:保留前N条关键设定+尾部消息,精确控制token消耗 摘要压缩:用LLM将旧消息生成摘要,适合长对话但延迟较高 分层压缩:通过关键词匹配保护重要消息,适合角色扮演场景 AFM自适应:为每条消息分配保真度等级,信息保留最完整 话题分段:按话题切换点分段压缩,适合多话题长

#人工智能#rust#RAG +1
Agent中RAG检索增强:5种Query Enhancement方法详解与实现

本文详细介绍了5种RAG系统中的查询增强方法,旨在提升检索效果。针对用户提问质量直接影响检索效果的问题,文章分析了HyDE、Query Rewriting、Multi-Query、Step-back Prompting和Query Expansion五种方法的原理、适用场景及实现要点。每种方法针对不同查询痛点:HyDE通过生成假设答案提升概念性问题检索;Query Rewriting优化口语化表达

#人工智能#rust#开发语言 +1
用 Rust 构建agent的 LLM 应用的高性能框架

langchainrust:Rust 实现的 LLM 应用框架 摘要:langchainrust 是一个受 LangChain 启发的 Rust 框架,专为构建高性能 LLM 应用设计。主要特点包括: 核心组件:提供 LLM 集成、Agent、Chain、Memory、向量数据库和 RAG 等完整功能 技术优势: 完全异步架构(基于 Tokio) 类型安全和内存安全 零成本抽象的高性能实现 关键功

#rust#开发语言#后端 +1
Agent中MCP 协议详解:从“为什么要它“到“怎么用它“,最全最完整

本文介绍了MCP协议的核心概念和应用场景。MCP是AI工具间的标准通信协议,采用JSON-RPC 2.0规范。主要内容包括: 角色划分:Client调用工具,Server提供工具 通信机制:基于JSON的请求-响应模式,支持三种消息类型 连接方式:通过Stdio(子进程)或SSE(HTTP)建立连接 握手流程:初始化协议版本确认过程 实现示例:展示了langchainrust库的实际代码片段 MC

#人工智能#rust#开发语言 +1
MySQL vs MongoDB 深度对比(底层存储数据结构与并发控制篇)

MySQL与MongoDB存储与并发控制对比 MySQL(InnoDB)采用B+树结构存储数据,支持聚簇索引和二级索引,通过缓冲池、变更缓冲区和日志缓冲区优化性能,支持ACID事务。MongoDB(WiredTiger)使用B树结构,索引与数据分离存储,采用MVCC实现并发控制,支持文档级锁和乐观并发。两者在存储结构、索引机制、事务支持和扩展性方面存在显著差异:MySQL适合结构化数据和复杂事务,

#mysql#mongodb#数据结构 +4
    共 29 条
  • 1
  • 2
  • 3
  • 请选择