logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

实训5:大模型的统一接入与结构化输出

本文介绍了基于RISEN框架的智能简历分析系统开发。该系统通过六要素结构化Prompt设计(Role/Task/Standards/Workflow/Constraints/Output)确保AI输出的专业性和一致性,采用五维度评分体系(项目经验40%、技能匹配20%、内容完整性15%、结构清晰性15%、表达专业性10%)对简历进行量化评估。技术实现上结合BeanOutputConverter自动

#人工智能
实训8:AI模型调用性能优化

在实际使用中发现,AI接口和普通接口不太一样。普通接口大多是数据库查询或业务计算,而AI接口需要等待外部模型生成内容,耗时更长,也更容易受到网络,模型输出格式等因素影响。项目中很多功能都需要调用大语言模型,比如知识库问答,面试题生成,代码反馈和报告分析。AI模型调用性能优化,通过后端架构设计,让慢任务不阻塞用户,让长回答可以边生成边展示,让失败调用有重试。因此,这次优化的重点是从系统角度减少用户等

#人工智能
实训8:AI模型调用性能优化

在实际使用中发现,AI接口和普通接口不太一样。普通接口大多是数据库查询或业务计算,而AI接口需要等待外部模型生成内容,耗时更长,也更容易受到网络,模型输出格式等因素影响。项目中很多功能都需要调用大语言模型,比如知识库问答,面试题生成,代码反馈和报告分析。AI模型调用性能优化,通过后端架构设计,让慢任务不阻塞用户,让长回答可以边生成边展示,让失败调用有重试。因此,这次优化的重点是从系统角度减少用户等

#人工智能
实训7:基于AOP+Redis Lua的滑动窗口限流

本文介绍了智能面试平台中大语言模型(LLM)功能的实现方案。系统通过结构化设计确保输出稳定:1)代码评估由程序判断对错,LLM分析错误原因;2)追问生成采用递进式问题设计;3)报告分析基于预设评分维度。关键技术包括RISEN提示词框架、结构化输出转换器和重试机制,确保模型在业务约束下完成分析任务。核心思路是将LLM作为辅助工具,而非决策主体,实现专业、稳定的输出效果。

#语言模型#人工智能#自然语言处理
实训6:基于Redis+PostgreSQL实现对话缓存与持久化

本文介绍了智能面试平台中基于Redis和PostgreSQL实现对话状态缓存与持久化的方案。采用冷热分离架构:Redis作为热缓存存储中间状态,PostgreSQL持久化完整对话记录。设计上通过rag_chat_sessions和rag_chat_messages两张表管理会话和消息,支持多轮对话上下文保存。针对流式响应,采用占位符机制:先创建未完成的AI消息占位,待响应完成后再更新内容,既保证数

#缓存#redis#数据库
实训1:本地搭建PostgreSQL + pgvector向量数据库

本文介绍了基于Docker快速部署PostgreSQL+pgvector的过程,用于构建智能面试系统的私有知识库问答模块。pgvector作为PostgreSQL扩展插件,支持向量存储和相似度检索,满足RAG系统中语义搜索需求。文章详细解释了向量数据库的核心概念、pgvector在RAG中的作用,并对比了不同向量数据库方案的优劣。通过Docker命令快速搭建环境,使用DataGrip连接数据库并启

#数据库#postgresql
实训3:RAG 检索增强生成原理分析及优化策略

本文探讨了构建私有知识库问答系统时RAG技术的优化策略。原始RAG系统存在检索不准、幻觉输出等问题,核心挑战在于确保模型回答基于知识库内容。文章分析了RAG的核心原理,包括Embedding向量化、相似度度量和文本分块技术,并指出原始RAG在语义模糊、专有名词匹配、知识库边界和幻觉问题等方面的缺陷。针对这些问题,提出了查询重写、混合检索、前置过滤和来源标注四种优化策略,通过语义扩展、关键词结合、范

文章图片
#postgresql
实训1:本地搭建PostgreSQL + pgvector向量数据库

本文介绍了基于Docker快速部署PostgreSQL+pgvector的过程,用于构建智能面试系统的私有知识库问答模块。pgvector作为PostgreSQL扩展插件,支持向量存储和相似度检索,满足RAG系统中语义搜索需求。文章详细解释了向量数据库的核心概念、pgvector在RAG中的作用,并对比了不同向量数据库方案的优劣。通过Docker命令快速搭建环境,使用DataGrip连接数据库并启

#数据库#postgresql
到底了